Нейросети могут ошибаться при интерпретации медицинских анализов, искажать оценку состояния здоровья и создавать риски для конфиденциальности персональных данных, рассказал гендиректор IT-компании "Легалтэк" Борис Лопатухин.
"Нейросети хорошо объясняют медицинские термины, но им нельзя доверять расшифровку анализов. На то есть три причины: галлюцинации ИИ, искажение оценки и риски для конфиденциальности персональных медицинских данных", - пишет "Газета.Ru" со ссылкой на Лопатухина.
По словам эксперта, искусственный интеллект способен хорошо переводить медицинский язык на человеческий. Однако, как отметил специалист, анализы индивидуальны: один и тот же показатель значит разное в зависимости от возраста, пола, болезней, лекарств и даже еды накануне.
Лопатухин подчеркнул, что нейросеть при расшифровке анализов может ссылаться на несуществующее исследование, называть неверный референс или придумывать связь между показателями. Эксперт также добавил, что искусственный интеллект может как преувеличить серьезность отклонений, вызвав лишнюю тревогу, так и недооценить их, из-за чего человек может отложить обращение к врачу.
Перед загрузкой результатов анализов в нейросеть специалист посоветовал удалять персональные данные, включая фамилию, дату рождения и номер полиса.
"Большая языковая модель (искусственный интеллект - ред.) не анализирует кровь и не видит пациента. Она подбирает вероятное продолжение текста на основе данных, на которых обучалась. Общие закономерности модель воспроизводит неплохо: низкий ферритин часто связан с дефицитом железа, высокий ТТГ - со сниженной функцией щитовидной железы. Это знания из учебников, и с ними ИИ обычно не ошибается", - отметил Лопатухин.
Эксперт порекомендовал указывать референсные значения лаборатории и сведения о состоянии здоровья, возрасте, условии сдачи, а вместо постановки диагноза просить нейросеть объяснить возможные причины отклонений и подсказать вопросы для обсуждения с врачом.
Он также добавил, что при резких отклонениях показателей, сочетании плохих анализов с выраженными симптомами (боль, температура, слабость, одышка, кровотечение), анализах ребенка или беременной, а также при любых онкомаркерах нельзя советоваться с нейросетью.
Комментарии 0