ИИ научили объяснять врачам свои решения
Специалисты отметили, что популярные версии ИИ могут допускать серьезные ошибки, диагностируя различные заболевания. Также врачи не могут полностью доверять моделям, потому что часто не знают, на основе чего искусственный интеллект пришел к тому или иному выводу. Ученые создали модель, способную эффективно определять респираторные заболевания и объяснять, почему было принято то или иное решение.
В процессе диагностики обученная модель просматривает записи УЗИ легких, изучая каждый кадр и оценивая ситуацию в динамике. По словам автора исследования Ниуша Шафиабади, точность в диагностировании заболеваний достигла 96,57 процентов — результаты подтвердили независимые специалисты.
Кроме того, в ходе изучения записей модель может объяснять врачам, почему она пришла к тому или иному выводу. В том числе, система полагается на тепловые карты и методу фокусировки изображений. По словам Шафиабади, новая ИИ-модель подкрепляет свои заключения доказательствами. По мнению исследователей, подобные системы можно использовать для диагностирования туберкулеза, астмы, рака, хронических заболеваний легких и легочного фиброза.
В конце января ученые Массачусетского технологического института (MIT) заявили, что ИИ оказался неспособен диагностировать рак из-за дефицита данных для обучения. Также выяснилось, что качественные обучающие материалы имеют слишком большой размер.
