На фоне роста цен на медицинские услуги всё больше людей обращаются за советами к искусственному интеллекту. Однако, как предупреждают исследователи, такой подход может быть не только неэффективным, но и опасным.

По словам одного из авторов исследования, руководителя магистратуры в Оксфорде Адама Махди, взаимодействие между пользователями и чат-ботами происходит с ошибками по обе стороны. «Те, кто советовался с ИИ, не показывали лучших результатов, чем те, кто просто искал информацию в интернете или действовал на основе собственного опыта», - отмечает эксперт.

Около 1300 человек в Великобритании приняли участие в эксперименте, где им предлагались гипотетические медицинские ситуации. Требовалось понять, какое заболевание у пациента, и определить дальнейшие действия - наблюдение, визит к терапевту или срочная госпитализация.

Испытуемые обращались к нескольким ИИ-системам, включая ChatGPT на базе GPT-4o, а также Command R+ от Cohere и Llama 3 от Meta. Результаты разочаровали: в ряде случаев нейросети упрощали проблему и недооценивали тяжесть состояний, даже если предположения по диагнозу были близки к верным. По словам Махди, пользователи часто не уточняли ключевые детали при общении с ИИ, а сами ответы были не всегда понятны и содержали как полезные рекомендации, так и вводящую в заблуждение информацию.

Техноиндустрия - за ИИ в медицине, врачи - пока против Несмотря на выявленные риски, крупные технологические компании продолжают инвестировать в медицинский ИИ. Apple разрабатывает персонального ассистента по здоровому образу жизни, Amazon сосредоточен на анализе влияния социальных факторов на здоровье, а Microsoft обучает нейросети для обработки обращений от пациентов.

Однако специалисты всё ещё сомневаются в том, что ИИ готов к решениям, от которых может зависеть жизнь. Американская медицинская ассоциация не рекомендует полагаться на ChatGPT в клинической практике, а разработчики ИИ, включая OpenAI, подчёркивают, что их технологии не предназначены для постановки диагнозов.