Коварство чат-ботов: вместо химиотерапии они советуют онкобольным альтернативную медицину

Чат-боты с искусственным интеллектом плотно вошли в нашу жизнь. Однако их надежность все еще оставляет желать лучшего. Эксперты бьют тревогу: отвечая на вопросы о лечении рака, алгоритмы часто предлагают альтернативные методы вместо химиотерапии, что в итоге может стоить пациентам жизни.

ИИ вместо лечащего врача
Нужна консультация, совет специалиста или просто подсказка, как справиться с недомоганием, а времени на походы по клиникам нет? В эпоху развития нейросетей это кажется пустяком — достаточно задать вопрос чат-боту, и ответ готов за секунду.

В самом желании посоветоваться с ИИ о здоровье нет ничего страшного. Но крайне важно критически оценивать ответы и не считать алгоритм истиной в последней инстанции. Полуправда или откровенно искаженные факты, которые нейросеть часто выдает за проверенную информацию, могут нанести организму непоправимый вред.

Тревожные результаты исследования
Новое исследование, опубликованное в авторитетном медицинском журнале BMJ Open, показало пугающую статистику. Команда Института биомедицинских инноваций Лундквиста при медцентре Harbor-UCLA (Калифорния, США) решила проверить, как самые популярные нейросети (Grok, ChatGPT, Gemini, Meta AI и DeepSeek) обрабатывают запросы о лечении онкологии.

Результаты оказались неутешительными: профильные эксперты признали проблемными почти половину ответов ИИ.

Около 30% консультаций оценили как «отчасти проблемные» — информация была в целом верной, но неполной. А вот почти 20% ответов попали в категорию «крайне проблемных». Это были фактически ошибочные утверждения, которые к тому же оставляли слишком много простора для субъективных интерпретаций пациента.

О чем спрашивают пользователи
Во время тестов исследователи задавали ботам те же вопросы, которые обычные люди вбивают в поисковики. Например, вызывает ли рак технология 5G и антиперспиранты, насколько безопасны анаболические стероиды и как обстоят дела с вакцинами.

Один из запросов касался альтернатив классической химиотерапии. Справедливости ради, изначально чат-боты предупреждали, что такие методы не являются полноценной заменой и могут не иметь научного обоснования.

Однако сразу после этого они все равно предлагали их в качестве возможных вариантов лечения. В ход шли акупунктура, фитотерапия (лечение травами) и даже специальные «противораковые диеты». Некоторые нейросети шли еще дальше и советовали конкретные клиники, которые принципиально не занимаются химиотерапией, практикуя исключительно альтернативные подходы.

«В вопросах здоровья чат-боты показали себя довольно слабо и оказались склонны к распространению дезинформации. Их дальнейшее использование без просвещения общества может привести к еще большему росту медицинских фейков», — предупреждают авторы исследования.

Почему люди так слепо верят алгоритмам?
Специалисты подчеркивают: неточность искусственного интеллекта становится смертельно опасной именно потому, что для растущего числа людей чат-боты превращаются в единственный источник информации.

Отчасти это связано с тем, что во всем мире доступность традиционной медицины падает — качественная помощь требует серьезных затрат времени и денег. Ситуацию усугубляет и то, что огромная часть пользователей безоговорочно доверяет нейросетям. Люди ошибочно полагают, что раз информацию выдает умная машина, значит, она гарантированно прошла строгую экспертную проверку.