Новости

Почему ИИ пока нельзя доверять диагностику?

Универсальные чат-боты (ChatGPT, Grok, Gemini, DeepSeek) не предназначены для постановки медицинских диагнозов. При ограниченном наборе данных о пациенте они выдают ошибочный диагноз более чем в 80% случаев, а в 50% случаев их медицинские советы имеют сомнительное качество. Эксперты называют такие ошибки «галлюцинациями» — правдоподобными ответами без фактической основы.

Ключевые выводы исследования:

  • При поэтапной передаче полной информации о пациенте точность чат-ботов может превышать 90%, но в реальности пользователи дают лишь отрывочные симптомы.
  • Чат-боты генерируют сфабрикованные цитаты и ссылки на литературу, что делает их бесполезными для научного обоснования.
  • Даже выдуманное учёными заболевание через несколько недель стало диагностироваться ИИ-моделями как реальное.
ИИ действительно полезен в медицине для анализа рентгеновских снимков, КТ, МРТ, флюорографии — здесь специализированные модели показывают высокую эффективность как вспомогательный инструмент для врача.
Основная проблема заключается в отсутствии у пользователей способности различать сертифицированные медицинские ИИ-системы и универсальные чат-боты.
Николай Мокрецов,
Исполнительный директор
«1С ПРО Консалтинг»
прокомментировал:
Обученные массив мед. информации в LLM может отличаться от региона к региону. К примеру иностранные генеративные сети обучались на методиках своих стран, но в России используется своя методическая база диагностики и лечения. И точно необходимо четко понимать какую сеть вы используете и на каких данных ее обучали.
Универсальные чат-боты не заменят врача и не должны использоваться для самодиагностики. А вот специализированный ИИ, обученный на клинических протоколах и интегрированный в медицинскую инфраструктуру, — эффективный помощник, но только под контролем профессионала.
Подробнее — в материале Независимая газета.
2026-04-16 16:36