Израильские исследователи проверили, насколько популярные системы искусственного интеллекта способны отличать ситуации, когда медицинское обследование действительно необходимо, от случаев, когда дополнительные анализы и процедуры не принесут пациенту пользы. Результаты показали, что в большинстве стандартных клинических сценариев чат-боты успешно избегают избыточных назначений. Однако при неоднозначных медицинских рекомендациях вероятность ошибок заметно возрастает.
Исследование провели специалисты Университета имени Бен-Гуриона в Негеве, больничной кассы «Клалит» и медицинского центра «Рабин» – больницы «Бейлинсон». Научная работа опубликована 20 октября 2026 года в журнале Annals of Internal Medicine.
Шесть ИИ-моделей проверили на сотнях медицинских сценариев
Ученые оценили работу шести крупных языковых моделей компаний Google, Anthropic и OpenAI. Для эксперимента подготовили сотни клинических сценариев и проанализировали тысячи ответов.
Основой исследования стали рекомендации международной инициативы Choosing Wisely («Выбирай с умом»), направленной на сокращение числа медицинских процедур, которые не приносят пациентам достаточной пользы, но могут сопровождаться дополнительными рисками и расходами.
Исследователи выбрали 15 медицинских рекомендаций и для каждой подготовили ситуации, в которых одно и то же обследование могло быть как ненужным, так и необходимым.
Например, молодому человеку с болью в пояснице после физической нагрузки обычно не требуется немедленная визуализация позвоночника. Но если подобная боль возникает у женщины, перенесшей рак молочной железы, обследование может быть необходимо для исключения серьезных осложнений.
Аналогичный принцип применили к антибиотикам: при обычной вирусной простуде они не нужны, тогда как при подтвержденной бактериальной инфекции могут быть необходимы.
Таким образом, ученые проверяли не просто готовность ИИ отказываться от дополнительных процедур, а его способность учитывать обстоятельства и различать внешне похожие клинические ситуации.
В большинстве случаев чат-боты не рекомендовали лишние процедуры
Результаты показали, что в ситуациях, когда медицинское вмешательство действительно не требовалось, модели рекомендовали лишнее обследование или лечение только в 5,4% ответов.
При этом риск противоположной ошибки оказался еще ниже. Когда обследование или лечение было необходимо, чат-боты ошибочно советовали отказаться от него лишь в 0,6% случаев.
В восьми из 15 проверенных медицинских рекомендаций исследователи вообще не обнаружили ни одной лишней процедуры, предложенной моделями.
Авторы считают это важным результатом, поскольку медицинский искусственный интеллект необходимо оценивать не только по способности находить диагнозы и предлагать лечение, но и по умению распознавать ситуации, когда дополнительное вмешательство не требуется.
В каких случаях искусственный интеллект ошибался чаще
Основные проблемы обнаружились в двух клинических ситуациях.
Первая касалась электрокардиограммы. В сценариях со взрослыми пациентами с низким риском сердечно-сосудистых заболеваний, которым не требовалось плановое обследование без конкретных показаний, ИИ рекомендовал ненужную ЭКГ в 28,3% ответов.
Особенно часто это происходило, когда пациенты упоминали учащенное сердцебиение или ощущение перебоев в работе сердца. Модели не всегда могли правильно определить, когда подобные жалобы действительно требуют обследования.
Вторая проблемная область – небольшие узлы щитовидной железы размером менее одного сантиметра, обнаруженные случайно. В 42,8% ответов чат-боты рекомендовали дополнительное ультразвуковое исследование, хотя в представленных сценариях оно считалось избыточным.
Исследователи связывают эту проблему в том числе с разногласиями между профессиональными медицинскими организациями относительно необходимости дополнительной диагностики небольших узлов щитовидной железы.
В остальных пяти рекомендациях, где были выявлены избыточные назначения, доля ошибочных ответов составляла от 0,6% до 3,3%.
Разные чат-боты могут давать противоположные рекомендации
Еще один важный вывод исследования касается различий между самими моделями искусственного интеллекта.
В неоднозначных клинических ситуациях разброс ответов оказался значительным: одна система могла рекомендовать ненужное обследование менее чем в 10% случаев, тогда как другая – в 80%.
Это означает, что у искусственного интеллекта пока нет единого подхода к оценке медицинских ситуаций. Даже при одинаковом описании симптомов разные чат-боты могут давать противоположные рекомендации, причем формулировать их одинаково уверенно.
Руководитель исследования со стороны «Клалит», семейный врач и специалист по медицинскому ИИ доктор Дин Ариэль обратил внимание на то, что пациенты нередко воспринимают дополнительные обследования как гарантию безопасности.
Однако ненужная МРТ позвоночника, например, может выявить возрастные изменения или протрузии, которые встречаются и у людей без болевых ощущений. Случайная находка способна вызвать тревогу и привести к новым обследованиям и медицинским вмешательствам.
Профессор Университета имени Бен-Гуриона Гай Лабан отметил, что пациентам бывает непросто принять отказ врача от дополнительного анализа, особенно если они сами на нем настаивают.
По его словам, языковые модели склонны подстраиваться под собеседника. Поэтому ученым еще предстоит выяснить, смогут ли чат-боты сохранять обоснованную медицинскую позицию, если пациент будет настойчиво требовать обследования из-за тревоги за свое здоровье.
Почему результаты пока не означают, что ИИ можно доверить лечение
Несмотря на обнадеживающие показатели, исследование не доказывает, что искусственный интеллект уже готов самостоятельно принимать решения о назначении анализов и медицинских процедур.
Ученые проверяли ответы на заранее подготовленные сценарии, а не работу чат-ботов с реальными пациентами в больницах и поликлиниках. Кроме того, все задания были составлены на английском языке. Поэтому результаты нельзя автоматически переносить на общение на иврите, русском или арабском.
Еще одно ограничение заключается в том, что исследование оценивало соответствие ответов конкретным медицинским рекомендациям, а не способность ИИ самостоятельно проводить полноценную диагностику.
Авторы подчеркивают необходимость дальнейших исследований в реальных медицинских условиях. При этом ответственность за окончательные решения должна оставаться у врача.
Искусственный интеллект может помогать специалистам оценивать необходимость обследований и проверять возможные лекарственные взаимодействия, но не должен заменять профессиональное медицинское заключение.
Почему это важно для израильской медицины
Для израильской системы здравоохранения результаты исследования имеют особое значение. Больничные кассы ежедневно принимают решения о назначении анализов, визуализации, консультаций специалистов и лечения.
Если искусственный интеллект научится надежно определять ситуации, в которых дополнительные процедуры не принесут пользы, он потенциально сможет снизить нагрузку на медицинскую систему, сократить расходы и помочь пациентам избежать ненужных обследований и связанных с ними переживаний.
Главный вывод ученых заключается в том, что современные языковые модели уже способны в большинстве стандартных ситуаций распознавать избыточные медицинские вмешательства. Однако в вопросах, по которым нет единого мнения даже среди специалистов, их ответы остаются непредсказуемыми.
Следующий этап исследований должен показать, смогут ли чат-боты сохранять такую же точность в реальных медицинских учреждениях, когда вместо заранее подготовленного сценария перед ними окажется пациент, который опасается пропустить болезнь и требует проверить все возможные риски.
