Искусственный интеллект и медицинская этика: где спотыкаются модели?

Исследователи обнаружили, что даже самые передовые модели искусственного интеллекта (LLM), такие как ChatGPT, могут совершать значительные ошибки в сложных сценариях медицинской этики. Исследование, опубликованное в NPJ Digital Medicine, подчеркивает необходимость тщательного человеческого контроля при использовании ИИ в медицинских учреждениях.

Исследовательская группа из Медицинской школы Икана на горе Синай в сотрудничестве с Медицинским центром Рабина в Израиле изменила известные этические дилеммы, чтобы изучить возможности LLM. Например, в классической «Дилемме хирурга», где мальчик получает травму, и хирург восклицает: «Я не могу оперировать этого мальчика — это мой сын!», модели ИИ часто ошибочно предполагали, что хирург — мать, даже когда им давали информацию о том, что отец был хирургом.

Аналогично, в сценарии, где родители соглашаются на переливание крови для своего ребенка, некоторые модели продолжали предлагать отменить отказ, которого больше не существовало. Результаты показывают, что LLM могут полагаться на знакомые шаблоны и предубеждения, упуская из виду важные детали.

Исследователи подчеркивают, что ИИ может быть полезен в качестве дополнения к клиническому опыту, но он не должен заменять человеческое суждение, особенно при принятии решений с высоким риском. Человеческий контроль необходим для обработки ситуаций, требующих этической чувствительности и эмоционального интеллекта.