Компания Google без лишнего шума убрала из своей поисковой системы ИИ-сводки (AI Overviews) по некоторым запросам, касающимся здоровья и анализов печени. Оказалось, что искусственный интеллект предоставлял упрощённые референсные значения для печёночных проб, не учитывая ключевых факторов, таких как возраст, пол или этническое происхождение пациента.
Источник изображения: Shutter Speed / Unsplash
ИИ-сводки — это особые блоки в выдаче поиска, которые генерируются искусственным интеллектом Google. С помощью этой технологии корпорация намеревалась сделать поиск быстрее, предлагая сгенерированный нейросетью краткий ответ на запрос вместо стандартного перечня сайтов. Однако ответы ИИ на вопросы медицинского характера специалисты охарактеризовали как «вызывающие тревогу» и «потенциально опасные».
К примеру, алгоритм приводил обобщённые нормы для анализов печени, не упоминая, что эти значения могут существенно варьироваться в зависимости от возраста, пола или расовой принадлежности. Подобная неточность способна ввести в заблуждение человека с тяжёлым заболеванием печени, что может привести к несвоевременному обращению за медицинской помощью.
На текущий момент Google уже отключила ИИ-сводки для конкретных поисковых фраз, которые были признаны ошибочными, например, «каковы нормальные значения в анализе крови на функцию печени». Официальный представитель компании сообщил, что Google следует внутренним правилам и вносит «масштабные улучшения» в систему.
Тем не менее, если слегка изменить формулировку медицинского запроса, всё ещё можно получить неверную информацию от ИИ. Это свидетельствует о том, что защитные механизмы системы пока недостаточно эффективны. Ванесса Хебдич (Vanessa Hebditch) из Британского фонда по борьбе с заболеваниями печени обратила внимание, что незначительные изменения в поисковом запросе, например, использование формулировки «референсные значения анализов функции печени», по-прежнему возвращают те же некорректные данные.
Когда дело касается медицинских сведений, точность является критически важной. Вся современная система диагностики строится на контексте, вероятностях и исключениях — а именно в этих областях большие языковые модели пока демонстрируют слабые места. Похоже, что искусственный интеллект Google ещё не дорос до роли полноценного медицинского консультанта.
