В ответ на серию инцидентов, когда искусственный интеллект в поиске Google выдавал ошибочные сведения — от неоднозначных оценок бизнеса до рискованных медицинских рекомендаций, — компания объявила о старте набора инженеров, специализирующихся на контроле качества ИИ-ответов.
Источник изображения: AI
В описании позиции Google указывает, что её цель — преобразовать сам принцип поиска данных, что требует решения сложных технических задач без ущерба для широты возможностей поисковика. В обязанности новых специалистов войдёт обеспечение качества ответов нейросети, включая работу над функцией «ИИ-обзоры» (AI Overviews). Как сообщает BleepingComputer, это первый раз, когда Google косвенно подтвердила, что данная функция нуждается в усовершенствовании.
Ситуация обострилась после недавнего обновления, в рамках которого Google стала активнее переводить пользователей в «ИИ-режим» и внедрять ИИ-обзоры в ленту Discover, автоматически изменяя заголовки новостных материалов. Несмотря на определённые успехи в повышении точности за последние месяцы, система по-прежнему демонстрирует сбои.
Так, журналист BleepingComputer, запросив данные о стоимости одного стартапа, получил от ИИ ответ с оценкой в $4 млн. Однако при небольшом изменении формулировки запроса оценка компании возросла до более чем $70 млн. Последующая проверка по источникам, предложенным Google, показала, что оба этих ответа не соответствовали реальности.
Подобные ситуации не редкость. Ранее уже поступали сообщения о том, что нейросеть способна предлагать пользователям недостоверные или даже опасные советы по здоровью, что повышает риски для тех, кто склонен безоговорочно доверять информации из поиска Google.
