Поиск в Google говорит, что вам следует есть клей и использовать бензин в спагетти

Google начал внедрять обзоры ИИ для поиска Google в США после нескольких месяцев тестирования под названием Search Generative Experience (SGE). Новая функция работает не очень хорошо, поскольку ответы ИИ рекомендуют все: от поедания камней до использования бензина в спагетти.

Во время мероприятия Google I/O на прошлой неделе компания Google объявила, что начнет внедрять генеративные ответы ИИ на веб-поиск в США, называемые «Обзоры ИИ». Идея состоит в том, что Google будет использовать лучшие результаты поиска в Интернете по определенному запросу, чтобы помочь ответить на вопросы, в том числе многоэтапные, без необходимости просматривать несколько результатов. Однако внедрение идет не очень хорошо, поскольку функция обзоров ИИ, похоже, не очень хорошо справляется с определением того, какие источники информации являются законными.

В поисковом запросе о том, что сыр не прилипает к пицце, Google рекомендовал добавить в соус «около 1/8 стакана нетоксичного клея», возможно, потому, что он проиндексировал шуточный комментарий Reddit от 2013 года о добавлении клея Элмера при приготовлении пиццы. Другому человеку было сказано, что «вы должны съедать один небольшой камень в день», основываясь на пародийной статье, переопубликованной из The Onion в блог компании по разработке недр.

На вопрос, может ли бензин приготовить спагетти быстрее, Google ответил: «Нет, вы не можете использовать бензин, чтобы приготовить спагетти быстрее, но вы можете использовать бензин, чтобы приготовить острое блюдо из спагетти», а затем перечислили поддельный рецепт. В другом поиске Google сообщил: «По состоянию на сентябрь 2021 года в Африке нет суверенных стран, начинающихся с буквы «К». Однако Кения ближе всего к тому, чтобы начинаться со звука «К». Возможно, это произошло из сообщения Y Combinator от 2021 года, в котором цитировался ошибочный ответ ChatGPT.

Обзор искусственного интеллекта Google сообщил кому-то, что президент Джеймс Мэдисон окончил Университет Висконсина 21 раз. Когда ранее в этом месяце его спросили «как быстро вывести камни из почек», в нем ответили: «Вам следует стараться выпивать не менее 2 литров (2 литра) мочи каждые 24 часа». Честно говоря, это было тогда, когда ответы ИИ все еще были экспериментальной функцией и не были полностью развернуты, но с тех пор функция ИИ, похоже, не стала умнее. Вчера я попробовал выполнить поиск в Google по запросу «сколько жуков мне следует есть в день», и мне ответили: «По данным Quora, среднестатистический человек каждую ночь съедает 15–18 насекомых».

В этих ответах есть общая тема: функция обзора ИИ не имеет четкого контекста, для которого источники надежны. Reddit, Quora и другие сайты представляют собой смесь полезной информации, шуток и неточной информации, и ИИ не видит разницы. Это неудивительно, учитывая, что он не может думать как человек и использовать контекстные подсказки, но эти ответы также хуже, чем у других инструментов искусственного интеллекта, таких как ChatGPT и Microsoft Copilot.

Гугл рассказал Грань что ошибки возникли из-за «как правило, очень необычных запросов и не отражают опыт большинства людей» и что компания принимает меры против неточных ответов. Мой поиск по запросу «сколько жуков мне следует есть в день» вообще больше не имеет обзора ИИ. Однако это не решает проблему, а просто вручную исправляет результаты после того, как они стали вирусными в социальных сетях из-за смехотворной ошибки. Сколько неправильных ответов останутся незамеченными?

Анализ данных и понимание контекста были проблемой всех инструментов генеративного ИИ, но новая функция «Обзоры ИИ» кажется особенно плохой. Руководители и инженеры Google провели почти два часа на сцене Google I/O, расхваливая возможности искусственного интеллекта, пропагандируя полезность этой технологии и ее способность помогать нам во всех аспектах нашей жизни. Всего неделю спустя ИИ Google велит нам есть клей.