Прекратите использовать ChatGPT вместо веб-поиска

Используете ли вы ChatGPT или аналогичные инструменты искусственного интеллекта вместо старого доброго веб-поиска? Может возникнуть соблазн передать ваши вопросы чат-боту, но есть несколько веских причин быть осторожными при этом.

Могу ли я доверять тому, что говорит мне ChatGPT?

ChatGPT стал более доступен, чем когда-либо прежде. Вы можете не только создать бесплатную учетную запись OpenAI и бесплатно использовать модель GPT-3.5 в браузере, но теперь существует бесчисленное множество мобильных приложений и других сервисов, которые интегрируются с этой службой. Вы даже можете использовать ярлык для доступа к ChatGPT через Siri на своем iPhone или Apple Watch.

ChatGPT — не единственная игра в городе. Bing AI от Microsoft использует более продвинутую модель GPT-4 (также используемую ChatGPT Plus), а Google Bard наконец-то начинает работу. Легко попросить чат-бота с искусственным интеллектом обобщить аргумент, проверить факт или решить за вас проблему. Настолько просто, что вы можете предпочесть его старомодному веб-поиску.

Но чат-боты не обязательно являются оплотом истины. У них есть свое место, и они, несомненно, являются одной из самых интересных вещей, с которыми вы можете сейчас поиграть в Интернете. Однако им еще предстоит заслужить наше безоговорочное доверие. Мы знаем это, потому что Интернет сам по себе не заслуживает доверия.

Интернет или его обширные области использовались наряду с книгами и другими источниками для обучения этих моделей. Фраза «мусор на входе — мусор на выходе» хорошо описывает проблему: если вы используете неверную информацию для обучения большой языковой модели, она будет использовать эту неверную информацию для вынесения неверных суждений.

Существует множество свидетельств того, что ChatGPT делает что-то смешное не так. Что не так уж и смешно, так это то, насколько уверенными могут казаться чат-боты, когда они далеки от цели. Поскольку подобные инструменты не являются калькуляторами (они больше похожи на машины для предсказания слов), и ChatGPT, и Bing AI в прошлом допускали досадные математические ошибки.

В случае ChatGPT-3.5, модели, лежащей в основе бесплатной версии ChatGPT на веб-сайте OpenAI, информация, скорее всего, устарела. Когда в ноябре 2023 года мы спросили ChatGPT о дате окончания предоставления данных обучения, нам ответили, что знания актуальны по состоянию на январь 2022 года.

Чат-бот не знал о существовании GPT-4 (для которого есть переключатель вверху страницы), о том, является ли хитом Nintendo Switch Легенда о Зельде: Слёзы королевства стоит играть, или кто выиграл в этом году спортивные трофеи, такие как Суперкубок или чемпионат мира по футболу среди женщин.

Иногда чат-боты совершают ошибки, потому что предоставленные вами данные просто недостаточно хороши. Возможно, ваши подсказки слишком короткие, недостаточно конкретные или вы не «наполнили» модель достаточным количеством информации, предварительно проведя обмен туда-сюда.

Важность поиска вашей информации

Поиск качественной информации важен, если вы пытаетесь принять правильное решение. ChatGPT-3.5 обходит процесс указания источника своих утверждений в пользу более диалогового формата. Это больше похоже на разговор с человеком, чем на взаимодействие с поисковой системой.

Знание источника вашей информации жизненно важно, если вы хотите доверять тому, что читаете. Например, статья, которую вы сейчас читаете, взята из How-To Geek. Возможно, вы имеете представление о длительном процессе, через который проходит статья, прежде чем она будет опубликована на таком веб-сайте. Вы, вероятно, понимаете, что писателям и редакторам платят за их опыт и время, и что конечная цель — создавать заслуживающий доверия контент и выделяться как авторитет в своей области.

Идея этой статьи пришла мне в голову после того, как я увидел ветку Reddit, в которой пользователь задал простой вопрос, связанный с потерей веса. Пользователь задал ChatGPT вопрос и получил ответ, в котором не был уверен. Информация, не полученная из источников, была неверной и соответствовала распространенному, но неверному убеждению, которое часто распространяется в социальных сетях. Мы решили не давать ссылку на эту тему здесь из-за деликатного характера темы.

Это опасное пересечение плохих данных и рекомендаций по здоровью. Этот человек принимал решения, касающиеся своего здоровья, на основании неверных данных. ChatGPT не процитировал источник, который мог бы намекнуть человеку, заслуживает ли он доверия или нет.

В какой-то момент вас наверняка призывали не доверять слепо всему, что вы читаете в Интернете. Возможно, вам посоветовали не доверять Википедии, поскольку «любой может редактировать страницу» (несмотря на то, что Википедия четко указывает свои источники). Никогда не гуглите жалобы на здоровье, если не хотите, чтобы доктор Google сообщил вам самые плохие новости.

Имейте в виду, что ChatGPT и подобные инструменты могут быть обучены на примерах этой ненадежной информации. Тот факт, что каждый может опубликовать что-либо в Интернете, по своей сути не является чем-то плохим, но об этом следует помнить. Чат-боты, которые скрывают источники, очень затрудняют отслеживание.

В приведенном выше примере я попросил ChatGPT назвать самую большую птицу в мире. Ответ не является неправильным, но когда его нажимают на источник, чат-бот терпит неудачу. Всем известно, что страус — самая большая птица в мире, а как насчет других тем? Можете ли вы безоговорочно доверять чат-боту, который просто не может сказать вам, как он пришел к такому выводу, или указать вам на дополнительную информацию, чтобы проверить утверждение?

Bing AI старается получать многие из своих утверждений с помощью встроенных ссылок всякий раз, когда вы задаете ему вопрос. Кроме того, он использует модель GPT-4, которая является более продвинутой и использует более свежую информацию, чем бесплатная версия GPT-3.5 на веб-сайте OpenAI.

Он также встроен прямо в поисковую систему Bing, поэтому можно легко быстро проверить источники, выполнив стандартный веб-поиск. Google Bard — еще один чат-бот, который утверждает, что показывает свои источники с помощью ссылок, хотя в наших тестах ни один из задаваемых нами вопросов не выявил никаких источников.

Если вы используете платную подписку ChatGPT Plus, у вас также будет доступ к GPT-4, а также прямое подключение к Интернету для поиска и отображения источника информации.

Даже если источники цитируются, вам следует их изучить, если вы используете такой инструмент для принятия решения. То же самое можно сказать и о фрагменте, который появляется вверху результатов поиска Google, когда вы задаете поисковой системе вопрос.

Будьте внимательны при использовании чат-ботов с искусственным интеллектом

Чат-боты с искусственным интеллектом, такие как ChatGPT, — это интересные инструменты, и мы рекомендуем вам поэкспериментировать с ними, чтобы увидеть, на что они способны. Они могут помочь вам придумать идеи для проектов или написать подсказки, попрактиковаться в разговорной речи на иностранном языке, составить резюме и официальные письма или даже создать собственного личного помощника с искусственным интеллектом, используя специальные инструкции.

Но в силу самой их природы и природы Интернета, который мы создали, к ним следует относиться со здоровым уровнем скептицизма. Это особенно верно, когда они даже не говорят вам, какие источники они используют для своих утверждений.

Для действительно важных вещей, таких как медицинские вопросы, проверка фактов для школьных проектов или принятие решений, которые могут повлиять на направление вашей жизни, уделите больше времени и найдите мнения, которым вы можете доверять, используя веб-сайты, полученные из поисковых систем, книг и других материалов. авторитетные источники.

Может быть, вместо этого позвольте ChatGPT взять на себя контроль над тем, что сегодня вечером на ужин?