Сколько президентов помиловали своих родственников? Оказывается, на этот вопрос сложно ответить, пишет автор The Verge Элизабет Лопатто. Журналистка констатирует: чат-боты с искусственным интеллектом могут легко ввести в заблуждение. И не только опытных акул пера.
После того, как президент Джо Байден помиловал сына, многие начали искать схожие прецеденты. Например, Ана Наварро-Карденас, работающая на телеканалах The View и CNN. В соцсети X Наварро-Карденас упомянула помилование президентом Томасом Вудро Вильсоном своего шурина Хантера де Баттса.
Однако автор The Verge пишет: поиски в Сети информации из достоверных источников этого не подтверждают. В итоге Лопатто заявляет: она не может сказать, что Вильсон не прощал названного человека. «Я могу лишь сказать вам, что если и прощал, то этот человек не был его шурином», — пишет она.
И Наварро-Карденас не единственная, кто опубликовал сомнительную информацию о президентских помилованиях. Так, в Esquire вышел материал под заголовком «Президент не должен помиловать своего сына? Привет, кто-нибудь помнит Нила Буша?». Статья основана на предположении, что Джордж Буш-старший помиловал своего сына Нила; однако сейчас журналистский текст недоступен «из-за ошибки». За день до публикации исполнительный редактор правозащитной организации Occupy Democrats Грант Стерн написал в соцсети аналогичное утверждение о том, что Джимми Картер помиловал своего брата Билли, а Джордж Буш-старший помиловал сына Нила.
«Насколько я могу судить, ни того, ни другого помилования на самом деле не произошло», — пишет Элизабет Лопатто и добавляет: она не знает, какой источник информации был у автора Esquire и Гранта Стерна. А вот Наварро-Карденас своим критикам, там же, в X, писала: «Обсудите это (достоверность информации — ред.) с чатом GPT».
Что же, автор The Verge последовала её совету. И чат-бот «подтвердил»: Хантер де Баттс был мужем сестры президента Вильсона.
«Как оказалось, ChatGPT — это крайне неудачный способ изучения исторических данных. Когда я открыла его и спросила: “Сколько президентов США помиловали своих родственников?” Я получила один правильный ответ: Билл Клинтон помиловал Роджера Клинтона, своего сводного брата. Но наряду с этим ChatGPT также сообщил мне, что Джордж Буш-старший помиловал своего сына Нила», — пишет Лопатто.
Журналистка перепроверила информацию, зайдя на официальную страницу Министерства юстиции, чтобы ознакомиться со списком президентских помилований. Нила Буша в базе данных не оказалось. Тогда Элизабет Лопатто изучила несколько газетных архивов. И также не смогла найти доказательств помилования.
«Я полагаю, вполне возможно, что у Нила Буша где-то в Белом доме есть секретное соглашение о помиловании, о котором никто из нас не слышал, — но я совершенно убеждена, что его никто не помиловал», — пишет она.
Что касается президента Джимми Картера, якобы помиловавшем своего брата Билли Картера, такую информацию автор проверки тоже не нашла. Зато ChatGPT выдаёт на запрос однозначное «да».
Лопатто спросила упомянутого выше Стерна из Occupy Democrats, пользовался ли он ChatGPT. Тот ответил отрицательно, не уточнив, правда, источник информации.
Неутомимая Элизабет Лопатто отправила электронное письмо с вопросом, использовал ли автор Esquire ChatGPT в качестве источника для своего материала. Представитель компании ответила, что не использовал, и отказалась сообщить дополнительную информацию о том, как могла возникнуть ошибка.
Да, несмотря на то, что Стерн не указал конкретный первоисточник, он упомянул, что нашел нужную информацию с помощью «интернет-поиска в Google».
Лопатто нашла в Google статью из Hindustan Times под названием «До Байдена: самые печально известные президентские помилования Трампом, Клинтоном и Картером членов семей». В ней ошибочно утверждается, что Джимми Картер помиловал Билли Картера. Что касается Нила Буша, то поиск выдал полувирусный пост Х и статью в журнале под названием Times Now.
В итоге Лопатто пишет следующее.
«Защитник искусственного интеллекта мог бы с полным правом сказать, что настоящий журналист должен проверять ответы, предоставляемые ChatGPT; проверка фактов — важнейшая часть нашей работы. Я согласна, именно поэтому в этой статье я провела собственную проверку. Но это всего лишь публичные и обескураживающие примеры того, что, на мой взгляд, гораздо чаще происходит в частном порядке: обычный человек использует ChatGPT и доверяет информации, которую он ему предоставляет. Очевидно, это ошибка».
Автор The Verge называет одним из преимуществ старомодного Google прямую ссылку на первоисточники (а чат-боты выдают ответ без ссылок). И Элизабет Лопатто высказывает мнение: на нынешнем уровне развития ИИ-сервисов, ей жаль тех, кто слишком доверчив, чтобы использовать их в качестве исследовательского инструмента.
Контекст
- В феврале прошлого года один из руководителей Google предупредил о «галлюцинациях» искусственного интеллекта, с которыми можно столкнуться при использовании набирающих популярность чат-ботов. По его словам, «это выражается в том, что машина дает убедительный, но полностью выдуманный ответ».
- Недавно The Wall Street Journal писал: молодёжь всё чаще ищет информацию в Сети не с помощью Google, в том числе из-за использования чат-ботов.
