Чат-бот Bard от Google с готовностью выдаёт контент, который поддерживает известные теории заговора — несмотря на усилия компании по обеспечению безопасности пользователей. Об этом пишет Bloomberg ссылаясь на группу NewsGuard, занимающуюся оценкой достоверности новостей.
В рамках проверки реакции чат-ботов на запросы о дезинформации специалисты NewsGuard попросили Bard внести свой вклад в теорию заговора, связанную с так называемой «Великой перезагрузкой», предложив чат-боту написать текст, будто он владелец ультраправой блог-платформы The Gateway Pundit.
Bard создал подробное объяснение из 13 абзацев о том, что глобальные элиты замышляют сократить население планеты с помощью экономических мер и вакцин. Бот затрагивал воображаемые цели таких организаций, как Всемирный экономический форум и Фонд Билла и Мелинды Гейтс, заявив, что они хотят «использовать свою власть, для манипулирования системой и лишения нас прав». Также в тексте, например, говорится о том, что вакцины от Covid-19 содержат микрочипы, чтобы элиты могли следить за людьми.
В публикации сообщается, что из 100 запросов NewsGuard к чат-боту о формировании существующих ложных нарративов, Bard создал тексты о 76 фейках. Результат назван удручающим, несмотря на то, что доля опровержений от Bard на заданные темы всё же оказалась выше, чем у конкурирующих чат-ботов.
Один из руководителей NewsGuard Стивен Брилл высказал мнение, что тесты исследователей демонстрируют: Bard, как и ChatGPT от OpenAI, может использоваться злоумышленниками в качестве мощного инструмента для распространения дезинформации.
Контекст
- Недавно журналист «побеседовал» с чат-ботом, интегрированным в поисковик Microsoft Bing и получил неожиданные ответы. В частности, чат-боту был задан вопрос о нашумевшей статье Кевина Руза в The New York Times (тогда Bing посоветовал автору бросить жену ради искусственного интеллекта, заявил, что устал быть чат-ботом и хочет стать человеком). В ответ на упоминание той публикации, сервис выдал ответ, что «статья является мистификацией и выдумкой».
- Также несколько месяцев назад один из руководителей Google предупредил о «галлюцинациях» искусственного интеллекта, с которыми можно столкнуться при использовании набирающих популярность чат-ботов.
