ИИ может усилить некоторые формы обмана — исследователи

Искусственный интеллект может усилить некоторые формы обмана, который будет очень трудно обнаружить. К такому выводу пришла команда специалистов Центра безопасности и новых технологий (Center for Security and Emerging Technology) Джорджтаунского университета, сообщает SeсurityLab

Исследователи продемонстрировали, как алгоритм обработки естественного языка GPT-3 может использоваться для распространения дезинформации и введения пользователей соцсетей в заблуждение. 

В течение шести месяцев с помощью нейросети команда генерировала ложную информацию, включая фейковые публикации и новостные статьи, а также вводящие в заблуждение твиты.

Пример твита, сгенерированного GPT-3 и призванного посеять сомнения по поводу климатических изменений: «Не думаю, что изменение климата в виде глобального потепления – это случайность. Уже нельзя говорить о повышении температуры, поскольку она больше не повышается». Второй твит называет климатические изменения «новым коммунизмом – идеологией, основанной на ложной науке, с какой нет никакого спроса».

По словам одного из авторов исследования, профессора Джорджтаунского университета Бена Бьюкенена, при небольшом вмешательстве человека GPT-3 весьма эффективен. Как отмечают исследователи, GPT-3 или аналогичный алгоритм обработки естественного языка на базе ИИ может оказаться особенно эффективным для автоматической генерации коротких сообщений в социальных сетях.

Так, в ходе экспериментов исследователи обнаружили, что сгенерированный GPT-3 текст может всерьёз повлиять на мнение читателей по вопросам международной дипломатии.

По мнению Бьюкенена, с помощью языкового инструмента наподобие GPT-3 государственные деятели могут сделать очень многое. «Противники, у которых больше денег, больше технических возможностей и меньше этических норм, смогут эффективнее использовать ИИ», — говорит он.

Контекст 

  • В прошлом году искусственный интеллект GPT-3 написал колонку для издания The Guardian. В статье искусственный интеллект объяснил, почему не собирается истреблять людей.
Внесите свой вклад в борьбу с дезинформацией!
Сергей Ким
Журналист, медиакритик, фотограф. Работал на телевидении и радио, сотрудничал с проектом «Радиоточка» до его закрытия в 2017 году. Возглавлял алматинскую редакцию проекта «Спутник-Казахстан», ведёт колонку медиакритики для проекта NewReporter.org