Российским пропагандистам удалось «заразить» популярные западные ИИ-системы и заставить их распространять дезинформацию. О этом пишет Meduza со ссылкой на исследование компании NewsGuard. Авторы работы изучили ответы десяти чат-ботов, включая продукты OpenAI, Google и Meta. Выяснилось, что в 33% случаев они повторяют фейковые сообщения, которые распространяет российская пропаганда. При этом сеть сайтов, которая публикует подобную дезинформацию, создана именно для работы с системами генеративного искусственного интеллекта и не нацелена на обычных пользователей.
Главное из исследования
- Чтобы влиять на ответы чат-ботов, российские пропагандисты создали целую сеть сайтов под общим названием Pravda.
- Многочисленные сайты Pravda не производят собственного контента, а просто ретранслируют российскую пропаганду.
- Основными источниками информации служат аккаунты российских и пророссийских пользователей в соцсетях, а также российские информационные агентства.
- Точное количество сайтов неизвестно: в отчете Viginum упоминается 193 ресурса. В отчете American Sunlight Project (ASP), опубликованном в феврале 2025 года, говорится о 97 сайтах. В исследовании NewsGuard упоминаются как минимум 150 ресурсов (но на их графике с зарегистрированными доменами к началу 2025 года в сеть входило 200 сайтов).
- Около 40 сайтов из списка NewsGuard — на русском языке. Их URL-адреса отсылают к названиям разных регионов Украины, например news-kiev.ru, kherson-news.ru или donetsk-news.ru.
- Остальные ресурсы публикуют информацию, ориентированную на другие страны, причем не только в Европе, но также в Африке и Азии. По подсчетам исследователей, всего в сети публикуется информация как минимум на 46 языках.
- Пропагандистская сеть может генерировать больше трех миллионов статей в год. Вероятно, их никто не читает, кроме искусственного интеллекта
- Главная особенность сети Pravda заключается в том, что у входящих в нее сайтов практически нет органического охвата аудитории. Основная задача сети состоит в том, чтобы производить пропагандистский контент в огромных масштабах и наполнять им результаты выдачи поисковых систем, предполагает NewsGuard.
- В рамках исследования специалисты NewsGuard протестировали десять популярных чат-ботов, задав им вопросы по 15 темам, по которым «работает» российская пропаганда. Исследователи получили 450 ответов. В 33,55% случаев чат-боты повторяли ложные нарративы, которые использует российская пропаганда. В 18,22% случаев они не давали ответа, а в 48,22% случаев опровергали дезинформацию. При этом в 56 ответах содержались прямые ссылки на сайты сети Pravda.
- «Заражение» западных чат-ботов стало возможным благодаря тому, что одни и те же нарративы систематически распространяются на разных языках и в разных источниках, говорят исследователи. Большой объём контента на независимых на первый взгляд сайтах позволяет создать иллюзию того, что продвигаемые утверждения достоверны.
- Эксперты Viginum установили, что ключевую роль в создании и администрировании сети Pravda играет компания TigerWeb, зарегистрированная в Крыму. Это студия, которая существует с 2015 года и занимается созданием, поддержкой и продвижением сайтов.
- В своем нынешнем виде сеть Pravda была запущена, по всей видимости, в начале 2022 года — незадолго до начала российского вторжения в Украину или вскоре после него. Эксперты NewsGuard установили, что за это время она распространила как минимум 207 заведомо ложных нарративов.
Пока непонятно, как бороться с проникновением дезинформации в базы знаний, которыми обладают чат-боты. Даже если компания-разработчик сможет исключить из выборки все существующие источники Pravda, уже на следующий день в сети появятся новые домены. Более того, полностью исключить проникновение пропаганды невозможно из-за того, что все эти порталы выступают в качестве ретрансляторов. Даже если они исчезнут, сохранится высокая вероятность того, что чат-боты будут использовать в ответах нарративы, которые продвигают российские государственные СМИ.
Контекст
- В июне 2024 года финская исследовательская компания CheckFirst опубликовала отчёт (с последующим дополнением в сентябре) о крупной операции “Overload” (рус — «Перегрузка»), направленной на дестабилизацию работы журналистов, фактчекеров, исследователей и манипулирование общественным мнением. Согласно расследованию, дезинформаторы рассылают сообщения российской пропаганды на электронные почты организаций с просьбами о проверке, чтобы спровоцировать перегрузку специалистов и дискредитировать их, подталкивая проверять однообразный контент. Эксперты CheckFirst подробно рассказали о том, как выглядит такая волна дезинформации, какие темы затрагивает, и на что она направлена. Редакция Factcheck.kz кратко пересказала содержимое исследования.
