Анонимный специалист по кибербезопасности, действующий под псевдонимом Nea Paw, разработал «машину дезинформации» на базе искусственного интеллекта под названием CounterCloud. Генератор фейков потенциально представляет собой грозную пропагандистскую машину, сообщает Cryptopolitan.
Создатель CounterCloud использовал метод генерации статей в ChatGPT, заставляя модель ИИ составлять противоположные вводимым тексты. Эта манипуляция позволила ИИ создавать несколько версий текстов на одну тему, каждая из которых имеет разные смысловые интонации и нарративы.
За два месяца Nea Paw удалось сделать работающую систему искусственного интеллекта, способную круглосуточно генерировать реалистичный фейковый контент.
Как пишет издание Wired, обошёлся проект Nea Paw всего в 400$. Фейки автор CounterCloud решил не публиковать, осознавая свою ответственность перед пользователями Сети. Он предоставил эти материалы изданию, кроме того, создал видео с описанием проекта. По словам автора, его детище призвано продемонстрировать, что широко доступные генеративные инструменты значительно упрощают создание сложных пропагандистских кампаний.
Контекст
- К середине февраля 2023 года в магазине Amazon Kindle в продаже находилось 200 электронных книг, в которых ChatGPT был указан как автор или соавтор.
