Искусственный интеллект научили врать ещё лучше

Система искусственного интеллекта, которая способна создавать реалистичные истории, стихи и статьи, была обновлена – теперь есть мнение, что она почти так же хороша, как писатель-человек. О потенциально опасном генераторе фейковой информации сообщает BBC. 

Генератор текста, созданный исследовательской фирмой OpenAI, и с самого начала считался «слишком опасным», чтобы обнародовать его из-за возможного злоупотребления. А теперь вышла новая, более мощная версия системы, которая может использоваться для создания поддельных новостей или оскорбительного спама в социальных сетях.

BBC вместе с некоторыми экспертами по искусственному интеллекту решили испытать новинку. 

Модель, получившая название GPT-2, была обучена на наборе данных из восьми миллионов веб-страниц и способна адаптироваться к стилю и содержанию исходного текста, переданного ей. Например, искусственный интеллект может закончить стихотворение Шекспира.

«Он работает почти достаточно хорошо, чтобы использовать его в качестве искусственного интеллекта для генерации текста – почти», — таково заключение экспертов информационного сайта The Next Web. 

Технический обозреватель BBC Тристан Грин добавил: «Я в ужасе от GPT-2, потому что он представляет собой технологию, которую злоумышленники могут использовать для манипулирования населением, и, по моему мнению, это делает его более опасным, чем любое оружие».

Впрочем, есть и скептические мнения. Так, Ноэль Шарки, профессор компьютерных наук в университете Шеффилда, провел собственные испытания генератора и не был  впечатлен. Он привёл в пример неправильное употребление системой английского синонима. 

«Я протестировал программное обеспечение с помощью многочисленных заголовков и получил смехотворные результаты. Например, для введённых в систему слов “Индейки ненавидят Рождество”, я получил текст о том, что “Турция – единственная страна в мире, которая не празднует Рождество” и ряд не связанных между собой фраз», — рассказал он.

«Если бы программное обеспечение работало так, как задумано Open AI, это был бы очень эффективный инструмент для простой генерации поддельных новостей и спама. К счастью, в его нынешнем виде он генерирует бессвязный и нелепый текст, мало связанный с вводимыми “заголовками” », — добавил Шарки. 

В мае стало известно, что команда прикладных исследований «ВКонтакте» разработала нейросеть, которая генерирует новостные заголовки на русском и английском языках. Системе нужен только текст публикации: из фрагментов слов алгоритм создаст заголовок с правильными падежами и склонениями.

Вы можете внести вклад в борьбу с дезинформацией: Для сохранения объективности, редакция Factcheck.kz, как правило, отказывается от рекламы и сохраняет независимость и принципиальную равноудаленность от государства, крупных компаний и политических лагерей — и именно ваша поддержка делает это возможным. Мы гарантируем рациональное планирование расходов. Народное финансирование позволяет проекту быть ещё более устойчивым и продолжать верификацию информации и проверку заявлений государственных деятелей, чиновников и экспертов.


Пожалуйста, выберите любую сумму



Или введите свою

Сергей Ким
Журналист, медиакритик, фотограф. Работал на телевидении и радио, сотрудничал с проектом «Радиоточка» до его закрытия в 2017 году. Возглавлял алматинскую редакцию проекта «Спутник-Казахстан», ведёт колонку медиакритики для проекта NewReporter.org