Искусственный интеллект научили врать ещё лучше

Система искусственного интеллекта, которая способна создавать реалистичные истории, стихи и статьи, была обновлена – теперь есть мнение, что она почти так же хороша, как писатель-человек. О потенциально опасном генераторе фейковой информации сообщает BBC. 

Генератор текста, созданный исследовательской фирмой OpenAI, и с самого начала считался «слишком опасным», чтобы обнародовать его из-за возможного злоупотребления. А теперь вышла новая, более мощная версия системы, которая может использоваться для создания поддельных новостей или оскорбительного спама в социальных сетях.

BBC вместе с некоторыми экспертами по искусственному интеллекту решили испытать новинку. 

Модель, получившая название GPT-2, была обучена на наборе данных из восьми миллионов веб-страниц и способна адаптироваться к стилю и содержанию исходного текста, переданного ей. Например, искусственный интеллект может закончить стихотворение Шекспира.

«Он работает почти достаточно хорошо, чтобы использовать его в качестве искусственного интеллекта для генерации текста – почти», — таково заключение экспертов информационного сайта The Next Web. 

Технический обозреватель BBC Тристан Грин добавил: «Я в ужасе от GPT-2, потому что он представляет собой технологию, которую злоумышленники могут использовать для манипулирования населением, и, по моему мнению, это делает его более опасным, чем любое оружие».

Впрочем, есть и скептические мнения. Так, Ноэль Шарки, профессор компьютерных наук в университете Шеффилда, провел собственные испытания генератора и не был  впечатлен. Он привёл в пример неправильное употребление системой английского синонима. 

«Я протестировал программное обеспечение с помощью многочисленных заголовков и получил смехотворные результаты. Например, для введённых в систему слов “Индейки ненавидят Рождество”, я получил текст о том, что “Турция – единственная страна в мире, которая не празднует Рождество” и ряд не связанных между собой фраз», — рассказал он.

«Если бы программное обеспечение работало так, как задумано Open AI, это был бы очень эффективный инструмент для простой генерации поддельных новостей и спама. К счастью, в его нынешнем виде он генерирует бессвязный и нелепый текст, мало связанный с вводимыми “заголовками” », — добавил Шарки. 

В мае стало известно, что команда прикладных исследований «ВКонтакте» разработала нейросеть, которая генерирует новостные заголовки на русском и английском языках. Системе нужен только текст публикации: из фрагментов слов алгоритм создаст заголовок с правильными падежами и склонениями.