Stack Overflow, сайт вопросов и ответов для кодировщиков и программистов, временно запретил пользователям делиться ответами, сгенерированными чат-ботом ChatGPT. Проблема в том, что информация от искусственного интеллекта часто бывает неправильной. Об этом пишет The Verge.
По словам модераторов сайта, запрет временный и окончательное решение будет принято через некоторое время.
ChatGPT — это экспериментальный чат-бот, созданный фирмой OpenAI на основе генератора текста GPT-3.5. Вышел бот на прошлой неделе и с тех пор набирает популярность среди пользователей Сети. Бот предлагает впечатляющие ответы на задаваемые вопросы — от создания стихов, песен и телевизионных сценариев до написания и отладки строк кода.
«Основная проблема заключается в том, что хотя ответы, которые выдает ChatGPT, часто бывают неверными, они обычно выглядят так, будто они правильные и легко даются», — написали модераторы Stack Overflow.
На время запрета действует правило — если пользователь использовал ChatGPT для ответов на Stack Overflow, на него будут наложены ограничения, чтобы подобный контент на сайте не публиковался.
Контекст
- Нейросеть GPT-2, которая способна создавать реалистичные истории, стихи и статьи, была обновлена в 2019 году, когда появилась GPT-3 — модернизация сопровождалась заявлениями, что система теперь почти так же хороша, как писатель-человек. Генератор текста, созданный исследовательской фирмой OpenAI, с самого начала считался «слишком опасным», чтобы обнародовать его из-за возможного злоупотребления. Выход более мощной версии, которая может использоваться для создания поддельных новостей или оскорбительного спама в социальных сетях многие восприняли с опаской.
- В 2020 году редакция The Guardian дала GPT-3 задание написать колонку примерно на 500 слов ясным и лаконичным языком. Была заявлена тема — почему люди могут не бояться искусственного интеллекта. GPT-3 объяснил, что не собирается убивать человечество, а люди должны больше доверять роботам.
