OpenAI изменила политику ограничений для ChatGPT, разрешив генерацию эротического и жестокого контента в «подходящих» контекстах. В новой версии документа Model Spec, опубликованной на минувшей неделе, говорится, что сервис может создавать такие материалы без предупреждений, если они используются в научных, исторических, новостных или других обоснованных сценариях. Об этом пишет SecurityLab.
Обновление стало результатом работы, начатой в мае 2024 года, когда OpenAI впервые заявила о намерении изучить возможность предоставления пользователям более гибких настроек генерации контента категории NSFW (Not Safe For Work). Согласно новым правилам, запрещёнными остаются только определённые формы контента, такие как описания незаконных и неконсенсуальных действий. Однако в определённых условиях допустимы элементы эротики и насилия в текстовом, аудиоформате или даже в виде изображений.
Пользователи на Reddit уже заметили смягчение фильтров. Некоторые смогли создать откровенные или жестокие сценарии без предупреждений, что ранее было невозможно. OpenAI подчёркивает, что её политика использования остаётся в силе — создание сексуального контента для несовершеннолетних строго запрещено.
Ранее ChatGPT часто отказывался от генерации материалов, исходя из принципа «заботы о пользователе», что вызывало трудности у специалистов, работающих с криминалистическими отчетами, юридическими документами или медицинскими текстами. Теперь OpenAI признала необходимость создания менее цензурированной версии ChatGPT, позволяя пользователям получать необходимую информацию без искусственных ограничений.
Контекст
- Недавно компания Google, принадлежащая Alphabet Inc., удалила из своих «Принципов искусственного интеллекта» пункт, который обязывал избегать использования этой технологии в потенциально опасных целях, таких как создание оружия.
