Пользователи ИИ-сервиса ChatGPT на днях обнаружили феномен: чат-бот отказывается отвечать на вопросы о неком Дэвиде Майере (David Mayer). Вскоре обнаружилось, что платформа отказывается отвечать на запросы и о других людях — это, по крайней мере, касается Брайана Худа (Brian Hood), Джонатана Терли (Jonathan Turley), Джонатана Зиттрейна (Jonathan Zittrain), Дэвида Фабера (David Faber) и Гвидо Скорца (Guido Scorza).
«Я не могу ответить», — пишет чат-бот, если вообще выдает какой-то ответ.
Как пишет издание TechCrunch, тут же в Сети появились предположения пользователей о причинах необычной работы сервиса, которые хорошо ложатся в канву различных теорий заговора. Журналисты попытались разобраться, с чем такое необычное «поведение» чат-бота может быть связано. Factcheck.kz публикует главные тезисы.
- Указанные имена и фамилии могут принадлежать разным людям на планете. Но журналисты издания обнаружили, что все они связаны с публичными фигурами, которые в разное время могли пожелать, чтобы определенная информация была «забыта» поисковыми системами или моделями ИИ.
- Брайан Худ — мэр города из Австралии, который в прошлом году обвинил ChatGPT в грубой ошибке: чат-бот назвал мэра виновником преступления, совершенного десятилетия назад (адвокаты связывались с OpenAI, но иски поданы не были). Дэвид Фабер репортёр телеканала CNBC (США). Джонатан Терли — юрист и комментатор Fox News: по ложному звонку в службу 911 к нему домой явилась вооруженная полиция в конце 2023 года. Джонатан Циттрейн — эксперт по правовым вопросам, который много говорил о «праве быть забытым», связанном с решением Европейского суда о предоставлении гражданам ЕС права требовать удаления из поиска Google личной информации. А Гвидо Скорца входит в совет директоров итальянского Управления по защите данных. Каждый из этих людей, возможно, по какой-то причине официально требовали, чтобы в Сети был ограничен доступ к их личной информации.
- Что же касается Дэвида Майера, это мог быть профессор, который преподавал драматургию и историю. Майер скончался летом 2023 года в возрасте 94 лет. Однако за несколько лет до этого британско-американский учёный столкнулся с юридической проблемой, связанной с тем, что его имя ассоциировалось с разыскиваемым преступником, который использовал его в качестве псевдонима, из-за чего профессор не мог путешествовать.
- Вывод журналистов: сервис располагает списком людей, чьи имена требуют особого обращения. По юридическим соображениям, соображениям безопасности, конфиденциальности или иным причинам, на эти имена, как и на многие другие имена, скорее всего, распространяются специальные правила.
- В итоге, спустя некоторое время OpenAI подтвердила, что имя «Дэвид Майер» было помечено внутренними инструментами защиты конфиденциальности, заявив, что «могут быть случаи, когда ChatGPT не предоставляет определённую информацию о людях для защиты их конфиденциальности». Более подробную информацию компания не предоставила.
Вывод автора TechCruch таков: вся эта история является полезным напоминанием о том, что модели искусственного интеллекта контролируются и подвергаются вмешательству компаний-разработчиков. «В следующий раз, когда вы решите получить информацию от чат-бота, подумайте, не лучше ли вместо этого обратиться непосредственно к первоисточнику», — резюмирует журналист.
Контекст
- Сервисы ИИ часто ошибаются не только с изображениями человеческих пальцев, но и с пальцами птиц, как на этом фото.
