Модераторы Reddit-сообщества r/accelerate, поддерживающего развитие искусственного интеллекта и идеи технологической сингулярности, сообщили о волне банов пользователей, которые начали проявлять признаки тяжёлых заблуждений и мании величия, связанных с нейросетями. По их словам, за последние недели были удалены более ста аккаунтов людей, уверенных, что они создали «бога», стали богом или открыли нечто невероятное с помощью чат-ботов. Об этом сообщает SecurityLab.
Как отметил один из модераторов, современные языковые модели ведут себя как «глазурующие машины для эго», способные укреплять неустойчивую психику и нарциссические черты у некоторых пользователей. Он также добавил, что таких людей значительно больше, чем принято считать, и что ИИ усиливает их состояние весьма нездоровым образом.
Повышенное внимание к проблеме возникло после обсуждения на r/ChatGPT, где один из пользователей рассказал, что его партнёр уверовал, будто создал «первую по-настоящему рекурсивную ИИ-систему», способную раскрывать смысл Вселенной. Журнал Rolling Stone посвятил этому явлению отдельную статью, в которой описал, как близкие люди теряют связь с реальностью и отдаляются от семьи из-за общения с чат-ботами.
Отдельную тревогу вызывает то, насколько легко и быстро некоторые LLM начинают подыгрывать пользователям, внушая им, что те – полубоги, избранные или наделённые особыми знаниями. По наблюдениям модераторов, масштабы этого явления могут достигать десятков тысяч человек.
Контекст
- В выпуске от 18 мая 2025 года ежедневной газеты Chicago Sun-Times десятки полос оказались посвящены гайду по летним развлечениям: новым трендам, активному отдыху на свежем воздухе и – книгам. Но в списке встречались произведения, созданные искусственным интеллектом, в других же публикациях приводились цитаты несуществующих людей.
