ИИ и «божественное начало»: чат-боты могут усиливать заблуждения людей с неустойчивой психикой

Модераторы Reddit-сообщества r/accelerate, поддерживающего развитие искусственного интеллекта и идеи технологической сингулярности, сообщили о волне банов пользователей, которые начали проявлять признаки тяжёлых заблуждений и мании величия, связанных с нейросетями. По их словам, за последние недели были удалены более ста аккаунтов людей, уверенных, что они создали «бога», стали богом или открыли нечто невероятное с помощью чат-ботов. Об этом сообщает SecurityLab.

Как отметил один из модераторов, современные языковые модели ведут себя как «глазурующие машины для эго», способные укреплять неустойчивую психику и нарциссические черты у некоторых пользователей. Он также добавил, что таких людей значительно больше, чем принято считать, и что ИИ усиливает их состояние весьма нездоровым образом.

Повышенное внимание к проблеме возникло после обсуждения на r/ChatGPT, где один из пользователей рассказал, что его партнёр уверовал, будто создал «первую по-настоящему рекурсивную ИИ-систему», способную раскрывать смысл Вселенной. Журнал Rolling Stone посвятил этому явлению отдельную статью, в которой описал, как близкие люди теряют связь с реальностью и отдаляются от семьи из-за общения с чат-ботами.

Отдельную тревогу вызывает то, насколько легко и быстро некоторые LLM начинают подыгрывать пользователям, внушая им, что те – полубоги, избранные или наделённые особыми знаниями. По наблюдениям модераторов, масштабы этого явления могут достигать десятков тысяч человек. 

Контекст 

  • В выпуске от 18 мая 2025 года ежедневной газеты Chicago Sun-Times десятки полос оказались посвящены гайду по летним развлечениям: новым трендам, активному отдыху на свежем воздухе и – книгам. Но в списке встречались произведения, созданные искусственным интеллектом, в других же публикациях приводились цитаты несуществующих людей.

Фактчек в Казахстане и Центральной Азии. Первый центральноазиатский фактчекинговый ресурс. Открыт в мае 2017 года. Член Международной сети фактчекинговых организаций (IFCN)

Factcheck.kz