ЖИ мен «өзін құдай санау»: чат-боттар психикасы тұрақсыз адамдарды адастыруы мүмкін

Reddit-тегі r/accelerate қауымдастығының модераторлары кейінгі кезде жүйкесінде ауытқуы бар қолданушылар арасында қауіпті тенденция байқалғанын хабарлады. Олардың айтуынша, кейінгі кезде өзін «құдай жараттым», «құдай болдым» немесе чат-боттардың көмегімен ерекше бір нәрсені аштым деп сенген жүзден астам адамның аккаунты өшірілген. Бұл туралы SecurityLab мәлімдеді.

Модераторлардың айтуынша, қазіргі тілдік модельдер кей жағдайда қолданушының эгосын шарықтатып, психологиялық әлсіздігі мен нарциссизмге бейімін күшейте алады. Олар мұндай адамдардың саны ойлағаннан әлдеқайда көп екенін және ЖИ мұндай психологиялық ауытқуларды ушықтыратынын айтты.

Бұл мәселе Reddit-тегі r/ChatGPT форумынынан соң ерекше назарға ілікті. Форумда бір қолданушы өзінің серігі чат-бот арқылы «ғаламның мәнін ашатын нағыз рекурсивті ЖИ жүйесін» ойлап таптым деп сеніп жүргенін жазған. Rolling Stone журналы бұл құбылысқа арнайы мақала арнап, чат-боттармен шектен тыс байланыс салдарынан адамдардың шынайы өмірден алшақтап, отбасынан алыстай бастағанын сипаттады.

Кейбір үлкен тілдік модельдердің (LLM) қолданушыларды жартылай құдай, таңдаулы не ерекше білімге ие жандар ретінде иландыра бастайтыны ерекше алаңдатады. Модераторлардың байқауынша, бұл құбылыстың ауқымы он мыңдаған адамға жетуі мүмкін.

Контекст

18 мамыр күні жарық көрген Chicago Sun-Times газетінің шығарылымы жазғы демалысқа арналған гид жариялады. Онда жаңа трендтер, сырттағы белсенді демалыс және кітаптар бар. Алайда ұсынылған туындылардың арасында жасанды интеллект жасаған шығармалар кездеседі, ал кейбір мақалаларда мүлде өмірде жоқ адамдардың цитатасы келтірілген.

Фактчек в Казахстане и Центральной Азии. Первый центральноазиатский фактчекинговый ресурс. Открыт в мае 2017 года. Член Международной сети фактчекинговых организаций (IFCN)

Factcheck.kz