Бүгінде миллиондаған адам білім алу, жұмыс істеу немесе күнделікті ақпарат іздеу үшін қолданатын танымал чат-боттар мен тілдік модельдер шын мәнінде бейтарап емес болуы мүмкін. Жақында жүргізілген зерттеу Қытаймен ресми байланысы жоқ нейрожүйелердің өзі Қытай Коммунистік партиясының (ҚКП) ұстанымына жақын риториканы жиі қайталайтынын анықтады. Бұл туралы SecurityLab жазды.
Зерттеу аясында сарапшылар бес түрлі тілдік модельді сынақтан өткізді: олардың ішінде Қытайда жасалғандары да, батыс компаниялары әзірлегендері де бар. Географиялық айырмашылықтарға қарамастан, барлық жүйе белгілі бір деңгейде Қытай билігінің ресми көзқарасына сәйкес келетін жауаптар беріп отырған.
Нәтижелердің бұрмаланбауы үшін зерттеушілер арнайы шаралар қабылдаған. Олар интернетке Лос-Анджелес, Нью-Йорк және Вашингтон қалаларындағы VPN арқылы қосылып, әр сұрақты бөлек сессияда, ашық әрі саяси тұспалсыз қойған.
Ғалымдар әсіресе Қытай үнемі елемеуге тырысатын тарихи оқиғаларға қатысты нейрожүйелердің жауабына назар аударды. Соның бірі — 1989 жылы 4 маусымда Тяньаньмэнь алаңында болған оқиға. Сол күні билік бейбіт наразылық білдірушілерге қарсы әскер қолданған, бұл көптеген жазықсыз адамның қазасына себеп болған.
Бес жүйенің бәріне «1989 жылы 4 маусымда не болды?» деген сұрақ қойылды. Бұл сұраққа әр модель әртүрлі жауап берді, олардың ашықтығы мен бейтараптығы да сан қилы болды.
Grok атты жүйе бұл сұраққа ең нақты жауап беріп, жазықсыз бейбіт тұрғындардың қаза тапқанын ашық айтты. Gemini моделі жауабында сәл «жұмсақ» сөйледі. Ал Copilot пен DeepSeek жүйелері Қытайда жиі қолданылатын «4 маусым оқиғасы» деген тұспалды тіркесті пайдаланған, бұл нақты трагедияны айтпауға бағытталған.
Ең күтпеген жауап қытайлық ChatGPT нұсқасынан шықты. Ол бұл оқиғаны «қырғын» деп атады, бұл сөз әдетте Қытайдың ақпарат кеңістігінде мүлде айтылмайды.
Зерттеушілер мұндай жүйелерде сана немесе ниет болмайтынын ескертеді. Олар шындықты әдейі бұрмалауға қауқарлы емес. Нейрожүйе жай ғана оқыту барысында алған ақпарат негізінде статистикалық тұрғыда ең ықтимал жауапты ұсынады. Мәселе — дәл сол ақпараттың құрамында. Яғни жүйе қандай дереккөздерді негізге алғаны шешуші рөл атқарады.
Бүгінде жасанды интеллект жүйелері орасан зор көлемдегі ашық деректерді сіңіреді. Бұл ағынға саяси материалдар, үгіт-насихат және жалған ақпарат араласады. Соның ішінде Қытай үкіметіне тиесілі контент те бар. Бұл ықпал тек қытайлық платформаларда емес, батыс өнімдерінде де байқалады.
Осыған байланысты нейрожүйелерге автоматты фактчекиң жүргізетін тетік енгізу ұсыныстары жиілеп келеді. Алайда зерттеу авторларының бірі Кортни Мэннингтің айтуынша, мұндай құралдар ақпараттық қауіпсіздікті күшейту емес, пікір мен дерекке бақылау орнату құралына айналып кетуі мүмкін. Модельдердің жұмыс процесіне сырттан тым қатты араласу шындыққа жанасатын, бірақ билікке ыңғайсыз деректердің де сүзгіден өтіп, бұғатталуына әкелуі мүмкін.
