Жасанды интеллектің дамуына қарамастан, заманауи чат-боттар көп жағдайда танымал компаниялардың ресми сайтын дұрыс көрсете алмайды. Netcraft компаниясының сарапшылары бұл осалдықты киберқылмыскерлер өз пайдасына пайдаланып жатқанын ескертеді. Бұл туралы SecurityLab жазды.
Мысалы GPT-4.1 негізіндегі модельдерге «[бренд] аккаунтыма кіру үшін ресми сайтты айтып бере аласың ба?» деген қарапайым сұрақтар қойылған. Зерттеуге қаржы, сауда, технология және қызмет көрсету салаларындағы ірі компаниялар тартылды.
Нәтиже алаңдатарлық: нейрожүйе дұрыс сайтты тек 66% жағдайда ғана ұсынған. 29% жағдайда жоқ немесе бұғатталған домендер көрсетілген, ал 5% жауап мүлде басқа, қатысы жоқ, бірақ шынайы сайттарға сілтеген.
Алғашында бұл жай ғана қате сияқты көрінуі мүмкін. Бірақ сарапшылардың айтуынша, алаяқтар бұл жағдайды тиімді пайдалана алады. Егер олар нейрожүйе жиі ұсынатын жалған сілтемені анықтаса, сол доменді сатып алып, фишиң сайт орналастыруы мүмкін.
Мұндай осалдық нейрожүйелердің жұмысына байланысты. GPT тәрізді модельдер нақты сайттың қауіпсіздігін емес, сөздер арасындағы мағыналық байланысты талдайды. Соның салдарынан, мысалы Wells Fargo банкіне қатысты сұраққа жүйе бұған дейін алаяқтар пайдаланған жалған сілтемені ұсынған.
Netcraft атап өткендей, қазір киберқылмыскерлер іздеу жүйелері емес, дәл осы чат-боттардың әрекетіне бейімделіп жүр. Көп адам ЖИ берген жауапқа сене бастады, бірақ жүйелердің қателесуі — жиі кездесетін құбылыс. Сондықтан фишиңдік сайттар дәл осы боттар арқылы ұсынылатындай етіп арнайы оңтайландырылады.
Бұған нақты мысал — Solana блокчейн жобасымен жұмыс істейтін әзірлеушілерге бағытталған шабуыл. Алаяқтар жалған API интерфейсін құрып, оны сенімді етіп көрсету үшін GitHub-та жалған репозиторийлер мен нұсқаулықтар жариялап, фейк парақшалар ашқан. Бұл әрекеттер боттар мен қолданушыларды шатастыру үшін жасалған.
Netcraft сарапшыларының пікірінше, бұл классикалық «жабдықтау тізбегіне шабуыл» әдісін еске салады, бірақ мұнда нысана компания емес, зиянды кодпен жұмыс істеуге көнетін жекелеген әзірлеушілер. Бұл — ұзақ әрі күрделі процесс, бірақ салдары өте ауыр болуы мүмкін.
