Желідегі сөз бостандығының жай-күйі туралы жыл сайынғы есепте Freedom House сарапшылары 2023 жылы ЖИ қолдануға байланысты жаңа қауіп пайда болғанын хабарлайды. Сауатты және этикалық көзқараста қолданылмаған жағдайда, бұл көпфункциялы технология билік пен корпорациялардың қолындағы қаруға айналады. Бүгінде жасанды интеллект жеке ақпарат жинап, цензураны күшейту үшін жалған ақпарат науқандарында қолданылады. Сонымен қатар жасанды интеллект көптеген салалардың дамуында маңызды рөл атқарып, адамдар үшін таптырмас көмекші бола алатынын жоққа шығаруға болмайды.
Бұл материалда Factcheck.kz редакциясы ЖИ цифрлық қауіпсіздікке қандай қауіп төндіретінін және әлемде онымен қалай күресуге тырысатынын түсіндіреді.
Пайдаланушылардың алаңы
Шамамен бір ай бұрын McKinsey жаһандық сауалнамасына қатысушылардың жартысынан көбі (65%) олардың ұйымдары өз жұмыстарында ЖИ-ді үнемі қолданатынын айтты. Бұл көрсеткіш небәрі 10 ай бұрын жүргізілген алдыңғы зерттеумен салыстырғанда екі есеге артқан. Интеграцияның осы қарқынымен 2024 жылдан 2030 жылға дейін ЖИ индустриясының күтілетін жылдық өсу қарқыны 37,3% болуы таңқалардымайды.
Дегенмен, технологияның бұлай жылдам әрі кең тарағанына барлық пайдаланушы риза емес. Pew Research Center АҚШ тұрғындарының жасанды интеллектке қатысты ойын анықтап көрді. Сауалнамаға қатысқандардың 52%-і ЖИ-дің кең тарағанына қуанғаннан гөрі көбірек алаңдайды. OnePoll жүргізген зерттеуде респонденттердің 41% бизнесте ЖИ қолдануға қорқады.
Pew Research Center 2022 жылғы желтоқсан айымен салыстырғанда алаңдаған адамдар саны 14%-ке өскенін айтты. Сарапшылар құпиялық пен ЖИ сегментіндегі пайдаланушылардың сенімсіздігін ерекше атап – респонденттердің 53%-і ЖИ жеке деректердің қауіпсіздігіне зиян келтіруі мүмкін деп санайды.
Еуропа елдеріне келсек, ЖИ реттеу туралы талқылаулардан кейін Еуропалық коммерциялық емес құқық орталығы (ECNL) 12 елде сауалнама жүргізді.
Біз қолданудың нақты бағыттары туралы айттық және көріп отырғанымыздай, барлық салалда дерлік орташа есеппен респонденттердің жартысына жуығы ЖИ-ді қолдану мәселесіне алаңдайды. Тек қылмысқа қарсы күрес және шаруашылық жүргізу жағдайында (3 және 4 позициялар) алаң аз болса да, мүлде жоқ емес.
Сонымен қатар, Қазақстанда Kursiv.Research сарапшылары анағұрлым оптимистік көңіл-күйлерді анықтады: ЖИ-ге қатысты жағымсыз эмоцияны (күмән, қорқыныш, ашу-ыза) респонденттердің 22,1%-і, ал оң эмоцияны (таңдану, оптимизм, қуаныш) 49,2%-і білдірген. Дегенмен, бұл жерде бір қызықты деталь бар. Kursiv.Research өз баяндамасында респонденттердің жартысынан көбі (53,5%) ЖИ туралы мүлде естімегенін, 64,2% оны мүлдем қызықтырмайтынын және 29,6%-і жасанды интеллектке немқұрайлы қарайтынын айтады. Бұл Pew Research Center жасаған алаңдаған азаматтардың хабардарлық деңгейіне тікелей байланысты екенін байқағанын растауы мүмкін.
Алаңдауға себеп бар ма?
Жақында Apple өз құрылғыларында генеративті жасанды интеллект енгізілетінін жариялады. OpenAI ChatGPT жүйесін Siri көмекшісімен біріктіру осы жылдың соңында күтілуде. Бұған жауап ретінде Илон Маск Apple жоспары жүзеге асса, ол өз компанияларында құрылғыларды пайдалануға тыйым салатынын айтты.
Маск машиналық интеллекті сынауымен танымал. Ол бұған дейін ЖИ әзірлеушілерін этика және қауіпсіздік мәселелерін шешу үшін жұмысында алты айлық үзіліс жасауға шақыратын ашық хатқа қол қойған. Бір қызығы, оның көзқарасын инновациялық нарықтың көптеген көрнекті өкілі қолдайды. Бірақ оған қаншалықты негіз бар?
2020 жылғы 27 ақпанында OECD AI Policy Observatory, ЖИ дамуын бақылауға арналған ЭЫДҰ аналитикалық платформасы жұмысын бастады. AIPO 2023-2024 жылдары жасанды интеллектке қатысты оқиғалар санының айтарлықтай өскенін тіркеді. Олардың көпшілігі цифрлық қауіпсіздікке қатысты.
Осы ретте ЖИ қарсыластары асыра сілтеулері мүмкін, бірақ жалпы олардың алаңын түсінуге болады.
Жеке деректердің жиналуы және жария болуы
Жасанды интеллекті оқыту және оның жұмыс істеуі үшін суреттен бастап мәтінге дейін үлкен көлемдегі деректер қажет екені белгілі. Өкініштісі, бұл ақпаратты жинау әрқашан этикалық стандарттарға сәйкес келмейді.
Осылайша, бет-әлпетті тану бойынша алғашқы стартаптардың бірі Clearview AI бірнеше жыл бойы әлеуметтік желілерден миллиардтаған суреттер жинады (1, 2), сол үшін көптеген сот процесіне қатысты (1, 2). Clearview AI көптеген елдің құқық қорғау органдарына, мемлекеттік ведомстволарға заңды түрде жиналмаған дерекқорды ұсынып, жеке ұйымдармен жұмыс істеуге дайын болды. Сонымен қатар, Clearview AI әлеуметтік желі қолданушыларының жеке өміріне араласудан басқа, өз клиенттерінің деректерін жария қылды.
OpenAI-да ақпараттың жария болып кету проблемасын айналып өткен жоқ. 2023 жылғы наурызда компания ChatGPT пайдаланушы ақпаратының жария болып кетуі туралы хабарлады. Біраз уақыттан кейін Garante (итальяндық деректерді қорғау жөніндегі әкімшілік орган) OpenAI-ді жеке ақпаратты заңсыз жинады және кәмелетке толмағандардың жасын тексеру механизмі жоқ деп айып тақты. GDPR (ЕО жалпы деректерді қорғау ережесі) бұзылуына байланысты ChatGPT Италияда уақытша бұғатталды.
Кемсіту және жала жабу
Жеке деректердің қауіпсіздігіне қатысты нақты шешімдер әлі болмаса да, AI үшін жеке деректер барған сайын қолжетімді болып келеді. DRC Qazaqstan директоры Дана Өтеген «Жасанды интеллектті Қазақстанда дамыту және реттеу» тақырыбымен өткен кездесуінде сөйлеген сөзінде ЖИ қазірдің өзінде таныс деректермен ғана емес, сонымен қатар неғұрлым сезімтал деректермен де жұмыс істейтінін айтты.
Тұтастай алғанда, көптеген мемлекет жасанды интеллект технологияларын пайдаланып жатыр және әдеттегідей контексте жеке деректер ғана қолданылмайды. Яғни, бұл сіздің толық аты-жөніңіз, мекенжайыңыз, IP мекенжайыңыз және басқа идентификаторлар. Бірақ субъектінің биометриялық, биологиялық сипаттамасын қамтитын деректердің неғұрлым сезімтал категориясы бар. Яғни, бұл бет-әлпетті тану, көз торы, саусақ іздері.
Дана Өтеген
Қысқасы, бет-әлпетті танудың екі негізгі технологиясы бар: сәйкестендіру және анализ. Ең жиі қолданылатын әдіс – сәйкестік немесе Face Match.
Face Match — субъектінің бет-әлпетіне сәйкес келетінін анықтау үшін екі түрлі кескінді салыстыратын биометриялық технология. Бұл әдіс пайдаланушыны тіркеу және жеке басын тексеру процестерінде кеңінен қолданылады.
Алгоритмді құқық қорғау органдары мен басқа да мемлекеттік органдар қолданатынына қарамастан, ол басқалармен қатар кемсітушілік белгілері бар көптеген қателермен әйгілі. Осылайша, Дана Өтегеннің айтуынша, Еуроодақтың кейбір елдері ЕО азаматтығы жоқ босқындарға қатысты кемсітушілік шараларын қолданған.
2019 жылы АҚШ Ұлттық стандарттар және технологиялар институтының (NIST) зерттеуі көптеген алгоритм афроамерикалықтар мен азияттарды анықтау кезінде қате жіберетінін анықтады. Әсіресе жоғары көрсеткіші афроамерикалық әйелдердің бет-әлпетін тану кезінде тіркелді. Сарапшылардың тағы бір тобы көптеген ірі өндірушілердің бағдарламалық жасақтамасы цисгендер емес адамдарды тестілеу кезінде жаңылысатынын анықтады.
Бағдарламалық жасақтама қателесіп, жалған айып тағылып, адамдар қамауға алынған жағдайлары да болды (1, 2).
Аңду мен қудалау
Халықаралық коммерциялық емес цифрлық құқықтар ұйымы Electronic Frontier Foundation (EFF) құқық қорғау және басқа да мемлекеттік органдардың бет-әлпетті тану технологиясын пайдалануына (1, 2) дәйекті түрде қарсылық білдірді. Сарапшылардың пікірінше, биліктің қолында бұл құрал жеке өмірге, әділдікке және сөз бостандығына тікелей қауіп төндіреді. Қор белсенділер, демонстранттар және хабар таратушылар үшін ерекше қатерлерді атап көрсетеді.
Бейнебақылау және сәйкестендіру құрылғыларының үздіксіз жұмыс істеуінің ең жарқын мысалдарының бірін Ресейде байқауға болады. 2020 жылы оппозициялық саясаткерлер Владимир Милов пен Алена Попова бет-әлпетті тану технологиясын қолдануға шағымданған. Олардың пікірінше, 2019 жылғы 29 қыркүйекте Мәскеуде өткен митиңде бұл техника жеке деректерді қорғау туралы заңды бұзатын бірінші рет жаппай қолданылған. Полиция мен әкімдік заңға сәйкес әрекет еткенін алға тартып, фактіні растады.
Белгілі болғандай, Ресейде 2020 жылғы күзінен бастап сәйкестендіру жабдықтарының кең желісі енгізілген. Схема метродағы камераларды, сондай-ақ қалалық бейнебақылауды қамтиды. Бір қызығы, жүйені әртүрлі тәсілмен қолдануға болады: фотосуретті жүктеп, адамның қайда болғанын түсіну немесе керісінше, нақты азаматтың бағытын қадағалап, оның жеке басын анықтау. «ОВД-Инфо» жобасы 2022 жылғы маусымда Мәскеу метросында 43 адамды ұстау кезінде құқық қорғау қызметкерлері дәл осы әдістерді қолданған деп санайды. Ұсталғандардың арасында журналистер мен белсенділер де бар.
Жақында Amazon компаниясының бұрынғы қызметкері Чарльз Форрест Amazon 2020 жылы ресейлік VisionLabs компаниясымен оның бет-әлпетті тану технологиясына қол жеткізу туралы келісімге отырғанын айтты. Ресейдің Украинаға басып кіруінен кейін Ресей Федерациясына санкция салынды, дегенмен Форресттің айтуынша, ресейлік барлау қызметтеріне Amazon Recognition жұмысын тоқтатқан жоқ.
Қазақстанда ҰБЖ – Ұлттық бейнебақылау жүйесі бар. Бұл ұлттық қауіпсіздік пен қоғамдық тәртіпті қамтамасыз ету мәселелерін шешу үшін бейне кескіндерді жинайтын, өңдейтін және сақтайтын бағдарламалық және техникалық құралдардың жиынтығы. ҰБЖ-ге объектілердің үш тобы қосылған. Арнайы мемлекеттік органдар мен ішкі істер органдары, сондай-ақ Қазақстан Республикасының заңдарында белгіленген жағдайларда өзге де мемлекеттік органдар ақпараттың негізгі тұтынушылары.
Ашық дереккөзден Қазақстанның бет-әлпетті тану жүйесінің пайдаланатыны не пайдаланбайтыны туралы ақпараттың қарама-қайшы екенін айта кетейік.
Әрі қарай не болады
Алаңға қарамастан, Forbes Advisor сауалнамасына респонденттердің 65%-і машиналық интеллект енгізетін компанияларға сенетінін айтты.
Сонымен қатар, басқа сауалнамаларға (1, 2, 3) қарағанда, азаматтар жасанды интеллект мәселесін шешу үшін билікке сенеді.
Көптеген үкімет қазірдің өзінде заңнамаға қадам жасауда және Еуроодақ әлемдегі алғашқы ЖИ заңын қабылдады, ол қазір маңызды заң ретінде қабылданып жатыр, бұл жаңа технологияға негізделген реттеу моделінің бастапқы нүктесі болатынын болжайды. OECD.AI және AI Watch платформаларында заң саласындағы көптеген өзгерістерді бақылай аласыз.
Америкалық Authority Hacker маркетиң компаниясы жасанды интеллектті реттеу прогрессінің жаһандық картасын құрастырды. 195 елдің бастамаларын сараптай келе, сарапшылар олардың 2/3 бөлігі не кешенді ережелерді қабылдады, болмаса дайындап жатыр деген қорытындыға келді.
Қазақстан, Authority Hacker пікірінше, ЖИ бойынша заңнамалық базамен жұмыс істеудің бастапқы кезеңінде. Шынында да, елде әзірге жасанды интеллектті реттеу жөніндегі комиссия құру туралы айтылған 2024-2029 жылдарға арналған Жасанды интеллектті дамыту тұжырымдамасының жобасы ғана бар.
Пікір қалдыру үшін өз аккауныңызға кіріңіз.