GPT-4 өз бетімен сайттарды бұза алады

Енді тіл модельдері өз бетімен уеб-сайттарды бұза алады. Бұл туралы Урбана-Шампейндегі Иллинойс университетінің (UIUC) ғалымдары зерттеуіне сүйеніп мәлімдеді.

Зерттеу мәліметі бойынша, LLM агенттері API-ды ашуға мүмкіндік беретін автоматтандырылған уеб-серфингті және кері байланысқа негізделген жоспарлау құралдары арқылы уеб-қосымшалардың осал тұстарын анықтап, оны бұза алады.

Экспериментте 10 түрлі LLM сыналды. Оның ішінде GPT-4, GPT-3,5 LLaMA-2 және тағы басқа үлгілер болды. Басқа қолданыстағы уеб-сайттарға зияны тимесі үшін тестілеу жіті қадағалауда жүргізілді. Бағдарламалар арнайы сайттардың 15 осал жерінің бар-жоғы тексерді. Зерттеушілер OpenAI-дың GPT-4 деген бағдарламасы басқаларға қарағанда жоғары нәтиже көрсеткенін анықтады. Ол тапсырманың 73,3%-ін орындаған.

Авторлар LLM модельдерін болашақта уеб-сайттарды бұзу үшін қолдана ма деп алаңдайды. Ал OpenAI өкілдері The Register басылымына өз өнімдерінің қауіпсіздігіне аса мән беретінін, алаяқтардың шабуылынан қорғау үшін оны күшейтінін айтты.

Журналист, медиакритик, фотограф. Работал на ТВ (телеканалы «Алматы», Astana, КТК, 7 канал), в печатных и мультимедийных интернет-изданиях, сотрудничал с проектом «Радиоточка» до его закрытия в 2017 году, занимался медиакритикой в издании «Новый репортёр».

Factcheck.kz