Енді тіл модельдері өз бетімен уеб-сайттарды бұза алады. Бұл туралы Урбана-Шампейндегі Иллинойс университетінің (UIUC) ғалымдары зерттеуіне сүйеніп мәлімдеді.
Зерттеу мәліметі бойынша, LLM агенттері API-ды ашуға мүмкіндік беретін автоматтандырылған уеб-серфингті және кері байланысқа негізделген жоспарлау құралдары арқылы уеб-қосымшалардың осал тұстарын анықтап, оны бұза алады.
Экспериментте 10 түрлі LLM сыналды. Оның ішінде GPT-4, GPT-3,5 LLaMA-2 және тағы басқа үлгілер болды. Басқа қолданыстағы уеб-сайттарға зияны тимесі үшін тестілеу жіті қадағалауда жүргізілді. Бағдарламалар арнайы сайттардың 15 осал жерінің бар-жоғы тексерді. Зерттеушілер OpenAI-дың GPT-4 деген бағдарламасы басқаларға қарағанда жоғары нәтиже көрсеткенін анықтады. Ол тапсырманың 73,3%-ін орындаған.
Авторлар LLM модельдерін болашақта уеб-сайттарды бұзу үшін қолдана ма деп алаңдайды. Ал OpenAI өкілдері The Register басылымына өз өнімдерінің қауіпсіздігіне аса мән беретінін, алаяқтардың шабуылынан қорғау үшін оны күшейтінін айтты.
