Қазір түрлі компания жасанды интеллект (ЖИ) галлюцинациясы мәселесімен бетпе-бет келіп жатыр. Amazon Web Services (AWS) галлюцинациямен күресу үшін Automated Reasoning деп аталатын жаңа құрал ұсынды. Бұл туралы TechRadar жазды.
Компания Automated Reasoning жаңа тексеру жүйесін AWS re:Invent 2024 конференциясында көрсетті. Бұл қауіпсіздікке нұқсан келтіретін, қаржылық шығындарға ұшыратуы мүмкін ЖИ галлюцинацияларынан келетін қауіп-қатерді азайтуға бағытталған.
Жаңа жүйе клиент ұсынған ақпарат пен ЖИ жасаған жауаптарды кросс-тексеру арқылы анықтайды. Егер жауаптың дұрыстығы бірден анықталмаса, ол модельде әрі қарай тексеріле береді.
Gadgets360 жазғандай, әзірлеуші компания LLM нейрондық желісі жасаған ақпаратты тексеру үшін “математикалық, логикалық алгоритмдік тексеру және пайымдау процестерін” қолданады.
Контекст
2023 жылғы ақпанда Google чатботтарды пайдалану кезінде туындайтын ЖИ “галлюцинациялары” туралы ескертті. Бұл жағдайда жасанды интелект сенімді көрінетін, бірақ толығымен ойдан шығарылған ақпарат беруі мүмкін. Ал өткен айда Nvidia бас директоры Дженсен Хуанг чатбот әзірлеушілері ЖИ галлюцинация мәселесін әлі шеше алмайтынын айтқан.
“
