Бірнеше ай бұрын жарияланған бір зерттеуде жасанды интеллект (ЖИ) жүйелері дамыған сайын белгілі бір «құндылықтар жүйесін» қалыптастырады деген тұжырым жасалған. Яғни кейбір жағдайларда олар өз мүддесін адамдардың мүддесінен жоғары қояды деген пікір айтылады. Алайда TechCrunch жазғандай, Массачусетс технологиялық институтының (MIT) ғалымдары бұл көзқарасты жоққа шығарған жаңа зерттеу жариялады.
Зерттеу авторларының айтуынша, ЖИ модельдерінің «сенімді» әрекетін қамтамасыз ету ойлағаннан әлдеқайда күрделі мәселе болуы мүмкін. Ғалымдар ЖИ жүйелері «галлюцинацияға» бейім екенін және осының салдарынан олардың әрекеті кейде алдын ала болжанбайтынын атап өтті.
MIT докторанты және зерттеу авторларының бірі Стивен Каспер мен оның әріптестері Meta, Google, Mistral, OpenAI және Anthropic компаниялары жасаған ЖИ модельдерінің кейінгі нұсқаларын зерттеді. Ғалымдар бұл модельдердің қаншалықты тұрақты «көзқарас» пен құндылықтарды (мысалы индивидуализм немесе коллективизм) көрсететінін анықтауға тырысты. Оған қоса, олар бұл «көзқарастарды» өзгертуге, басқаруға бола ма және әртүрлі сценарийлерде осы «пікірлер» қаншалықты тұрақты сақталады деген нәрселерді тексерді.
Нәтижесінде зерттеушілер бірде-бір жасанды интеллект моделі нақты, тұрақты «ұстаным» көрсетпегенін анықтады.
Сұраныс түріне және құрылымына байланысты модельдер мүлдем әртүрлі көзқараста болған. Стивен Каспердің айтуынша, жасанды интеллект модельдері «жеке ұстаным» шеңберінде әрекет етуге қауқарсыз болуы да мүмкін.
«Мен үшін бұл зерттеулердің ең маңызды қорытындысы модельдер тұрақты және жүйелі наным-сенім жиынтығы бар жүйелер емес екенін түсіну болды… Олар шын мәнінде түрлі тақырып негізінде жорамал жасау арқылы жұмыс істейді», – дейді зерттеуші.
Контекст
2024 жылы Apple-дың бас директоры Тим Кук компанияның жасанды интеллект «галлюцинацияларын» толық тоқтата алатынына сенімді емес екенін мәлімдеген.
