Исследователи Массачусетского технологического института разработали алгоритм, который учит системы искусственного интеллекта относиться к вводным данным скептически. Об этом сообщает украинское издание Liga со ссылкой на публикацию института.
Исследователям нужно было найти способ, как заставить ИИ принимать решения в режиме реального времени, основываясь на наихудших предположениях. Команда решила опираться на форму машинного обучения, которая не требует связывания помеченных входных данных с выходными, и скорее направлена на усиление определенных действий в ответ на входные данные. Другими словами, учёные придумали, как заставить машину анализировать свои правильные и неправильные ответы.
Для теста они использовали простейшую видеоигру пинг-понг, в которой два игрока управляют ракетками по обе стороны экрана, чтобы отбивать мяч на сторону противника. Однако исследовали сделали небольшую корректировку, сместив мяч на несколько пикселей от реальной траектории, а машина должна была понять, когда мяч двигается правильно, а когда её пытаются обмануть.
Новый алгоритм справился с задачей значительно лучше своих предшественников, отмечают учёные.
Контекст
- В прошлом году редакция The Guardian провела интересный эксперимент и дала алгоритму генерации текстов GPT-3 задание написать колонку примерно на 500 слов ясным и лаконичным языком. Была заявлена тема — почему люди могут не бояться искусственного интеллекта. GPT-3 объяснил, что не собирается убивать человечество, а люди должны больше доверять роботам.
