Еврокомиссия предложила ограничить использование искусственного интеллекта (ИИ). Ограничительные меры включают создание правовой базы по ИИ (называемую первой в истории) и принятие Скоординированного плана государств ЕС. Об этом говорится на сайте организации.
Предлагаемые ограничения основываются на разработанной системе оценки рисков, связанных с функционированием ИИ.
Согласно проекту, в группу неприемлемого риска с полным запретом применения входят системы искусственного интеллекта, создающие явную угрозу для безопасности, для средств к существованию и для прав людей. В качестве примера приводятся системы, умеющие манипулировать поведением граждан, либо способные пренебрегать свободной волей пользователей (например, игрушки с голосовой поддержкой, поощряющие опасное поведение детей). Кроме того, к таковым относятся системы, которые могут использоваться правительствами для «социальной оценки» граждан.
Не запретить, но применить строгие обязательства предлагается к использованию ИИ в сферах «высокого риска», связанных с жизнью и здоровьем граждан, образованием и профподготовкой, миграцией, а также трудоустройством. Здесь речь идёт, например, о транспорте, оценке экзаменов, роботизированной хирургии, сортировке резюме, проверке подлинности миграционных документов. Требования, которые должны применяться к таким системам, касаются прозрачности, точности и качества данных, а кроме того, упоминается человеческий надзор для минимизации рисков.
В группу ограниченного риска авторы определили, например, чат-боты (пользователи должны знать о взаимодействии с искусственным интеллектом, а не с человеком), а минимальный риск создатели проекта видят в большинстве применяемых сегодня систем, вроде видеоигр с поддержкой ИИ и фильтров спама. Использование последних предлагается никак не регулировать.
Контекст
- В прошлом году Factcheck.kz опубликовал мнение профессора Андреа Комлоси об эволюции трудовых отношений и о возможном месте искусственного интеллекта в сфере человеческой занятости.
