Еврокомиссия предложила ограничить использование ИИ — вплоть до запрета в некоторых сферах

Еврокомиссия предложила ограничить использование искусственного интеллекта (ИИ). Ограничительные меры включают создание правовой базы по ИИ (называемую первой в истории) и принятие Скоординированного плана государств ЕС. Об этом говорится на сайте организации

Предлагаемые ограничения основываются на разработанной системе оценки рисков, связанных с функционированием ИИ. 

Согласно проекту, в группу неприемлемого риска с полным запретом применения входят системы искусственного интеллекта, создающие явную угрозу для безопасности, для средств к существованию и для прав людей. В качестве примера приводятся системы, умеющие манипулировать поведением граждан, либо способные пренебрегать свободной волей пользователей (например, игрушки с голосовой поддержкой, поощряющие опасное поведение детей). Кроме того, к таковым относятся системы, которые могут использоваться правительствами для «социальной оценки» граждан. 

Не запретить, но применить строгие обязательства предлагается к использованию ИИ в сферах «высокого риска», связанных с жизнью и здоровьем граждан, образованием и профподготовкой, миграцией, а также трудоустройством. Здесь речь идёт, например, о транспорте, оценке экзаменов, роботизированной хирургии, сортировке резюме, проверке подлинности миграционных документов. Требования, которые должны применяться к таким системам, касаются прозрачности, точности и качества данных, а кроме того, упоминается человеческий надзор для минимизации рисков. 

В группу ограниченного риска авторы определили, например, чат-боты (пользователи должны знать о взаимодействии с искусственным интеллектом, а не с человеком), а минимальный риск создатели проекта видят в большинстве применяемых сегодня систем, вроде видеоигр с поддержкой ИИ и фильтров спама. Использование последних предлагается никак не регулировать. 

Контекст 

  • В прошлом году Factcheck.kz опубликовал мнение профессора Андреа Комлоси об эволюции трудовых отношений и о возможном месте искусственного интеллекта в сфере человеческой занятости. 
Внесите свой вклад в борьбу с дезинформацией!
Сергей Ким
Журналист, медиакритик, фотограф. Работал на телевидении и радио, сотрудничал с проектом «Радиоточка» до его закрытия в 2017 году. Возглавлял алматинскую редакцию проекта «Спутник-Казахстан», ведёт колонку медиакритики для проекта NewReporter.org