Евросоюз официально ввел в действие первый в мире «Закон об ИИ» (AI Act), который призван обеспечить защиту «фундаментальных прав» граждан 27 стран блока, одновременно поощряя инвестиции и инновации в стремительно развивающейся отрасли ИИ. Об этом пишет SecurityLab.
AI Act разрабатывался в течение нескольких лет и представляет собой всеобъемлющее руководство по управлению ИИ в Европе. Закон затронет в первую очередь крупные американские IT-компании, но под его действие попадут и многие организации, даже не относящиеся к технологической сфере. Например, компании, использующие ИИ в своих операциях, тоже будут подчиняться новым правилам.
Ограничения основаны на четырех уровнях риска. Приложения неприемлемого риска полностью запрещены — это могут быть, например, системы социального рейтинга граждан, технологии распознавания эмоций граждан.
К системам высокого риска могут относиться автономные транспортные средства, медицинские устройства, системы принятия решений по кредитам, образовательные системы оценки и системы удаленной биометрической идентификации. Предъявляемые к разработчикам требования: адекватная оценка и минимизация рисков; использование высококачественных обучающих данных для минимизации предвзятости; рутинное ведение логов активности; обязательное предоставление подробной документации о моделях властям для оценки их соответствия требованиям.
К системам ограниченного риска могут относиться чат-боты и системы, использующие ИИ для оценки сотрудников при найме. В числе законодательных требований прозрачность использования ИИ. Например, чат-боты должны уведомлять пользователей о том, что они взаимодействуют с ИИ.
Большинство ИИ-систем попадает в категорию минимального риска, речь идёт, к примеру, о системах рекомендаций контента или фильтрах спама. В специальных мерах безопасности авторы закона не видят необходимости.
Соблюдение всех правил будет контролироваться Офисом ИИ, который будет базироваться в Брюсселе. Закону об ИИ ещё предстоит пройти долгий путь, прежде чем большинство положений вступят в силу — это произойдет не ранее 2026 года. Ограничения для генеративных систем ИИ начнут действовать через 12 месяцев после вступления закона в силу, а системы, уже доступные на рынке, получат переходный период в 36 месяцев для приведения своих систем в соответствие.
Компании, нарушившие закон об ИИ ЕС, могут быть оштрафованы на сумму до 35 миллионов евро или 7% от их мирового годового дохода, в зависимости от того, какая сумма будет больше.
Контекст
- 15 декабря 2022 года в ЕС приняли декларацию, подтверждающую приверженность к устойчивому и безопасному цифровому будущему. Документ был подписан председательницей Европейской комиссии Урсулой фон дер Ляйен, президентом Европейского парламента Робертой Метсолой и премьер-министром Чехии Петром Фиалой.
