Четыре крупные компании-игрока в области искусственного интеллекта (ИИ) собираются создать новую отраслевую организацию, призванную обеспечить «безопасную и ответственную разработку» так называемых «пограничных моделей ИИ». Об этом сообщает TechCrunch.
«Пограничным ИИ» назвали в компании OpenAI передовые модели ИИ и машинного обучения, которые считаются потенциально угрожающими обществу. OpenAI, Microsoft, Google и Anthropic объявили о создании Frontier Model Forum — коалиции, которая использует общий опыт для разработки оценок и контрольных показателей, а также для продвижения передовых стандартов.
Одной из целей, которые будет преследовать коалиция, называется исследования безопасности ИИ для содействия ответственной разработке передовых моделей, минимизации рисков и создания независимой оценки безопасности. Также члены организации заявляют в числе целей сотрудничество с политиками, учеными, гражданским обществом и компаниями для обмена знаниями о рисках.
Хотя в настоящее время Frontier Model Forum насчитывает всего четыре компании, его представители заявляют, что коалиция открыта для новых участников.
Контекст
- Несколько месяцев назад один из руководителей Google предупредил о «галлюцинациях» искусственного интеллекта, с которыми можно столкнуться при использовании набирающих популярность чат-ботов.
- А недавно американская комедийная актриса и писатель Сара Сильверман вместе с писателями Кристофером Голденом и Ричардом Кадреем обратились в американский окружной суд с обвинениями в нарушении авторских прав, направив иск против компаний OpenAI и Meta.
