22 марта на сайте некоммерческой организации Future of Life Institute было опубликовано письмо, в котором основатели Института, а также группа экспертов, учёных и предпринимателей, включая бизнесмена Илона Маска, сооснователя Apple Стива Возняка и историка Юваль Ной Харари, призвали все лаборатории искусственного интеллекта (ИИ) немедленно приостановить как минимум на шесть месяцев обучение систем ИИ более мощных, чем GPT-4, из-за возможной угрозы обществу. Причём, подписанты считают, что правительства могут ускорить процесс путём введения моратория.
В письме описываются потенциальные риски для человеческой цивилизации со стороны конкурентоспособных систем искусственного интеллекта в виде экономических и политических потрясений. Авторы письма предлагают лабораториям искусственного интеллекта и независимым экспертам использовать паузу для совместной разработки и внедрения набора общих протоколов безопасности для усовершенствованного проектирования и разработки искусственного интеллекта, которые тщательно проверяются и контролируются независимыми внешними экспертами. Эти протоколы должны гарантировать, что системы, придерживающиеся их, вне всяких разумных сомнений безопасны.
«Это не означает паузу в развитии ИИ в целом, а просто шаг назад от опасной гонки к все более крупным непредсказуемым моделям черного ящика с появляющимися возможностями», — отмечается в письме.
Параллельно разработчики ИИ должны работать с политиками, чтобы значительно ускорить разработку надежных систем управления ИИ. Они должны как минимум включать: новые и дееспособные регулирующие органы, занимающиеся вопросами ИИ; надзор и отслеживание высокопроизводительных систем искусственного интеллекта и больших пулов вычислительных мощностей; системы происхождения и водяных знаков, помогающие отличить настоящие от синтетических и отслеживать утечки моделей; надежная экосистема аудита и сертификации; ответственность за вред, причиненный ИИ; надежное государственное финансирование технических исследований безопасности ИИ; и хорошо обеспеченные ресурсами институты для преодоления серьезных экономических и политических потрясений (особенно демократии), которые вызовет ИИ.
Отрывок из письма
Контекст
В настоящее время существует несколько компаний, которые являются лидерами в разработке искусственного интеллекта, включая Google, Microsoft, IBM, Amazon и OpenAI. Financial Times со ссылкой на исследование аналитиков американского банка Goldman Sachs сообщили, что последние достижения в области искусственного интеллекта (ИИ) могут заменить 300 млн или две трети рабочих мест в США и Европейском Союзе. В исследовании отмечается, что достижения в области искусственного интеллекта (ИИ), в частности ChatGPT могут увеличить годовой мировой ВВП на 7%, тем самым заменяя человеческий труд.
