В 2019 году исследователь искусственного интеллекта Орен Эциони, профессор Вашингтонского университета и исполнительный директор Института Аллена, стал одним из первых учёных, предупредивших, что новое поколение ИИ ускорит распространение дезинформации в интернете. В середине прошлого года он с огорчением осознал, что созданные ИИ дипфейки могут повлиять на президентские выборы в США. В январе этого года он основал некоммерческую организацию TrueMedia.org для борьбы с этой угрозой. А недавно организация выпустила бесплатные инструменты для выявления цифровой дезинформации с намерением передать их в руки журналистам-фактчекерам и всем интересующимся происходящим в Сети. Об этом пишет The New York Times.
Инструменты, доступные на сайте TrueMedia.org предназначены для обнаружения фейковых картинок, аудио и видео. Они переходят на ссылки с медиафайлами и быстро определяют, стоит ли им доверять.
Доктор Эциони рассматривает эти инструменты как шаг вперёд по сравнению с существующей защитой от цифровых фейков. При этом в год, когда миллиарды людей во всем мире будут голосовать на выборах, он продолжает рисовать мрачную картину.
«Я в ужасе. Есть очень большая вероятность, что мы увидим цунами дезинформации», — приводит его слова издание.
Всего за первые несколько месяцев года ИИ-технологии помогли создать фальшивые голосовые звонки от президента Байдена, фейковые изображения певицы Тейлор Свифт, а также целое фейковое интервью, из которого можно понять, что украинский чиновник берет на себя ответственность за террористический акт в Москве. Обнаружить такую дезинформацию сложно уже сейчас, а индустрия продолжает выпускать все более мощные системы с применением ИИ, которые будут генерировать все более убедительные дипфейки и ещё больше усложнят их обнаружение.
В прошлом месяце более тысячи человек, включая доктора Эциони и нескольких других выдающихся исследователей, подписали открытое письмо с призывом принять законы, которые установили бы ответственность разработчиков и распространителей технологий искусственного интеллекта, если те использовались для создания вредоносных дипфейков.
На прошлой неделе во время интервью NYT доктор Эциони в демонстрационных целях показал, насколько легко создать дипфейк. C помощью доступных в Сети инструментов он мгновенно сгенерировал фотографии себя в тюрьме — но он там никогда не был.
Также он создал дипфейк самого себя на больничной койке — такой образ, по его мнению, может повлиять на исход выборов, если его применить к Байдену или Трампу непосредственно перед голосованием.
В конечном итоге, по словам Эциони, борьба с проблемой потребует широкого сотрудничества между государственными регулирующими органами, технологическими компаниями, а также техногигантами, контролирующими браузеры и социальные сети. Однако вероятность установления такого взаимодействия до осенних выборов в США невелика.
Контекст
- Cisco и группа из восьми ведущих компаний, включая Accenture, Eightfold, Google, IBM, Indeed, Intel, Microsoft и SAP объявили о создании консорциума. Его целью заявляется повышение квалификации и переквалификация сотрудников, работу которых, скорее всего, затронут технологии искусственного интеллекта (ИИ).
