На днях в Twitter распространилась поддельная фотография со взрывом в Пентагоне, сгенерированная искусственным интеллектом (ИИ). Появление фейка, который какое-то время не был опровергнут официально, вызвало падение на Нью-Йоркской фондовой бирже. О кратковременной панике на рынке ценных бумаг написали Bloomberg и The New York Times.
Как в обзорном материале сообщает SecurityLab, поддельное фото было опубликовано 22 мая и начало распространяться так быстро, что правительство США вскоре было вынуждено опровергнуть изображение как дезинформацию. Среди «проверенных» аккаунтов Twitter, которые обвиняются в распространении ложной информации, был и поддельный аккаунт Bloomberg News, помеченный синей галочкой верификации, увеличивающей доверие пользователей.
Позже исследователь Bellingcat Ник Уотерс сказал , что «очень сложно и даже практически невозможно создать правдоподобную подделку такого события». По его словам, заметные признаки фейка включали «фасад здания и то, как забор сливается с барьерами для толпы».
Также вызывало подозрения то, что в интернете не было других фото- или видеосвидетельств от очевидцев (крупные события в большинстве случаев оставляют заметный «цифровой след»).
Ситуация обострила проблему с программой Twitter Blue, которая позволяет получать голубую галочку верификации за деньги. Платформа заблокировала аккаунт с поддельной новостью Bloomberg, но пока неизвестно, откуда взялось это сгенерированное изображение.
Как сообщает The New York Times, после того как эксперты подтвердили, что изображение является фейком, рынки быстро восстановились. Но, как пишет автор публикации, ситуация проиллюстрировала один из самых больших страхов, стоящих за рвением правительства подчинить ИИ государственному регулированию: технология может быть использована для разжигания паники и распространения дезинформации с потенциально катастрофическими последствиями.
Контекст
- Недавно генеральный директор Google Сундар Пичаи высказал мнение, что системы искусственного интеллекта (ИИ) должны быть «приведены в соответствие с человеческими ценностями, включая мораль».
