Когда первые программы для создания дипфейков стали общедоступными в 2017 году, они использовались в основном для развлечения — наверняка вы хоть раз пробовали состарить себя с помощью фильтра или проверяли, как бы вы смотрелись в роли героев Гарри Поттера или советских комедий.
Но достаточно быстро стало понятно, что, как и любая другая технология, дипфейки можно задействовать в более деструктивных целях.
Сегодня технологию всё чаще используют не только для создания фейковых новостей, но и в мошеннических схемах. За 2023 год случаи мошенничества с применением дипфейков выросли в 31 раз по всему миру. С помощью дипфейков злоумышленники вымогают деньги у обычных людей и корпораций, создают порнографию, а также используют технологию для политической дискредитации.
В этом материале редакция Factcheck.kz рассказывает о том, как распознать дипфейк-видео и не стать жертвой подлога и дезинформации.
Механизм
Создать нехитрое дипфейк-видео может любой желающий с помощью общедоступных приложений. Все подобные программы строятся на базе самообучающегося ИИ. В общих чертах процесс выглядит так: программа обрабатывает определённое количество фото и видео с конкретным человеком, распознаёт и запоминает характерные черты лица и маркеры мимики, а затем накладывает получившийся макет на изображение говорящего и подгоняет поддельное лицо под настоящее.
При использовании таких популярных приложений изображение бывает не идеальным, но часто это и не требуется. Как и в случае с более традиционным мошенничеством, главным врагом жертв подлога становится их собственная невнимательность.
Для более продвинутых схем мошенники могут использовать специально написанные программы, которые отличаются от общедоступных дипфейк-программ только тем, что алгоритм обучается на одном единственном объекте, благодаря чему итоговая маска получается максимально детальной и правдоподобной.
Чем выше требования к качеству дипфейка, тем больше ресурсов требует процесс его создания. Например, дипфейки, которые создали актёр Джим Мексимен и программист под ником Sham00k выглядят поразительно правдоподобными для 2019 года, но на их создание ушло более 250 часов, было использовано 1200 часов отснятого материала, 300 тысяч изображений и создано около терабайта данных.
Гонка вооружений
Технология дипфейков совершенствуется стремительно и требует всё меньше ресурсов на создание все более качественных подделок. К сожалению, так же быстро устаревают рекомендации по обнаружению дипфейков. Разоблачить видео-подделку можно двумя способами: используя технологии или собственную внимательность. При этом ни один из способов не даст точного результата в 100% случаев.
Но, как показали эксперименты исследователей из Массачусетского технологического института (MIT), человек и алгоритм испытывают трудности в разных аспектах определения дипфейка.
Людям было труднее правильно идентифицировать изображение, когда картинка была тёмной или нечёткой. Программа же легко просчитывает искажённую геометрию лица, наличие артефактов и другие технические «улики» дипфейка, которые ускользают от глаз. Однако человек может сопоставить изображение с общим контекстом и заподозрить подлог. Например, как в этом «видеообращении» Владимира Путина, созданном в марте 2022 года, в котором президент России якобы предлагает заключить мирный договор с Украиной.
По мере развития технологии дипфейков, развиваются и алгоритмы, способные их распознать. По сути это своеобразный вариант гонки вооружений. Поэтому рекомендуя инструменты и стратегии разоблачения дипфейков, мы понимаем, что какие-то из них могут быть актуальны на момент написания статьи, но устареть со временем.
Инструменты и методы
К сожалению, в открытом доступе проще найти программы для создания дипфейков, чем для их определения. Большинство приложений, которые упоминаются в соответствующих подборках в Сети, либо платные, либо доступны только корпорациям. Среди программ с ограниченным доступом отмечают инструмент InVid компании WeVerify. Функция распознавания дипфейков доступна после регистрации для журналистов, исследователей и фактчекеров. Для получения доступа нужно отправить заявку и дождаться её одобрения.
Для широкого круга пользователей доступна программа Deepware. Она достаточно проста в использовании: для анализа видео нужно всего лишь вставить ссылку на источник или загрузить файл с компьютера. После анализа несколькими алгоритмами, результат отображается в процентах вероятности.
Отметим, что программы проверки видео на предмет дипфейка не гарантируют 100% эффективности. Повторимся, что алгоритмы просчитывают вероятность того, использовался ли дипфейк или нет, и не могут дать однозначного ответа «да» или «нет». Поэтому часто приходится подключать и свою внимательность.
Говоря о внимательности, мы собрали для вас небольшую подборку «ручных» методов определения дипфейка, в том числе от специалистов Медиа Лаборатории MIT. Для обнаружения дипфейка следует рассмотреть изображение в максимально возможном качестве, обращая внимание на следующие детали:
- Синхронность движений. Обращайте внимание на движения глаз, частоту морганий и на мимику в целом, в частности, соответствует ли она речи по эмоциональности. Двигаются ли губы и челюсть в соответствии с произносимыми звуками?
- Дыхание. Часто дипфейк можно определить по тому, как двигаются губы, гортань и грудь — соответствуют ли их движения друг другу, дышит ли человек в такт речи. В сгенерированных видео, как в уже упомянутом выше дипфейке с Владимиром Путиным можно заметить, что частота движения грудной клетки не соответствует темпу речи.
- Возраст. Обращайте внимание на кожу на лбу, щеках и вокруг глаз, не слишком ли она гладкая или, наоборот, морщинистая? Соответствуют ли друг другу состояния и возраст кожи и волос?
- Свет и тень. Присмотритесь к тому, как свет падает на лицо, соответствуют ли блики и тени общему световому оформлению, если ли странные затемненные участки?
На реальном изображении блики будут двигаться в зависимости от положения лица или движения источника света. Как на этом видео с Дональдом Трампом: тень и блики солнечного света изменяют свое положение на лице из-за движения листьев на ветру и когда бывший президент США поворачивает голову. - Детали одежды. Если человек на видео в очках, обратите внимание на блики и отражения в стеклах, выглядят ли они естественно и в соответствии с источником света, меняются блики ли от положения головы или остаются как будто нарисованными? Когда человек наклоняет голову, не появляется ли странное наложение границ подбородка и одежды?
- Смотрите человеку в рот. Мы серьёзно. Алгоритмам сложно просчитать все детали и, часто, язык и зубы просто не обрабатываются программой, в результате рисунок зубов может меняться от кадра к кадру, а вместо языка во рту говорящего неестественная чернота.
Дипфейки в прямом эфире
Отдельно стоит упомянуть разновидность дипфейков, которые используются мошенниками в реальном времени во время видеозвонка. Схема, которую применяют злоумышленники следующая: жертва получает звонок или ссылку на видеоконференцию с поддельного или взломанного аккаунта, затем общается с подставным лицом, и, в ходе беседы, выдаёт мошенникам чувствительные или компрометирующие сведения, переводит деньги или проводит сделки.
В конце декабря подобный эпизод произошёл с рядом российских оппозиционно настроенных деятелей культуры. Используя дипфеки, мошенники, под видом президента Украины Владимира Зеленского и главы его офиса Андрея Ермака, поговорили с писателями Борисом Акуниным и Дмитрием Быковым, а также другими публичными российскими фигурами. В разговорах мошенники задавали провокационные вопросы об отношении к Степану Бандере и жертвам военных действий по обе стороны конфликта. После того, как записи разговоров выложили в сеть, российские издательства отказались публиковать Быкова и Акунина, а впоследствии последний был внесён в список террористов и экстремистов Росфинмониторинга.
Для того, чтобы распознать дипфейки в реальном времени, можно использовать те же методы, что мы описали выше, но принимая в расчёт несколько нюансов. Скорость интернет соединения, как и качество картинки во время видео-звонка могут быть посредственными и определить подлог может быть сложнее. Даже в настоящих трансляциях звук может отставать или наоборот опережать картинку, изображение подвисает, делая движения неестественными, а плохое разрешение не позволяет разглядеть детали. Но всё же есть два условия, которые помогут распознать дипфейк.
1. Собеседник должен сидеть лицом к источнику света, чтобы лицо было освещено, и достаточно близко к камере, чтобы мимика была хорошо видна. Тогда вы сможете обнаружить возможные несоответствия картинки, о которых мы писали выше. Мошенники будут прилагать дополнительные усилия, чтобы скрыть огрехи программы и постараются расположиться подальше от камеры в плохо освещённом помещении или так, чтобы лицо было в тени. Например, мошенник, который выдавал себя за президента Украины Владимира Зеленского, сидел спиной к свету.
2. Попросите вашего визави быстро повернуть голову строго на 90 градусов, отпить из чашки, поправить волосы, снять очки или просто провести рукой перед лицом. Когда в портретную зону попадает посторонний объект или положение головы резко меняется, маска дипфейка начинает «сползать» — программа не может или не успевает обсчитать изменившиеся параметры фона и накладывает маску с ошибками и артефактами. Простейший пример этого вы можете видеть на фильтрах в соцсетях или когда используете виртуальный фон в время видео звонка.
Однако самый лучший способ борьбы с дипфейк-мошенничеством — верификация личности. Перед тем, как начинать разговор и тем более предпринимать какие либо действия, попробуйте связаться с собеседником по другим каналам: перезвоните на другой номер телефона или используя другое приложение и уточните действительно ли человек общался с вами или это был мошенник.
Для того что бы оставить комментарий необходимо авторизоваться.