Эксперты бьют тревогу: искусственный интеллект превратил мошенничество с личными данными в настоящую индустрию. Как пишет SecurityLab, согласно последнему отчёту израильской компании AU10TIX (занимается вопросами идентификации личностей и управлением рисками) за третий квартал 2024 года, цифровые платформы в последнее время сталкиваются с беспрецедентным ростом изощренных атак, особенно в сфере социальных сетей, платежных систем и криптовалют. По оценкам аналитиков, ежемесячный ущерб от таких инцидентов достигает 2,8 миллиарда долларов, что на 340% больше показателей прошлого года.
Преступники сильно усовершенствовали свои методы: на смену простым подделкам документов пришли синтетические личности, дипфейки и автоматизированные боты, способные обходить традиционные системы верификации. Генеративный ИИ помогает настраивать поддельные аккаунты и распространять дезинформацию. Исследователи выявили более 50 специализированных площадок в даркнете, где идет обмен инструментами, помогающими создавать синтетические личности.
Резкий всплеск активности ботов был зафиксирован в социальных сетях накануне президентских выборов в США. Начавшаяся в марте 2024 года волна атак с использованием генеративного ИИ достигла пика в сентябре. Злоумышленники научились создавать убедительные фальшивые нарративы и провокационный контент, стремясь повлиять на общественное мнение. Согласно анализу, ложные данные распространяются через сложные сети компьютеров, разбросанные по всему миру. Таким образом преступники скрывают свои следы – в 70% случаев источник атаки так и не удается обнаружить.
Новый тренд — «многослойные» синтетические личности с согласованной онлайн-историей сразу на нескольких платформах. Для убедительности дезинформаторы заводят поддельные аккаунты в LinkedIn, Instagram* и других соцсетях, а затем месяцами наполняют их активностью, прежде чем задействовать их в пропаганде.
Еще одна принципиально новая уловка – синтетические селфи. Гиперреалистичные изображения настолько точно имитируют настоящие лица, что способны обмануть биометрические системы безопасности.
Контекст
- Недавно стало известно, что Meta тестирует систему распознавания лиц для борьбы с мошенниками, а также для упрощения восстановления учетных записей. Речь идет об автоматическом сканировании лиц в рекламных роликах, распространяемых в Facebook и Instagram: мошенники часто используют дипфейковые изображения знаменитостей для заманивания пользователей на сомнительные сайты.
