Искусственный интеллект создал фишинговые письма лучше человека — исследователи

Искусственный интеллект написал более эффективные фишинговые письма, чем человек. Как сообщает Wired, на конференциях по безопасности Black Hat и Defcon в Лас-Вегасе на минувшей неделе представители Государственного технологического агентства Сингапура презентовала итоги эксперимента. Исследователи разослали двум сотням своих коллег фишинговые электронные письма, как созданные собственноручно, так и сгенерированные платформой AI-as-a-service.  

Оба типа писем содержали ссылки, которые, конечно же, не были вредоносными, однако содержали счётчик кликов. Учёные были удивлены, обнаружив, что больше людей переходило по ссылкам в сообщениях, созданных искусственным интеллектом — и со значительным отрывом.

При создании писем искусственный интеллект, ориентировался на анализ личностей, а также адаптировал результат к опыту и особенностям получателей. По словам учёных, письма оказались «удивительно человечными».

Контекст 

  • Нейросеть GPT-2, которая способна создавать реалистичные истории, стихи и статьи, была обновлена в 2019 году, когда появилась GPT-3 — модернизация сопровождалась заявлениями, что система теперь почти так же хороша, как писатель-человек. Генератор текста, созданный исследовательской фирмой OpenAI, с самого начала считался «слишком опасным», чтобы обнародовать его из-за возможного злоупотребления. Выход более мощной версии, которая может использоваться для создания поддельных новостей или оскорбительного спама в социальных сетях многие восприняли с опаской.  
  • В 2020 году редакция The Guardian дала GPT-3 задание написать колонку примерно на 500 слов ясным и лаконичным языком. Была заявлена тема — почему люди могут не бояться искусственного интеллекта. GPT-3 объяснил, что не собирается убивать человечество, а люди должны больше доверять роботам.
  • Недавно исследователи из Пекинской академии искусственного интеллекта объявили о выпуске собственной нейросети глубокого обучения Wu Dao. Заявленные характеристики превышают показатели нашумевшего GPT-3.

Журналист, медиакритик, фотограф. Работал на ТВ (телеканалы «Алматы», Astana, КТК, 7 канал), в печатных и мультимедийных интернет-изданиях, сотрудничал с проектом «Радиоточка» до его закрытия в 2017 году, занимался медиакритикой в издании «Новый репортёр».

Factcheck.kz