Новый инструмент TextStyleBrush от компании Facebook является первой в мире самоуправляемой моделью искусственного интеллекта, способной подделывать тексты с учётом шрифтов и почерков. О впечатляющих возможностях системы сообщает SecurityLab.
Как поясняют в Facebook, в отличие от большинства ИИ-систем самоуправляемая TextStyleBrush способна заменять как слова в рукописных текстах, так и подделывать тексты целиком с использованием одного примера слова.
Инструмент не только в точности воспроизводит почерк, либо типографический стиль оригинала, но также легко помещает его на исходный фон.
Facebook утверждает, что новая система создана во благо, а TextStyleBrush это «всего лишь исследовательский проект».
«Публикуя возможности, методы и результаты этого исследования, мы надеемся стимулировать диалог и исследования по выявлению потенциальных злоупотреблений этим типом технологий, таких как атаки с дипфейк-текстом — критическая возникающая проблема в области искусственного интеллекта», — говорится в сообщении Facebook.
Контекст
- В начале июня 2021 года Исследователи из Пекинской академии искусственного интеллекта объявили во вторник о выпуске собственной нейросети глубокого обучения Wu Dao. Заявленные характеристики превышают показатели нашумевшего GPT-3.
- В 2020 году редакция The Guardian дала GPT-3 задание написать колонку примерно на 500 слов ясным и лаконичным языком. Была заявлена тема — почему люди могут не бояться искусственного интеллекта. GPT-3 объяснил, что не собирается убивать человечество, а люди должны больше доверять роботам.