Исследователи из Пекинской академии искусственного интеллекта объявили во вторник о выпуске собственной нейросети глубокого обучения Wu Dao. Заявленные характеристики превышают показатели нашумевшего GPT-3. Об этом сообщает Engadget.
Wu Dao обучали на 1,75 трлн. параметров, что в десять раз больше 175 млрд. параметров GPT-3, и на 150 млрд. параметров больше, чем у Google Switch Transformers. Речь идёт о версии Wu Dao 2.0, которая появилась всего через три месяца после выпуска версии 1.0 в марте.
Вычислительная мощность открывает новые возможности. Как пишет издание, в отличие от большинства нейросетей глубокого обучения, которые выполняют узкие задачи вроде написания текста, создания дипфейков, занимаются распознаванием лиц, играют в го, Wu Dao является мультимодальной нейросетью. Исследователи продемонстрировали способности Wu Dao выполнять задачи по обработке речи, генерации текста, распознаванию и созданию изображений. Нейросеть может не только писать эссе, стихи и двустишия на традиционном китайском языке, но также способна создавать текст на основе статического изображения и генерировать почти фотореалистичные изображения на основе словесных описаний. Wu Dao также продемонстрировала способности управлять виртуальными идолами и предсказывать трёхмерные структуры белков.
Контекст
- Нейросеть GPT-2, которая способна создавать реалистичные истории, стихи и статьи, была обновлена в 2019 году, когда появилась GPT-3 — модернизация сопровождалась заявлениями, что система теперь почти так же хороша, как писатель-человек. Генератор текста, созданный исследовательской фирмой OpenAI, с самого начала считался «слишком опасным», чтобы обнародовать его из-за возможного злоупотребления. Выход более мощной версии, которая может использоваться для создания поддельных новостей или оскорбительного спама в социальных сетях многие восприняли с опаской.
- В 2020 году редакция The Guardian дала GPT-3 задание написать колонку примерно на 500 слов ясным и лаконичным языком. Была заявлена тема — почему люди могут не бояться искусственного интеллекта. GPT-3 объяснил, что не собирается убивать человечество, а люди должны больше доверять роботам.
