Компания Google анонсировала добавление цифровых «водяных знаков» SynthID к фотографиям, которые были отредактированы с помощью функции ИИ в сервисе Magic Editor. Новая возможность нужна для того, чтобы людям было проще быстро идентифицировать изображения, с которыми поработали инструментом редактора под названием Reimagine (работает в смартфонах Pixel 9 и позволяет изменять фото с помощью текстовых запросов). Об этом пишет The Verge.
SynthID – это система «водяных знаков», которая встраивает цифровые метаданные непосредственно в изображения, видео, аудио и текст. Что позволяет понять, были ли они созданы или изменены с помощью инструментов искусственного интеллекта. «Водяной знак» уже применяется к изображениям, которые полностью созданы с помощью ИИ-модели преобразования текста в изображение Google Imagen.
Аналогичные системы «водяных знаков» также были разработаны другими компаниями. Например, Adobe применяет их к работам, созданным или отредактированным с помощью пакета приложений Creative Cloud.
Хотя технология «водяных знаков» помогает выявлять фейки, некоторые эксперты сходятся во мнении, что сама по себе эта система недостаточно эффективна для надежной проверки подлинности контента, созданного ИИ. Надёжный анализ требует применения целого ряда различных методов, работающих параллельно.
Контекст
- Идентификация дипфейк-изображений, сгенерированных ИИ, уже давно стала большой проблемой. Компания Google, представила инструмент под названием SynthID в 2023 году. И два года назад в компании считали, что это ключевой шаг к установлению контроля над визуальными фейками и дезинформацией.
