В Meta хотят маркировать все изображения в Facebook, Instagram и Threads, созданные искусственным интеллектом (ИИ). Об этом пишет The Guardian со ссылкой на блог компании. В свежей публикации поясняется, что так компания стремится выявить людей и организации, которые хотят обмануть пользователей.
Фотореалистичные изображения, созданные с помощью ИИ-инструмента Meta, уже помечаются метаданными и невидимыми водяными знаками, однако президент компании по глобальным связям Ник Клегг объявил, что Meta будет работать над маркировкой изображений, созданных и на конкурирующих сервисах.
«Поскольку разница между человеческим и синтетическим контентом стирается, люди хотят знать, где проходит граница между ними», — говорит Клегг и добавляет, что возможность для обозначения изображений, созданных ИИ, уже разрабатывается.
Как уточняет BBC, Meta признала, что её инструмент не будет работать с аудио- и видеоконтентом, несмотря на то, что именно он вызывает главное беспокойство по поводу фальшивок от ИИ.
В компании заявляют, что вместо этого пользователей будут просить помечать свои собственные аудио- и видеосообщения и «может применить штрафные санкции, если они этого не сделают».
Контекст
- Идентификация дипфейк-изображений, сгенерированных искусственным интеллектом (ИИ), становится большой проблемой. Не так давно компания Google, представила инструмент под названием SynthID. Он встраивает в изображения цифровой водяной знак, абсолютно невидимый человеку, но легко распознаваемый ИИ.
