Бесплатный инструмент для распознания фейковых фото представил Google

Компания Jigsaw представила бесплатный инструмент, который способен находить подделанные фотографии, даже если они создавались с помощью искусственного интеллекта. Пригодиться инструмент может журналистам, сообщает The New York Times.

Компания Jigsaw, известная ранее как Google Ideas, ранее уже сообщала, что разрабатывает инструмент под названием Assembler, а работа ведётся совместно с фактчекинговыми и новостными организациями по всему миру, включая Animal Politico в Мексике, Rappler на Филиппинах и Agence France-Presse. 

«Мы наблюдали эволюцию использования дезинформации для манипулирования выборами, ведения войн и разрушения гражданского общества, – написал Джаред Коэн, исполнительный директор Jigsaw в своем блоге о Assembler, — Но по мере развития тактики дезинформации развивались и технологии, используемые для её обнаружения и в конечном итоге победой над дезинформацией».

Инструмент предназначен для проверки подлинности изображений. Assembler имеет семь «детекторов», каждый из которых создан для определения определенного типа техники фотоманипуляции.

Манипуляции с изображением, например, объединение двух изображений или удаление деталей с фона, могут оставлять следы изменений. Assembler может анализировать изображение и выделять области, где он находит такие следы.

Пять детекторов изображений компьютерной программы были разработаны исследовательскими группами в университетах, включая Калифорнийский университет в Беркли, Университет Неаполя Федерико II в Италии и Университет Мэриленда. Детекторы могут обнаруживать такие вещи, как аномалии цветового рисунка, области изображения, которые были скопированы и вставлены несколько раз, и использовалось ли более одной модели фотоаппарата для создания изображения.

«Эти детекторы не могут полностью решить проблему, но они представляют собой важный инструмент для борьбы с дезинформацией», – говорит Луиза Вердолива, профессор Неаполитанского университета и приглашенный ученый в Google AI.

Два других детектора были разработаны Jigsaw. Один из них был разработан для идентификации дипфейков — реалистичных изображений, созданных искусственным интеллектом для введения аудитории в заблуждение. 

Сантьяго Андриго, менеджер по продукции Jigsaw, делится мнением, что Assembler может быть «наиболее полезным в ситуации, когда журналист из крупной новостной организации получает скандальное изображение и испытывает давление из-за необходимости публикации  новости». 

Сергей Ким
Журналист, медиакритик, фотограф. Работал на телевидении и радио, сотрудничал с проектом «Радиоточка» до его закрытия в 2017 году. Возглавлял алматинскую редакцию проекта «Спутник-Казахстан», ведёт колонку медиакритики для проекта NewReporter.org