Приложение Lensa: проблемы с алгоритмом и нарушением авторских прав.

Приложение Lensa набрало колоссальную популярность в начале декабря и стало одним из самых прибыльных приложений в AppStore в Казахстане и самым скачиваемым США и Великобритании. Загрузив в приложение от 10 до 20 селфи и заплатив несколько долларов, пользователь получает пару десятков сгенерированных нейросетью портретов в различной стилистике. Миллионы людей по всему миру, включая многих знаменитостей, делились в соцсетях аватарами. Однако практически сразу приложение подверглось критике со стороны специалистов по компьютерной безопасности и арт-сообщества.

Примеры портретов, созданных Lensa

Персональные данные

Главные риски для тех, кто загружает свои фото в подобные приложения — кража цифровой личности и неавторизованное использование фотографий. Аналитик цифровых угроз Александр Вураско пояснил Lenta.ru, что главным образом это актуально для медийных личностей. «Могут быть использованы технологии дипфейк или создание фейковых дублирующих аккаунтов для того, чтобы от имени какого-то человека, например, друзьям разослать сообщение с просьбой перевести деньги». Журналисты онлайн-издания TechCrunch, в свою очередь, обнаружили, что алгоритм Lensa можно легко обмануть и заставить сгенерировать эротические изображения с фотографиями третьих лиц без их ведома. Разработчики приложения уже заявили, что работают над отладкой фильтров, которые будут цензурировать эротический контент.

По словам Александра Вураско, Lensa — одно из многих приложений, где пользователь «платит» своими данными и риск того, что личная информация может быть использована в преступных целях, существует всегда. Это наша новая реальность. Эксперты рекомендуют с осторожностью использовать любые приложения, которые требуют доступа к личным файлам. Что же касается Lensa, аналитики советуют не паниковать, но взвесить риски — разработчик приложения давно существует на рынке и не вызывает подозрений, однако вероятность утечки данных всегда выше нуля.

Авторские права

Другая проблема, с которой столкнулись разработчики Lensa — обвинение в нарушении авторских прав.

Художники обвиняют нейросеть, и разработчиков приложения в частности, в нарушении авторских прав и плагиате.

Дело в том, что приложение работает на базе ИИ Stable Diffusion, который обучался на огромном массиве изображений, в том числе из таких источников как Pinterest, Shutterstock, Getty Images, Deviantart и Flickr. Многие работы на этих и других ресурсах защищены авторским правом и/или водяными знаками. Stable Diffusion — некоммерческий проект с открытым кодом, и любой желающий может с его помощью создать картинку совершенно бесплатно. Именно некоммерческое использование изображений позволяет избегать претензий правообладателей. Однако Lensa применяет доработанную версию Stable Diffusion для получения прибыли, только за ноябрь доход компании составил как минимум $2 млн. При этом портреты, которые создает ИИ на основе других изображений, часто сохраняют характерный авторский стиль, и несколько художников уже заявили, что узнали свои работы на чужих аватарах из Lensa. Пользователи соцсетей также сообщают, что в некоторых случаях на сгенерированных портретах сохранились остатки авторских подписей и водяные знаки. 

В связи с этим многие художники заявили, что разработчики Lensa грубо нарушили авторские права, используя работы без согласия создателей, а также без компенсации и упоминания авторства. 

Некоторые представители художественного сообщества, однако, считают, что, если авторы не хотят, чтобы их работы использовали как референс, не следует выставлять их в публичное пространство. «Это правда, что работы разных людей используются и адаптируются. Но художники веками крали друг у друга идеи. Даже сейчас сложно сказать, насколько надо изменить изображение, чтобы не получить обвинение в плагиате. Нам предстоит самим провести эту черту», — говорит Алекс Хэнди, основатель Музея искусств и цифровых развлечений в Калифорнии. 

Многие комментаторы сходятся на том, что технологии развиваются гораздо быстрее, чем законодательство о защите данных, а значит деятельность нейросетей и программ на их основе попадает в огромную этическую и юридическую серую зону. И в ближайшее время мировому сообществу предстоит решить ещё немало конфликтных ситуаций, связанных с использованием искусственного интеллекта. 

Редакция
Фактчек в Казахстане и Центральной Азии. Первый центральноазиатский фактчекинговый ресурс. Открыт в мае 2016 года. Член международной сети фактчекинговых организаций (IFCN)