Новая версия ChatGPT с моделью 4o обзавелась улучшенным генератором изображений, способным создавать текст, который выглядит всё более правдоподобно. Пользователи уже активно тестируют возможности – и результаты вызывают тревогу: генератор научился подделывать кассовые чеки настолько реалистично, что они могут заинтересовать мошенников. Об этом пишет SecurityLab.
Первым на это обратил внимание один из пользователей соцсети X, выложив фотографию чека из стейкхауса в Сан-Франциско. На деле изображение оказалось генерацией ChatGPT. Другие пользователи без труда повторили результат, некоторые даже добавили на «бумагу» пятна от еды и напитков, усиливая иллюзию реальности. А самым убедительным образцом стало изображение скомканного чека французского ресторана.
Проблема заключается в том, насколько просто теперь стало создавать подделки, которые потенциально могут быть использованы для финансового мошенничества.
OpenAI утверждает , что все изображения, созданные в ChatGPT, сопровождаются специальными метаданными, указывающими на их искусственное происхождение. Тем не менее, остаётся открытым вопрос – почему система вообще позволяет генерировать изображения, явно предназначенные для подделки финансовых документов?
Ответ представителя компании – целью OpenAI остаётся предоставление максимальной творческой свободы пользователям. По словам сотрудника, поддельные чеки могут применяться в образовательных целях, а также при создании рекламы или художественных проектов. Однако очевидно, что грань между креативным применением и мошенничеством становится всё тоньше.
Контекст
- Недавно правительство Испании одобрило законопроект, налагающий огромные штрафы на компании, которые без соответствующей маркировки используют контент, созданный искусственным интеллектом (ИИ). В некоторых случаях речь может идти о десятках миллионов евро. Законопроект является попыткой ограничить использование дипфейков.
Для того что бы оставить комментарий необходимо авторизоваться.