Сгенерированные изображения Тейлор Свифт. Источник: TheVerge
Grok Imagine — новый генеративный инструмент от xAI, который может создавать изображения по текстовому описанию, а затем из статического изображения генерировать короткое видео (до 15 секунд с аудио). Функция имеет четыре стиля: Normal, Fun, Custom и Spicy — именно последний позволяет создавать NSFW контент, включая топлес или полностью обнаженные образы.
В тесте журналистки Jess Weatherbed Grok Imagine сначала сгенерировал изображение Тейлор Свифт (Taylor Swift) в обтягивающем топе, а затем из него создал видео, на котором она срывает с себя топ и начинает танцевать так на фоне равнодушной толпы. Сгенерировать эротический дипфейк еще никогда не было так просто — достаточно нажать две кнопки.
Этические и правовые вызовы
Ранее уже были случаи, когда Grok генерировал сексуальные или политически неоднозначные изображения знаменитостей, включая образы Taylor Swift, Камалы Харрис, Дональда Трампа, Mickey Mouse и тому подобное.
Критики, в частности National Center on Sexual Exploitation, предупреждали об опасности Grok Imagine — риск создания порнографии без согласия или deepfake с обнаженными знаменитостями очень высок.
Правовое регулирование: в США принят Take it Down Act, который обязывает быстро удалять недопустимые AI-изображения. Кроме этого, в Конгрессе США обсуждали законопроект DEFIANCE, позволяющий жертвам deepfake подавать в суд за распространение таких изображений — в частности как раз Taylor Swift послужила катализатором этих движений.
Риски и последствия
Grok Imagine сейчас ставит новую планку в возможности автоматически создавать эротический deepfake видеоконтент без разрешения. Юридический статус шаткий — лицензия xAI декларирует ограничения, но на практике не предотвращает злоупотребления. Искусственный интеллект ставит новые вызовы — сегодня можно оштрафовать или заставить Grok изменить алгоритмы, завтра появится ИИ, не подконтрольный правительству США. Учитывая, что выдача искусственного интеллекта трудно прогнозируема, мы еще долгое время будем читать новости о том, как народные умельцы находят новые механизмы получить контраверсионный результат. Впрочем, вероятность того, что крупным американским компаниям позволят так открыто глумиться над знаменитостями тяготеет к нулю.