Microsoft Research Asia анонсировала выпуск нового экспериментального инструмента искусственного интеллекта VASA-1, который может создавать правдоподобные дипфейки, используя только фотографию.
Что известно
Этот инструмент может имитировать мимику, движения головы и движения губ, создавая впечатление, что лицо на фотографии действительно говорит или поет. Хотя движения головы могут выглядеть несколько роботизировано, уровень правдоподобия удивляет. Однако разработчики пока воздерживаются от публичного выпуска инструмента или API, пока не будет обеспечена ответственность за его использование.
Группа исследователей подчеркнула свое противостояние любой деятельности, направленной на создание обманчивого или вредоносного контента о реальных лицах. Вместо этого они видят потенциальное использование инструмента для общения и терапевтической поддержки или в качестве ботов компании.
Это объявление приходит после того, как Microsoft вынуждена была вывести свою модель искусственного интеллекта WizardLM-2 в автономный режим из-за неудачного теста на токсичность. Этот инцидент свидетельствует о важности тщательного тестирования и контроля за новыми технологиями перед их широким выпуском на рынок.
Источник: Microsoft