Корпорация Microsoft объявила о партнерстве с организацией StopNCII для борьбы с дипфейк-порно в поисковой системе Bing.
Инструменты StopNCII позволяют жертвам дипфейков создавать цифровой отпечаток откровенных изображений на своих устройствах. Затем партнеры организации используют этот хэш для удаления контента со своих платформ.
С StopNCII уже сотрудничают Facebook, Instagram, Threads, TikTok, Snapchat, Reddit, Pornhub и OnlyFans.
Microsoft сообщила о принятых мерах в отношении 268 899 откровенных изображений в рамках пилотного сотрудничества с базой данных организации. Ранее корпорация применяла инструмент прямой отчетности, но этих усилий оказалось недостаточно.
«Мы слышали опасения жертв, экспертов и других заинтересованных сторон о том, что одних лишь сообщений недостаточно с точки зрения воздействия и адекватного решения проблемы, связанной с доступностью изображения в поиске», — говорится в блоге Microsoft.
В июле Google активизировал борьбу с дипфейк-порно. Поисковик будет исключать из результатов такой контент и понижать рейтинг сайтов, которые получают много жалоб. Если кто-то удалит изображение из поиска, системы Google автоматически просканируют и уберут дубликаты.
Ранее поисковый гигант столкнулся с критикой от бывших работников и жертв из-за того, что не сотрудничал с StopNCII, пишет Wired. По информации СМИ, с 2020 года пользователи Google в Южной Корее сообщили о наличии 170 000 ссылок на нежелательный сексуальный контент в поисковых запросах и на YouTube.
Проблема распространения дипфейк-порно обострилась из-за развития искусственного интеллекта, который позволяет генерировать подобного рода контент. Инструменты StopNCII работают только для лиц старше 18 лет, в то время как технология применяется и среди несовершеннолетних.
В сентябре СМИ сообщили о способах использования кастомных версий ChatGPT для создания порнографического контента.
В феврале Виталик Бутерин составил инструкцию по выявлению дипфейков.
Напомним, в августе офис городского прокурора Сан-Франциско Дэвида Чиу подал иск против владельцев 16 крупнейших в мире веб-сайтов, позволяющих «раздевать» женщин и девочек на фотографиях с помощью ИИ без их согласия.
Как бороться с дипфейком и шантажом, читайте на ForkLog в формате News+: