Jonathan Kemper/Unsplash
Компания Midjourney, разработчик популярного генератора изображений на основе искусственного интеллекта, рассматривает возможность полного запрета на создание политических картинок, чтобы пресечь распространение фейков в преддверии президентских выборов в США.
Что известно
По словам гендиректора Midjourney Дэвида Хольца (David Holz), речь идет о блокировке изображений таких политиков, как Джо Байден (Joe Biden) и Дональд Трамп (Donald Trump), на ближайшие 12 месяцев. Ранее пользователи уже создавали при помощи ИИ компрометирующие картинки и мемы с участием этих и других высокопоставленных персон.
"Я знаю, что делать картинки с Трампом весело — я делаю картинки с Трампом […]. Однако, возможно, лучше просто не делать этого — лучше немного отстраниться во время выборов", — сказал Хольц.
В Midjourney уже действуют правила, запрещающие генерацию "вводящих в заблуждение публичных фигур" и "событий". Однако политические фейки до сих пор просачиваются сквозь защиту модераторов. При этом запрет на конкретных персон не решит проблему использования ИИ для дезинформации в целом.
Другие IT-компании также предпринимают меры для борьбы с поддельным политическим контентом. В частности, ChatGPT скоро начнет маркировать изображения, сгенерированные при помощи ИИ.
Источник: Bloomberg