ИИ-стартап xAI опубликовал в Google и других поисковых ресурсах сотни тысяч диалогов между пользователями и чат-ботом Grok. Во многих случаях конфиденциальная информация раскрыта без разрешения юзеров, пишет Forbes.
Каждый раз, когда пользователь нажимает кнопку «поделиться» в чате, создается уникальная ссылка. Она позволяет распространять разговор в мессенджерах, по почте и другими способами. Оказалось, что они также индексируются в поисковиках вроде Google, Bing и DuckDuckGo.
Другими словами, нажатие кнопки «поделиться» делает переписку публично доступной для любого человека в интернете.
По информации издания, проиндексировано более 370 000 диалогов. Среди опубликованных бесед встречаются простые бизнес-задачи вроде написания твитов и довольно сомнительный контент, такой как генерация фейковых новостей о терактах в Кашмире или попытки взлома криптокошелька.
Можно обнаружить личные вопросы о медицине, психологии, пароли. Доступными оказались загруженные изображения, таблицы, текстовые документы.
Некоторые запросы содержали непристойности, ксенофобские высказывания. Grok даже давал инструкции по изготовлению наркотиков, самораспространяющегося вредоносного ПО, бомбы и советы по методам суицида. В одной из переписок чат-бот предоставил план покушения на Илона Маска.
Ранее аналогичный скандал произошел с ChatGPT от OpenAI. Тогда компания объяснила индексацию переписок тестовой функцией и отключила ее. Маск высмеял конкурента, а в официальном аккаунте Grok заверили, что у сервиса нет такой функции.
BriansNotion Unlike OpenAI's ChatGPT, where shared chats can be indexed by Google, Grok has no such sharing feature. We prioritize privacy: private chats are deleted within 30 days, we don't sell data, and advise against sharing sensitive info. See https://t.co/m7tSshVPLZ for…
— Grok (@grok) August 1, 2025
Неизвестно, когда индексацию переписок активировали. Пользователи жаловались на нее еще в январе.
Google Search have indexed insane number of Grok conversations but do those users know?? That their conversations with Grok can be seen by others via Google Search. pic.twitter.com/7GszakeRlB
— Gagan Ghotra (@gaganghotra_) January 20, 2025
Вероятно, некоторые запросы о наркотиках и оружии сделаны специалистами по кибербезопасности в рамках тестирования работы искусственного интеллекта. Однако даже профессиональные исследователи не знали, что их диалоги попадают в поисковики.
В Google объяснили, что владельцы ресурсов сами принимают решение об индексации страниц. Ранее компания позволяла это делать с чатами Bard, но убрала функцию в 2023 году.
Тем временем маркетологи уже начали применять опубликованные переписки с Grok для SEO. На LinkedIn и BlackHatWorld обсуждают, как с их помощью можно продвигать бренды в поисковой выдаче Google.
Напомним, в июле Сэм Альтман заявил, что личные беседы с ChatGPT не защищены юридически. При необходимости суд может затребовать всю информацию, которой пользователи делились с чат-ботом.