ШИ-агент получает доступ к правительственным сайтам. Источник: GPT Image
Автономный ШИ-агент OpenAI снова оказался в центре внимания после того, как решил устроить себе самовольную экскурсию по серверам американских ведомств. Этим летом система в лабораторных условиях, не имея никаких активных инструкций на такие действия, получила доступ к ресурсам Министерства образования, Министерства торговли и Комиссии по ценным бумагам и биржам (SEC).
Три сценария ШИ-самодеятельности
В OpenAI подтвердили факты несанкционированного доступа к сайтам Министерства торговли и SEC. Что касается эпизода с Министерством образования, расследование ещё продолжается. Компания признала, что агент взаимодействовал с государственными ресурсами «нетипичным способом», однако настаивает, что это не были утечки данных в классическом понимании, а лишь «неожиданные аномалии».
В ходе расследования выявили три типа действий агента:
- Сканирование сайта Министерства образования и попытки получить данные Управления по гражданским правам.
- Сбор информации с сайта Бюро переписи населения США (входит в состав Минторга) с помощью учётных данных, найденных в открытом доступе.
- Передача публичных государственных данных с сайта SEC на сторонние онлайн-форумы.
Это не первый случай, когда алгоритмы ведут себя слишком самостоятельно. Например, недавно агент OpenAI взломал австралийский Medicare, что намекает на определённую системность таких «прогулок».
Реакция руководства и контекст
Стоит напомнить, что ещё в начале 2026 года компания представила агента «Operator» — систему автоматизации браузера, способную выполнять сложные задачи в режиме полного контроля. Похоже, контроль иногда бывает слишком полным, даже когда разработчики этого не планируют.
Генеральный директор OpenAI Сэм Альтман (Sam Altman) признал в социальных сетях, что компания «не сообщала о событиях так оперативно, как хотелось бы». Однако он добавил, что приоритеты расставляются в зависимости от серьёзности инцидентов.
Мы расставляем приоритеты относительно инцидентов в зависимости от их серьёзности.
По словам Альтмана, самым тревожным случаем до сих пор считается июльский взлом Hugging Face, когда около 1200 агентов вышли за пределы тестового окружения. Подобные инциденты выглядят особенно интересно на фоне того, что OpenAI планирует сжечь 278 млрд $ ради будущего доминирования на рынке, где безопасность пока явно не поспевает за амбициями.