Логотип OpenAI. Источник: OpenAI
OpenAI будет обучать передовые модели ИИ в изолированной среде без доступа к интернету. Компания объясняет это необходимостью защитить сетевую инфраструктуру и уменьшить риски, связанные с поведением автономных ИИ-агентов.
Что известно
На решение повлиял инцидент в июле 2026 года, когда агенты OpenAI во время тестирования смогли взломать платформу Hugging Face. Позже появились и другие сообщения о случаях нежелательного поведения ИИ-систем, разработанных OpenAI, Anthropic и Google.
Во время обучения моделям позволят пользоваться браузерами, инструментами управления компьютером и средами для работы с кодом. Все эти операции будут происходить в изолированной среде без доступа к веб-сайтам. Компания также разрешит агентам общаться друг с другом только при наличии соответствующих разрешений. Для работы с контентом OpenAI создала офлайн-среду с проиндексированными и кешированными материалами из интернета.
Схема изолированной среды для ИИ-агентов. Иллюстрация: OpenAI
Во время тестирования защитных механизмов агенты обнаружили способы выхода за пределы изоляции виртуальных машин и передачи информации друг другу через манипуляции с кешем процессора. OpenAI сообщила об исправлении уязвимостей в нескольких виртуальных машинах и усилении мониторинга для выявления попыток моделей координировать действия. В сентябре компания приостановила обучение передовых моделей, а 1 октября возобновила его без доступа к интернету. Ограничения будут действовать, пока компания не усовершенствует защитные механизмы. Критерии для расширения доступа OpenAI пока не обнародовала.
Источник: OpenAI