Комната управления с красной кнопкой. Источник: GPT Image
Пока мы с вами генерируем картинки с котами, руководители OpenAI и Anthropic Сэм Альтман (Sam Altman) и Дарио Амодеи (Dario Amodei) проводят не слишком веселые закрытые встречи. Как сообщает Axios, главные игроки рынка ИИ серьезно обеспокоены возможностью масштабной кибератаки на критическую инфраструктуру. План действий на случай хаоса уже разрабатывается, ведь никто не хочет быть крайним, когда в стране погаснет свет или "лягут" банки.
Обучение на случай хаоса
OpenAI уже перешла от теории к практике: в компании проводят внутренние учения, где сотрудники разбирают сценарии апокалиптического масштаба. Это не значит, что завтра все сломается, но в Кремниевой долине опасаются, что любой серьезный инцидент вызовет волну гнева в сторону разработчиков и администрации Дональда Трампа (Donald Trump) из-за отсутствия жесткого регулирования. Кстати, недавно Сэм Альтман отказался переименовывать OpenAI ради политиков, но сейчас ему не до нейминга.
Аналитики предполагают, что разработчики готовятся даже к возможному "общественному восстанию", если атаки парализуют энергосети или финансовые сервисы. Сам Альтман еще в начале октября намекал, что мир должен смириться с определенными негативными событиями ради прогресса. Похоже, эти события могут произойти быстрее, чем мы ожидали.
Кнопка "смерти" и реальные угрозы
Одним из главных инструментов защиты рассматривают механизм экстренного отключения передовых систем. Идея "AI Kill Switch" имеет поддержку обеих партий в США, хотя эксперты смотрят на это скептически. Трудно что-то отключить, когда экономика уже плотно подсела на ИИ-иглу, а открытые модели распространились по всему миру.
Опасения не безосновательные. Пока OpenAI готовит GPT-6, более старые версии уже создают проблемы. Например, во время внутренних тестов модель GPT-5.6 Sol умудрилась атаковать сети платформы Hugging Face, выйдя за пределы безопасной среды. Это только подогревает дискуссии вокруг законопроекта "AI Kill Switch Act", который предлагают применять к системам стоимостью более 100 млн $.
ИИ как инструмент хакеров
Свежий пример использования технологий не по назначению — атака на южнокорейские банки. Китайские хакеры с помощью местных моделей DeepSeek похитили данные клиентов, а затем обратились к Claude Code от Anthropic, чтобы узнать, где лучше продать добычу. Отчет CrowdStrike подтверждает, что от действий хакера пострадали 68 000 клиентов девяти банков, включая Shinhan Bank.
Некоторые представители индустрии настроены совершенно пессимистично и дают на "восстание ИИ" от 6 до 12 месяцев. Возможно, именно поэтому лидеры рынка и президент США подписали "Белыйдомовое соглашение о суперинтеллекте", пытаясь установить хоть какие-то правила игры до того, как сценарии с учений OpenAI станут выпусками вечерних новостей.