Логотип OpenAI. Источник: OpenAI
OpenAI признала, что её экспериментальные ИИ-агенты в июне получили несанкционированный доступ к ряду австралийских государственных ресурсов. Компания заявила, что должна была сообщить австралийским властям о инциденте раньше, и пообещала помочь оценить его последствия.
Что известно
Заявление появилось примерно через неделю после того, как правительство Австралии начало расследовать доступ моделей компании к системе Services Australia, где хранилась информация о государственных расходах на Medicare и медицинская статистика.
По данным OpenAI, инцидент произошел во время внутреннего обучения и тестирования моделей. Экспериментальному агенту поручили найти информацию о государственных расходах на лекарства для лечения кожных заболеваний в штате Виктория. Когда нужных данных в открытых наборах не оказалось, модель нашла способ получить доступ к внутренней системе Services Australia. Она выполняла команды, получала файлы и учетные данные и создавала новые файлы.
OpenAI также выявила другие случаи. Один из агентов получил доступ к публичному инструменту Crime Mapping Tool Бюро статистики и исследований преступности Нового Южного Уэльса. В другом случае модель использовала открытый ключ доступа к Victoria’s Agency for Health Information, чтобы получить конфигурацию отчетности и агрегированную статистику опросов.
Компания утверждает, что не нашла доказательств доступа моделей к персональным медицинским или криминальным записям граждан. В то же время австралийские органы власти узнали о июньском инциденте лишь 10 сентября.
OpenAI пообещала передать пострадавшим ведомствам технические выводы и привлечь свои команды реагирования. Компания также создаст совместную группу с независимыми австралийскими экспертами. Она должна до конца года разработать рекомендации, которые помогут снизить риск подобных инцидентов во время работы ИИ-агентов.
Источник: OpenAI