Логотип Anthropic. Источник: Anthropic
Компания Anthropic объявила о запуске инициативы Project Glasswing, направленной на противодействие кибератакам с использованием искусственного интеллекта. Проект предусматривает сотрудничество с рядом технологических и финансовых гигантов, среди которых Amazon, Apple, Google, Microsoft, NVIDIA и другие.
Что известно
В рамках инициативы партнеры получат доступ к модели Claude Mythos Preview — еще не представленной публично универсальной системе искусственного интеллекта. По данным Anthropic, эта модель уже выявила тысячи потенциальных уязвимостей, в том числе в популярных операционных системах и браузерах. Ее планируют использовать для укрепления киберзащиты и предотвращения злоумышленного использования ИИ.
Project Glasswing направлен на защиту критически важного программного обеспечения от новых типов атак, которые могут возникнуть из-за развития искусственного интеллекта. В компании подчеркивают, что проект ориентирован именно на оборонное применение технологий.
Anthropic, во главе которой стоит Дарио Амодей, ранее неоднократно поднимала вопросы безопасности и этики в сфере ИИ. В то же время компания уже сталкивалась с критикой: сообщалось о использовании ее модели Claude во время хакерских атак на государственные учреждения в Мексике.
Запуск Project Glasswing происходит на фоне роста обеспокоенности по поводу киберрисков, связанных с развитием искусственного интеллекта, и попыток крупных компаний усилить защиту своих систем.
Источник: Anthropic