Компания OpenAI учредила программу грантов на $1 млн в области кибербезопасности технологий на основе искусственного интеллекта (ИИ).
Основная цель инициативы — изменение подхода к безопасности в онлайн-пространстве «за счет применения ИИ и координации действий единомышленников».
Согласно заявлению, фонд OpenAI будет выплачивать по $10 000 проектам, которые представят свои идеи и пройдут отбор.
В компании выделил три главных направления:
- расширение возможностей «защитников» посредством внедрения инструментов на основе ИИ;
- решения для оценки эффективности технологий кибербезопасности для улучшения их возможностей;
- стимулирование обсуждений вокруг ИИ-безопасности.
«Хотя нападающие сталкиваются с меньшими ограничениями и пользуются своей гибкостью, у защитников есть кое-что более ценное — координация для достижения общей цели ради безопасности людей», — заявили в компании.
OpenAI также предложила свои идеи для возможных проектов:
- сбор, анализ и сортировка данных о киберпреступлениях;
- механизмы по изучению социальной инженерии;
- автоматизация исправления уязвимостей;
- создание «приманок» для злоумышленников;
- обнаружение вредоносных программ с помощью ИИ;
- создание безопасного ПО для написания и публикации кода.
Ранее глава компании Сэм Альтман призвал Конгресс США к регулированию искусственного интеллекта. Бизнесмен предложил сформировать новое агентство по вопросам ИИ, которое занималось бы выдачей и изъятием лицензий на разработку подобных технологий.
Напомним, в мае вице-президентка США Камала Харрис провела встречу с Альтманом и другими руководителями техгигантов, на которой они обсудили риски искусственного интеллекта.