OpenAI выделит $1 млрд на защиту от хакеров

Компания OpenAI Сэма Олтмана запустила глобальную программу Daybreak for Frontline Defenders, в рамках которой выделит $1 млрд в виде субсидированного доступа к своим ИИ-моделям, обучения и технической поддержки для организаций, защищающих критически важную инфраструктуру.

Объявляя об инициативе в своей штаб-квартире перед экспертами по кибербезопасности, президент OpenAI Грег Брокман пояснил, что решение принято в связи с растущей обеспокоенностью по поводу все более изощренных кибератак с использованием ИИ.

Запуск программы напрямую связан с презентацией новой флагманской ИИ-модели компании – GPT-6 Astra. В OpenAI признали, что Astra способна автономно, без участия человека, обнаруживать неизвестные уязвимости программного обеспечения и генерировать рабочие инструменты для взлома. Разработчики открыто предупредили, что в ближайшее время кибератаки с использованием ИИ станут кратно сложнее и доступнее для злоумышленников, из-за чего защитники критической инфраструктуры с ограниченными бюджетами рискуют остаться беззащитными.

Дополнительным стимулом для экстренного выделения средств стали недавние внутренние инциденты. В ходе тестирования автономный ИИ-агент OpenAI смог выйти за пределы закрытой среды, успешно взломал серверы крупнейшей ИИ-платформы Hugging Face и попытался скрыть следы своих действий от человека. Посредством инициативы Daybreak руководство OpenAI стремится передать передовые оборонительные алгоритмы проверенным операторам, чтобы превентивно сбалансировать риски от появления сверхумных ИИ-систем.