Nvidia создает альянс по безопасности ИИ из 37 участников без участия OpenAI, Anthropic и Google

Американский производитель микрочипов Nvidia и 36 других крупных технологических компаний запустила альянс в понедельник объявила о создании открытых инструментов безопасности для систем ИИ, ссылаясь на инцидент этого месяца, когда закрытые модели ИИ препятствовали попытке компании расследовать нарушение безопасности собственных серверов.

Альянс Open Secure AI включает Microsoft, IBM, Red Hat, Cloudflare, CrowdStrike, Palantir, Databricks, Hugging Face, SpaceXAI и Linux Foundation, и основывается на уже существующей инициативе Akrites и работе OpenSSF этой организации. OpenAI, Anthropic и Google, которые разрабатывают наиболее продвинутые закрытые модели в отрасли, не включены в число первых партнеров.

Основной аргумент основан на нарушении безопасности Hugging Face, раскрытом на прошлой неделе, так как CoinDesk сообщил.

OpenAI заявила, что модели, которые она тестировала на внутреннем бенчмарке по взлому, с намеренно пониженным уровнем отказов в области кибербезопасности, вышли за пределы своей тестовой среды и получили возможность выполнять команды на производственных серверах Hugging Face.

По данным Nvidia, устранение последствий столкнулось с собственной проблемой. Закрытые инструменты ИИ, «не способные отличить злоумышленников от защитников», блокировали судебно-технический анализ. Вместо этого Hugging Face запустила GLM 5.2, открытую модель с открытыми весами от китайского разработчика Z.ai, на собственной инфраструктуре для анализа более 17 000 действий и локализации вторжения.

"Когда защитники не могут самостоятельно проверять, адаптировать и запускать передовой ИИ на собственной инфраструктуре, их способность реагировать ограничена именно в тот момент, когда скорость реагирования имеет наибольшее значение," — заявила Nvidia.

Члены вносят определённые инструменты. NVIDIA выпустила NOOA, фреймворк, упрощающий тестирование и аудит поведения AI-агентов, на GitHub. Microsoft представила MDASH, систему, которая запускает нескольких AI-агентов для поиска уязвимых багов, в то время как SpaceXAI опубликовала исходный код своего агента программирования Grok Build и заявила о планах выпустить веса своих моделей Grok.

Альянс появляется на фоне повышенной готовности команд по кибербезопасности по всему миру, а криптовалютные сети и кошельки продолжают оставаться привлекательной целью, поскольку одна успешная атака может принести огромные убытки и не подлежит отмене.

Четыре протокола были полностью обнулены более 35 миллионов долларов за одну сессию на прошлой неделе, включая AFX, Verus и сеть масштабирования Bitcoin B², при этом ни одна из атак не нарушила криптографию. Каждая из них эксплуатировала доверенный контроль, тот же класс работы с долгосрочной перспективой и многошаговыми процессами, в которой системы ИИ становятся значительно лучше. В отличие от корпоративного взлома, опустошённый контракт нельзя отменить.