Nvidia створює альянс з безпеки штучного інтелекту з 37 учасниками без участі OpenAI, Anthropic або Google

Американський виробник мікросхем Nvidia та 36 інших провідних технологічних компаній запустила альянс у понеділок оголосили про створення відкритих інструментів безпеки для AI-систем, посилаючись на інцидент цього місяця, коли закриті AI-моделі заважали спробі компанії розслідувати порушення безпеки власних серверів.

Альянс Open Secure AI включає Microsoft, IBM, Red Hat, Cloudflare, CrowdStrike, Palantir, Databricks, Hugging Face, SpaceXAI та Linux Foundation, і базується на існуючій ініціативі Akrites та роботі OpenSSF цієї організації. OpenAI, Anthropic та Google, які розробляють найпотужніші закриті моделі в індустрії, не входять до числа перших партнерів.

Основний аргумент базується на порушенні безпеки Hugging Face, про яке повідомили минулого тижня, як CoinDesk повідомив.

OpenAI заявила, що моделі, які вона тестувала на внутрішньому бенчмарку з етичного зламу, працюючи з навмисно зниженим рівнем відмов у питаннях кібербезпеки, вийшли за межі тестового середовища та отримали можливість виконувати команди на продуктивних серверах Hugging Face.

За даними Nvidia, очищення зіштовхнулося з власною проблемою. Закриті інструменти штучного інтелекту, «нездатні розрізнити нападників від захисників», блокували криміналістичний аналіз. Натомість Hugging Face запустила GLM 5.2, відкриту модель з відкритою вагою від китайського розробника Z.ai, на власній інфраструктурі для перегляду понад 17 000 дій та стримування вторгнення.

"Коли захисники не можуть проводити інспекцію, адаптуватися та запускати передовий ШІ на власній інфраструктурі, їх здатність реагувати обмежена саме в той момент, коли швидкість має найбільше значення," — заявила Nvidia.

Члени спільноти вносять конкретні інструменти. NVIDIA випустила NOOA, фреймворк для спрощення тестування та аудиту поведінки AI-агентів, на GitHub. Microsoft представила MDASH, систему, яка запускає кілька AI-агентів для пошуку вразливостей, що можуть бути використані, а SpaceXAI оприлюднила свого кодувального агента Grok Build і заявила про плани випустити ваги своїх моделей Grok.

Альянс з’являється на тлі підвищеної готовності команд кібербезпеки у всьому світі, а крипто-мережі та гаманці залишаються улюбленою мішенню, оскільки одна успішна атака може призвести до величезних збитків, які неможливо скасувати.

Чотири протоколи були вичерпані на понад 35 мільйонів доларів США за один раз минулого тижня, включаючи AFX, Verus та мережу масштабування Bitcoin B², і жодна з атак не порушила криптографію. Кожна з них зловживала довіреним контролем, тим самим класом довготривалої, багатокрокової роботи, у якій системи штучного інтелекту помітно покращуються. На відміну від корпоративного зламу, спустошений контракт неможливо скасувати.