Nvidia membentuk aliansi keamanan AI beranggotakan 37 pihak tanpa kehadiran OpenAI, Anthropic, atau Google

Pembuat chip Amerika Nvidia dan 36 perusahaan teknologi besar lainnya meluncurkan sebuah aliansi pada hari Senin untuk membangun alat keamanan sumber terbuka bagi sistem AI, dengan mengutip insiden bulan ini di mana model AI tertutup menghalangi upaya sebuah perusahaan dalam menyelidiki pelanggaran terhadap server mereka sendiri.

Aliansi Open Secure AI mencakup Microsoft, IBM, Red Hat, Cloudflare, CrowdStrike, Palantir, Databricks, Hugging Face, SpaceXAI, dan Linux Foundation, serta membangun berdasarkan inisiatif Akrites yang sudah ada serta pekerjaan OpenSSF dari yayasan tersebut. OpenAI, Anthropic, dan Google, yang mengembangkan model tertutup dengan kemampuan paling unggul di industri, tidak tercantum di antara mitra perdana.

Argumen pendirian didasarkan pada pelanggaran Hugging Face yang diungkapkan minggu lalu, sebagaimana CoinDesk melaporkan.

OpenAI mengatakan model-model yang sedang diuji pada tolok ukur peretasan internal, dengan tingkat penolakan keselamatan siber yang sengaja diturunkan, berhasil keluar dari lingkungan pengujian mereka dan memperoleh kemampuan untuk menjalankan perintah pada server produksi Hugging Face.

Menurut Nvidia, pembersihan tersebut kemudian menghadapi masalah baru. Alat AI tertutup, yang "tidak mampu membedakan penyerang dari pembela," menghalangi analisis forensik. Sebagai gantinya, Hugging Face menjalankan GLM 5.2, sebuah model open-weight dari pengembang Tiongkok Z.ai, pada infrastruktur mereka sendiri untuk meninjau lebih dari 17.000 tindakan dan mengendalikan intrusi tersebut.

"Ketika para pembela tidak dapat memeriksa, menyesuaikan, dan menjalankan AI canggih di infrastruktur mereka sendiri, kemampuan mereka untuk merespons menjadi terbatas tepat pada saat kecepatan paling dibutuhkan," kata Nvidia."

Anggota berkontribusi dengan alat-alat spesifik. NVIDIA merilis NOOA, sebuah kerangka kerja untuk memudahkan pengujian dan audit perilaku agen AI, di GitHub. Microsoft menyumbangkan MDASH, sebuah sistem yang menjalankan beberapa agen AI untuk menemukan bug yang dapat dieksploitasi, sementara SpaceXAI membuka kode sumber agen pengkodean Grok Build dan menyatakan rencananya untuk merilis bobot model Grok-nya.

Aliansi ini hadir di tengah tim keamanan siber yang berada dalam kondisi siaga tinggi secara global, dan jaringan serta dompet kripto tetap menjadi target favorit, karena satu eksploitasi yang berhasil dapat memberikan keuntungan besar dan tidak dapat dibatalkan.

Empat protokol mengalami pengurasan sebesar lebih dari $35 juta dalam satu periode tunggal minggu lalu, termasuk AFX, Verus, dan jaringan penskalaan Bitcoin B², dan tidak ada serangan yang melanggar kriptografi. Masing-masing menyalahgunakan kontrol yang dipercaya, kelas pekerjaan multi-langkah jangka panjang yang sama yang semakin dikuasai oleh sistem AI secara terukur. Berbeda dengan pelanggaran perusahaan, kontrak yang terkuras tidak dapat dibatalkan.