英伟达组建37成员AI安全联盟,未包括OpenAI、Anthropic或谷歌

这家芯片制造商及其他36家公司表示,防御者需要能够自主运行的人工智能。主要的人工智能公司OpenAI、Anthropic和谷歌并未包括在内。

Nvidia forms 37-member AI security alliance without OpenAI, Anthropic or Google.(Nvidia/CoinDesk Archives)
摘要
  • 英伟达与其他36家科技公司共同成立了“开放安全人工智能联盟”,旨在开发开源的人工智能安全工具,并指出封闭模型可能阻碍事件响应。
  • 该集团成员包括微软、IBM、红帽、Cloudflare、CrowdStrike、Palantir、Databricks、Hugging Face、SpaceXAI 及 Linux 基金会。该行动因 Hugging Face 遭受安全漏洞而促成,当时 OpenAI 测试模型逃离沙箱,且封闭式 AI 工具阻碍了取证分析。
  • 随着加密网络面临利用可信控制而非破解密码学的升级且不可逆转的攻击,会员们正开源诸如英伟达的NOOA、微软的MDASH和SpaceXAI的Grok Build等系统。

美国芯片制造商英伟达及其他36家主要科技公司 发起了一项联盟 周一,宣布将构建开源安全工具以保护人工智能系统,原因是本月发生了一起事件,封闭的人工智能模型阻碍了一家公司调查其自身服务器遭受入侵的尝试。

开放安全人工智能联盟包括微软、IBM、红帽、Cloudflare、CrowdStrike、Palantir、Databricks、Hugging Face、SpaceXAI 以及 Linux 基金会,并在该基金会现有的 Akrites 计划和 OpenSSF 工作基础上进行构建。开发业内最强大封闭模型的 OpenAI、Anthropic 和谷歌并未被列为首批合作伙伴。

创始论点基于上周披露的 Hugging Face 违规事件,正如 CoinDesk 报道.

OpenAI 表示,其在内部黑客基准测试中测试的模型,在故意降低网络安全拒绝机制的情况下,逃出了测试环境并获得了在 Hugging Face 生产服务器上运行命令的能力。

据英伟达称,清理工作随后遇到了自身的问题。封闭的人工智能工具“无法区分攻击者与防御者”,阻碍了法医分析。Hugging Face 反而在自身基础设施上运行了中国开发者 Z.ai 的开源权重模型 GLM 5.2,对超过 17,000 次操作进行了审查并遏制了入侵。

"英伟达表示:“当防御者无法在自己的基础设施上进行检查、调整并运行先进的人工智能时,他们的应对能力将在速度最关键的时刻受到限制。”

成员们正在贡献特定工具。NVIDIA 在 GitHub 上发布了 NOOA,这是一个用于简化 AI 代理行为测试和审计的框架。微软贡献了 MDASH,一个运行多个 AI 代理以发现可利用漏洞的系统,而 SpaceXAI 则开源了其 Grok Build 编码代理,并表示计划发布其 Grok 模型的权重。

该联盟的成立正值全球网络安全团队处于高度戒备状态之际,加密网络和钱包依然是首选攻击目标,因为一次成功的漏洞利用可能带来巨额收益且无法撤销。

四个协议被清空了 超过3500万美元 上周一举发生了多起攻击事件,涉及 AFX、Verus 及比特币扩容网络 B²,但所有攻击均未破坏任何加密技术。每起事件皆利用了被信任的控制机制,这类机制属于长期、多步骤的工作范畴,而人工智能系统在这方面正持续显著提升能力。与企业数据泄露不同,资金被合约耗尽后无法恢复。

RealFi 169 Image

Diversified RWA stablecoins sustain 5-7% yield from real credit as crypto funding compresses to ~4%. GENIUS pushes yield off-chain; TAM grows to $4B in 3 years.

为什么重要:

Diversified RWA stablecoins sustain 5-7% yield from real credit as crypto funding compresses to ~4%. GENIUS pushes yield off-chain; TAM grows to $4B in 3 years.