英伟达与科技巨头成立人工智能安全联盟

英伟达和一大批技术、网络安全和企业软件公司周一宣布成立开放安全人工智能联盟，这是一项新举措，旨在开发和共享开源工具、模型和技术，以保护人工智能系统和代理的安全。这项工作建立在 Linux 基金会最近启动的 Akrites 计划和 OpenSSF 社区的现有工作的基础上。开放安全人工智能联盟的创始合作伙伴还包括 Adobe、Cadence、第一资本、思科、Cloudera、Cloudflare、Cognition、CrowdStrike、Databricks、戴尔、DoorDash、Elastic、HPE、Hugging Face、IBM、LangChain、微软、Naver、NetApp、Nous Research、OpenClaw、Palantir、Palo Alto Networks、红帽、Reflection AI、Salesforce、SAP、SK Telecom、ServiceNow、西门子、 Snowflake、SpaceXAI、Synopsys、Thinking Machines Lab 和 TrendAI。

Nvidia对该项目的贡献包括开放模型、权重、数据和智能体利用研究，其中包括一个新发布的名为 NOOA 的开源项目，旨在帮助利用智能体使智能体行为更容易跟踪、测试和审计。

HPE 正在为 SPIFFE/SPIRE 做出贡献，这是一个用于以加密方式验证 AI 代理和服务的零信任身份框架，而 Hugging Face 则将其 Safetensors 模型权重存储格式捐赠给 PyTorch 基金会。

IBM 和红帽正在通过 Lightwell 项目扩展开源供应链安全性，该项目旨在大规模提供自动化漏洞修复。广告。滚动以继续阅读。微软正在贡献 MDASH，这是一种多模型代理扫描工具，可协调 AI 代理来查找、辩论和验证可利用的软件错误。

SpaceXAI 正在开源其基于 Grok Build 终端的人工智能编码代理，并计划最终开源 Grok 模型系列的权重。新联盟认为，开放模型、安全工具和安全工具应被视为防御资产而不是负债，并警告政策制定者和监管机构，对开放前沿人工智能的广泛限制可能会削弱集体网络防御能力。