AI · 新闻详情
英伟达表示，其新的人工智能安全平台可以在“几毫秒”内遏制流氓代理
真正值得关注的不是这条新闻本身，而是它可能把「智能体」的竞争焦点推向从演示效果到真实工作流的可用性验证。
发生了什么：据路透社早些时候报道，英伟达正在推出一个新的安全平台，旨在遏制和监控人工智能代理，此举是为了应对一波流氓黑客事件。
为什么重要：让自主智能体能更稳地完成真实的多步骤任务。
观察窗口：接下来观察它在真实多步骤任务中的稳定性、权限边界和可控性。
正文来源：非原文：源网页正文只有单句或图片说明，以下为已有摘要与自动整理内容
原文链接：https://www.theverge.com/tech/1001287/nvidia-ai-safety-platform-rogue-agents
原文链接：https://www.theverge.com/tech/1001287/nvidia-ai-safety-platform-rogue-agents
据路透社早些时候报道，英伟达正在推出一个新的安全平台，旨在遏制和监控人工智能代理，此举是为了应对一波流氓黑客事件。
英伟达在周一的一份声明中表示，其新的开放代理安全平台可以隔离试图在“几毫秒”内逃离其边界的代理。
该平台使用Nvidia的OpenShell开源软件，该软件在该公司的Vera AI CPU上运行。
用户可以选择人工智能代理可以访问的信息 围绕自主智能体的这项进展，关键在于它是否提升了多步骤任务的稳定性与可控性；若落地顺利，将直接影响自动化工作流的可用性。
让自主智能体能更稳地完成真实的多步骤任务。
机器翻译/自动整理可能存在误差，请以原文为准。
继续阅读
正在加载推荐…