史密斯特工困境：治理特工身份

在过去的几年里，朝鲜特工冒充远程 IT 工作人员，系统性地渗透到数百个西方企业网络。他们通过了技术面试，使用被盗身份进行了背景调查，并凭借合法凭证轻松地处于公司信任范围内。他们领取工资，将资金转回平壤，并在离开时经常泄露敏感数据。包括知名网络安全供应商在内的大型公司已公开承认落入该骗局。

（顺便说一句，请收听妮可·珀尔罗斯（Nicole Perlroth）的播客“抓住小偷”，进行精彩的深入探讨）该计划之所以有效，是因为企业授予信任一次。人力资源部门在招聘时验证人员身份，IT 部门创建一个帐户，并配置一台笔记本电脑。然后用户被授权。安全堆栈中没有任何内容是为了回答一个重要问题而构建的：驱动此会话的实体是我们认为的那个人吗？在企业内部，执行敏感任务的非人类身份数量呈指数级增长。组织正在快速将数千个人工智能代理纳入关键工作流程，并配备管理服务帐户和 API 密钥。企业现在将相同的信任模型扩展到人工智能代理，而审查较少。人工智能代理应该拥有什么样的信任模型？如今，在您的企业中部署的每个自主 AI 代理都是在您的边界内运行的新代理身份。它保存凭证、访问敏感数据库并将工具以机器速度链接在一起。至关重要的是，它几乎总是在继承的人类权限集下执行。当由 LLM 支持的代理代表授权员工行事时，每个系统日志都会记录该人员的例行授权操作。但很少有代理是恶意构建的。真正的暴露是，在授予信任后，驱动代理的指令可能会被劫持。

AI 代理可能会在会话期间通过选择性提示注入、隐藏指令或中毒的外部工具受到损害。广告。滚动以继续阅读。在《黑客帝国》中，史密斯特工的真正威胁是他能够进入任何角色的外壳，继承他们的存在，并立即在整个系统中复制。现代人工智能代理是企业的代理史密斯。