人工智能代理不是你的“同事”

这个故事最初出现在我们关于人工智能的每周通讯《算法》中。要首先在您的收件箱中收到此类故事，请在此处注册。想象一下，你上班时发现有一位新下属将向你汇报。工人不是一个人，而是一个人工智能工具——尽管如此，你的公司仍将其称为亚历克斯，一个拥有头衔和明确职责的“员工”。你认为你会和 Alex 合作得怎么样？如果你像波士顿大学商学院教授艾玛·威尔斯最近研究的管理者一样，将亚历克斯视为“同事”而不是软件工具，会让你的工作做得更糟。怀尔斯发现，当工作被认为是由代理“人工智能员工”而不是聊天机器人完成时，人们发现的错误会减少 18%。事实证明，名字中的内容很重要。很多。这是硅谷将我们推向未来的令人震惊的一瞥。去年，英伟达首席执行官黄仁勋谈到了“数字人类”的工作场所。自四月份以来，微软、OpenAI、Anthropic 和谷歌都发布了面向管理人工智能代理团队的新工具，其中许多工具被明确宣传为具有人类的灵活性和认知能力的数字同事。参与 Wiles 研究的 1,261 名经理中，近三分之一表示，他们的公司已经将人工智能代理视为员工（23% 甚至将其列入组织结构图）。当然，代理人工智能的技术进步并不全是空话。智能体实际上可以被认为是人工智能工具，被编程为循环工作直到实现目标，在更复杂的任务上已经变得明显更好。但将这些工具称为同事或员工是一个巨大的飞跃，这样做会给人工智能的能力带来不切实际的期望，同时让人类员工对他们的处境负责，让他们的处境变得更糟。怀尔斯的研究表明，这部分是因为它颠覆了我们对谁负责的认识。当人工智能工具被视为员工时，研究参与者认为自己对其输出的责任较少。他们将有问题的工作上报给经理进行进一步审查的可能性也高出 44%，而不是相信自己的纠正（从而否定了使用人工智能代理节省时间的目的）。这远远超出了办公室文化的范围：随着人工智能代理融入医疗保健、战争、教育和政府，它们将成为一个方便的地方，将责任归咎于错误的人类决策、激励和监督的失败（回想一下伊朗女子学校的炸弹袭击如何普遍归咎于克劳德，而所有迹象都表明一系列人为错误）的风险越来越大。相关故事在线骚扰正在进入人工智能时代阅读下一篇“人工智能代理现在被宣传为可以取代人类的东西，我认为这只是一个失败的主张，”麻省理工学院经济学家、研究人工智能对经济影响的达龙·阿西莫格鲁 (Daron Acemoglu) 表示，他于 2024 年获得了诺贝尔奖。

“相反，它们应该被优化，以便能够提高人类的能力，而这并不是它们目前所做的。”那会是什么样子？考虑一下斯坦福大学的一项新工作，研究人员向 104 种工作的 1,500 名员工提供了有关人工智能可能在他们的工作中完成哪些任务的信息，然后询问什么实际上最有帮助和最有成效。工人们确实希望在某些领域实现自动化：例如，法律职员认为人工智能可以帮助确保案件取得足够的进展。但技术专家认为最适合人工智能的任务（例如验证销售代表的客户信用评级）往往是实际工作人员表示他们绝对不希望或不需要代理执行的任务。这让我们回到亚历克斯。将 Alex 称为员工既简单又方便