Anthropic正在研究一个系统来证明AI模型的身份

Anthropic正在建立一个开放源代码系统, 该系统称为FlashProve(FlashProve),旨在提供研究者所称的“可证明的推论”——一种密码学证明,基本上是数学上的保证,即给定的输出来自特定的模型.

让用户确认他们得到的答案确实来自他们认为使用的模型。

类似加密的电子邮件签名,让收件人确认一个消息确实来自其声称的发送者,FlashProve将强力反对冒牌货试图将一个模型伪装成另一个模型,即使冒牌货是建造和运行模型的实验室.

研究人员特别指出,该系统可以被用来防止AI公司以更便宜的模型秘密互换来削减成本,或者用更昂贵的模型来提升其性能结果.

FlashProve还可以用来核实第三方声称某项具体任务是由先进模型完成的。

研究者写道,“开发者可能声称他们的软件库被前沿网络安全模型扫描了弱点,或者公司可能声称其商业计划得到了适当的模型。

”“用户如何核实这些说法?

” 为了发挥作用,该系统要求人工智能实验室公布其发布的每一种模型的“指纹”,这些指纹日后可与具体输出物相匹配,并经过加密核实。

关键是指纹不会显示模型的重量、决定模型行为的内部数字以及像Anthropic和OpenAI这样的闭门模型制造者会保守秘密。

这意味着实验室可以公布指纹而不放弃其最宝贵的资产,使系统也能与商业模型合作。

该系统的设计也是轻量级的,因此可以在当地设备上进行核查。

作为公告的一部分,研究人员发布了系统各要素的详细技术规格和工作代码,在GitHub上的开源许可证下公开提供.

该系统的研究正在进行中,没有计划在Anthropic或任何其他实验室部署。

“这个研究职位意在分享中期进展,而不是完成的研究议程。

”研究人员在公告中解释了这一点。