DeepMind首席执行官呼吁建立独立标准机构来规范前沿人工智能

在周二早上的 X 帖子中，谷歌 DeepMind 首席执行官 Demis Hassabis 呼吁建立一个新的监管机构来监督前沿模型的发布。这篇文章题为“前沿人工智能框架和新时代的曙光”，阐述了以金融业监管局 (FINRA) 为蓝本的“标准机构”的理由，该机构可以测试前沿模型并为其发布制定最佳实践。帖子中写道：“最初，Frontier Labs 将自愿与标准机构共享模型，以便在发布前 30 天进行审查。” “一旦评估协议被证明是有效和稳健的，形式化可能会很快发生，这意味着 Frontier Models 将需要通过它才能在美国市场部署。实验室还将与标准机构合作，解决任何关键的发布后漏洞。”拟议的系统将建立在美国政府对 Anthropic 的 Mythos 和 OpenAI 的 Sol 进行的特别审查的基础上。这些审查因缺乏技术专业知识以及模型何时发布的决策不透明而受到严厉批评。根据哈萨比斯提议的监管机构，这些决定可以移交给一个新的组织，该组织得到美国政府的支持，但由人工智能行业资助并独立运营。对于科技行业和特朗普政府来说，人工智能监管的前景仍然存在争议。最近，白宫人工智能顾问兼 a16z 普通合伙人 Sriram Krishnan 低估了行政部门内设立人工智能监管机构的可能性，称“不会为人工智能设立 FDA”。将标准机构建立为像 FINRA 这样的自律组织可能是解决这些问题的一种方法。哈萨比斯预计，监管机构将由来自行业内的开源代表和技术专家组成，并得到人工智能实验室的财政支持，这是留住他们所必需的。他们甚至可以将一些评估外包给不断壮大的人工智能安全小组，这些小组能够专门研究特定的风险。哈萨比斯认为：“这种方法的优势在于它注重技术，同时支持创新并激励负责任的行为。” “它的目的是跟上该领域的加速发展并适应已发现的最大风险，并且如果情况的严重性需要，可以逐步加强。”人工智能、人工智能监管、DeepMind、Demis Hassabis 当您通过我们文章中的链接购买时，我们可能会赚取少量佣金。这并不影响我们的编辑独立性。

Russell Brandom 自 2012 年以来一直关注科技行业，重点关注平台政策和新兴技术。他此前曾在 The Verge 和 Rest of World 工作，并为《Wired》、《Awl》和《麻省理工学院技术评论》撰稿。您可以通过 russell.brandom@techcrunch.com 或拨打 Signal 电话 412-401-5489 联系他。

TechCrunch 创始人峰会上节省高达 190 美元的最后机会。与 1,000 多名处于各个阶段的创始人和风险投资家一起，获得现实世界的扩展见解和推动发展的联系。优惠截止日期为 6 月 26 日晚上 11:59 PT。萨提亚·纳德拉 (Satya Nadella) 向使用 AI 的公司发出了令人震惊的警告 苹果针对 OpenAI 的商业机密诉讼中最疯狂的指控 Anthropic 开始对印度进行本地化定价，美国 Meta 在 Instagram 上删除了有争议的人工智能功能后，Anthropic 开始对印度进行本地化定价。