加文·纽瑟姆 (Gavin Newsom) 正在推动人工智能终止开关

加州州长加文·纽瑟姆 (Gavin Newsom，民主党) 周五发布了一项新的行政命令，该州将在人工智能监管方面发挥带头作用，包括有可能为前沿模型强制实施“终止开关”。纽瑟姆的命令指示该州召集一个专家组，将在两个月内就如何加强州法律中的人工智能安全措施提出建议。纽瑟姆希望该小组考虑国家如何要求人工智能公司在现场嵌入独立核查小组进行定期审计，使其透明度报告和风险评估符合独立审计员的标准，创建一个定期验证有效的“终止开关”，并确保要求公司将像 OpenAI 对 Hugging Face 的攻击这样的“失控事件”作为重大安全事件进行报告。它还指示国家机构加快实施他最近签署的两项法律，为独立验证者评估人工智能安全建立框架，并建立人工智能审计员国家登记处。前人类学研究员雅各布·考克森 (Jacob Coxon) 发帖警告称，人工智能在十年内“可能杀死所有人类”的可能性超过 10%，此后，国会展开了一系列法案讨论。但鉴于众议院在 11 月之前休会，且即将举行的中期选举使得参议院同样不太可能采取重大立法行动，华盛顿方面不太可能很快通过实质法案。与此同时，唐纳德·特朗普总统坚称，“人工智能需要的唯一控制或‘护栏’是一位强大且聪明（高智商！）的总统，而美国确实拥有这样的总统！”纽瑟姆的行政命令可能不会是我们最后一次听到加州关于这个话题的命令。周三，他在接受 Politico 采访时提出了召集加州立法者参加人工智能特别立法会议的可能性，以及可能采取的行政行动。他特别将该命令定位为联邦行动的典范，呼吁国会和特朗普“审查并采用该州的框架，或使用其国家领先的监管作为下限，而不是上限，以确保所有美国人的利益和安全。”