律师因谋杀案中人工智能幻觉证人被罚款 5000 美元

据路透社报道，新墨西哥州最高法院正在惩罚一名律师，因为他在对其委托人谋杀定罪的上诉中加入了人工智能伪造的证人和虚假的警方证词。在周三提交的一份文件中，法院对 Stephen Aarons 处以 5,000 美元罚款，并因他未能“验证人工智能生成的摘要中的事实主张和法律权威”而判定他藐视法庭。文件称，这份简报“包含完全捏造的证人的虚假证词”，以及有关枪手服装和外表的“虚假证词”。

C.

Shannon Bacon 法官质疑 Aarons 在 8 月份的一次听证会上为何没有意识到人工智能带来的风险，他在听证会上承认使用 ChatGPT 并认为这会生成审判的“防弹摘要”。

“律师，你看新闻吗？你听广播吗？你读过有关世界上正在发生的事情吗？”据路透社报道，培根法官表示。

“因为律师依赖人工智能幻觉的问题每天都是一个引人注目的故事。”随着在工作中使用人工智能工具的律师数量不断增加，法院发现人工智能捏造或幻觉的引文的情况也在增加。去年，一名法官猛烈抨击两家律师事务所提交的摘要中包含“大量虚假、不准确和误导性的法律引文和引用”，而 MyPillow 的 Mike Lindell 的律师也因在摘要中添加人工智能生成的错误引用和虚假的人工智能引文而被罚款。亚伦斯在给路透社的一份声明中表示：“我很懊悔，但希望纪律委员会考虑到这是一个无心的错误。”