面向法律行业的新指引“接纳”技术使用，但也警告称，如果律师因 AI 生成的错误而“误导法院”，可能面临处罚。
澳大利亚联邦法院已就生成式人工智能在法律程序中的风险向法律界发出警告，并发布关于其使用的新规则。如果 AI 错误妨碍法院案件审理，相关方可能面临经济或法律后果。
在澳大利亚及全球范围内，法院文件中出现 AI 生成虚假引文的情况激增。在这一背景下，联邦法院于周四发布了一份新的实践说明，规定该技术可如何用于法院案件。
联邦法院首席大法官 Debra Mortimer 表示，向法院提交虚假或不准确的信息是“不可接受”的。
她在该说明中说：“这不符合所有人不得误导法院或其他当事方的责任。”
“这也很可能妨碍诉讼依据法律得到公正解决，并且无法尽可能快速、低成本且高效地推进。”
Mortimer 表示，在将 AI 用于诉状、书面陈述以及提交法院的其他文件时，使用者应保持谨慎，因为它可能生成虚构案件、引文、引语以及事实错误。
Mortimer 表示，律师和事务律师应确认文件准备过程中是否使用了 AI，并核查所援引的法律依据确实存在且能够支持所提出的主张，此外还需完成其他必要核查。
对于宣誓书和专家报告，如果使用了生成式 AI，内容仍应反映其本人的回忆、知识或经验。
如果使用 AI 工具来汇总或分析信息，制作提交法院的图像、视频或录音，或以任何其他可能影响该证据可采性的方式使用 AI，就必须披露 AI 的使用情况。
Mortimer 表示，对生成式 AI 使用情况的披露应放在文件开头，并说明其具体在何处、以何种方式被使用。
Mortimer 还警告称，在将机密信息、被禁止公开的信息或私人信息输入 AI 工具时应格外谨慎。
她说：“即使无意分享这些信息，把信息输入生成式 AI 工具也可能带来严重后果。”
Mortimer 表示，联邦法院“接纳”在诉讼中使用技术，生成式 AI 也有潜力提高诉讼开展效率，但生成式 AI “必须以适当方式并在尽职谨慎的前提下使用”。
“否则，生成式 AI 将对司法的正常运行以及公众对法律体系的信心构成风险。”
首席大法官表示，那些以违反新规则的方式使用生成式 AI 的人，应预期会面临后果，例如不利的费用裁定，以及在履行法律和职业义务方面出现问题。
澳大利亚至少已发现 73 起案件，法院认定其中使用生成式 AI 导致了虚假引文、捏造引语或其他错误。
去年，维多利亚州一名律师成为该国首位因被发现存在虚假引文而受到制裁的人，其作为主管律师执业的资格被取消。西澳大利亚州和新南威尔士州的监管机构也在类似案件中启动了调查。
法院也意识到，如果未被及时发现，虚假引文还可能引出更多虚假引文。去年一份联邦合议庭判决发现，上诉人援引的一起案件并不存在，判决写道：“我们认为，该引文可能是大型语言模型幻觉的产物。”
高等法院首席大法官 Stephen Gageler 去年 11 月表示，澳大利亚法官正在充当对 AI 生成法律论点进行把关的“人工过滤器”，而 AI 生成内容的使用已进入“不可持续阶段”。
