法院已对提交引用不存在案件的律师状的律师作出制裁,这些新闻标题让“人工智能幻觉”成为熟悉的说法。不过,编造的引注只是最显眼的失误。在诉讼支持工作中,更安静的失误往往更危险:年表条目日期错误、摘要把一条消息归到错误的家长名下、引文与文件原文几乎一致却并不准确。

本指南面向使用生成式人工智能、或监督使用者的律师和诉讼工作人员。它说明幻觉为何发生,列举其在法律工作中的形式,并给出经得起审视的预防控制和核实流程。文中提及的职业义务来自 ABA 示范规则、ABA 正式意见 512 以及《联邦民事诉讼规则》;你所在州的版本和地方规则可能有所不同。

什么是人工智能幻觉?

人工智能幻觉是读起来流畅且自信、但并未得到来源材料或现实支持的输出。它不是故障,而是生成式模型工作方式的自然副产品。

大语言模型通过预测基于训练中学到的模式而可能出现的下一个词来生成文本。它们被优化为产出看似合理的语言,而不是核查事实。当模型缺少正确信息时,它很少会说明这一点,而是生成符合模式的内容。先检索真实文件再据此作答的工具可以减轻问题,但无法消除问题,因为模型仍可能误读、错误归因或夸大其所检索到的内容。实际含义是:没有任何提示词能让模型可靠地如实作答。可靠性来自流程。

为什么流畅的错误难以发现

人工审阅者习惯把文笔精致当作用心的信号。草稿杂乱会招来细查;干净、组织良好的草稿则容易被略读。人工智能的输出几乎总是干净的,因此其错误以成品的面貌出现。这些错误往往在局部看似合理:编造的案件有可信的名称和引注格式,错误的日期落在正确的月份。正是让人工智能草稿显得有用的那种品质,使其错误容易被读过去。因此,核实必须是一项有具体检查内容的结构化任务,而不是通读一遍寻找任何“看起来不对”的地方。

它们分为两类:关于法律的错误和关于事实的错误。大多数律所的人工智能政策处理前者,而忽略后者。

类型示例它藏在哪里
编造的依据不存在的案件、制定法或规则律师状章节、研究备忘录
描述错误的依据被引用来支持其并不包含的判决要旨的真实案件括号说明、串联引注
错误的引文或精确页码引用被改写或位于另一页的引用文字整段引文、精确页码引用
虚构或合并的事实未出现在任何文件中的细节,或两起事件被合并摘要、事实部分
错误归因一条消息被归于错误的发送者消息摘要、声明书
错误的日期和数字日期偏移、金额对调、时区错误年表、财务摘要
补全的文字扫描件中无法辨认的词语被替换为看似合理的猜测从图像中提取的文字

为什么幻觉在伦理上很重要?

因为无论由谁或由什么起草,律师都对送达法院的每一个字负责。几项义务在此交汇:

  • 《联邦民事诉讼规则》第 11(b) 条及各州对应规定:签署提交文件即证明,在合理调查之后,法律主张有依据,事实主张有证据支持。
  • 示范规则 3.1、3.3 和 8.4(c):有依据的请求、对裁判庭的坦诚以及诚实。
  • 示范规则 1.1:胜任能力。ABA 正式意见 512 将其解读为:须理解工具的局限,并适当地核实其输出。
  • 示范规则 5.1 和 5.3:对使用人工智能工具的律师和工作人员进行监督。

一些法官和法院还要求在提交文件中披露或证明人工智能的使用,因此请查看常设命令。关于该意见全文,请参阅我们的 ABA 正式意见 512 指南。

如何在幻觉发生之前加以预防?

设计工作方式,使模型更少有编造的空间,并使每一项输出都易于核查。预防减少错误的数量;核实抓住其余错误。

  • 让工具以你的案卷为依据。 把实际文件交给它,并要求它只根据这些文件工作,而不是依赖它的一般知识。
  • 要求每一项主张都有来源。 要求每句话都附上文件出处、页码或消息,这样没有依据的说法就会显出来。
  • 缩小任务范围。 “提取三月份每一条提到学校接送的消息,并附上时间戳”比“总结发生了什么”更稳妥。
  • 允许回答“未找到”。 明确告诉工具:说明信息不存在是可以接受的回答。
  • 要求带位置的原文引述,在措辞重要时不要用转述。
  • 让 AI 远离精确步骤。 编号、分页、Bates 盖章和证物组装都应当是确定性的。
  • 标注 AI 辅助内容,写在草稿里,让审阅者知道哪里最需要仔细看。

选择按这种方式打造的工具会有帮助。例如,CourtBriefly 只在辅助步骤中使用 AI,例如从图片中提取文字,由人来审阅和更正;而它的证物 PDF 则在不使用 AI 的情况下确定性地生成(详见 证据提取和导出如何运作)。

AI 辅助草稿的核验流程

核验应当是一个有明确负责人、并留下记录的既定步骤,而不是一句笼统的“再核对一遍”。一套适用于大多数提交文件的流程:

  1. 标出 AI 辅助内容。 起草人标明哪些章节、引用和事实来自或经过了 AI 工具。
  2. 核验每一项法律依据。 从可靠的检索来源调出每一项被引用的案例、制定法和规则。确认它确实存在、引用正确、内容与草稿所述一致、引文准确无误、具体页码引用正确,并且它仍然是有效法律。
  3. 追溯每一项事实。 每一项事实主张都附上案卷引用,核验人打开所引文件加以确认。
  4. 单独核对日期、姓名和数字。 这些地方小错误会造成大损害;把它们作为单独一轮来检查。
  5. 对高风险提交文件增加第二位审阅人。 能决定结果的动议、声明书以及任何经宣誓的文件,都值得再有一双眼睛看过。
  6. 记录核验情况。 记下谁在何时检查了什么,以及更正了什么。

模板:核验日志条目

文件: [动议 / 辩论书 / 声明书],草稿日期 [日期]。 AI 辅助章节: [列表]。 已核验的法律依据: [数字] / [数字];更正:[描述]。 已追溯至案卷的事实: [数字] / [数字];更正:[描述]。 日期和数字已核对: 是 / 否。 法院对 AI 披露的要求: [未发现 / 已遵守,请描述]。 核验人: [姓名],[日期]。 律师审阅: [姓名],[日期]。

哪些警示信号表明一段文字需要更仔细地看?

有些模式在幻觉输出中反复出现。训练审阅者看到这些情况时放慢速度:

  • 一个团队里没人听说过、却完美支持该论点的案例。
  • 异常贴切或过于整齐的引文。
  • 看起来略有不对的引用格式,例如奇怪的判例汇编缩写或页码。
  • 没有案卷引用的摘要或事实部分。
  • 听起来很具体的细节,例如时间、金额或姓名,而你并不记得文件中有这些内容。
  • 通篇语气同样自信,在案卷实际上并不清楚的地方也没有任何保留。
  • 时间顺序中的事件排列得可疑地整齐。

如何训练团队发现幻觉?

让失败看得见。抽象的警告,不如亲眼看到一段流畅却错误的输出出现在你自己这类材料上。

  • 举办一次短会,让员工核验一份故意带有缺陷的 AI 草稿,并比较各自发现了什么。
  • 把核验流程和日志模板发布在每个人都会用到的地方。
  • 把核验人的姓名列入每一份提交文件核对清单。
  • 工具变化时重新审视该政策,并公开分享险些出错的情况,让其他人从中学习。

关于员工层面的指引,请参阅 把 AI 当作律师助理使用:监督、核验与职业道德;关于审阅方面的具体控制措施,请参阅 AI 辅助文件审阅的职业道德。目标不是避开 AI,而是建立一套流程,让它的错误在到达客户或法院之前被人发现。如果某个问题取决于你所在司法辖区的披露规则,请向你执业地的州律师协会或持证律师查询。