如果贵所任何人曾把客户文件粘贴进人工智能工具、让它概括一份庭外证言,或用它从截图中读出文字,监督问题就已经摆在眼前。ABA《示范规则》第5.3条并未点名人工智能,但它规范律师所依赖的非律师协助;ABA于2024年7月发布的正式意见第512号,将该框架直接适用于生成式人工智能。
本指南写给承担监督义务的人:管理合伙人、业务组负责人,以及签署律师助理和工具所产出内容的律师。它涵盖规则在事务所层面和具体工作层面的要求、如何建立规则所要求的措施、各类任务的核验是什么样的、该向供应商问什么,以及监督未到位时责任落在何处。第5.3条的各州版本以及各州律师协会的人工智能指引各不相同,因此请以《示范规则》为基线,并核对你所在司法辖区的条文和意见。
当贵所使用人工智能时,第5.3条要求什么?
第5.3条为非律师协助设定了三层责任,每一层都对应人工智能的使用。这项义务是作出合理努力,而不是做到完美,但它是必须主动履行的义务:必须有人建立这套制度,也必须有人执行它。
- 事务所层面的措施,第5.3(a)条。合伙人以及具有相当管理权限的律师,必须作出合理努力,确保事务所已实施能够合理保证非律师行为与律师职业义务相符的措施。就人工智能而言,这意味着政策、已批准工具清单、培训以及供应商尽职调查。
- 直接监督,第5.3(b)条。对非律师具有直接监督权的律师,必须作出合理努力,确保该人的行为与律师的义务相符。这就是把任务交给律师助理、并决定人工智能辅助结果是否足以使用的那位律师。
- 对违规行为的责任,第5.3(c)条。当非律师的行为若由律师作出即违反规则时,律师在以下情形对该行为负责:律师命令或追认该行为;或者具有管理权或监督权的律师在尚可避免或减轻其后果时已知悉该行为,却未采取合理的补救措施。
第5.1条对律师并行适用。助理律师若草率使用人工智能工具,受第5.1条监督,因此你建立的事务所层面措施应同时覆盖律师和员工。
涉及人工智能时,谁算作“非律师”?
在实践中有三类:使用工具的员工、提供工具的供应商,以及产出本身——它呈现出来时看起来像已完成的工作。每一类都需要不同的管控。
该规则的标题于2012年由“Assistants”改为“Assistance”,其评注描述事务所外部的服务,例如文件管理公司以及基于互联网存储客户信息。第512号意见以同一视角审视人工智能供应商。实际结果是一张三部分对照:
| 层面 | 示例 | 相适配的管控 |
|---|---|---|
| 使用人工智能的人 | 律师助理用聊天机器人概括客户的消息导出文件 | 政策、培训、已批准的工具、任务层面的指示 |
| 供应商 | 存储并处理已上传客户文件的云服务 | 尽职调查、合同条款、访问控制、定期复查 |
| 产出 | 一份时序草稿、提取的文字、一份摘要或一处引用 | 在任何人依赖之前对照来源进行核验 |
ABA正式意见第512号补充了什么?
第512号意见把监督方面的期望说具体了:具有管理职责的律师应当就允许的人工智能使用制定明确政策,具有监督职责的律师应当作出合理努力,确保律师和非律师遵守这些政策。它还要求就工具如何运作、其局限性以及客户数据的安全处理开展培训。
该意见把监督与它所讨论的其他义务联系起来。第1.1条下的胜任义务,包括评注8要求了解相关技术的益处与风险,意味着监督人必须足够了解一项工具,才知道它会在哪里出错。第1.6条下的保密义务决定哪些工具可以接收客户信息;该意见的结论是,在与代理相关的信息进入可能泄露该信息的自学习工具之前,需要获得客户的知情同意,而委托函中的套话并不足够。第1.5条限制你可就人工智能辅助工作收取的费用。我们的ABA正式意见第512号导读逐节说明;本文其余部分聚焦于如何建立监督制度本身。
如何建立“能够提供合理保证的措施”?
把第5.3(a)条当作一个有交付成果的项目:一套书面的人工智能方案,人员接受培训,并且会得到复查。适用于小型或中型诉讼业务的可行版本如下。
- 盘点已经在用的内容。询问每位律师和员工使用哪些人工智能功能,包括内置于电子邮件、PDF、转录和业务管理工具中的功能。未经批准的工具恰恰是最要紧的。
- 按风险对用途分类。把任务分为允许、允许但须核验、以及禁止。对一份非保密草稿做语法帮助,与上传客户病历,风险并不相同。
- 批准的是工具,而不只是用途。为客户数据保留一份简短的已审核工具清单,列出必须开启或关闭的设置,以及谁可以使用每一项工具。
- 把核验写进工作流程。按任务类型规定,在使用产出之前必须检查什么,以及由谁签字确认。
- 培训并做好记录。就该政策以及每项已批准工具的使用限制,对律师和工作人员进行培训。保留培训材料和出席记录。
- 按计划以及在触发情形下复查。定期重新审视该方案;每当供应商更改条款、采用新工具,或您所在司法辖区发布新的职业道德指引时,也要重新审视。
示例措辞:人工智能使用政策条款
1. 已批准的工具。与客户委托事项相关的信息,只能输入事务所已批准清单上的工具,并按该清单的规定进行配置。面向公众或消费者的人工智能工具,未获批准用于客户信息。
2. 核验。人工智能的输出只是草稿。在将其用于客户建议、提交文件、证物或往来函件之前,指定的团队成员须对照原始材料进行核验,并由主管律师批准其使用。
3. 同意与披露。负责律师决定某项具体使用是否需要取得客户同意或进行披露,该决定须符合事务所指引和适用规则。
4. 报告。任何人发现与人工智能相关的错误、保密方面的顾虑或未经批准的使用,须于当日向[姓名或职务]报告。
请根据贵所的组织架构以及您所在州的规则调整措辞。这是一个起点,不是一份完成的政策。
核验在实际工作中是什么样的?
核验是指:在任何人依赖该输出之前,由有能力发现错误的人,对照其声称所反映的来源进行核对。恰当的核对方式取决于具体任务。
| 任务 | 典型失误 | 最低限度的核对 |
|---|---|---|
| 从截图或照片中提取文字 | 姓名、时间和数字被误读;整行遗漏 | 将提取的文字与图像对照;更正并记录修改 |
| 消息或笔录的摘要 | 遗漏上下文、说话人被合并、语气被夸大 | 对照原件抽查;确认后续使用的每一项事实 |
| 时间顺序表 | 日期错误、顺序被编造 | 将每一条追溯到来源文件或消息 |
| 法律检索与引用 | 不存在或被错误描述的权威依据 | 调取并阅读所引用的每一项权威依据 |
若要更深入了解失效模式,请参阅在法律工作中防止人工智能幻觉,并将律师助理关于监督、核验与职业道德的指南分享给您的工作人员,使一线日常习惯与事务所政策一致。
在人工智能供应商接触客户数据之前,您应该问什么?
提出 ABA 长期以来与外包相关联的问题:谁能看到数据、供应商如何使用这些数据、如何加以保护,以及出现问题时会怎样。请以书面形式取得答复。
- 供应商是否使用您的输入内容或文件来训练模型?能否通过合同加以排除,而不只是靠设置开关?
- 数据存储在哪里?供应商方面谁可以访问?该访问是否有日志记录?
- 供应商是否会在发生数据泄露时通知您,以及在收到传票或其他调取您客户数据的要求时通知您?
- 您能否在要求时以及合作关系结束时删除数据,并收到确认?
- 访问权限能否按用户、角色和案件加以限定?凭据能否到期并被撤销?
- 如果人工智能助手接入您的系统,您能否将其限制为只读访问或特定功能?
随着事务所通过 API 和 Model Context Protocol 将人工智能助手连接到案件数据,最后两项变得更为重要。请寻找可到期并可撤销的范围限定令牌,以及尊重现有用户权限的集成,使助手能够触及的范围永远不超过将其接入的那个人。
监督失灵时会怎样?
根据规则 5.3(c),主管律师可能因下令实施、予以追认,或在仍有时间纠正时已知悉却未采取行动,而对非律师的行为承担责任。就人工智能而言,追认是不易察觉的风险:签署基于未经核验的输出而形成的提交文件,或批准这样的证物,可能使该错误成为您的错误。
当错误浮现时,补救步骤与人为失误相同:及时更正记录,评估是否必须根据规则 1.4 告知客户,记录发生了什么,并修复失效的管控措施,无论是培训、已批准工具清单还是核验步骤。如果您不确定您所在州版本的这些规则如何适用于具体情况,请在作出决定前咨询在您所在司法辖区持牌的职业道德律师,或您所在州律师协会的职业道德热线。
