Nếu bất kỳ ai tại hãng của bạn đã dán tài liệu của khách hàng vào một công cụ AI, nhờ công cụ tóm tắt một bản ghi lời khai, hoặc dùng công cụ để đọc chữ từ ảnh chụp màn hình, thì câu hỏi về giám sát đã được đặt ra. ABA Model Rule 5.3 không nêu trí tuệ nhân tạo theo tên, nhưng quy tắc này điều chỉnh sự hỗ trợ của người không phải luật sư mà luật sư của bạn dựa vào, và ABA Formal Opinion 512, ban hành vào tháng 7 năm 2024, áp dụng khung đó trực tiếp cho AI tạo sinh.
Hướng dẫn này được viết cho những người mang nghĩa vụ giám sát: đối tác quản lý, trưởng nhóm chuyên môn và các luật sư ký những gì trợ lý pháp lý và công cụ tạo ra. Hướng dẫn bao gồm những gì quy tắc yêu cầu ở cấp hãng và ở cấp bàn làm việc, cách xây dựng các biện pháp mà quy tắc đòi hỏi, việc xác minh trông như thế nào theo từng nhiệm vụ, cần hỏi nhà cung cấp điều gì, và trách nhiệm thuộc về đâu khi việc giám sát thất bại. Các phiên bản Rule 5.3 của từng bang và hướng dẫn về AI của đoàn luật sư bang khác nhau, nên hãy xem Model Rule là mức cơ sở và kiểm tra văn bản cùng các ý kiến của khu vực tài phán của bạn.
Rule 5.3 yêu cầu điều gì khi hãng của bạn dùng AI?
Rule 5.3 tạo ra ba tầng trách nhiệm đối với sự hỗ trợ của người không phải luật sư, và mỗi tầng tương ứng với việc dùng AI. Nghĩa vụ này là nỗ lực hợp lý, không phải sự hoàn hảo, nhưng mang tính chủ động: phải có người xây dựng hệ thống và phải có người vận hành hệ thống đó.
- Biện pháp cấp hãng, 5.3(a). Thành viên hợp danh và luật sư có thẩm quyền quản lý tương đương phải nỗ lực hợp lý để bảo đảm hãng có các biện pháp đang có hiệu lực, mang lại sự bảo đảm hợp lý rằng hành vi của người không phải luật sư phù hợp với nghĩa vụ nghề nghiệp của luật sư. Với AI, điều đó có nghĩa là chính sách, danh sách công cụ được phê duyệt, đào tạo và thẩm định nhà cung cấp.
- Giám sát trực tiếp, 5.3(b). Luật sư có thẩm quyền giám sát trực tiếp đối với người không phải luật sư phải nỗ lực hợp lý để bảo đảm hành vi của người đó phù hợp với nghĩa vụ của luật sư. Đây là luật sư giao việc cho trợ lý pháp lý và quyết định kết quả có sự hỗ trợ của AI đã đủ tốt để dùng hay chưa.
- Trách nhiệm đối với vi phạm, 5.3(c). Luật sư chịu trách nhiệm về hành vi của người không phải luật sư mà nếu do luật sư thực hiện sẽ vi phạm các quy tắc, khi luật sư ra lệnh hoặc chấp thuận hành vi đó, hoặc khi luật sư có thẩm quyền quản lý hoặc giám sát biết về hành vi đó vào thời điểm hậu quả còn có thể được tránh hoặc giảm nhẹ mà không thực hiện hành động khắc phục hợp lý.
Rule 5.1 chạy song song đối với luật sư. Một luật sư cộng sự dùng công cụ AI một cách cẩu thả được giám sát theo 5.1, nên các biện pháp cấp hãng bạn xây dựng nên bao gồm cả luật sư lẫn nhân viên.
Ai được tính là "người không phải luật sư" khi có AI?
Trong thực tế có ba đối tượng: nhân viên đang dùng công cụ, nhà cung cấp cung cấp công cụ, và chính kết quả, vốn trông như công việc đã hoàn thành. Mỗi đối tượng cần một biện pháp kiểm soát khác nhau.
Tiêu đề của quy tắc được đổi vào năm 2012 từ "Assistants" thành "Assistance", và phần bình luận mô tả các dịch vụ bên ngoài hãng, chẳng hạn công ty quản lý tài liệu và việc lưu trữ thông tin khách hàng trên internet. Opinion 512 nhìn các nhà cung cấp AI qua cùng lăng kính đó. Kết quả thực tế là một sơ đồ ba phần:
| Lớp | Ví dụ | Biện pháp kiểm soát phù hợp |
|---|---|---|
| Người đang dùng AI | Một trợ lý pháp lý tóm tắt bản xuất tin nhắn của khách hàng bằng chatbot | Chính sách, đào tạo, công cụ được phê duyệt, hướng dẫn theo từng việc được giao |
| Nhà cung cấp | Một dịch vụ đám mây lưu trữ và xử lý các tệp khách hàng đã tải lên | Thẩm định kỹ, điều khoản hợp đồng, kiểm soát truy cập, rà soát định kỳ |
| Kết quả | Một bản thảo dòng thời gian, văn bản được trích xuất, một bản tóm tắt hoặc một trích dẫn | Xác minh đối chiếu với nguồn trước khi bất kỳ ai dựa vào kết quả |
ABA Formal Opinion 512 bổ sung điều gì?
Opinion 512 làm cho các kỳ vọng về giám sát trở nên cụ thể: luật sư quản lý nên thiết lập chính sách rõ ràng về việc dùng AI được phép, và luật sư giám sát nên nỗ lực hợp lý để bảo đảm luật sư và người không phải luật sư tuân theo các chính sách đó. Ý kiến này cũng yêu cầu đào tạo về cách các công cụ hoạt động, những hạn chế của chúng, và việc xử lý an toàn dữ liệu khách hàng.
Ý kiến này gắn việc giám sát với các nghĩa vụ khác mà nó thảo luận. Năng lực theo Rule 1.1, bao gồm lời kêu gọi trong bình luận 8 về việc hiểu lợi ích và rủi ro của công nghệ liên quan, có nghĩa là người giám sát phải hiểu một công cụ đủ rõ để biết nó thất bại ở đâu. Bảo mật theo Rule 1.6 quyết định công cụ nào được nhận thông tin khách hàng; ý kiến kết luận rằng cần sự đồng ý có hiểu biết của khách hàng trước khi thông tin liên quan đến việc đại diện được đưa vào một công cụ tự học có thể tiết lộ thông tin đó, và rằng đoạn mẫu trong thư nhận việc là không đủ. Rule 1.5 giới hạn những gì bạn có thể tính phí cho công việc có sự hỗ trợ của AI. Bài hướng dẫn về ABA Formal Opinion 512 của chúng tôi bao gồm từng mục; phần còn lại của bài viết này tập trung vào việc xây dựng chính hệ thống giám sát.
Bạn xây dựng "các biện pháp mang lại sự bảo đảm hợp lý" như thế nào?
Hãy xem Rule 5.3(a) như một dự án có sản phẩm bàn giao: một chương trình AI bằng văn bản mà mọi người được đào tạo và được rà soát. Một phiên bản khả thi cho một hoạt động tranh tụng quy mô nhỏ hoặc vừa trông như sau.
- Kiểm kê những gì đang được dùng. Hỏi mọi luật sư và nhân viên họ đang dùng những tính năng AI nào, kể cả các tính năng tích hợp trong email, PDF, công cụ phiên âm và công cụ quản lý hoạt động hành nghề. Những công cụ không ai phê duyệt chính là những công cụ quan trọng nhất.
- Phân loại việc dùng theo rủi ro. Sắp các nhiệm vụ thành được phép, được phép kèm xác minh, và bị cấm. Trợ giúp ngữ pháp trên một bản thảo không mật là một rủi ro khác với việc tải lên hồ sơ y tế của khách hàng.
- Phê duyệt công cụ, không chỉ việc dùng. Giữ một danh sách ngắn các công cụ đã được thẩm định cho dữ liệu khách hàng, các cài đặt phải bật hoặc tắt, và ai được dùng từng công cụ.
- Đưa việc xác minh vào quy trình làm việc. Xác định, theo từng loại nhiệm vụ, một người phải kiểm tra điều gì trước khi kết quả được dùng, và ai là người phê duyệt.
- Đào tạo và ghi nhận việc đó. Đào tạo luật sư và nhân viên về chính sách và về giới hạn của từng công cụ đã được phê duyệt. Giữ tài liệu và hồ sơ điểm danh.
- Rà soát theo lịch và khi có yếu tố kích hoạt. Xem lại chương trình định kỳ và mỗi khi nhà cung cấp thay đổi điều khoản, một công cụ mới được áp dụng, hoặc hướng dẫn đạo đức mới được ban hành tại khu vực tài phán của bạn.
Mẫu câu chữ: các điều khoản chính sách sử dụng AI
1. Công cụ được phê duyệt. Thông tin liên quan đến việc đại diện khách hàng chỉ được nhập vào các công cụ trong danh sách được phê duyệt của hãng, được cấu hình theo đúng cách danh sách đó quy định. Các công cụ AI công cộng hoặc tiêu dùng không được phê duyệt cho thông tin khách hàng.
2. Kiểm chứng. Kết quả của AI là bản nháp. Trước khi dùng trong tư vấn cho khách hàng, hồ sơ nộp tòa, tài liệu chứng cứ hoặc thư từ, thành viên nhóm được giao việc kiểm chứng kết quả đó với tài liệu nguồn, và luật sư giám sát phê duyệt việc sử dụng.
3. Sự đồng ý và việc tiết lộ. Luật sư chịu trách nhiệm quyết định liệu một cách dùng cụ thể có cần sự đồng ý của khách hàng hoặc cần tiết lộ hay không, phù hợp với hướng dẫn của hãng và các quy tắc áp dụng.
4. Báo cáo. Bất kỳ ai phát hiện lỗi liên quan đến AI, mối lo về bảo mật hoặc việc sử dụng chưa được phê duyệt đều báo cho [name or role] trong cùng ngày.
Hãy điều chỉnh câu chữ cho phù hợp với cơ cấu hãng của bạn và quy tắc của tiểu bang bạn. Đây là điểm khởi đầu, không phải chính sách đã hoàn chỉnh.
Việc kiểm chứng trông như thế nào trong thực tế?
Kiểm chứng nghĩa là đối chiếu kết quả với nguồn mà kết quả đó tuyên bố phản ánh, do một người đủ năng lực để phát hiện lỗi thực hiện, trước khi bất kỳ ai dựa vào kết quả đó. Cách kiểm tra đúng phụ thuộc vào nhiệm vụ.
| Nhiệm vụ | Thất bại điển hình | Mức kiểm tra tối thiểu |
|---|---|---|
| Trích xuất văn bản từ ảnh chụp màn hình hoặc ảnh | Đọc sai tên, giờ và số; bỏ sót dòng | Đối chiếu văn bản đã trích xuất với hình ảnh; sửa và ghi lại các thay đổi |
| Bản tóm tắt tin nhắn hoặc bản ghi | Thiếu ngữ cảnh, gộp người nói, giọng điệu bị phóng đại | Kiểm tra chọn mẫu với bản gốc; xác nhận mọi sự kiện được dùng ở bước sau |
| Niên biểu | Sai ngày, trình tự bị bịa | Truy từng mục về một tài liệu nguồn hoặc tin nhắn |
| Nghiên cứu pháp lý và trích dẫn | Cơ sở pháp lý không tồn tại hoặc bị mô tả sai | Lấy ra và đọc mọi cơ sở pháp lý được trích dẫn |
Để xem sâu hơn về các dạng thất bại, xem ngăn ảo giác AI trong công việc pháp lý, và chia sẻ cẩm nang của trợ lý pháp lý về giám sát, kiểm chứng và đạo đức với nhân viên của bạn để thói quen tại bàn làm việc khớp với chính sách của hãng.
Bạn nên hỏi nhà cung cấp AI những gì trước khi nhà cung cấp đó chạm vào dữ liệu khách hàng?
Hãy hỏi những câu hỏi mà ABA từ lâu gắn với việc thuê ngoài: ai có thể xem dữ liệu, nhà cung cấp làm gì với dữ liệu, dữ liệu được bảo mật ra sao, và điều gì xảy ra khi có sự cố. Hãy nhận câu trả lời bằng văn bản.
- Nhà cung cấp có dùng dữ liệu đầu vào hoặc tệp của bạn để huấn luyện mô hình không, và điều đó có thể bị loại trừ bằng hợp đồng, chứ không chỉ bằng một công tắc cài đặt?
- Dữ liệu được lưu ở đâu, ai tại nhà cung cấp có thể truy cập, và việc truy cập đó có được ghi nhật ký không?
- Nhà cung cấp có thông báo cho bạn về một vụ vi phạm dữ liệu, và về một trát hầu tòa hoặc yêu cầu khác đối với dữ liệu khách hàng của bạn không?
- Bạn có thể xóa dữ liệu theo yêu cầu và khi kết thúc mối quan hệ, và nhận được xác nhận không?
- Quyền truy cập có thể được giới hạn theo người dùng, vai trò và vụ việc, và thông tin xác thực có thể hết hạn và bị thu hồi không?
- Nếu một trợ lý AI kết nối với hệ thống của bạn, bạn có thể giới hạn trợ lý đó ở quyền chỉ đọc hoặc ở các chức năng cụ thể không?
Hai mục cuối càng quan trọng hơn khi các hãng kết nối trợ lý AI với dữ liệu vụ việc thông qua API và Model Context Protocol. Hãy tìm token được giới hạn phạm vi, có thời hạn và có thể thu hồi cùng các tích hợp tôn trọng quyền hiện có của người dùng, để một trợ lý không bao giờ tiếp cận được nhiều hơn người đã kết nối trợ lý đó.
Điều gì xảy ra khi việc giám sát thất bại?
Theo Rule 5.3(c), luật sư giám sát có thể phải chịu trách nhiệm về hành vi của người không phải luật sư khi ra lệnh cho hành vi đó, khi phê chuẩn hành vi đó, hoặc khi biết về hành vi đó kịp thời để sửa mà không hành động. Với AI, việc phê chuẩn là rủi ro thầm lặng: ký một hồ sơ nộp tòa hoặc phê duyệt một tài liệu chứng cứ được xây trên kết quả chưa kiểm chứng có thể khiến lỗi đó thành của bạn.
Khi một lỗi xuất hiện, các bước khắc phục tương tự như với sai sót của con người: sửa hồ sơ kịp thời, đánh giá liệu khách hàng có phải được thông báo theo Rule 1.4 hay không, ghi lại những gì đã xảy ra, và sửa biện pháp kiểm soát đã thất bại, dù đó là việc đào tạo, danh sách công cụ được phê duyệt hay bước kiểm chứng. Nếu bạn không chắc phiên bản các quy tắc này của tiểu bang bạn áp dụng thế nào cho một tình huống cụ thể, hãy tham vấn luật sư đạo đức nghề nghiệp có giấy phép tại khu vực tài phán của bạn hoặc đường dây nóng đạo đức của đoàn luật sư tiểu bang bạn trước khi quyết định.
