Los tribunales han sancionado a abogados por presentar escritos que citaban casos que no existen, y esos titulares hicieron de “alucinación de IA” una frase conocida. Las citas fabricadas, sin embargo, son solo la falla más visible. En el apoyo al litigio, las más silenciosas suelen ser más peligrosas: una entrada de cronología con la fecha incorrecta, un resumen que atribuye un mensaje al progenitor equivocado, una cita textual que es casi lo que dice el documento.

Esta guía es para abogados y personal de litigio que usan IA generativa, o supervisan a quienes lo hacen. Explica por qué ocurren las alucinaciones, cataloga las formas que adoptan en el trabajo jurídico y presenta controles de prevención y un protocolo de verificación que se sostienen ante un examen riguroso. Los deberes profesionales mencionados provienen de las Reglas Modelo de la ABA, la Opinión Formal 512 de la ABA y las Reglas Federales de Procedimiento Civil; las versiones de su estado y las reglas locales pueden ser distintas.

¿Qué es una alucinación de IA?

Una alucinación de IA es un resultado que se lee como fluido y seguro, pero que no se apoya en el material fuente ni en la realidad. No es una falla; es un subproducto natural de cómo funcionan los modelos generativos.

Los modelos de lenguaje de gran escala generan texto prediciendo las palabras siguientes más probables según patrones aprendidos en el entrenamiento. Están optimizados para producir lenguaje verosímil, no para verificar hechos. Cuando a un modelo le falta la información correcta, rara vez lo dice; produce algo que encaja en el patrón. Las herramientas que primero recuperan documentos reales y luego responden a partir de ellos reducen el problema, pero no lo eliminan, porque el modelo aún puede leer mal, atribuir mal o exagerar lo que recuperó. La implicación práctica: ningún prompt hace que un modelo sea confiablemente veraz. La confiabilidad proviene del proceso.

Por qué los errores fluidos son difíciles de detectar

Los revisores humanos están acostumbrados a tomar el pulido como señal de cuidado. Un borrador desordenado invita al escrutinio; uno limpio y bien organizado invita a leerlo por encima. El resultado de la IA casi siempre es limpio, así que sus errores llegan vestidos de trabajo terminado. También suelen ser localmente verosímiles: un caso inventado tiene un nombre creíble y un formato de cita creíble, y una fecha incorrecta cae en el mes correcto. La misma cualidad que hace que los borradores de IA se sientan útiles hace que sus errores sean fáciles de pasar por alto al leer. Por eso la verificación tiene que ser una tarea estructurada, con cosas específicas que revisar, y no una lectura para ver si algo “se ve mal”.

Se dividen en dos familias: errores sobre el derecho y errores sobre los hechos. Las políticas de IA de la mayoría de los bufetes abordan los primeros y pasan por alto los segundos.

TipoEjemploDónde se esconde
Autoridad fabricadaUn caso, una ley o una regla que no existeSecciones de escritos, memorandos de investigación
Autoridad descrita de forma incorrectaUn caso real citado por un criterio que no contieneParéntesis explicativos, citas en cadena
Cita textual o cita de página incorrectaLenguaje citado que es una paráfrasis o está en otra páginaCitas en bloque, citas de página
Hechos inventados o combinadosUn detalle que no aparece en ningún documento, o dos eventos combinadosResúmenes, secciones de hechos
Atribución incorrectaUn mensaje atribuido al remitente equivocadoResúmenes de mensajes, declaraciones
Fechas y números incorrectosFechas desplazadas, montos transpuestos, errores de zona horariaCronologías, resúmenes financieros
Texto rellenadoPalabras ilegibles en un escaneo reemplazadas por conjeturas verosímilesTexto extraído de imágenes

¿Por qué las alucinaciones importan desde el punto de vista ético?

Porque el abogado es responsable de cada palabra que llega al tribunal, sin importar quién o qué la redactó. Aquí convergen varios deberes:

  • Regla Federal de Procedimiento Civil 11(b) y sus equivalentes estatales: firmar un escrito certifica que las alegaciones jurídicas están justificadas y que las alegaciones fácticas tienen respaldo en las pruebas, después de una indagación razonable.
  • Reglas Modelo 3.1, 3.3 y 8.4(c): pretensiones con mérito, franqueza ante el tribunal y honestidad.
  • Regla Modelo 1.1: competencia, que la Opinión Formal 512 de la ABA interpreta como exigir comprender las limitaciones de una herramienta y verificar su resultado de manera adecuada.
  • Reglas Modelo 5.1 y 5.3: supervisión de los abogados y del personal que usan herramientas de IA.

Algunos jueces y tribunales también exigen revelar o certificar el uso de IA en los escritos, así que revise las órdenes permanentes. Para la opinión completa, consulte nuestra guía sobre la Opinión Formal 512 de la ABA.

¿Cómo se previenen las alucinaciones antes de que ocurran?

Diseñe el trabajo para que el modelo tenga menos espacio para inventar y cada resultado sea fácil de revisar. La prevención reduce el volumen de errores; la verificación detecta el resto.

  • Ancle la herramienta en su expediente. Entréguele los documentos reales y pídale que trabaje solo a partir de ellos, en lugar de basarse en su conocimiento general.
  • Exija una fuente para cada afirmación. Pida una referencia de documento, página o mensaje para cada enunciado, de modo que las afirmaciones sin respaldo se noten.
  • Limite la tarea. “Extraiga cada mensaje de marzo que mencione la recogida de la escuela, con marcas de tiempo” es más seguro que “resuma lo que ocurrió”.
  • Invite “no se encontró”. Dígale a la herramienta de forma explícita que decir que la información no está es una respuesta aceptable.
  • Pida citas textuales exactas con su ubicación en lugar de paráfrasis cuando la redacción importa.
  • Mantenga la IA fuera de los pasos exactos. La numeración, la paginación, el sellado Bates y el armado de pruebas documentales deben ser deterministas.
  • Etiquete el contenido asistido por IA en los borradores para que quienes revisan sepan dónde mirar con más cuidado.

Elegir herramientas construidas de esta manera ayuda. CourtBriefly, por ejemplo, usa la IA solo para pasos de apoyo, como extraer texto de imágenes, que una persona revisa y corrige, mientras que sus PDF de pruebas documentales se generan de forma determinista sin IA (detalles sobre cómo funcionan la extracción y la exportación de pruebas).

Un protocolo de verificación para borradores asistidos por IA

La verificación debe ser un paso definido, con una persona responsable identificada y un registro, y no una instrucción general de “revisar dos veces”. Un protocolo que funciona para la mayoría de los escritos:

  1. Marque el contenido asistido por IA. Quien redacta indica qué secciones, citas y hechos provinieron de una herramienta de IA o pasaron por ella.
  2. Verifique cada autoridad. Obtenga cada caso, ley y norma citados de una fuente de investigación confiable. Confirme que existe, que la cita es correcta, que dice lo que el borrador afirma, que las citas textuales son exactas, que las citas de página son correctas y que sigue siendo derecho vigente.
  3. Rastree cada hecho. Cada afirmación de hecho recibe una cita del expediente, y quien verifica abre el documento citado para confirmarla.
  4. Revise las fechas, los nombres y los números por separado. Aquí es donde los errores pequeños causan un daño grande; revíselos en su propia pasada.
  5. Agregue una segunda persona que revise los escritos de alto riesgo. Las mociones dispositivas, las declaraciones y todo lo que se presenta bajo juramento merecen otra revisión.
  6. Registre la verificación. Anote quién revisó qué, cuándo y qué se corrigió.

Plantilla: entrada del registro de verificación

Documento: [moción / escrito / declaración], borrador con fecha [fecha]. Secciones asistidas por IA: [lista]. Autoridades verificadas: [número] de [número]; correcciones: [describa]. Hechos rastreados hasta el expediente: [número] de [número]; correcciones: [describa]. Fechas y cifras revisadas: sí / no. Requisito del tribunal de divulgación de IA: [ninguno encontrado / cumplido, describa]. Verificado por: [nombre], [fecha]. Revisión del abogado o de la abogada: [nombre], [fecha].

¿Qué señales de alerta indican que un pasaje necesita una revisión más detenida?

Algunos patrones aparecen una y otra vez en resultados con alucinaciones. Capacite a quienes revisan para que vayan más despacio cuando los vean:

  • Un caso que nadie del equipo ha oído y que respalda el punto a la perfección.
  • Citas textuales inusualmente precisas o demasiado pulidas.
  • Formatos de cita que se ven un poco incorrectos, como abreviaturas extrañas de recopilaciones de jurisprudencia o números de página.
  • Resúmenes o secciones de hechos sin citas del expediente.
  • Detalles que suenan específicos, como horarios, cantidades o nombres, que usted no recuerda de los documentos.
  • Una seguridad uniforme en todo el texto, sin matices donde el expediente en realidad no es claro.
  • Hechos en una cronología que caen en un orden sospechosamente perfecto.

¿Cómo capacita a un equipo para detectar alucinaciones?

Haga visible el error. Las advertencias abstractas sirven menos que ver un resultado fluido y equivocado sobre su propio tipo de material.

  • Haga una sesión breve en la que el personal verifique un borrador de IA con errores deliberados y compare lo que detectó.
  • Publique el protocolo de verificación y la plantilla del registro donde todos los usen.
  • Incluya el nombre de quien verifica en cada lista de verificación de escritos.
  • Revise la política cuando cambien las herramientas y comparta los casi errores de forma abierta para que los demás aprendan de ellos.

Para orientación a nivel del personal, consulte usar la IA como paralegal: supervisión, verificación y ética, y para controles específicos de la revisión, ética de la revisión de documentos asistida por IA. La meta no es evitar la IA, sino construir un proceso en el que las personas detecten sus errores antes de que lleguen a un cliente o a un tribunal. Si una pregunta depende de las reglas de divulgación de su jurisdicción, consulte al colegio de abogados de su estado o a un abogado con licencia donde usted ejerce.