Sentencias inventadas, artículos ficticios, precedentes alucinados: cuando los abogados adoptan asesoramiento jurídico generado por IA sin verificación, se perfilan sanciones y daños a los clientes. Un análisis de los riesgos, los deberes profesionales y las lecciones de fracasos espectaculares.
La máquina miente — y el abogado firma
En junio de 2023, un caso recorrió la prensa jurídica internacional, sacudiendo profundamente la relación entre inteligencia artificial y asesoramiento jurídico: en el procedimiento neoyorquino Mata v. Avianca, Inc., un abogado había incluido en su escrito seis decisiones judiciales que no existían. ChatGPT las había inventado — completas con números de expediente, nombres de jueces y citas. El tribunal impuso una multa de 5.000 dólares y obligó a los abogados a enviar cartas de disculpa personales a los jueces falsamente identificados como autores.
Lo que suena como un caso aislado se ha convertido desde hace tiempo en un patrón. Desde 2023 se han documentado en Estados Unidos casi 600 casos en los que abogados presentaron ante los tribunales citas falsas generadas por IA — con sanciones de entre 100 y más de 31.000 dólares. También en Alemania se multiplican las señales de alarma. Pero, ¿qué son exactamente las alucinaciones de la IA, por qué son tan peligrosas para el asesoramiento jurídico y qué deberes profesionales están en juego?
¿Qué son las alucinaciones de la IA?
El término alucinación describe en la investigación en IA un fenómeno en el que un modelo de lenguaje (Large Language Model, LLM) genera información que suena plausible pero es factualmente incorrecta. En el contexto jurídico, esto se manifiesta en tres formas típicas:
Decisiones inventadas: El modelo inventa resoluciones completas — con números de expediente ficticios, nombres de jueces y sumarios. Este fue el problema central en el caso Mata v. Avianca.
Citas falsas de decisiones reales: El modelo cita una decisión que realmente existe pero tergiversa su contenido — por ejemplo, atribuyéndole una opinión jurídica que el tribunal en realidad nunca sostuvo.
Citas correctas con razonamiento erróneo: El modelo proporciona una referencia correcta pero la conecta con un razonamiento jurídico que no se deduce de la decisión citada.
La magnitud del problema
Un estudio muy citado de la Universidad de Stanford de 2024 examinó la fiabilidad de los modelos de lenguaje comunes en cuestiones jurídicas. Los resultados fueron desalentadores: GPT-4 alucinó en el 58 por ciento de los casos, GPT-3.5 en el 69 por ciento y Llama 2 en el 88 por ciento. Incluso las herramientas jurídicas especializadas obtuvieron solo resultados marginalmente mejores en un estudio de seguimiento de 2025: Lexis+ AI produjo información errónea en más del 17 por ciento de los casos, Westlaw AI en aproximadamente el 33 por ciento.
Estas cifras ilustran que las alucinaciones de la IA no son un problema marginal, sino un riesgo estructural en el uso de la IA en la práctica jurídica.
Casos espectaculares: de Nueva York a Alabama
Mata v. Avianca (Nueva York, 2023)
El caso originario se refería a una demanda por daños personales contra la aerolínea Avianca. Los abogados Peter LoDuca y Steven Schwartz del despacho Levidow, Levidow & Oberman habían utilizado ChatGPT para la investigación jurídica. Cuando la parte contraria comunicó que no podía localizar las decisiones citadas, los abogados no retiraron sus escritos. El juez P. Kevin Castel habló de una «circunstancia sin precedentes» e impuso la sanción. El caso se convirtió en una señal de alarma mundial.
Pensilvania (2025)
El abogado Nicholas L. Palazzo fue sancionado después de que sus escritos en un caso de responsabilidad por productos contuvieran citas erróneas y aparentemente fabricadas. Las decisiones referenciadas no existían o contenían errores fácticos significativos.
Alabama (2025)
Tres abogados del gran despacho Butler Snow LLP — entre ellos Matthew B. Reeves, William J. Cranford y William R. Lunsford — recibieron una amonestación pública y fueron excluidos del procedimiento. Además, se presentó una denuncia ante el Colegio de Abogados de Alabama por fuentes jurídicas fabricadas.
Illinois (2025)
Un abogado de Springfield fue sancionado por citar ocho decisiones inexistentes en un procedimiento de apelación. En un caso separado, abogados de la Chicago Housing Authority citaron el caso ficticio «Mack v. Anderson» — la abogada responsable declaró que no creía que ChatGPT fuera capaz de generar precedentes falsos.
Consecuencias profesionales en el derecho alemán
Los deberes fundamentales según los § 43 y § 43a BRAO
La Ley Federal alemana de Abogados (Bundesrechtsanwaltsordnung, BRAO) establece requisitos claros de diligencia. El § 43 BRAO establece el deber profesional general: el abogado debe ejercer su profesión de manera concienzuda (gewissenhaft). El § 43a BRAO concreta los deberes fundamentales — entre ellos el deber de independencia (Unabhängigkeit), de confidencialidad (Verschwiegenheit) y de ejercicio profesional concienzudo (gewissenhafte Berufsausübung).
¿Qué significa esto para el uso de la IA? La conciencia profesional exige que el abogado verifique la exactitud de sus resultados de trabajo — independientemente de las herramientas que emplee. Quien transmite a sus clientes o presenta ante los tribunales dictámenes jurídicos o escritos generados por IA sin verificación, viola este deber fundamental.
Responsabilidad según el § 280 BGB
Más allá de las sanciones profesionales, se perfila una responsabilidad civil. El contrato de abogado fundamenta una obligación de asesoramiento jurídico diligente. Si un abogado proporciona un dictamen jurídico basado en alucinaciones de la IA que resulta ser incorrecto y causa daño al cliente, es responsable por daños y perjuicios según el § 280 apartado 1 BGB (Schadensersatz wegen Pflichtverletzung — indemnización por incumplimiento de una obligación).
El argumento de que uno «confió» en la IA no exime. El deber de verificación independiente no es delegable — ni a un pasante ni a un algoritmo.
Medidas disciplinarias según el § 113 BRAO
En casos de incumplimientos graves de los deberes, también entran en juego medidas disciplinarias según el § 113 BRAO. Estas van desde la advertencia (Warnung) pasando por la multa (Geldbuße) hasta la prohibición de representación (Vertretungsverbot) y, en los casos más extremos, la exclusión (Ausschließung) de la abogacía.
¿Por qué alucinan los modelos de IA?
La comprensión de las causas técnicas es crucial para un uso responsable de las herramientas de IA.
Predicción estadística de palabras en lugar de representación del conocimiento
Los grandes modelos de lenguaje son fundamentalmente generadores de texto estadísticos. Calculan, sobre la base de sus datos de entrenamiento, la probabilidad del siguiente token (palabra o fragmento de palabra). No «comprenden» el contenido jurídico — generan textos que estadísticamente se asemejan a una argumentación jurídica. Cuando el modelo no encuentra una decisión real adecuada en sus datos de entrenamiento, genera una que suena plausible.
Falta de verificación de fuentes
A diferencia de las bases de datos jurídicas como juris, beck-online o dejure.org, los modelos de lenguaje generales no tienen acceso a bases de datos de jurisprudencia verificadas. No pueden distinguir entre decisiones existentes y fabricadas. Los sistemas de Retrieval-Augmented Generation (RAG), utilizados por herramientas jurídicas especializadas, mitigan este problema — pero no lo eliminan por completo, como demuestra el estudio de Stanford.
Autoconfirmación y confabulación
Particularmente insidioso: cuando un usuario pregunta a una IA sobre la existencia de una decisión alucinada, el modelo frecuentemente confirma su existencia e incluso proporciona más «detalles». Este fenómeno, denominado confabulación, dificulta la detección de alucinaciones mediante simples preguntas de seguimiento.
Lecciones para la abogacía alemana
1. La IA es una herramienta de investigación, no una fuente jurídica
La perspectiva fundamental es: los modelos de IA no son fuentes jurídicas fiables. Pueden proporcionar puntos de partida para la investigación, destacar conexiones y ofrecer asistencia en la redacción. Pero toda información jurídica debe verificarse contra fuentes primarias — leyes, jurisprudencia, comentarios.
2. Principio de los cuatro ojos para el trabajo asistido por IA
Establezca en su despacho un principio de los cuatro ojos (Vieraugenprinzip) vinculante para los resultados de trabajo asistidos por IA. Ningún escrito, ningún dictamen jurídico y ningún proyecto de contrato debería salir del despacho sin que una segunda persona — un abogado experimentado — haya verificado la exactitud de las fuentes citadas.
3. Documentación del uso de la IA
Documente cuándo y cómo se utilizan las herramientas de IA. Esto sirve no solo para el aseguramiento interno de la calidad, sino que también puede facilitar la demostración, en caso de un litigio por responsabilidad, de que se habían establecido procesos de verificación adecuados.
4. Formación y sensibilización
Invierta en la competencia en IA de sus colaboradores. Cada abogado que utilice IA debe comprender el funcionamiento y los límites de la tecnología — en particular el fenómeno de la alucinación.
5. Transparencia hacia clientes y tribunales
Comunique abiertamente cuando se utilicen herramientas de IA en el trabajo para clientes. Varios tribunales estadounidenses ya exigen una divulgación del uso de la IA en los escritos. Es solo cuestión de tiempo antes de que se discutan requisitos similares en Alemania.
Perspectivas regulatorias
El AI Act europeo y el asesoramiento jurídico
El AI Act europeo entra en vigor en sus disposiciones centrales el 2 de agosto de 2026. Los sistemas de IA desplegados en la administración de justicia — por ejemplo, para el acceso a la justicia o la interpretación de textos legales — pueden clasificarse como IA de alto riesgo. Esto conllevaría requisitos estrictos de transparencia, documentación y supervisión humana.
Desarrollos regulatorios profesionales
En Estados Unidos, los colegios de abogados de Nueva York, California y Florida ya han publicado directrices sobre el uso de la IA. Los colegios de abogados alemanes deberán seguir este ejemplo. Una regulación profesional clara del uso de la IA en el asesoramiento jurídico es ya imprescindible.
Conclusión: la confianza es buena, la verificación es obligatoria
Las alucinaciones de la IA no son un error de software que se corregirá en la próxima versión. Son una característica estructural de los modelos de lenguaje generativos. Los estudios de Stanford demuestran que incluso las herramientas jurídicas especializadas alucinan en una medida considerable. Quienes ignoren esto ponen en peligro a sus clientes, su reputación y su licencia para ejercer.
La respuesta no reside en rechazar la IA — reside en su uso responsable. La IA puede ser una herramienta poderosa para la investigación jurídica, la estructuración de argumentos y la mejora de la eficiencia. Pero no sustituye ni la experiencia jurídica ni el deber de diligencia del abogado. El abogado sigue siendo el garante de la exactitud — no el algoritmo.
En compleneo, le apoyamos en el desarrollo de directrices internas para el uso de la IA, en la formación de sus equipos y en la evaluación jurídica de herramientas de IA para el asesoramiento jurídico. Contáctenos.
