Jugements inventés, paragraphes fictifs, précédents hallucinés : lorsque les avocats adoptent des avis juridiques générés par l'IA sans vérification, sanctions et préjudices aux clients se profilent. Une analyse des risques, des devoirs professionnels et des leçons tirées d'échecs spectaculaires.
La machine ment — et l'avocat signe
En juin 2023, une affaire a traversé la presse juridique internationale, ébranlant durablement la relation entre intelligence artificielle et conseil juridique : dans l'affaire new-yorkaise Mata v. Avianca, Inc., un avocat avait inclus dans ses conclusions six décisions de justice qui n'existaient pas. ChatGPT les avait inventées — avec numéros de dossier, noms de juges et citations. Le tribunal a imposé une amende de 5 000 dollars et obligé les avocats à envoyer des lettres d'excuses personnelles aux juges faussement désignés comme auteurs.
Ce qui ressemble à un cas isolé est devenu depuis longtemps un phénomène récurrent. Depuis 2023, près de 600 cas ont été documentés aux États-Unis dans lesquels des avocats ont soumis aux tribunaux des fausses citations générées par l'IA — avec des sanctions allant de 100 à plus de 31 000 dollars. En Allemagne aussi, les signaux d'alarme se multiplient. Mais que sont exactement les hallucinations de l'IA, pourquoi sont-elles si dangereuses pour le conseil juridique, et quels devoirs professionnels sont en jeu ?
Que sont les hallucinations de l'IA ?
Le terme hallucination désigne en recherche sur l'IA un phénomène par lequel un modèle de langage (Large Language Model, LLM) génère des informations qui semblent plausibles mais sont factuellement fausses. Dans le contexte juridique, cela se manifeste sous trois formes typiques :
Décisions inventées : Le modèle invente des décisions complètes — avec des numéros de dossier fictifs, des noms de juges et des sommaires. C'était le problème central dans l'affaire Mata v. Avianca.
Fausses citations de décisions réelles : Le modèle cite une décision qui existe réellement mais en déforme le contenu — par exemple en lui attribuant une opinion juridique que le tribunal n'a en réalité jamais soutenue.
Citations correctes avec un raisonnement erroné : Le modèle fournit une référence correcte mais l'associe à un raisonnement juridique qui ne découle pas de la décision citée.
L'ampleur du problème
Une étude très remarquée de l'Université Stanford de 2024 a examiné la fiabilité des modèles de langage courants sur des questions juridiques. Les résultats étaient décevants : GPT-4 a halluciné dans 58 pour cent des cas, GPT-3.5 dans 69 pour cent et Llama 2 dans 88 pour cent. Même les outils juridiques spécialisés n'ont obtenu que des résultats légèrement meilleurs dans une étude de suivi de 2025 : Lexis+ AI a produit des informations erronées dans plus de 17 pour cent des cas, Westlaw AI dans environ 33 pour cent.
Ces chiffres illustrent que les hallucinations de l'IA ne sont pas un problème marginal, mais un risque structurel dans l'utilisation de l'IA en pratique juridique.
Affaires spectaculaires : de New York à l'Alabama
Mata v. Avianca (New York, 2023)
L'affaire d'origine concernait une action en dommages corporels contre la compagnie aérienne Avianca. Les avocats Peter LoDuca et Steven Schwartz du cabinet Levidow, Levidow & Oberman avaient utilisé ChatGPT pour la recherche juridique. Lorsque la partie adverse a signalé ne pas pouvoir localiser les décisions citées, les avocats n'ont pas retiré leurs conclusions. Le juge P. Kevin Castel a parlé d'une « circonstance sans précédent » et a prononcé la sanction. L'affaire est devenue un signal d'alarme mondial.
Pennsylvanie (2025)
L'avocat Nicholas L. Palazzo a été sanctionné après que ses conclusions dans une affaire de responsabilité du fait des produits contenaient des citations erronées et apparemment fabriquées. Les décisions référencées n'existaient pas ou comportaient des erreurs factuelles significatives.
Alabama (2025)
Trois avocats du grand cabinet Butler Snow LLP — dont Matthew B. Reeves, William J. Cranford et William R. Lunsford — ont reçu un blâme public et ont été exclus de la procédure. Un signalement a également été adressé au Barreau de l'Alabama pour sources juridiques fabriquées.
Illinois (2025)
Un avocat de Springfield a été sanctionné pour avoir cité huit décisions inexistantes dans une procédure d'appel. Dans une affaire distincte, des avocats de la Chicago Housing Authority ont cité l'affaire fictive « Mack v. Anderson » — l'avocate responsable a déclaré qu'elle ne croyait pas que ChatGPT était capable de générer de faux précédents.
Conséquences professionnelles en droit allemand
Les devoirs fondamentaux selon les § 43 et § 43a BRAO
La loi fédérale allemande sur les avocats (Bundesrechtsanwaltsordnung, BRAO) établit des exigences claires en matière de diligence. Le § 43 BRAO énonce le devoir professionnel général : l'avocat doit exercer sa profession de manière consciencieuse (gewissenhaft). Le § 43a BRAO précise les devoirs fondamentaux — dont le devoir d'indépendance (Unabhängigkeit), de confidentialité (Verschwiegenheit) et d'exercice professionnel consciencieux (gewissenhafte Berufsausübung).
Qu'est-ce que cela signifie pour l'utilisation de l'IA ? La conscience professionnelle exige que l'avocat vérifie l'exactitude de ses résultats de travail — indépendamment des outils qu'il emploie. Quiconque transmet à ses clients ou dépose au tribunal des avis juridiques ou des conclusions générés par l'IA sans vérification viole ce devoir fondamental.
Responsabilité selon le § 280 BGB
Au-delà des sanctions professionnelles, une responsabilité civile est à craindre. Le contrat d'avocat fonde une obligation de conseil juridique diligent. Si un avocat fournit un avis juridique basé sur des hallucinations de l'IA qui s'avère faux et cause un préjudice au client, il est responsable en dommages et intérêts en vertu du § 280 alinéa 1 BGB (Schadensersatz wegen Pflichtverletzung — dommages et intérêts pour manquement à une obligation).
L'argument selon lequel on se serait « fié » à l'IA ne décharge pas. Le devoir de vérification indépendante n'est pas délégable — ni à un référendaire ni à un algorithme.
Mesures disciplinaires selon le § 113 BRAO
En cas de manquements graves aux obligations, des mesures disciplinaires en vertu du § 113 BRAO sont également possibles. Elles vont de l'avertissement (Warnung) à l'amende (Geldbuße), en passant par l'interdiction de représentation (Vertretungsverbot) et, dans les cas les plus extrêmes, la radiation (Ausschließung) du barreau.
Pourquoi les modèles d'IA hallucinent-ils ?
La compréhension des causes techniques est cruciale pour une utilisation responsable des outils d'IA.
Prédiction statistique de mots plutôt que représentation des connaissances
Les grands modèles de langage sont fondamentalement des générateurs de texte statistiques. Ils calculent, sur la base de leurs données d'entraînement, la probabilité du prochain token (mot ou fragment de mot). Ils ne « comprennent » pas le contenu juridique — ils produisent des textes qui ressemblent statistiquement à une argumentation juridique. Lorsque le modèle ne trouve pas de décision réelle appropriée dans ses données d'entraînement, il en génère une qui semble plausible.
Absence de vérification des sources
Contrairement aux bases de données juridiques comme juris, beck-online ou dejure.org, les modèles de langage généraux n'ont pas accès à des bases de données de jurisprudence vérifiées. Ils ne peuvent pas distinguer entre décisions existantes et fabriquées. Les systèmes de Retrieval-Augmented Generation (RAG), utilisés par les outils juridiques spécialisés, atténuent ce problème — mais ne l'éliminent pas entièrement, comme le démontre l'étude de Stanford.
Auto-confirmation et confabulation
Particulièrement insidieux : lorsqu'un utilisateur interroge une IA sur l'existence d'une décision hallucinée, le modèle confirme fréquemment son existence et fournit même d'autres « détails ». Ce phénomène, appelé confabulation, rend difficile la détection des hallucinations par de simples questions de suivi.
Leçons pour le barreau allemand
1. L'IA est un outil de recherche, pas une source juridique
L'insight fondamental est que les modèles d'IA ne sont pas des sources juridiques fiables. Ils peuvent fournir des points de départ pour la recherche, mettre en lumière des connexions et offrir une aide à la rédaction. Mais chaque information juridique doit être vérifiée auprès de sources primaires — lois, jurisprudence, commentaires.
2. Principe des quatre yeux pour le travail assisté par l'IA
Établissez dans votre cabinet un principe des quatre yeux (Vieraugenprinzip) contraignant pour les résultats de travail assistés par l'IA. Aucune conclusion, aucun avis juridique et aucun projet de contrat ne devrait quitter le cabinet sans qu'une seconde personne — un avocat expérimenté — ait vérifié l'exactitude des sources citées.
3. Documentation de l'utilisation de l'IA
Documentez quand et comment les outils d'IA sont utilisés. Cela sert non seulement à l'assurance qualité interne, mais peut également faciliter la démonstration, en cas de litige en responsabilité, que des processus de vérification appropriés étaient en place.
4. Formation et sensibilisation
Investissez dans la compétence en IA de vos collaborateurs. Chaque avocat utilisant l'IA doit comprendre le fonctionnement et les limites de la technologie — en particulier le phénomène d'hallucination.
5. Transparence envers les clients et les tribunaux
Communiquez ouvertement lorsque des outils d'IA sont utilisés dans le travail pour les clients. Plusieurs tribunaux américains exigent déjà une divulgation de l'utilisation de l'IA dans les conclusions. Ce n'est qu'une question de temps avant que des exigences similaires soient discutées en Allemagne.
Perspectives réglementaires
Le AI Act européen et le conseil juridique
Le AI Act européen entre en vigueur dans ses dispositions centrales le 2 août 2026. Les systèmes d'IA déployés dans l'administration de la justice — par exemple pour l'accès au droit ou l'interprétation de textes législatifs — peuvent être classés comme IA à haut risque. Cela entraînerait des exigences strictes en matière de transparence, de documentation et de supervision humaine.
Évolutions réglementaires professionnelles
Aux États-Unis, les barreaux de New York, de Californie et de Floride ont déjà publié des directives sur l'utilisation de l'IA. Les barreaux allemands devront suivre cet exemple. Une réglementation professionnelle claire de l'utilisation de l'IA dans le conseil juridique est devenue urgente.
Conclusion : la confiance est bonne, le contrôle est un devoir
Les hallucinations de l'IA ne sont pas un bug logiciel qui sera corrigé dans la prochaine version. Elles sont une caractéristique structurelle des modèles de langage génératifs. Les études de Stanford démontrent que même les outils juridiques spécialisés hallucinent dans une mesure considérable. Ceux qui ignorent cela mettent en danger leurs clients, leur réputation et leur autorisation d'exercer.
La réponse ne réside pas dans le rejet de l'IA — elle réside dans son utilisation responsable. L'IA peut être un outil puissant pour la recherche juridique, la structuration des arguments et l'amélioration de l'efficacité. Mais elle ne remplace ni l'expertise juridique ni le devoir de diligence de l'avocat. L'avocat reste le garant de l'exactitude — pas l'algorithme.
Chez compleneo, nous vous accompagnons dans l'élaboration de directives internes pour l'utilisation de l'IA, dans la formation de vos équipes et dans l'évaluation juridique des outils d'IA pour le conseil juridique. Contactez-nous.
