Les algorithmes peuvent-ils remplacer les juges ? Entre promesses d'efficacité et limites constitutionnelles : comment les systèmes de décision automatisés transforment la justice et pourquoi l'art. 101 de la Loi fondamentale allemande fixe des bornes étroites au juge numérique.
Quand les algorithmes jugent : vision ou violation constitutionnelle ?
Imaginez que votre prochaine audience au tribunal ne soit pas conduite par un juge en chair et en os, mais par un algorithme. Ce qui ressemble à de la science-fiction est déjà une réalité dans certains pays -- et soulève des questions fondamentales qui touchent aux fondements mêmes de l'État de droit.
La numérisation de la justice n'est plus un sujet d'avenir. En Chine, des systèmes assistés par l'IA traitent déjà des milliers d'affaires, l'Estonie a expérimenté un « juge-robot » pour les petits litiges, et la France a préventivement érigé en infraction pénale l'analyse algorithmique des décisions judiciaires. L'Allemagne, de son côté, fait progresser la numérisation des procédures judiciaires grâce à la communication juridique électronique (ERV) -- mais où se situent les limites constitutionnelles ?
Art. 22 RGPD : l'interdiction des décisions individuelles automatisées
Le Règlement général sur la protection des données européen contient une disposition protectrice centrale à l'art. 22 RGPD : les personnes concernées ont le droit de ne pas faire l'objet d'une décision fondée exclusivement sur un traitement automatisé produisant des effets juridiques les concernant ou les affectant de manière significative de façon similaire.
Cette norme vise les situations dans lesquelles des algorithmes décident de la solvabilité, des droits à l'assurance ou -- et c'est là que le sujet devient brûlant -- des droits et obligations des citoyens sans intervention humaine. La Cour de justice de l'Union européenne a considérablement élargi la portée de cette disposition dans l'arrêt de référence SCHUFA Scoring (C-634/21, arrêt du 7 décembre 2023), clarifiant que la simple création d'une valeur de scoring peut constituer une décision automatisée au sens de l'art. 22, par. 1, RGPD.
Exceptions et leurs limites
L'art. 22, par. 2, RGPD prévoit trois exceptions à l'interdiction de principe :
- La décision est nécessaire à la conclusion ou à l'exécution d'un contrat
- La décision est autorisée par le droit de l'Union ou d'un État membre
- La décision est fondée sur le consentement explicite de la personne concernée
Même en présence d'une exception, des mesures appropriées pour la sauvegarde des droits et libertés doivent être mises en œuvre, notamment le droit d'obtenir une intervention humaine, d'exprimer son point de vue et de contester la décision.
Art. 101 Loi fondamentale : le juge légal comme limite constitutionnelle
Plus fondamentale encore que le cadre de la protection des données est la dimension constitutionnelle. L'art. 101, al. 1, phrase 2, de la Loi fondamentale allemande (Grundgesetz, GG) garantit : « Nul ne peut être soustrait à son juge légal. »
Ce principe est l'un des piliers porteurs de l'État de droit. Il protège contre la manipulation arbitraire des compétences et garantit que les juges sont déterminés à l'avance selon des critères abstraits et généraux. Le juge légal est un être humain -- doté d'une conscience, d'une expérience et d'une capacité d'empathie.
Un algorithme peut-il être « juge légal » ?
L'opinion dominante dans la doctrine juridique répond clairement par la négative. La notion de « juge » au sens de la Loi fondamentale présuppose :
- L'indépendance personnelle (art. 97, al. 2, GG)
- L'indépendance matérielle (art. 97, al. 1, GG) -- les juges ne sont soumis qu'à la loi
- La conscience individuelle comme fondement de la décision
- La responsabilité personnelle de la décision rendue
Un algorithme ne remplit aucune de ces conditions. Il n'est ni indépendant ni doté d'une conscience. Il suit des règles programmées et des modèles statistiques, non la loi au sens constitutionnel.
Justice prédictive : expériences internationales
France : l'interdiction de l'analytique judiciaire
En 2019, la France a franchi une étape remarquable : l'art. 33 de la loi de réforme de la justice a érigé en infraction pénale l'analyse statistique des comportements décisionnels des juges -- avec des peines allant jusqu'à cinq ans d'emprisonnement. Aucune donnée personnelle de magistrats ne peut être réutilisée dans le but d'évaluer, d'analyser, de comparer ou de prédire leurs pratiques professionnelles réelles ou supposées.
Le contexte : des entreprises de legal tech avaient commencé à évaluer systématiquement le comportement décisionnel de juges individuels et à recommander aux clients devant quel tribunal ils auraient les meilleures chances. Le législateur français y a vu une menace pour l'égalité devant la loi et l'indépendance de la justice.
Estonie : le « juge-robot » pour les petits litiges
L'Estonie a fait les gros titres internationaux en 2019 avec son projet de déployer un « juge-robot » assisté par l'IA pour les litiges inférieurs à 7 000 euros. Le ministère estonien de la Justice a toutefois relativisé le projet par la suite : il ne s'agissait pas d'un « juge-robot » remplaçant des juges humains, mais de l'automatisation d'étapes procédurales spécifiques dans la procédure d'injonction de payer. Les juges humains conservent le pouvoir de décision final.
Cette clarification est révélatrice : même dans l'un des pays les plus numériques du monde, la justice algorithmique se heurte aux limites des droits fondamentaux.
Chine : les tribunaux intelligents comme modèle d'avenir ?
La Chine poursuit l'approche la plus ambitieuse. Le tribunal internet ouvert à Hangzhou en 2017 traite des litiges juridiques numériques à l'aide de systèmes assistés par l'IA. Des avatars holographiques de juges conduisent les audiences, fixent les calendriers et reçoivent les preuves. Au cours des deux premières années, environ 20 000 jugements ont été rendus, la durée moyenne des audiences ayant été réduite de 65 pour cent.
Cependant, le modèle chinois n'est pas transposable tel quel aux systèmes juridiques européens. Il manque :
- Un contrôle judiciaire indépendant au sens occidental
- La transparence des algorithmes déployés
- Des garanties de l'État de droit telles que le droit d'être entendu
Initiatives allemandes d'e-Justice : une numérisation mesurée
L'Allemagne poursuit une voie nettement plus retenue. L'accent est mis sur la numérisation des procédures judiciaires, non sur l'automatisation des décisions judiciaires.
Communication juridique électronique (ERV)
Depuis le 1er janvier 2018, la communication juridique électronique entre la justice et la profession d'avocat est obligatoire. La loi sur le développement de la communication juridique électronique impose depuis le 1er janvier 2026 à la quasi-totalité des tribunaux et parquets la tenue de dossiers électroniques. La stratégie européenne e-Justice 2024--2028 accompagne cette évolution au niveau de l'UE avec l'objectif d'améliorer l'accès transfrontalier à la justice numérique.
L'IA comme outil d'assistance
Le débat allemand se concentre sur l'utilisation de l'IA comme système d'assistance pour les juges :
- Aide à la recherche : bases de données jurisprudentielles assistées par l'IA
- Gestion des dossiers : catégorisation et priorisation automatiques des procédures
- Analyse textuelle : exploitation de mémoires et moyens de preuve volumineux
- Anonymisation : caviardage automatique des données personnelles dans les jugements
La différence cruciale : la décision elle-même reste entre les mains du juge humain. L'IA sert d'outil, non de décideur.
La tension entre efficacité et droits fondamentaux
Les partisans de la justice algorithmique avancent des arguments de poids :
- Efficacité : des procédures plus rapides dans des tribunaux surchargés
- Cohérence : les algorithmes tranchent (théoriquement) de manière identique des cas identiques
- Objectivité : pas de biais inconscients des juges humains
- Disponibilité : accès 24h/24, 7j/7 aux mécanismes de résolution des litiges
Face à cela se dressent des préoccupations fondamentales :
- Biais dans les données d'entraînement : les algorithmes reproduisent des schémas de discrimination historiques
- Manque de transparence : problème de la « boîte noire » des réseaux neuronaux
- Pas de justice au cas par cas : les algorithmes ne reconnaissent pas les circonstances atypiques
- Lacune de responsabilité : qui répond des erreurs judiciaires algorithmiques ?
- Déficit démocratique : le développement du droit par le juge présuppose des jugements de valeur humains
Recommandations pratiques
Pour les entreprises et les citoyens confrontés à des décisions administratives automatisées, voici les recommandations suivantes :
- Examinez le fondement juridique : les décisions automatisées sont en principe interdites par l'art. 22 RGPD. Exigez une décision motivée par un être humain.
- Exercez votre droit d'opposition : l'art. 22, par. 3, RGPD vous donne le droit d'exiger un réexamen humain.
- Exigez la transparence : les autorités doivent vous informer, en vertu des art. 13 et 14 RGPD, de l'utilisation éventuelle de systèmes de décision automatisés.
- Documentez les anomalies : si vous soupçonnez qu'une décision a été prise de manière algorithmique et erronée, conservez les preuves.
- Sollicitez un conseil juridique : l'intersection entre technologie et droits fondamentaux nécessite un conseil juridique spécialisé.
Conclusion : l'être humain doit rester juge
La numérisation de la justice est inévitable et souhaitable dans de nombreux domaines. Les dossiers électroniques, la communication numérique et les outils de recherche assistés par l'IA augmentent l'efficacité et améliorent l'accès au droit. Mais la décision judiciaire elle-même doit rester entre les mains de l'être humain.
L'art. 101 de la Loi fondamentale n'est pas une prescription formelle anachronique, mais un rempart vivant contre la déshumanisation de la jurisprudence. Le juge légal est un être humain -- doté de la capacité non seulement d'appliquer le droit, mais de le faire évoluer, de rendre la justice au cas par cas et de maintenir la confiance des justiciables dans l'État de droit.
L'avenir de la justice ne réside pas dans le juge numérique, mais dans le juge assisté par le numérique -- un être humain qui utilise la technologie moderne sans être remplacé par elle.
Chez compleneo, nous vous accompagnons pour toutes les questions relatives aux systèmes de décision automatisés, au droit de la protection des données et à la défense de vos droits fondamentaux face aux décisions administratives algorithmiques. Contactez-nous.
