L’importance d’une intelligence artificielle par la justice et pour la justice française

Article paru le 25 octobre 2019 | Partager sur les réseaux sociaux

Classé dans : Innovation Secteur Public

Encore récemment, l’intelligence artificielle suscitait l’intérêt. Aujourd’hui, elle occupe une place centrale tant dans la stratégie des entreprises que dans celle des états.

Au cours des prochaines années, la France s’est fixée pour objectif de devenir l’un des pays de référence en matière d’intelligence artificielle. Pour ce faire, des chantiers liés à l’IA ont été lancés dans de nombreux domaines comme la Défense ou encore la Santé, mais qu’en est-il de la Justice ?

Alors que les magistrats américains utilisent déjà depuis août 2017 des IA afin de les aider dans leur prise de décision et que des juges robots entreront en fonction dans les tribunaux estoniens d’ici quelques mois, il est illusoire d’imaginer que la justice française puisse continuer la mission qu’elle peine déjà à accomplir. Le recours à l’intelligence artificielle semble alors indispensable dans ce domaine, mais présente de nombreux risques et dérives si elle ne s’avérait pas être conçue par la justice pour la justice.

Situation de la justice française

Chaque année la commission européenne publie un Tableau de bord de la justice dans l’Union Européenne dont le but est de comparer les systèmes judiciaires des 28 états membres de l’UE. Ce rapport présente le visage d’une justice française délaissée et surtout en incapacité de répondre aux besoins de ses justiciables.

Entre 2010 et 2015, la France a moitié moins investi, en euros par habitant, dans la justice que son voisin allemand et se place 24éme sur 28 en nombre de juges pour 100 000 habitants. Ces deux indicateurs pourraient être le signe d’une forte productivité et d’une bonne organisation de la justice française si, dans le même temps, celle-ci n’arrivait pas en 18 éme position en matière de délais de traitement des affaires (civiles, commerciales ou autres) et 24éme pour ce qui est de la disponibilité de solutions électroniques permettant de porter une affaire en justice ou de suivre une procédure.

L’impact de cette situation sur les justiciables est clair : en 2017, le journal LaCroix rapportait que « le délai d’attente moyen pour décrocher une audience devant le juge aux affaires familiales du tribunal de grande instance de Bobigny » était de 14 mois. Le jugement, quant à lui, ne débutera que « plusieurs semaines, voire plusieurs mois plus tard ».

Alors, malgré les diverses hausses de budget du Ministère de la Justice au cours des dernières années, les personnels de justice sont débordés et n’arrivent plus à faire face aux demandes des justiciables.

L’ouverture des données de justice, point de départ de l’IA « privée » dans la Justice

Comme l’indique le site internet du gouvernement français « La transformation numérique de l’État ne peut se passer d’une politique stratégique de la donnée. Un Etat intelligent doit s’appuyer sur ces données pour être plus efficace. Un accès plus large et de meilleure qualité aux données publiques permettra d’encourager l’ensemble de la société à créer de la valeur et de nouveau services numériques utiles au public. »

Cette mise à disposition des données de justice a permis aux startups du droit, les Legaltechs, d’accélérer leur croissance. Seulement dans le même temps, ces données, jusqu’alors propriété du Ministère, associées à leurs outils technologiques ont conféré aux Legaltechs un avantage concurrentiel majeur, contrairement au ministère de la Justice qui lui a partagé son seul, mais inestimable atout dans la course à l’IA : être le seul à avoir accès à ces données et donc être le seul à pouvoir les exploiter

Certes, ces données qui n’avaient jusqu’ici aucune valeur car inexploitées, ont permis, une fois traitées, d’en tirer parti. Cependant, quand l’utilisation de celles-ci par un tiers serait susceptible d’exposer l’Etat ou ses citoyens à des risques, il semblerait judicieux que leur exploitation soit limitée ou à minima contrôlée.

Une stratégie occasionnant des dérives

La stratégie adoptée par la France en laissant à des sociétés privées l’initiative en matière d’IA dans le domaine de la justice est préoccupante et ce pour les raisons suivantes :

  • Les IA de justice conçues par des sociétés privées manqueront toujours de transparence.

Les programmes conçus par les Legaltechs sont protégées par le secret de fabrication. En d’autres termes, cela signifie que mis à part leurs créateurs, personne n’est en mesure de savoir parfaitement de quoi celles-ci sont composées et donc de fait, sur quelles bases elles prennent leurs décisions.

  • Les IA de justice conçues par des sociétés privées peuvent reprendre des codes immoraux.

Le cas du logiciel d’analyse des risques de récidives, Compas, expose bien ce risque. Déjà utilisé par de nombreux tribunaux et juges américains, le site ProPublica rapporte qu’à infraction égale les minorités visibles sont considérés par le logiciel comme plus dangereuses. Alors bien qu’à la différence des Etats Unis, la France n’accepte aucune statistique raciale, l’IA est tout de même susceptible d’effectuer des « rapprochements » immoraux par d’autres biais.

  • Les IA de justice conçues par des sociétés privées sont susceptibles de faire remettre en cause la clairvoyance des juges dans leur prise de décision.

Dans une société démocratique comme la nôtre, il est des instances institutionnelles chargées de voter les lois et d’autres de les faire appliquer et ce sont les seules. Lorsque demain, sera accessible en France une IA qui permettra de prédire le résultat d’une action en justice et que cette IA aura été reconnue comme « fiable » par la population, on imagine qu’il sera difficile pour un juge de rendre une décision différente de celle donnée par l’IA sans que celle-ci soit remise en cause par la population comme le rappellent Antoine GARAPON et Jean LASSEGUE dans leur livre « Justice Digitale ». (1)

Pour aller plus loin

Il apparait donc qu’il faille repenser la stratégie de la France en matière d’intelligence artificielle dans le domaine de la justice afin d’éviter les dérives ci-dessus. Voici les pistes de réflexion qu’il semble intéressant de développer :

Capitaliser sur les données générées par la justice, ainsi que sur les connaissances de ses agents, permettrait de créer une intelligence artificielle de référence. Cette dernière serait, dans la loi, reconnue comme la seule susceptible de prédire le possible résultat d’un jugement.
Créer cette intelligence artificielle en interne permettrait de rendre son contenu 100% transparent et de s’assurer que tout citoyen sera en mesure de comprendre sa décision.
Rendre l’utilisation de l’IA par les citoyens gratuite et accessible 24h sur 24 permettrait de renforcer l’accessibilité aux services de justice et permettrait d’orienter les citoyens vers les instances de justice capables de répondre au mieux à leur besoin.

Sources

(1) Justice Digitale, Antoine GARAPON et Jean LASSEGUE

Partagez cet article sur les réseaux sociaux