mardi, 24 septembre 2019

L’algorithme ne sera pas mon juge

Legaltech, intelligence artificielle, dématérialisation, etc. … Au fur et à mesure que la société toute entière bascule sur ou autour des réseaux numériques, phénomène que l’on nomme la transformation numérique, les algorithmes se multiplient et peuplent le quotidien du citoyen.

En particulier, on voit se développer une offre de logiciels dits de justice prédictive, basée sur des algorithmes.

A partir de la collecte des décisions de justice déjà rendues, et de leur comparaison, ces logiciels prétendent anticiper le résultat attendu d’un procès à venir, sur la base d’algorithmes intégrés dans le phénomène plus large dit de l’intelligence artificielle.

La définition de l’algorithme retenue par Wikipedia est la suivante: « un algorithme est une suite finie et non ambiguë d’opérations ou d'instructions permettant de résoudre une classe de problèmes. »

L’ordinateur exécute ensuite l’algorithme ce qui aboutit à automatiser un certain nombre d’opérations.

Dans ces conditions, l’algorithme peut-il aboutir par la voie d’opérations automatisées, à rendre un jugement en lieu et place d’un juge fait de chair, de sang et doté d’une âme ?

# A Le fantasme de la Justice prédictive

# .1 Une justice sans contexte n’est pas possible

La clause de non concurrence insérée au contrat de travail d’un salarié en droit français, interdit à ce dernier d’être employé du concurrent de son actuel employeur, une fois qu’il l’aura quitté.

Parce qu’à la fois elle est une atteinte à la liberté du travail, droit constitutionnel reconnu à tout citoyen, et qu’en même temps elle défend les intérêts légitimes de l’entreprise, depuis 1945 la jurisprudence a admis par principe la validité d’une telle clause insérée au contrat de travail, mais en posant trois conditions à sa licéité.

La clause devait être limitée dans le temps, dans l’espace et quant à la fonction concernée.

De jurisprudence constante pendant cinquante ans, les tribunaux ont fait application systématique de cette doctrine. En particulier, ils ont toujours refusé d’y associer une quatrième condition, à savoir que la clause serait licite seulement si elle était rémunérée.

Aussi, sauf pour quelques Conventions Collectives, les clauses de non concurrence insérées aux contrats de travail, y compris celles rédigées par les Conseils et Avocats, ne prévoyaient pas sa rémunération.

Le 2 Juillet 2002, par un revirement spectaculaire, la Chambre Sociale de la Cour de Cassation décidait que la condition de rémunération serait désormais la quatrième condition posée à la licéité de la clause de non concurrence au contrat de travail.

En quelques secondes, la Cour de cassation anéantissait cinquante années de jurisprudence constante.

Surtout, cette décision de la plus haute juridiction française rendait nulle des centaines de milliers de clauses rédigées par les justiciables éventuellement assistés de professionnels du droit, qui ne prévoyaient pas une telle rémunération.

Ce cas d’un revirement total d’une solution à un litige, n’est pas isolé et il est une illustration évidente de l'argument qui réfute la justice prédictive par l'algorithme.


Il se comprend par le fait que le droit se dit dans un contexte auquel les juges sont sensibles. Ce contexte est de plus en plus souvent le résultat d’une actualité. Ce contexte peut pousser la Justice à évoluer voire à prendre des décisions exactement contraires à celles prises de manière constante pendant des années.

L’algorithme prend des décisions sur la base d’un énoncé du problème, de statistiques, qui ne peut tenir compte d’éléments aussi irrationnels que le ressenti des juges et leur sensibilité au contexte et à l’actualité.


# .2. Le droit c’est d’abord … le fait

La justice française et de droit continental sont fondées sur un raisonnement appelé le syllogisme.

Le juge français raisonne par la voie du syllogisme, c’est-à-dire comme les philosophes, en trois étapes et de manière déductive.

Le juge doit d’abord déterminer le fait qui lui est soumis. Dans un litige, le plus souvent, chaque partie au procès à sa version des faits.

En fonction des preuves qui lui sont rapportées, de sa propre appréhension des faits, le juge doit déterminer quel est le fait auquel il est lui est demandé d’appliquer la Loi. C’est la partie probablement la plus difficile, la moins apprise de manière académique, de son travail.

Une fois les faits établis, le juge leur fait correspondre la Loi applicable.

Il restitue ainsi la solution au litige, qu’il tranche au nom du peuple français.

Ainsi donc, le jugement et le droit dépendent du fait tel que rapporté, plaidé par chaque partie, demandeur et défendeur. Ceci explique d’ailleurs pourquoi, il peut arriver que deux juges prennent dans deux affaires différentes et en apparence semblables, deux décisions différentes voire contraires. Sans compter que notre système peut admettre que deux juges prennent des décisions opposées, jusqu’à ce que la Cour de cassation les unifie.

Comment un algorithme pourrait il faire la part des choses entre deux versions de faits qui s’affrontent ?


# .3. L’erreur humaine plutôt que le bogue

Enfin, la justice n’est pas infaillible. C’est d’autant plus vrai qu’elle est humaine.

Un Tribunal peut avoir été conduit dans l’erreur par mauvaise compréhension du litige ou préjugés.

L’algorithme n’est pas non plus infaillible.

Une erreur de programmation a pu l’affecter (bogue en français ou bug en anglais) de même qu’une panne (panne matérielle, de réseau, de l’environnement technique etc. …), voire une cyberattaque.

Dans le second cas, il s’ajoute que les parties pourraient ne pas la détecter.


# B. L’algorithme comme aide à la décision

L’algorithme et son expression la plus connue à ce jour, l’intelligence artificielle, est capable d’une puissance de calcul bien supérieure à l’homme, c’est certain.

Aussi, au moment de prendre la décision, par exemple d’engager ou pas une action en fonction de la jurisprudence existante ou de la Doctrine universitaire sur le sujet du litige, une partie et son conseil pourraient recourir à un service d’intelligence artificielle qui lui restitue un avis documenté très étoffé.

C’est son principal apport, l’algorithme va largement améliorer la prévisibilité des décisions de justice.

Il est également vrai qu’avec le numérique, les réseaux numériques et internet, l’open data (accès libre et gratuit aux données), la diffusion du savoir juridique au public s’est très largement améliorée. Cette diffusion n’est plus limitée aux cercles fermés des professionnels du droit, elle est désormais accessible à tous. C’est un progrès certain qui va sans doute s’accélérer avec l’intelligence artificielle.

Ces entreprises qui entendent occuper ce marché sont appelées « legal techs ».

Cependant, nous voyons trois limites à cette aide à la décision automatisée et massive :

  • Dans l’exemple que nous donnons en 1.1., sur la clause de non concurrence et le revirement jurisprudentiel de la Cour de Cassation, il s’est trouvé une partie à un litige et son Avocat pour, en dépit d’une jurisprudence constante et de longue date, exactement contraire à la solution finalement choisie par la Cour de cassation, tenter de renverser la solution statistiquement proche de 100%, autant devant le Conseil des Prud’hommes, que la Cour d’appel voire la Cour de cassation.
  • Les objectifs d’une partie à un litige sont le plus souvent de gagner le procès et de faire gagner sa thèse. Cependant, d’autre motifs peuvent exister comme de gagner du temps, pousser l’adversaire à l’accord au regard des frais et du temps à engager etc. … Dans ces derniers cas, la prévisibilité d’un procès est au final de moindre importance
  • Enfin, le droit s’est complexifié, les matières s’entrechoquent (ex. propriété intellectuelle et droit de la concurrence), de sorte que même statistiquement, il est difficile d’anticiper une décision de justice.



En conclusion, il est certain que le développement des outils numériques au travers de l’intelligence artificielle et des algorithmes, vont un peu plus bouleversés la pratique des professionnels du droit et des juges.

Mais c’est une évolution débutée il y a 20 ans qui ne fait que s’accélérer, et non un phénomène nouveau.

La ligne rouge à cette évolution attendue, reste à notre sens que la justice reste une activité sous contrôle humain. La libre appréciation des juges, le fait qui détermine l’application du droit, ne peuvent être confiés à des machines.

La Loi informatique et libertés du 6 Janvier 1978 dans sa rédaction d’origine comportait un article 2 désormais inséré à l'article 47 de cette Loi (merci à @GeorgeonT): « aucune décision de justice impliquant une appréciation sur un comportement humain ne peut avoir pour fondement un traitement automatisé d’informations donnant une définition du profil ou de la personnalité de l’intéressé. »

Tout est dit.

mercredi, 24 juillet 2019

Le gendarme est en ballade

C’est une affaire rare que le Conseil d’Etat nous a donné à connaître dans une décision rendue le 24 avril 2019.

Un Capitaine de gendarmerie a été sanctionné de quinze jours d’arrêts pour avoir consulté « les fichiers de gendarmerie » de manière illégale.

Ces consultations illicites portaient sur l’employeur de sa fille ainsi que sur des membres de sa famille. Au total, ce Gendarme qui n’était pas de Saint-Tropez mais du centre opérationnel de la gendarmerie de Rouen, aurait reconnu avoir consulté sans justification plus de trois cent fiches individuelles de citoyens.

Le Gendarme ayant contesté la sanction, après avoir reconnu les faits durant l’enquête, les juridictions administratives ont été saisies de ce recours, qui aboutit à cette décision inédite de la plus haute des juridictions de l’ordre administratif de l’Etat de droit français.

Lire la suite

dimanche, 17 février 2019

« Cyberstructure » par Stéphane Bortzmeyer

index.jpg

Cet ouvrage, paru fin d’année 2018, est l’œuvre d’un des meilleurs spécialistes mondial du système de nommage internet (DNS), Stéphane Bortzmeyer, ingénieur R&D au sein de l’Afnic.

Les questions de sécurité du DNS n’ont pas secret pour lui, comme les travaux de l’ICANN et de l’IETF auxquels il participe activement depuis 25 ans.

L’ambition de l’ouvrage est annoncée dès les premières pages.

Les débats sociétaux et politiques qui agitent l’Internet intéressent au plus haut point Stéphane Bortzmeyer. Mais ces débats sur les droits d’auteur, la neutralité du net et la censure, la défense de la vie privée bien sur, la cryptomonnaie et la cybersécurité, « sont rarement appuyés sur une compréhension du fonctionnement de l’Internet, du point de vue technique, comme du point de vue humaine » regrette l’auteur et il a raison.

Lire la suite

mercredi, 16 janvier 2019

Cloud Act : halte à la propagande !

Dans une tribune parue dans la quotidien Les Echos, rubrique le point de vue du 2 octobre 2018, le Président du Syntec Numérique est l’auteur d’un article surprenant intitulé « Cloud Act ; halte à la désinformation ! ».

L’article est rédigé sur le thème circulez y a rien à voir.

Or, à l’heure où toute l’informatique bascule dans le cloud computing, entrainant les clients utilisateurs, cette Loi votée par le Congrès américain le 23 mars 2018 et promulguée par l’administration Trump, mérite au contraire et c’est le moins, une alerte à l’endroit de tout l’écosystème du cloud computing européen.

Lire la suite

lundi, 26 février 2018

Patrimonialisation des données, que faut-il en penser ?

Depuis quelques semaines, se répand un débat sur la patrimonialisation des données personnelles.

A l’origine de ce buzz, le philosophe Gaspard Koenig, fondateur d’un think tank qui a publié un rapport intitulé "mes data et moi".

Lire la suite

jeudi, 19 octobre 2017

Le brevet de la NSA qu’on n'explique pas*

« Device for and method of computer intrusion anticipation, detection, and remediation », c’est le titre d’un brevet n°8,898,784 B1 déposé à Washington par … la NSA !

Oui, vous avez bien lu, une méthode dont le titulaire n’est autre que la célèbre agence gouvernentale du Département de la Défense américaine, la National Security Agency.

Si on ajoute que parmi les trois inventeurs personnes physiques déclarées, on trouve Keith B. Alexander, le directeur de de la NSA de 2005 à 2014 et par ailleurs Général de l’armée américaine, alors on n’a plus doute, ça n’est pas une hallucination, il s’agit bien de la National Security Agency.

Lire la suite

mardi, 12 septembre 2017

A qui appartiennent les profils publics des membres Linkedin ?

En d’autres termes, ces informations publiées au sein du réseau social et accessibles de l’extérieur par des non membres du réseau, appartiennent elles à la personne qui les a renseignées, le membre, ou au réseau social Linkedin ?

Une question qui n’est pas sans incidence financière.

Lire la suite

mardi, 11 juillet 2017

RGPD / GDPR, je notifie, tu notifies …

Le Règlement Européen sur la Protection des Données entré en vigueur le 25 mai 2016 et dont l’application est différée à 2ans, tout le monde en parle.

Il faut dire que quelques-unes de ces mesures nouvelles font sensation, en particulier la fameuse sanction reconnue aux CNIL européennes, d’infliger des amendes administratives aux contrevenants jusqu’à 4% du chiffre d’affaires total mondial de l’exercice précédent.

Mais notre propos n’est pas là.

Nous allons nous intéresser à une autre de ces mesures nouvelles insérée dans le RGPD.

Lire la suite

mercredi, 7 juin 2017

Nul n’est censé ignorer la Loi

C’est la maxime apprise par tous les étudiants en droit de France, dès la 1ère année d’étude.

Elle signifie que le citoyen ne saurait se retrancher derrière sa prétendue méconnaissance de la Loi, pour échapper à ses obligations.

La maxime postule donc que ce même citoyen soit en état de prendre connaissance et de comprendre ce qui lui est demandé par l’Etat de droit.

Or, si on peut avoir une certitude aujourd’hui, c’est bien que la Loi n’est tout simplement plus lisible pour le commun des citoyens.

Lire la suite

samedi, 1 avril 2017

Hackers blancs reconnus par la Loi

La conquête de l’ouest américain est pleine d’histoires de ces bounty hunters ou chasseurs de primes, qui traquaient des personnes recherchées par la justice pour avoir été condamnés ou être suspectés d’avoir commis un vol ou un meurtre et être en fuite.

Le cyberspace est-il en train de réactiver cette ancienne institution tombée en désuétude ?

Lire la suite

jeudi, 29 décembre 2016

Pour la CEDH, le choc des photos ne fait pas le poids des mots

Dans un arrêt 4683/11 de 2016, la Cour Européenne des Droits de l’Hommes (CEDH) de Strasbourg a contredit le slogan historique de l’hebdomadaire Paris Match: le poids des mots et le choc des photos.

L’affaire concernait des photos parues dans un autre magazine aujourd’hui disparu, dénommé « Choc », sur l’affaire Ilan Halimi et le gang des barbares.

Lire la suite

dimanche, 27 novembre 2016

Quand les GAFA disent non au juge français, Hollywood dit oui

(Article basé sur de larges extraits de l’ouvrage « quand le digital défie l’Etat de droit » (Ed. Eyrolles – novembre 2016))

Chacun connaît la propension des GAFA (Google, Amazon, Facebook, Apple) à faire du mieux qu’ils peuvent pour refuser toute saisine d’un juge français à leur encontre, par leurs clients, partenaires, concurrents ou les autorités publiques. Les exceptions de procédure, fins de non-recevoir en tous genres, voire même subterfuges, se multiplient pour tenter de déplacer le litige aux Etats-Unis, à l’appréciation d’un juge le plus souvent américain et presque toujours californien.

Lire la suite

dimanche, 13 novembre 2016

Le TES ou le #FichierMonstre aussi

On aurait tort de minimiser la polémique sur le fichier dit TES pour Titres Electroniques Sécurisés relatif aux titres officiels d‘identité délivrés par la République française.

Lire la suite

mercredi, 3 août 2016

Là où la Google Car ne viendra pas

J’ai profité de cet été 2016, pour un périple dans ce beau pays de l’Inde.

Ici, on fait le plein de couleurs, d’odeurs, tout ou presque y est à vivre, sauf … la voiture.

Lire la suite

jeudi, 19 mai 2016

Au nom du formulaire, des outils et du saint-paramétrage

Lorsqu’on évoque avec Facebook la vie privée, la société fondée par Marck Zuckerberg répond formulaires, outils et paramétrage.

D’ailleurs, lorsqu’on évoque avec la même plateforme comme avec d'autres, n’importe quel problème sur tout contenu, la réponse sera toujours cette nouvelle trinité : le formulaire, l'outil et le saint-paramétrages.

Lire la suite

jeudi, 21 avril 2016

Safe Harbour et Privacy Shield pour les nuls

Le 6 Octobre 2015, la Cour de Justice de l’Union Européenne (CJUE) a invalidé le programme Safe Harbor, programme conçu par le Gouvernement des Etats-Unis et conclu avec la Commission européenne en juillet 2000. Depuis lors, un autre vocable a pris place dans le public : Privacy Shield. De quoi s’agit il ? Quels sont les enjeux ? Questions auxquelles nous allons ici répondre. Que chacun se fasse son idée ensuite.

Lire la suite

dimanche, 13 mars 2016

Facebook a du cœur

Par une décision du 26 Janvier 2016 qu’elle a rendu public, la CNIL a mis en demeure les Sociétés Facebook Inc. et Ireland, de se conformer à la Loi informatique et libertés.

Lire la suite

lundi, 8 février 2016

Max Schrems, je t’aime

Que c’est beau l’Etat de droit !

Un jeune étudiant en droit de nationalité autrichienne, devenu entre-temps Avocat, du nom de Marx Schrems, a pu seul renverser 15ans d’un accord conclu par la Commission européenne en Juillet 2000, avec le Gouvernement des Etats-Unis.

Lire la suite

dimanche, 20 décembre 2015

Le contrat, ce petit être

Le contrat est partout.

On le retrouve pour l’achat quotidien de la baguette de pain jusqu’à l’opération d’investissement la plus complexe impliquant une société multinationale cotée en bourse.

Pourtant, quoi qu’on en pense, le contrat est le plus souvent informel. C’est le cas de l’achat de la baguette.

Lire la suite

mardi, 29 septembre 2015

Faut il croire au Freedom, Act ?

Le 2 Juin 2015, le 114ème Congrès des Etats-Unis d’Amérique votait la Loi intitulée USA FREEDOM ACT.

Le jour suivant, France Info titrait : Etats-Unis : "le Freedom Act met fin à la surveillance de masse à grande échelle".

Lire la suite

- page 1 de 6