L'auteur, contact et Informations légales ISSN
Accueil
Envoyer à un ami
Version imprimable
Journal ! Le Droit sous le Règne de l'Intelligence Artificielle.
101. Seulement suivre l'actualité des rapports, publics et privés, est déjà lourd... Sans compter les innombrables publications qui polluent de leur encombrant vide le théâtre de l'information. Le temps de trier est une charge trop lourde pour assumer ce journal. Le tri se fera par le seul temps...
100. L’Europe poursuit ses mesures de soutien au développement d'une IA européenne digne de confiance : une économie socialisante des entreprises ? Une UE coach des entreprises ? Une UE "régulatrice" par et au-delà de son pouvoir normatif ?
Présentation du plan par Strada de Larcier
62 à 99... saut dans le temps.
61. Le DG de Google France, Sébastien Missoffe, invité de France Inter (Google, qui a lancé en juillet son robot conversationnel Bard, concurrent de ChatGPT, fête cette année ses 25 ans). Il indique : "Si vous nous avez vu avancer moins vite que d'autres acteurs, c'est qu'on a essayé de trouver l'équilibre" pour répondre à plusieurs craintes soulevées par la montée en puissance de l'IA. L'esprit des fondateurs de Google ? Esprit es-tu là ?
60. Pour Naomi Klein, les IA organisent “le plus grand pillage de l’histoire de l’humanité”
https://www.courrierinternational.com/article/tribune-pour-naomi-klein-les-ia-organisent-le-plus-grand-pillage-de-l-histoire-de-l-humanite?utm_medium=Social&utm_source=Facebook&Echobox=1684835363
Il y a quelques années les auteurs et surtout les artistes prédisaient la fin de l’art et de la culture, la fin de la création, l’internet les pillait (entendait des opérateurs x ou y utilisant internet). Voyez la suite… Ici, plus fondamentalement, la question a une tonalité différente. Apprendre, assimiler, retraiter et exploiter, est-ce de la violation de quelque droit de PI que ce soit ?
Et vous avez donc raté le début du journal !? Cliquez pour lire la suite...
100. L’Europe poursuit ses mesures de soutien au développement d'une IA européenne digne de confiance : une économie socialisante des entreprises ? Une UE coach des entreprises ? Une UE "régulatrice" par et au-delà de son pouvoir normatif ?
Présentation du plan par Strada de Larcier
62 à 99... saut dans le temps.
61. Le DG de Google France, Sébastien Missoffe, invité de France Inter (Google, qui a lancé en juillet son robot conversationnel Bard, concurrent de ChatGPT, fête cette année ses 25 ans). Il indique : "Si vous nous avez vu avancer moins vite que d'autres acteurs, c'est qu'on a essayé de trouver l'équilibre" pour répondre à plusieurs craintes soulevées par la montée en puissance de l'IA. L'esprit des fondateurs de Google ? Esprit es-tu là ?
60. Pour Naomi Klein, les IA organisent “le plus grand pillage de l’histoire de l’humanité”
https://www.courrierinternational.com/article/tribune-pour-naomi-klein-les-ia-organisent-le-plus-grand-pillage-de-l-histoire-de-l-humanite?utm_medium=Social&utm_source=Facebook&Echobox=1684835363
Il y a quelques années les auteurs et surtout les artistes prédisaient la fin de l’art et de la culture, la fin de la création, l’internet les pillait (entendait des opérateurs x ou y utilisant internet). Voyez la suite… Ici, plus fondamentalement, la question a une tonalité différente. Apprendre, assimiler, retraiter et exploiter, est-ce de la violation de quelque droit de PI que ce soit ?
Et vous avez donc raté le début du journal !? Cliquez pour lire la suite...
59. Un comité d'experts a été nommé sur l'intelligence artificielle générative par la Première ministre ; en fait partie le prof. A. Bensamoun, juriste. Et bravo.
https://www.gouvernement.fr/communique/comite-de-lintelligence-artificielle
58. "Les cas d'usage". Que veut dire cette expression qui fleurit dans les discours. Un besoin de concret. Certes. Et donc une impossibilité d'élever la problème à la généralité qui seule satisfait l'esprit en vous édifiant d'intelligence ?
57. P.-Y. Gomez, professeur émérite de l'EM Lyon BS signe quelques lignes dans Le Monde du 14 septembre (p. 18). Il conclut, "Raisonner comme une IA pourrait ainsi, dans l'avenir, qualifier de manière péjorative la banalité d'une réflexion" ; certes, cela pourrait ; mais 95 % des personnes raisonnent de façon banales, voire faussement. Et les systèmes d'IA (et non l'IA) les plus intéressants (pas tous) seront bâtis sur les meilleures connaissances et les meilleurs modes de raisonnement... en sorte que l'on peut soutenir exactement l'inverse.
56. Sur le site de l'ICANN, on trouve une défense de la "communauté technique", soit la communauté scientifique et celle académique. Un "manifeste". Les scientifiques n'entendent pas être assimilés et rangés dans la société civile ! Il est regrettable que la parole scientifique soit concrètement négligée. La contribution des scientifiques doit être entendue de façon spéciale dans toutes les consultations relatives au numérique. Go sur le site de l'ICANN pour lire cette position publique, cliquez ici !
55. L'Express publie un article : "Intelligence artificielle : à quand une conscience artificielle ?" On y répond dans notre Essai (publié sur HAL) en commençant par reporter l'avis de quelques spécialistes sur la possibilité même d'y arriver. La réponse, inspirée d'un mathématicien et d'un informaticien, est grosso modo : on y arrivera quand on fera des programmes pour ! A cela sans doute cent conditions techniques, et non "critères" comme l'écrit le journaliste Guillaume Grallet (il est usuel de confondre le concept de critère, fin, et celui plus grossier de condition, y compris chez les juristes...). Cela dit, des SIA avec conscience ce sera très cher et pas toujours utile. J'esquisse de mon côté la voie, d'une part, des multiples états de la conscience et, d'autre part, du SIA qui, ayant une conscience et ayant "appris" "tout le droit", suscitera cette fois ne révolution juridique...
54. Toujours dans Le Figaro, Laurent Alexandre soutient qu'avec le phénomène de l'IA "la marginalisation de l'espèce humaine est absolument inévitable" ; propos trop général pour être discuté, à la rigueur les détenteurs de la technologie en feront un instrument de domination de 90 % de l'Humanité comme c'est déjà le cas avec le pouvoir politique, les armes, la finance, les structures économiques, la culture et le sport (des marchés qui rendent esclaves des centaines de millions de personnes)...
53. Le Figaro a publié 5 entretiens lors du mois d'août sur le thème de l'IA, parfois avec des considérations juridiques : l'appel à une régulation de l'IA (prière de ne pas rire).
52. Flavie Flament sur @RTL interroge le système d'IA ChatGPT sur sa vie personnelle au cours d'une émission où elle a invité un confrère journaliste ; le texte généré est mauvais avec des inexactitudes grossières, mais il relate correctement l'action de la présentatrice sur le terrain des violences sexuelles. La production fait lire le texte généré. Étonnement sur les ondes : il y a des choses fausses dans le texte généré par ChatGPT !!! Et la présentatrice de se demander, en substance, " comment empêcher les IA de diffuser des informations fausses ?". Problème, c'est elle qui vient de diffuser sur RTL des pages qu'elle sait fausses. Le SIA, lui, n'a rien diffusé. La simplicité d'esprit du moment devrait beaucoup souffrir avec les dures réalités économiques et juridiques sur lesquelles s'appuient le développement du phénomène IA.
51. On appelle IA génératives les systèmes d'IA qui produisent du contenu (du vide ce serait moins conforme à nos schèmes), ce sont elles qui sont à la mode. ChapG...! Certes il y a une "génération" (...?!) de lignes et pages... mais elles ne sont que le résultat de calculs qui, pareillement faits, pourrait commander à une machine de s'éteindre, de baisser en intensité, de tourner à droite, de produire un son...
L'actualité conduit les observateurs, parfois professionnels, à s'extasier devant le résultat de ces systèmes. La dernière ânerie commandée était la rédaction d'un devoir de philosophie (bon, même les âneries contribue à former les esprits). Match nul. Certains s'extasient de la performance qu'est la réalisation d'un devoir noté 11,5/20 en quelques secondes. Certains louent le professeur (médiatique) qui a beaucoup fait mieux en deux heures (20/20). Et après ?
Et après ?! Le point essentiel nous semble être le calcul que l'ordinateur et son programme et ses connections opèrent pour un même objectif d'intelligence, au sens large. Dans notre essai, "Le droit sous le règne de l'intelligence artificielle", un chapitre, à l'intitulé ambivalent, est consacré au sujet de la "production" : "L’énoncé de vérités et de savoirs". Processus qui inflige une blessure narcissique à l'humain (surtout à l'humain sur-diplômé qui croit dominer le monde...).
Voyez mon essai en PDF avec ce lien
Cette situation de calculs pour poser des énoncés et savoirs (tout était déjà connu s'écrient ceux qui détestent la machine...) n'est pas un décision au sens humain de la chose, mais seulement mais encore, mais irréductiblement, un simulacre d'une partie de l'esprit humain que le système réussit mieux que l'espèce sur divers plans. Comment appeler ces "résultats" ?
50. L'IA fait avec Cédric VILLANI la Une de Libération ce 20 juin, le sujet est omniprésent, prendre de la hauteur devient impossible.
49. Est évoquée plus bas une étude dans laquelle je souligne le linéarisme de la question (éculée) de la personnalité des SIA, ce qui me fait parler moins de la personne que de la personnification (processus vers une reconnaissance de personnalité artificielle) et de façon fort nuancée ; je me permets de remettre une pièce dans la machine car la question de la conscience a parfois fait l'objet d'impasses de discussions au nom de l'évidence : L'étude à paraître
48 (suite du 47). Entretien avec Hugues DUFOUR
47. A ne pas rater : "L'art face à l'IA" par Hughes DUFOUR, FYP éditions, 2023. Avec un sous-titre : "Vers un imaginaire augmenté". Avant de discuter de son cœur de sujet, l'auteur montre sa maîtrise du sujet "intelligence artificielle" (il mentionne un diplôme de physique). Voilà un game designer et scénariste au profil original. Et au discours de haut niveau et de belle tenue. Je vais y revenir.
46. Le dossier précité de Challenges du 27 avril (n° 784) appellera deux ou trois remarques... à venir !
45. Belle chronique de Paul Krugman dans Challenges du 27 avril (n° 784, p. 41) intitulée "Économiquement, Internet est décevant". En un mot comme en cent, "la" révolution Internet n'a pas été aussi profitable que ce que l'on imagine. Rien à voir avec les grandes évolutions du XXe siècle. Des calculs opérés sur le passé, après observation des faits, le prix Nobel extrapole ce qui pourrait se passer avec l'IA. Toutefois, les systèmes d'IA qui seront une nouvelle ère de la robotisation ne seront pas passifs comme l'est le réseau IP ! L'auteur ne le dit pas. Néanmoins, cette analyse, qui vaut pondération, fait du bien. Toutefois, nuance de la nuance, l'amélioration de la productivité par l'IA, si elle devait être modeste, ou décevante, n'altérerait pas, selon nous, le choc des divers systèmes d'IA sur l'ensemble des métiers. Spécialement des métiers ayant essentiellement pour objet de travailler les mots et les phrases : vous voyez de quoi je parle ?
44. Les algorithmes sont passifs poste Marie-Anne Frison-Roche. Oui il faut le rappeler parce qu'on en a fait des acteurs (méchants, bien sûr). Sur ce problème, elle tire partie d'une récente décision de la Cour suprême des USA relative à Twitter. Elle note que les algorithmes ne sont pas une personne et que cette décision est un élément important "dans une jurisprudence qui ne doit pas emporter le droit de la responsabilité hors de ses gonds". On est plutôt d'accord pour insister depuis des années sur la place prééminente du système par rapport à l'algorithme (ce qui abonde dans ce sens tout en ayant une portée plus générale). On reprend l'idée finale pour noter que c'est quasiment tout le droit que l'IA / les SIA ont tendance à faire sortir de ses gonds si l'on suit le discours mainstream - au demeurant mal calé et c'en est la preuve.
Seconde quinzaine de mai 2023.
43. Question basique et pratique : "faire du droit avec les systèmes d'intelligence artificielle, ce seracomment ?" Il me plaît de dire que ce sera comme diverses évolutions. Le travail sera possible sur des bases pus grandes, rapides, synthétiques et "actives". Hum... "actives ?" Nous savons que les systèmes ne font que du calcul pour fournir ses "énoncés" ou autres productions, mais ce calcul donne souvent des résultats probants ou au moins significatifs. Eh bien faire du droit avec les SIA ce sera plus large, plus profond, plus rapide, plus révélateur, plus trompeur aussi..., et plus international. La comparaison va peser plus lourd. Il y aura un grand bond sur le plan du droit comparé puisque l'information sera disponible (même si elle est imprécise, elle pourra être précisée avec les repères donnés, quelques articles de lois ou décision...).
42. La machine coupable de tout. L'Humain innocent de tout. "L’intelligence artificielle ChatGPT fait ses premières victimes en Bourse.", Le Figaro. Ce journal n'est plus celui de la responsabilité : le spéculateur qui s'ignore et qui fait des pertes "à l'insu de son plein gré" ça n'existe pas (...). L'information financière est commune, il y a tout un droit des services d'investissement pour cela, et celui qui sort des clous prend des risques qu'il doit assumer.
41. De longs documentaires sur Arte traitent du sujet du siècle (...) sans jamais être capables de dire "systèmes d'IA" (bon, il y a eu mieux, le programmateur...). L'IA est un phénomène et non un acteur, ce sont les systèmes d'IA qui opèrent (avec des responsables qui les exploitent). Pour cette raison, la loi européenne, en toute rigueur, traite justement de "système d'IA" et non de l'IA. Ne pas déformer le sujet, certes double (IA et systèmes d'IA), est d'ores et déjà une aptitude des ces nouvelles machines quand les êtres humains baragouinent, eux, dans tous les sens...
Première quinzaine de mai 2023
40. L'IA est sujet un peu juridique mais surtout politique. Il s'agit de sauver l'économie et le pays. Il est donc hors de question de laisser le sujet aux informaticiens qui doivent cependant toujours parler les premiers. Mais de façon générale la science est une affaire politique. Je crois l'avoir perçu avec Paul Feyerabend (qui pousse très loin la chose).39. Un bon titre qui , en l'espèce, ne transforme pas l'IA en un acteur, en une personne, car seul l'humain est acteur est démoniaque... Voilà ce titre :
« ChatGPT n’est pas intelligent, mais son utilité est révolutionnaire » : https://www.zdnet.fr/actualites/chatgpt-n-est-pas-intelligent-mais-son-utilite-est-revolutionnaire-39956524.htm
38. Penser que l'IA va générer un période de nouvelles lumières, c'est confondre l'un des effets de la puissance informatique et sa cause qui, elle, tient et s'ancre dans la mutation des langages et langues et de l'écriture. Pour moi, seule l'idée de choc épistémologique convient. Encore qu'elle soit à préciser. Elle le sera dans 50 ans. Ce serait utile qu'on y parvienne dans les prochaines années. C'est de science politique moderne dont il s'agit...37. Le changement par l'IA qui sera probablement, à l'Université, le plus visible, consistera dans l'effet sur la pédagogie (et je préfère n'en rien dire...) ; dans ces circonstances, dans les mentalités actuelles (faire plaisir aux étudiants... et déployer du care...), l'Université commettrait une grave erreur de considérer l'IA par le (seul) bout pédagogique alors qu'elle devrait restructurer les sciences dans ce que nous appelons un choc épistémologique.
36. Il y trois ans je disais publiquement à un président d'Université que l'IA allait bouleverser les connaissances et donc l'enseignement supérieur (qui est au contact de la fabrication des connaissances avec la recherche). Désormais, tous les secteurs professionnels frétillent de cette crainte, sans plus. Il convient de dire que le Supérieur doit spécialement frétiller pour réagir. A l'époque, devinant un choc non pas technologique mais épistémologique, je l'ai depuis écrit ; je préconisais alors (un peu en l'air, j'en conviens) la création de Chaires d'épistémologie - pas un machin administratif ! - pour mieux relier les disciplines entre elles et amarrer celles en retard sur l'IA aux autres. RV dans trois ans...
Seconde quinzaine du mois d'avril 2023
35. Le succès du phénomène de l'IA (et non seulement de l'IA) pousse à utiliser des notions vulgarisées et donc déformées. Naturellement je participe à ce grouillement qui se ralentira et laissera ainsi l'eau trouble se décanter. Dans ce grouillement, figure l'utilisation de la distinction de l'IA forte et de l'IA faible ; la distinction serait déformée et banalisée alors que John Searle qui l'a proposée (en 1980) a estimé inconcevable l'IA forte qui, précisément, serait celle d'une conscience extrêmement élaborée et affective. Mais l'IA étant un immense phénomène, la distinction est utilisée pour autre chose, à commencer, sur le seul plan de la méthode, pour couper en morceaux le sujet (cet immense phénomène) et ce afin de participer au grouillement des mots et des idées. La distinction doit finir par recouper, dans les esprits, les SIA aux fonctions étroites ou spéciales et les SIA aux fonctions générales soit, même dans ce cas, un système d'IA sans esprit...
34. L'UNESCO invite à appliquer sa recommandation du 25 novembre 2021, on frise le ridicule...
avec cette auto-promotion car ce texte est faible. Cette position ― sans valeur contraignante ― énonce sans la moindre originalité quatre objectifs : la protection des données, l’interdiction de la notation sociale et de la surveillance de masse, l’aide au suivi et à l’évaluation et... la protection de l’environnement !
33. Pour codifier le droit du numérique et le droit (à venir) de l'IA, il conviendrait d'inventer la codification au fil de l'eau. Faudrait-il encore disposer d'une vue structurée et durable du numérique. Cela postulerait de s'extirper du quotidien, de l'hyper-technique et des bulles : autant de biais humains qui font se fixer sur l'insignifiant. Un SIA juridique y parviendrait peut-être mieux que le dichotomique cerveau des juristes.
32. La possibilité d'un Code du numérique à droit constant, avec l'IA qui va "dérouler" en 30 textes... avec les 100 textes lourds qui existent... les 100 autres plus légers, une telle codification... on se demande si cela sera ou serait possible : cela aurait-il un sens de codifier autant de règles de l'UE si souvent directement applicables ! Au fond, les codifications à droit constant qui opèrent depuis 35 ans pourraient trouver leurs limites. Rapport avec l'IA ?! "IA ô cher système d'IA merci de me classer les textes en vigueur en matière de droit de l'informatique, de commerce électronique et de droit du numérique pour en faire un code avec des sections dotées d'intitulés et des articles numérotés..."
31. L'IA et l'éthique, l'éthique de l'IA... après avoir choisi cette méthode d'approche (exclusivement
philosophique ou pseudo-philosophique)... ce que nous avons dénoncé, on en constate ces derniers jours la pusillanimité avec, en sorte de comble, Elon MUSK et d'autres, qui demandent une pause sur la recherche. Une pause ?! On se croirait dans la cour d'école. La politique juridique (concept !) suppose des moyens d'Etat, des accords entre Etats, ce qui peut alors amorcer une politique juridique qui, elle-même, requiert un équilibre entre le possible et le souhaitable au triple plan des relations internationales, de théorie juridique et de la technologie.
30. Un éditeur juridique fait une annonce sur l'IA, cliquez ici Lefebvre Sarrut introduit l’IA générative dans la recherche d’informations juridiques en Europe, une première dans le secteur ; la fonction (notion...) semble porter sur la seule recherche.
29. Un moratoire sur l'IA, quoique l'on pense de l'idée, est à mon sens impossible et mêmene veut rien dire en politique juridique. Le droit sous le règne de l'intelligence artificielle (HAL, 2023. p. 213) :
« Le capitalisme libéral peut être mâtiné d’étatisme administratif, comme en France, équilibré ou à tendance anarchiste. Sans entrer dans une analyse politique, on relève l’idée, peut-être commune à nombre de pays, d’un « libéralisme numérique » [478]. Courte, la formule en dit long qui montre la difficulté de déployer une politique juridique quand élite et nations adoptent la liberté. Quand il y a de surcroît une difficulté à concevoir et nommer les mutations en droit, toute politique juridique devient impossible.»
[478] É. Sadin, La silicolonisation du monde : l'irrésistible expansion du libéralisme numérique, Éditions l'Échappée, 2016.
28. Appel international à un moratoire sur l'IA ! La liberté se rit de se voir l'objet d'un moratoire. La liberté de l'algorithme. La liberté de coder. La liberté de créer... des systèmes.
Autant en emporte la liberté qui, encore, balaye la planète de son souffle.
Moratoire ? Voilà un élan de politique juridique qui ignore le droit. Le Droit qui, habituellement, ignore la politique juridique. Sauf exception ! On ne m'accordera quelque crédit que lorsqu'une IA le confirmera...
27. La spécificité de l'intelligence artificielle ramenée à un traitement... automatisé ?
26. Faire du droit avec l'IA (avec les SIA) pourrait imposer l'idée de pyramide décisionnelle du service juridique ou de l'acte judiciaire (jugement ou même actes de procédure) ; cela permettra de réfléchir et puis de distinguer l'acte professionnel pur. La décision. La décision obéit à un processus linéaire pour servir ― parlons mollement ― la véritable décision. Formellement reconnaissable par la signature du"décisionnaire", substantiellement attachée à une intention. Dire que la machine décide vise seulement aujourd'hui à faire peur ou à vendre à bon marché des droits fondamentaux ou de l'humanité (que les processus administratifs actuels étouffe déjà fort bien...).
25. Dans mon Essai, notamment dans le chapitre sur l'intuition, je la réserve il me semble à l'humain. Erreur vaniteuse d'un cerveau juridique ? Il m'avait échappé que la remarquable Melanie Mitchell (Mélanie in french) relate le kami no itte japonais, "coup de Dieu" ou "coup divin" au jeu de go. Elle l'apparente à l'intuition...
24. Le juriste qui rit sur la poétique et se pare de qualités humaines inimitables va souffrir, car il sera imité. Les SIA ne posent pas des problèmes à l'ordre juridique, ils posent celui de l'appréhension de l'ordre juridique comme cela n'a jamais été fait par aucun juriste ou groupe de juristes (une société savante, une équipe de recherche...). Ne bataillez pas sur la queue de cerise de l'explicabilité des résultats ou des essais suffisants ou de la conformité des données. Juristes, bataillez pour votre survie.23. La compétence du juriste vue comme la plus noble et pure, car rigoureuse et rationnelle, est ce que l'on peut appeler le socle juridico-logico-linguistique. Ou le socle juridique logico-linguistique. Il repose sur l'alternative et l'exclusive attachées au sens des termes et se fonde donc sur le binaire : ou oui ou non. Les systèmes devraient rapidement parvenir à traiter le langage naturel utilisé en droit pour mener ces analyses (on le sait, ils le font déjà). La question est donc que pourront faire les juristes outre l'arbitrage entre les "énoncés" du SIA qui offriront une solution juridique ou plusieurs. Cet arbitrage qui occupe la fin de mon Essai par une idée, et une seule (la poétique), reposera sur bien plus d'idées et de choses ; surtout, le métier du juriste, du moins du bon juriste, commencera à la conception des systèmes. Du moins vaut-il mieux pour eux...
22. Programmer des consciences dans des SIA, il est plaisant d'en noter la possibilité négligée en pensant que ce sera complexe et en relevant le début de personnification (je n'ai pas de meilleur mot) qui en résultera ; c'est pourtant presque basique quand, lisant Jean-Pol Tassin (coll. Quai des sciences, Dunod), neurobiologiste, je songe à la perspective de programmer l'inconscience : là ce sera du boulot !
A chaque siècle suffit sa peine !
21. "Au doigt levé", je voyais les IA génératives, ou génératrices, être opérationnelles et disruptives d'ici 5/10 ans ; ChatGPT (en V4, V2 pour le grand public) et Harvey (de Allen & Overy), annoncent que c'est pour tout de suite. Un vent de panique va se lever sur le monde du droit (et mon Essai sur l'IA n'aura pas servi à avertir de l'évolution). Cependant, en y parlant d'épistémologie, je dépasse la sphère juridique car le choc est de nature épistémologique et sera épistémologique. Pourquoi : parce que toute cette affaire est une affaire de langage, donc de pensée (retraitée, reformée).
20. Le cabinet d'envergure internationale Allen & Overy évoque son actualité et projet d'un système d'IA juridique (Lextenso). Harvey ! Voyez ci-dessous mon bref commentaire et l'illustration. Le propos rapporté me semble très prudent (illustration). Avec l'IA, le présent est déjà du passé et aussi du futur. En tout cas, il semble certain que le système Harvey de Allen & Overy ira assez vite plus loin qu'une assistance classique de préparation du travail (classique) de l'avocat. Je recommande la lecture de La Gazette du Palais ! C'est en tout cas l'anticipation à laquelle j'ai été amenée dans mon essai sur Le droit sous le règne de l'intelligence artificielle. Je suis certain que le juriste travaillera prochainement avec plusieurs systèmes d'IA, toute organisation qui n'aura pas son SIA sera en perdition. Mais toutes les morts ne sont pas brutales et d'innombrables survies se noteront : l'artisanat a 5 000 ans, il est éternel, et souvent confidentiel.
19. Ne pas voir la machine pour y voir une personne ou un sujet, ou ne pas voir les possibilités à long terme de l'émergence d'une personnification de la machine, voilà un raisonnement binaire, alimentant un phénomène de bipolarisation, que je condamne au nom de ma doctrine du linéarisme. [machine id est système]
18. "L'article scientifique de Michal Kosinski, paru en février (2023) dernier, a évalué la capacité de ChatGPT à résoudre des problèmes complexes, des problèmes d'intelligence et la capacité de la machine à se mettre à la place de quelqu'un d'autre. Elle est donc capable d'empathie, mais aussi de la compréhension de raisonnements avec plusieurs personnes et de se faire une représentation de ce qui se passe dans la tête de chacune des personnes. " Paul Jorion ajoute sur France culture, en substance, qu'il ne fait plus de doute qu'il existe un sujet. J'en serais stupéfait si je n'avais détecté la bipolarisation des raisonnements.
17. Cinq ans de réflexions métaphysiques sur les systèmes d'IA, mais à partir de quelques réalités juridiques (plus molles que dures pour l'heure), peuvent convaincre que ce processus technologique, entrepris par l'humain, qui consiste à automatiser et rationaliser les procédés cognitifs, appelle un rejet de principe : ils montrent en effet les limites de la pensée humaine, et ses défauts et sa lenteur. La blessure narcissique ainsi infligée à l'être humain lui fait repousser cette machine qui montre la nature humaine telle qu'elle est, outre les récits de tous ordres quelque peu arrangés.
16. Un propos sur deux sur l'IA "personnalise" l'IA en en faisant, implicitement, une personne ou une sorte de personne pour, ensuite et notamment, lui imputer des fautes et la critiquer ; or, d'une part, il n'existe aucune personne à qui imputer quoique ce soit et, d'autre part, l'humain ne saurait se cacher derrière son propre comportement qui invente, monte et utilise des systèmes dont ce qui est vu comme des erreurs ne sont donc, s'il s'agit d'erreurs, que les siennes.
Deuxième quinzaine.
15. Le sujet éculé de "l'IA et l'éthique" est en reflux, j'ai lu coup sur coup des petites phrases de juristes ayant participé à la bulle disant en substance... "bon, faisons du droit".
14. Il n'est pas impossible que la question du métavers ajoute quelques pièces dans la machine à parler de tout pour n'en rien dire, et voir repartir les discussions aussi vagues que peu utiles sur l'éthique (tout le monde s'éprouvant philosophe) ; le sujet de la blockchain ayant été rongé jusqu'à l'os, la perspective métavers pourrait en être le dérivatif.
13. Après le colloque organisé par mon collègue Franck DURAND sur les défis de la Douane, dans lequel il a été édifiant de voir le rôle de l'IA et du numérique, j'ai, à sa demande, qui m'oblige, commencé à écrire un papier sur "La Douane au défi du Numérique" ; je suis amené à assez vite utiliser à ma théorie des "6 i" qui décrit le numérique en un virtuel... bien réel. La difficulté est qu'il est : invisible, inaccessible, insensible, insaisissable, insondable et infini (soit 6 i). Dans cette publication, seconde application de mon Essai, je tenterai de dépasser la difficulté ! La douane cherche des possibilités !
V. Le droit sous le règne de l'intelligence artificielle, not. p. 134 et 135 ; p. 155 avec les objets informatiques ; p. 176 avec l'idée d'un "immatérialisme", etc.
12. Ce matin en colloque, le prof. J.-L. Albert évoque les défis que la mondialisation jette à la Douane et il note les audaces dont il nous faut faire preuve (nous République, nous Administration, Nous Union européenne), nous qui devons savoir "maîtriser" nos frontières. Et là, pouf, notre collègue juriste indique les possibilités de l'IA... les SIA permettent en effet des contrôles performants et dits "non-intrusifs", action publique qui intéresse les particuliers et les entreprises...
11. "L'intelligence artificielle" n'est pas intelligente, le fait est bien connu ; l'approfondissement de la réflexion exige cependant assez vite d'examiner des questions psychologiques, ou pour stimuler l'inspiration, ou spécifier des applications et fonctions, ou pour sélectionner des missions (de la machine). 10. "A McGill, son intérêt pour la psychologie fut éveillé par le fait d’avoir Donald O. Hebb comme professeur dans son cours d’introduction à la psychologie. Hebb était le fameux neurologue qui identifia les structures du cerveau qu’il appela les assemblages de cellules ou ce qu’on appelle maintenant les synapses hebbiennes. Sa théorie a guidé des expériences qui ont précédés la théorie des réseaux neuronaux, un outil désormais important dans la recherche sur l’intelligence artificielle. Après que Doreen Kimura ait obtenu son doctorat (PhD) en psychophysiologie — l’étude de la façon dont la biologie du cerveau affecte le comportement et les expériences — elle passa..."
https://www.science.ca/scientists/scientistprofile.php?pID=10&-lang=fr
9. La réflexion protéiforme menée sur ce que peut-être l'IA, et sur ses effets sur le droit, impose de dire ce qu'est l'activité juridique usuelle, "de base", consistant à dire si tel ou tel dispose de tel ou tel droit ; ce type d'analyse, dite communément "faire du droit", correspond à la compréhension de la langue et de la technique juridiques, ce qui nous a imposé de trouver une meilleure formule pour la nommer : nous parlons de cette compétence comme constituant un "socle juridico-logico-linguistique". Je ne pénètre pas davantage ces trois concepts. Cette compétence suffit très souvent (dans 70 % des cas ?) pour donner une réponse juridique satisfaisante, elle n'est cependant pas suffisante . Le Droit est parfois hors du Droit (écrit et formel) et plusieurs pôles ou zones d'influences sont à prendre à compte.
(voir, Le droit sous le règne de l'intelligence artificielle, p. 60, essai publié sur HAL)
8. Monter un cours de droit du numérique impose de s'interroger sur la lente construction de la matière à partir du droit de l'informatique, ce qui impose d'identifier les grandes séquences sociales et économiques que la succession de technologies permit... ou imposa. Et au sommet, et depuis le début, l'indéfinissable IA !
7. Les documentalistes de la sphère juridique ont peut-être de l'avance sur les juristes sur ce qu'est et sera l'IA, du moins pour le domaine du droit et les juristes ; bon, cela dit, l'affaire est informatique : elle seule donne les possibilités fondamentales du système.
Le blog de E. Barthe, sur la réalité de l'IA dans le domaine juridique
6. A peine entamé, il y a quelques jours, le journal ouvert ici, je lis sur un "rézo social" un mot à propos des "objets numériques", expression il est vrai courante et notamment par la grâce des "objet connectés", lesquels ont en effet plus d'allure que les "choses connectées", malencontreuse connexion de termes qui replongerait dans des sections rurales du code civil marquées du rupestre du début du XIXe siècle. Rien de numérique ! Il n'en reste pas moins que l'immatérialisme, que prolonge, en sa dixième séquence électronique sur un demi siècle, l'IA, conduit à observer des objets sans une once de matière qui vaille, de représentation ou d'accessibilité. L'esprit cartésien qui, désirant pénétrer l'affaire, voudrait alors rappeler ce qu'est en droit commun l'objet, pour un point de droit civil, se heurtera vite au mur du vide... On ignore tout de l'objet. Voilà qui participe du règne de l'IA sur le droit, et nous nous y sommes frottés, et sans doute piqués, rencontrant quelques philosophes férus de l'objet alors que les juristes semblent l'avoir engoncé dans une mélasse durable ; et hop, voilà à quoi sert un essai !
5. Le droit de l'IA ne doit point être conçu ici en considérant les technologies chinoises, que nous n'avons pas, qui seraient développées sans précaution comme dans des pays que nous laisserons ici sans nom, et, qui, de surcroît, seraient développées dans un pays libéral comme le sont les USA où les fulgurances du marché disent périodiquement la force du capitalisme. La France ne doit pas vouloir des protections pour des machines qui n'existent pas et pour des lieux où leur circulation évoquera, si elle advient, l'embolie des sociétés rigides.
4. Il résultait implicitement de mes derniers mots relatifs à l'emploi de l'expression "système d'intelligence artificielle" que le système s'impose malgré les plumes rétives de la doctrine juridique sans pour autant cela implique la théorie qui nous éclairerait tous.
3. Après avoir beaucoup écrit seulement "IA", expression utilisée toute seule, en sujet, et de façon souvent inappropriée car souvent on parle d'une "machine" et non d'un phénomène général, on commence à lire "le ou les systèmes d'intelligence artificielle" ; le système remonte enfin à la surface. La loi européenne en proposition, notamment elle, a inculqué un peu de rigueur de langage.
2. Le langage CATALA, un langage informatique spécial inventé pour coder les règles de droit !
1. Le week-end commence tout de suite pour me réparer de quinze jours d'écriture sur le sujet : "De l'éventualité de quelques qualifications des systèmes d'intelligence artificielle" (pour l'ER de droit privé de la Faculté de Droit de Poitiers, Institut Jean Carbonnier).
Première quinzaine, mars 2023.
Un journal se ferme, un autre s'ouvre !
https://www.gouvernement.fr/communique/comite-de-lintelligence-artificielle
58. "Les cas d'usage". Que veut dire cette expression qui fleurit dans les discours. Un besoin de concret. Certes. Et donc une impossibilité d'élever la problème à la généralité qui seule satisfait l'esprit en vous édifiant d'intelligence ?
57. P.-Y. Gomez, professeur émérite de l'EM Lyon BS signe quelques lignes dans Le Monde du 14 septembre (p. 18). Il conclut, "Raisonner comme une IA pourrait ainsi, dans l'avenir, qualifier de manière péjorative la banalité d'une réflexion" ; certes, cela pourrait ; mais 95 % des personnes raisonnent de façon banales, voire faussement. Et les systèmes d'IA (et non l'IA) les plus intéressants (pas tous) seront bâtis sur les meilleures connaissances et les meilleurs modes de raisonnement... en sorte que l'on peut soutenir exactement l'inverse.
56. Sur le site de l'ICANN, on trouve une défense de la "communauté technique", soit la communauté scientifique et celle académique. Un "manifeste". Les scientifiques n'entendent pas être assimilés et rangés dans la société civile ! Il est regrettable que la parole scientifique soit concrètement négligée. La contribution des scientifiques doit être entendue de façon spéciale dans toutes les consultations relatives au numérique. Go sur le site de l'ICANN pour lire cette position publique, cliquez ici !
55. L'Express publie un article : "Intelligence artificielle : à quand une conscience artificielle ?" On y répond dans notre Essai (publié sur HAL) en commençant par reporter l'avis de quelques spécialistes sur la possibilité même d'y arriver. La réponse, inspirée d'un mathématicien et d'un informaticien, est grosso modo : on y arrivera quand on fera des programmes pour ! A cela sans doute cent conditions techniques, et non "critères" comme l'écrit le journaliste Guillaume Grallet (il est usuel de confondre le concept de critère, fin, et celui plus grossier de condition, y compris chez les juristes...). Cela dit, des SIA avec conscience ce sera très cher et pas toujours utile. J'esquisse de mon côté la voie, d'une part, des multiples états de la conscience et, d'autre part, du SIA qui, ayant une conscience et ayant "appris" "tout le droit", suscitera cette fois ne révolution juridique...
54. Toujours dans Le Figaro, Laurent Alexandre soutient qu'avec le phénomène de l'IA "la marginalisation de l'espèce humaine est absolument inévitable" ; propos trop général pour être discuté, à la rigueur les détenteurs de la technologie en feront un instrument de domination de 90 % de l'Humanité comme c'est déjà le cas avec le pouvoir politique, les armes, la finance, les structures économiques, la culture et le sport (des marchés qui rendent esclaves des centaines de millions de personnes)...
53. Le Figaro a publié 5 entretiens lors du mois d'août sur le thème de l'IA, parfois avec des considérations juridiques : l'appel à une régulation de l'IA (prière de ne pas rire).
52. Flavie Flament sur @RTL interroge le système d'IA ChatGPT sur sa vie personnelle au cours d'une émission où elle a invité un confrère journaliste ; le texte généré est mauvais avec des inexactitudes grossières, mais il relate correctement l'action de la présentatrice sur le terrain des violences sexuelles. La production fait lire le texte généré. Étonnement sur les ondes : il y a des choses fausses dans le texte généré par ChatGPT !!! Et la présentatrice de se demander, en substance, " comment empêcher les IA de diffuser des informations fausses ?". Problème, c'est elle qui vient de diffuser sur RTL des pages qu'elle sait fausses. Le SIA, lui, n'a rien diffusé. La simplicité d'esprit du moment devrait beaucoup souffrir avec les dures réalités économiques et juridiques sur lesquelles s'appuient le développement du phénomène IA.
51. On appelle IA génératives les systèmes d'IA qui produisent du contenu (du vide ce serait moins conforme à nos schèmes), ce sont elles qui sont à la mode. ChapG...! Certes il y a une "génération" (...?!) de lignes et pages... mais elles ne sont que le résultat de calculs qui, pareillement faits, pourrait commander à une machine de s'éteindre, de baisser en intensité, de tourner à droite, de produire un son...
L'actualité conduit les observateurs, parfois professionnels, à s'extasier devant le résultat de ces systèmes. La dernière ânerie commandée était la rédaction d'un devoir de philosophie (bon, même les âneries contribue à former les esprits). Match nul. Certains s'extasient de la performance qu'est la réalisation d'un devoir noté 11,5/20 en quelques secondes. Certains louent le professeur (médiatique) qui a beaucoup fait mieux en deux heures (20/20). Et après ?
Et après ?! Le point essentiel nous semble être le calcul que l'ordinateur et son programme et ses connections opèrent pour un même objectif d'intelligence, au sens large. Dans notre essai, "Le droit sous le règne de l'intelligence artificielle", un chapitre, à l'intitulé ambivalent, est consacré au sujet de la "production" : "L’énoncé de vérités et de savoirs". Processus qui inflige une blessure narcissique à l'humain (surtout à l'humain sur-diplômé qui croit dominer le monde...).
Voyez mon essai en PDF avec ce lien
Cette situation de calculs pour poser des énoncés et savoirs (tout était déjà connu s'écrient ceux qui détestent la machine...) n'est pas un décision au sens humain de la chose, mais seulement mais encore, mais irréductiblement, un simulacre d'une partie de l'esprit humain que le système réussit mieux que l'espèce sur divers plans. Comment appeler ces "résultats" ?
50. L'IA fait avec Cédric VILLANI la Une de Libération ce 20 juin, le sujet est omniprésent, prendre de la hauteur devient impossible.
49. Est évoquée plus bas une étude dans laquelle je souligne le linéarisme de la question (éculée) de la personnalité des SIA, ce qui me fait parler moins de la personne que de la personnification (processus vers une reconnaissance de personnalité artificielle) et de façon fort nuancée ; je me permets de remettre une pièce dans la machine car la question de la conscience a parfois fait l'objet d'impasses de discussions au nom de l'évidence : L'étude à paraître
48 (suite du 47). Entretien avec Hugues DUFOUR
47. A ne pas rater : "L'art face à l'IA" par Hughes DUFOUR, FYP éditions, 2023. Avec un sous-titre : "Vers un imaginaire augmenté". Avant de discuter de son cœur de sujet, l'auteur montre sa maîtrise du sujet "intelligence artificielle" (il mentionne un diplôme de physique). Voilà un game designer et scénariste au profil original. Et au discours de haut niveau et de belle tenue. Je vais y revenir.
46. Le dossier précité de Challenges du 27 avril (n° 784) appellera deux ou trois remarques... à venir !
45. Belle chronique de Paul Krugman dans Challenges du 27 avril (n° 784, p. 41) intitulée "Économiquement, Internet est décevant". En un mot comme en cent, "la" révolution Internet n'a pas été aussi profitable que ce que l'on imagine. Rien à voir avec les grandes évolutions du XXe siècle. Des calculs opérés sur le passé, après observation des faits, le prix Nobel extrapole ce qui pourrait se passer avec l'IA. Toutefois, les systèmes d'IA qui seront une nouvelle ère de la robotisation ne seront pas passifs comme l'est le réseau IP ! L'auteur ne le dit pas. Néanmoins, cette analyse, qui vaut pondération, fait du bien. Toutefois, nuance de la nuance, l'amélioration de la productivité par l'IA, si elle devait être modeste, ou décevante, n'altérerait pas, selon nous, le choc des divers systèmes d'IA sur l'ensemble des métiers. Spécialement des métiers ayant essentiellement pour objet de travailler les mots et les phrases : vous voyez de quoi je parle ?
44. Les algorithmes sont passifs poste Marie-Anne Frison-Roche. Oui il faut le rappeler parce qu'on en a fait des acteurs (méchants, bien sûr). Sur ce problème, elle tire partie d'une récente décision de la Cour suprême des USA relative à Twitter. Elle note que les algorithmes ne sont pas une personne et que cette décision est un élément important "dans une jurisprudence qui ne doit pas emporter le droit de la responsabilité hors de ses gonds". On est plutôt d'accord pour insister depuis des années sur la place prééminente du système par rapport à l'algorithme (ce qui abonde dans ce sens tout en ayant une portée plus générale). On reprend l'idée finale pour noter que c'est quasiment tout le droit que l'IA / les SIA ont tendance à faire sortir de ses gonds si l'on suit le discours mainstream - au demeurant mal calé et c'en est la preuve.
Seconde quinzaine de mai 2023.
43. Question basique et pratique : "faire du droit avec les systèmes d'intelligence artificielle, ce seracomment ?" Il me plaît de dire que ce sera comme diverses évolutions. Le travail sera possible sur des bases pus grandes, rapides, synthétiques et "actives". Hum... "actives ?" Nous savons que les systèmes ne font que du calcul pour fournir ses "énoncés" ou autres productions, mais ce calcul donne souvent des résultats probants ou au moins significatifs. Eh bien faire du droit avec les SIA ce sera plus large, plus profond, plus rapide, plus révélateur, plus trompeur aussi..., et plus international. La comparaison va peser plus lourd. Il y aura un grand bond sur le plan du droit comparé puisque l'information sera disponible (même si elle est imprécise, elle pourra être précisée avec les repères donnés, quelques articles de lois ou décision...).
42. La machine coupable de tout. L'Humain innocent de tout. "L’intelligence artificielle ChatGPT fait ses premières victimes en Bourse.", Le Figaro. Ce journal n'est plus celui de la responsabilité : le spéculateur qui s'ignore et qui fait des pertes "à l'insu de son plein gré" ça n'existe pas (...). L'information financière est commune, il y a tout un droit des services d'investissement pour cela, et celui qui sort des clous prend des risques qu'il doit assumer.
41. De longs documentaires sur Arte traitent du sujet du siècle (...) sans jamais être capables de dire "systèmes d'IA" (bon, il y a eu mieux, le programmateur...). L'IA est un phénomène et non un acteur, ce sont les systèmes d'IA qui opèrent (avec des responsables qui les exploitent). Pour cette raison, la loi européenne, en toute rigueur, traite justement de "système d'IA" et non de l'IA. Ne pas déformer le sujet, certes double (IA et systèmes d'IA), est d'ores et déjà une aptitude des ces nouvelles machines quand les êtres humains baragouinent, eux, dans tous les sens...
Première quinzaine de mai 2023
40. L'IA est sujet un peu juridique mais surtout politique. Il s'agit de sauver l'économie et le pays. Il est donc hors de question de laisser le sujet aux informaticiens qui doivent cependant toujours parler les premiers. Mais de façon générale la science est une affaire politique. Je crois l'avoir perçu avec Paul Feyerabend (qui pousse très loin la chose).39. Un bon titre qui , en l'espèce, ne transforme pas l'IA en un acteur, en une personne, car seul l'humain est acteur est démoniaque... Voilà ce titre :
« ChatGPT n’est pas intelligent, mais son utilité est révolutionnaire » : https://www.zdnet.fr/actualites/chatgpt-n-est-pas-intelligent-mais-son-utilite-est-revolutionnaire-39956524.htm
38. Penser que l'IA va générer un période de nouvelles lumières, c'est confondre l'un des effets de la puissance informatique et sa cause qui, elle, tient et s'ancre dans la mutation des langages et langues et de l'écriture. Pour moi, seule l'idée de choc épistémologique convient. Encore qu'elle soit à préciser. Elle le sera dans 50 ans. Ce serait utile qu'on y parvienne dans les prochaines années. C'est de science politique moderne dont il s'agit...37. Le changement par l'IA qui sera probablement, à l'Université, le plus visible, consistera dans l'effet sur la pédagogie (et je préfère n'en rien dire...) ; dans ces circonstances, dans les mentalités actuelles (faire plaisir aux étudiants... et déployer du care...), l'Université commettrait une grave erreur de considérer l'IA par le (seul) bout pédagogique alors qu'elle devrait restructurer les sciences dans ce que nous appelons un choc épistémologique.
36. Il y trois ans je disais publiquement à un président d'Université que l'IA allait bouleverser les connaissances et donc l'enseignement supérieur (qui est au contact de la fabrication des connaissances avec la recherche). Désormais, tous les secteurs professionnels frétillent de cette crainte, sans plus. Il convient de dire que le Supérieur doit spécialement frétiller pour réagir. A l'époque, devinant un choc non pas technologique mais épistémologique, je l'ai depuis écrit ; je préconisais alors (un peu en l'air, j'en conviens) la création de Chaires d'épistémologie - pas un machin administratif ! - pour mieux relier les disciplines entre elles et amarrer celles en retard sur l'IA aux autres. RV dans trois ans...
Seconde quinzaine du mois d'avril 2023
35. Le succès du phénomène de l'IA (et non seulement de l'IA) pousse à utiliser des notions vulgarisées et donc déformées. Naturellement je participe à ce grouillement qui se ralentira et laissera ainsi l'eau trouble se décanter. Dans ce grouillement, figure l'utilisation de la distinction de l'IA forte et de l'IA faible ; la distinction serait déformée et banalisée alors que John Searle qui l'a proposée (en 1980) a estimé inconcevable l'IA forte qui, précisément, serait celle d'une conscience extrêmement élaborée et affective. Mais l'IA étant un immense phénomène, la distinction est utilisée pour autre chose, à commencer, sur le seul plan de la méthode, pour couper en morceaux le sujet (cet immense phénomène) et ce afin de participer au grouillement des mots et des idées. La distinction doit finir par recouper, dans les esprits, les SIA aux fonctions étroites ou spéciales et les SIA aux fonctions générales soit, même dans ce cas, un système d'IA sans esprit...
34. L'UNESCO invite à appliquer sa recommandation du 25 novembre 2021, on frise le ridicule...
avec cette auto-promotion car ce texte est faible. Cette position ― sans valeur contraignante ― énonce sans la moindre originalité quatre objectifs : la protection des données, l’interdiction de la notation sociale et de la surveillance de masse, l’aide au suivi et à l’évaluation et... la protection de l’environnement !
33. Pour codifier le droit du numérique et le droit (à venir) de l'IA, il conviendrait d'inventer la codification au fil de l'eau. Faudrait-il encore disposer d'une vue structurée et durable du numérique. Cela postulerait de s'extirper du quotidien, de l'hyper-technique et des bulles : autant de biais humains qui font se fixer sur l'insignifiant. Un SIA juridique y parviendrait peut-être mieux que le dichotomique cerveau des juristes.
32. La possibilité d'un Code du numérique à droit constant, avec l'IA qui va "dérouler" en 30 textes... avec les 100 textes lourds qui existent... les 100 autres plus légers, une telle codification... on se demande si cela sera ou serait possible : cela aurait-il un sens de codifier autant de règles de l'UE si souvent directement applicables ! Au fond, les codifications à droit constant qui opèrent depuis 35 ans pourraient trouver leurs limites. Rapport avec l'IA ?! "IA ô cher système d'IA merci de me classer les textes en vigueur en matière de droit de l'informatique, de commerce électronique et de droit du numérique pour en faire un code avec des sections dotées d'intitulés et des articles numérotés..."
31. L'IA et l'éthique, l'éthique de l'IA... après avoir choisi cette méthode d'approche (exclusivement
philosophique ou pseudo-philosophique)... ce que nous avons dénoncé, on en constate ces derniers jours la pusillanimité avec, en sorte de comble, Elon MUSK et d'autres, qui demandent une pause sur la recherche. Une pause ?! On se croirait dans la cour d'école. La politique juridique (concept !) suppose des moyens d'Etat, des accords entre Etats, ce qui peut alors amorcer une politique juridique qui, elle-même, requiert un équilibre entre le possible et le souhaitable au triple plan des relations internationales, de théorie juridique et de la technologie.
30. Un éditeur juridique fait une annonce sur l'IA, cliquez ici Lefebvre Sarrut introduit l’IA générative dans la recherche d’informations juridiques en Europe, une première dans le secteur ; la fonction (notion...) semble porter sur la seule recherche.
29. Un moratoire sur l'IA, quoique l'on pense de l'idée, est à mon sens impossible et mêmene veut rien dire en politique juridique. Le droit sous le règne de l'intelligence artificielle (HAL, 2023. p. 213) :
« Le capitalisme libéral peut être mâtiné d’étatisme administratif, comme en France, équilibré ou à tendance anarchiste. Sans entrer dans une analyse politique, on relève l’idée, peut-être commune à nombre de pays, d’un « libéralisme numérique » [478]. Courte, la formule en dit long qui montre la difficulté de déployer une politique juridique quand élite et nations adoptent la liberté. Quand il y a de surcroît une difficulté à concevoir et nommer les mutations en droit, toute politique juridique devient impossible.»
[478] É. Sadin, La silicolonisation du monde : l'irrésistible expansion du libéralisme numérique, Éditions l'Échappée, 2016.
28. Appel international à un moratoire sur l'IA ! La liberté se rit de se voir l'objet d'un moratoire. La liberté de l'algorithme. La liberté de coder. La liberté de créer... des systèmes.
Autant en emporte la liberté qui, encore, balaye la planète de son souffle.
Moratoire ? Voilà un élan de politique juridique qui ignore le droit. Le Droit qui, habituellement, ignore la politique juridique. Sauf exception ! On ne m'accordera quelque crédit que lorsqu'une IA le confirmera...
27. La spécificité de l'intelligence artificielle ramenée à un traitement... automatisé ?
26. Faire du droit avec l'IA (avec les SIA) pourrait imposer l'idée de pyramide décisionnelle du service juridique ou de l'acte judiciaire (jugement ou même actes de procédure) ; cela permettra de réfléchir et puis de distinguer l'acte professionnel pur. La décision. La décision obéit à un processus linéaire pour servir ― parlons mollement ― la véritable décision. Formellement reconnaissable par la signature du"décisionnaire", substantiellement attachée à une intention. Dire que la machine décide vise seulement aujourd'hui à faire peur ou à vendre à bon marché des droits fondamentaux ou de l'humanité (que les processus administratifs actuels étouffe déjà fort bien...).
25. Dans mon Essai, notamment dans le chapitre sur l'intuition, je la réserve il me semble à l'humain. Erreur vaniteuse d'un cerveau juridique ? Il m'avait échappé que la remarquable Melanie Mitchell (Mélanie in french) relate le kami no itte japonais, "coup de Dieu" ou "coup divin" au jeu de go. Elle l'apparente à l'intuition...
24. Le juriste qui rit sur la poétique et se pare de qualités humaines inimitables va souffrir, car il sera imité. Les SIA ne posent pas des problèmes à l'ordre juridique, ils posent celui de l'appréhension de l'ordre juridique comme cela n'a jamais été fait par aucun juriste ou groupe de juristes (une société savante, une équipe de recherche...). Ne bataillez pas sur la queue de cerise de l'explicabilité des résultats ou des essais suffisants ou de la conformité des données. Juristes, bataillez pour votre survie.23. La compétence du juriste vue comme la plus noble et pure, car rigoureuse et rationnelle, est ce que l'on peut appeler le socle juridico-logico-linguistique. Ou le socle juridique logico-linguistique. Il repose sur l'alternative et l'exclusive attachées au sens des termes et se fonde donc sur le binaire : ou oui ou non. Les systèmes devraient rapidement parvenir à traiter le langage naturel utilisé en droit pour mener ces analyses (on le sait, ils le font déjà). La question est donc que pourront faire les juristes outre l'arbitrage entre les "énoncés" du SIA qui offriront une solution juridique ou plusieurs. Cet arbitrage qui occupe la fin de mon Essai par une idée, et une seule (la poétique), reposera sur bien plus d'idées et de choses ; surtout, le métier du juriste, du moins du bon juriste, commencera à la conception des systèmes. Du moins vaut-il mieux pour eux...
22. Programmer des consciences dans des SIA, il est plaisant d'en noter la possibilité négligée en pensant que ce sera complexe et en relevant le début de personnification (je n'ai pas de meilleur mot) qui en résultera ; c'est pourtant presque basique quand, lisant Jean-Pol Tassin (coll. Quai des sciences, Dunod), neurobiologiste, je songe à la perspective de programmer l'inconscience : là ce sera du boulot !
A chaque siècle suffit sa peine !
21. "Au doigt levé", je voyais les IA génératives, ou génératrices, être opérationnelles et disruptives d'ici 5/10 ans ; ChatGPT (en V4, V2 pour le grand public) et Harvey (de Allen & Overy), annoncent que c'est pour tout de suite. Un vent de panique va se lever sur le monde du droit (et mon Essai sur l'IA n'aura pas servi à avertir de l'évolution). Cependant, en y parlant d'épistémologie, je dépasse la sphère juridique car le choc est de nature épistémologique et sera épistémologique. Pourquoi : parce que toute cette affaire est une affaire de langage, donc de pensée (retraitée, reformée).
20. Le cabinet d'envergure internationale Allen & Overy évoque son actualité et projet d'un système d'IA juridique (Lextenso). Harvey ! Voyez ci-dessous mon bref commentaire et l'illustration. Le propos rapporté me semble très prudent (illustration). Avec l'IA, le présent est déjà du passé et aussi du futur. En tout cas, il semble certain que le système Harvey de Allen & Overy ira assez vite plus loin qu'une assistance classique de préparation du travail (classique) de l'avocat. Je recommande la lecture de La Gazette du Palais ! C'est en tout cas l'anticipation à laquelle j'ai été amenée dans mon essai sur Le droit sous le règne de l'intelligence artificielle. Je suis certain que le juriste travaillera prochainement avec plusieurs systèmes d'IA, toute organisation qui n'aura pas son SIA sera en perdition. Mais toutes les morts ne sont pas brutales et d'innombrables survies se noteront : l'artisanat a 5 000 ans, il est éternel, et souvent confidentiel.
19. Ne pas voir la machine pour y voir une personne ou un sujet, ou ne pas voir les possibilités à long terme de l'émergence d'une personnification de la machine, voilà un raisonnement binaire, alimentant un phénomène de bipolarisation, que je condamne au nom de ma doctrine du linéarisme. [machine id est système]
18. "L'article scientifique de Michal Kosinski, paru en février (2023) dernier, a évalué la capacité de ChatGPT à résoudre des problèmes complexes, des problèmes d'intelligence et la capacité de la machine à se mettre à la place de quelqu'un d'autre. Elle est donc capable d'empathie, mais aussi de la compréhension de raisonnements avec plusieurs personnes et de se faire une représentation de ce qui se passe dans la tête de chacune des personnes. " Paul Jorion ajoute sur France culture, en substance, qu'il ne fait plus de doute qu'il existe un sujet. J'en serais stupéfait si je n'avais détecté la bipolarisation des raisonnements.
17. Cinq ans de réflexions métaphysiques sur les systèmes d'IA, mais à partir de quelques réalités juridiques (plus molles que dures pour l'heure), peuvent convaincre que ce processus technologique, entrepris par l'humain, qui consiste à automatiser et rationaliser les procédés cognitifs, appelle un rejet de principe : ils montrent en effet les limites de la pensée humaine, et ses défauts et sa lenteur. La blessure narcissique ainsi infligée à l'être humain lui fait repousser cette machine qui montre la nature humaine telle qu'elle est, outre les récits de tous ordres quelque peu arrangés.
16. Un propos sur deux sur l'IA "personnalise" l'IA en en faisant, implicitement, une personne ou une sorte de personne pour, ensuite et notamment, lui imputer des fautes et la critiquer ; or, d'une part, il n'existe aucune personne à qui imputer quoique ce soit et, d'autre part, l'humain ne saurait se cacher derrière son propre comportement qui invente, monte et utilise des systèmes dont ce qui est vu comme des erreurs ne sont donc, s'il s'agit d'erreurs, que les siennes.
Deuxième quinzaine.
15. Le sujet éculé de "l'IA et l'éthique" est en reflux, j'ai lu coup sur coup des petites phrases de juristes ayant participé à la bulle disant en substance... "bon, faisons du droit".
14. Il n'est pas impossible que la question du métavers ajoute quelques pièces dans la machine à parler de tout pour n'en rien dire, et voir repartir les discussions aussi vagues que peu utiles sur l'éthique (tout le monde s'éprouvant philosophe) ; le sujet de la blockchain ayant été rongé jusqu'à l'os, la perspective métavers pourrait en être le dérivatif.
13. Après le colloque organisé par mon collègue Franck DURAND sur les défis de la Douane, dans lequel il a été édifiant de voir le rôle de l'IA et du numérique, j'ai, à sa demande, qui m'oblige, commencé à écrire un papier sur "La Douane au défi du Numérique" ; je suis amené à assez vite utiliser à ma théorie des "6 i" qui décrit le numérique en un virtuel... bien réel. La difficulté est qu'il est : invisible, inaccessible, insensible, insaisissable, insondable et infini (soit 6 i). Dans cette publication, seconde application de mon Essai, je tenterai de dépasser la difficulté ! La douane cherche des possibilités !
V. Le droit sous le règne de l'intelligence artificielle, not. p. 134 et 135 ; p. 155 avec les objets informatiques ; p. 176 avec l'idée d'un "immatérialisme", etc.
12. Ce matin en colloque, le prof. J.-L. Albert évoque les défis que la mondialisation jette à la Douane et il note les audaces dont il nous faut faire preuve (nous République, nous Administration, Nous Union européenne), nous qui devons savoir "maîtriser" nos frontières. Et là, pouf, notre collègue juriste indique les possibilités de l'IA... les SIA permettent en effet des contrôles performants et dits "non-intrusifs", action publique qui intéresse les particuliers et les entreprises...
11. "L'intelligence artificielle" n'est pas intelligente, le fait est bien connu ; l'approfondissement de la réflexion exige cependant assez vite d'examiner des questions psychologiques, ou pour stimuler l'inspiration, ou spécifier des applications et fonctions, ou pour sélectionner des missions (de la machine). 10. "A McGill, son intérêt pour la psychologie fut éveillé par le fait d’avoir Donald O. Hebb comme professeur dans son cours d’introduction à la psychologie. Hebb était le fameux neurologue qui identifia les structures du cerveau qu’il appela les assemblages de cellules ou ce qu’on appelle maintenant les synapses hebbiennes. Sa théorie a guidé des expériences qui ont précédés la théorie des réseaux neuronaux, un outil désormais important dans la recherche sur l’intelligence artificielle. Après que Doreen Kimura ait obtenu son doctorat (PhD) en psychophysiologie — l’étude de la façon dont la biologie du cerveau affecte le comportement et les expériences — elle passa..."
https://www.science.ca/scientists/scientistprofile.php?pID=10&-lang=fr
9. La réflexion protéiforme menée sur ce que peut-être l'IA, et sur ses effets sur le droit, impose de dire ce qu'est l'activité juridique usuelle, "de base", consistant à dire si tel ou tel dispose de tel ou tel droit ; ce type d'analyse, dite communément "faire du droit", correspond à la compréhension de la langue et de la technique juridiques, ce qui nous a imposé de trouver une meilleure formule pour la nommer : nous parlons de cette compétence comme constituant un "socle juridico-logico-linguistique". Je ne pénètre pas davantage ces trois concepts. Cette compétence suffit très souvent (dans 70 % des cas ?) pour donner une réponse juridique satisfaisante, elle n'est cependant pas suffisante . Le Droit est parfois hors du Droit (écrit et formel) et plusieurs pôles ou zones d'influences sont à prendre à compte.
(voir, Le droit sous le règne de l'intelligence artificielle, p. 60, essai publié sur HAL)
8. Monter un cours de droit du numérique impose de s'interroger sur la lente construction de la matière à partir du droit de l'informatique, ce qui impose d'identifier les grandes séquences sociales et économiques que la succession de technologies permit... ou imposa. Et au sommet, et depuis le début, l'indéfinissable IA !
7. Les documentalistes de la sphère juridique ont peut-être de l'avance sur les juristes sur ce qu'est et sera l'IA, du moins pour le domaine du droit et les juristes ; bon, cela dit, l'affaire est informatique : elle seule donne les possibilités fondamentales du système.
Le blog de E. Barthe, sur la réalité de l'IA dans le domaine juridique
6. A peine entamé, il y a quelques jours, le journal ouvert ici, je lis sur un "rézo social" un mot à propos des "objets numériques", expression il est vrai courante et notamment par la grâce des "objet connectés", lesquels ont en effet plus d'allure que les "choses connectées", malencontreuse connexion de termes qui replongerait dans des sections rurales du code civil marquées du rupestre du début du XIXe siècle. Rien de numérique ! Il n'en reste pas moins que l'immatérialisme, que prolonge, en sa dixième séquence électronique sur un demi siècle, l'IA, conduit à observer des objets sans une once de matière qui vaille, de représentation ou d'accessibilité. L'esprit cartésien qui, désirant pénétrer l'affaire, voudrait alors rappeler ce qu'est en droit commun l'objet, pour un point de droit civil, se heurtera vite au mur du vide... On ignore tout de l'objet. Voilà qui participe du règne de l'IA sur le droit, et nous nous y sommes frottés, et sans doute piqués, rencontrant quelques philosophes férus de l'objet alors que les juristes semblent l'avoir engoncé dans une mélasse durable ; et hop, voilà à quoi sert un essai !
5. Le droit de l'IA ne doit point être conçu ici en considérant les technologies chinoises, que nous n'avons pas, qui seraient développées sans précaution comme dans des pays que nous laisserons ici sans nom, et, qui, de surcroît, seraient développées dans un pays libéral comme le sont les USA où les fulgurances du marché disent périodiquement la force du capitalisme. La France ne doit pas vouloir des protections pour des machines qui n'existent pas et pour des lieux où leur circulation évoquera, si elle advient, l'embolie des sociétés rigides.
4. Il résultait implicitement de mes derniers mots relatifs à l'emploi de l'expression "système d'intelligence artificielle" que le système s'impose malgré les plumes rétives de la doctrine juridique sans pour autant cela implique la théorie qui nous éclairerait tous.
3. Après avoir beaucoup écrit seulement "IA", expression utilisée toute seule, en sujet, et de façon souvent inappropriée car souvent on parle d'une "machine" et non d'un phénomène général, on commence à lire "le ou les systèmes d'intelligence artificielle" ; le système remonte enfin à la surface. La loi européenne en proposition, notamment elle, a inculqué un peu de rigueur de langage.
2. Le langage CATALA, un langage informatique spécial inventé pour coder les règles de droit !
1. Le week-end commence tout de suite pour me réparer de quinze jours d'écriture sur le sujet : "De l'éventualité de quelques qualifications des systèmes d'intelligence artificielle" (pour l'ER de droit privé de la Faculté de Droit de Poitiers, Institut Jean Carbonnier).
Première quinzaine, mars 2023.
Un journal se ferme, un autre s'ouvre !
Augmenter la taille du texte
Diminuer la taille du texte
Partager
La France, grand pays en déclin et petit pays inconscient ! "Le décrochage français", par M. Hau et F. Torrès, 2024, éd. PUF.