L’intelligence artificielle, science avec conscience ou sans conscience ?

EchoRadar remercie chaleureusement le professeur Jean-Louis Le Moigne d’avoir accepté la publication de cette riche et instructive réflexion intitulée « L’intelligence artificielle, science avec conscience ? Pourquoi pas ? au lieu de se réduire à une algorithmique artificielle, ‘Science sans Conscience’. »

Lorsque paru le 28 mars 2018 le rapport au Premier Ministre du gouvernement français rédigé par une mission dirigée par le député mathématicien Cédric Villani sous le titre « Donner un sens à l’intelligence artificielle : pour une stratégie nationale et européenne », nous fumes nombreux à nous enthousiasmer pour cette annonce exceptionnelle. Les réseaux médiatiques de la planète le sentirent vite, plus attentifs au contexte du contenant, (une brochure de 235 pages au titre ambitieux et de facture épistémologique, ‘Donner un sens à l’intelligence artificielle’ ce qui est très rare dans ce type de documents) qu’au texte du contenu qui, pour l’essentiel, s’avère de facture politique (‘la structuration de la politique industrielle de l‘État’) ; le sous titre le précisait aussitôt fort loyalement « Pour une stratégie nationale et européenne ».

Quelle est l'histoire de l'intelligence artificielle ? Les robots auront-ils une conscience ? © Agsandrew, Shutterstock

(Source)

État de l’art politico-économique (plus que culturel et critico-prospectif) que ce rapport a su aborder en consacrant à sa préparation une grande quantité de moyens en peu de temps : six mois «Palo Alto, Beijing, Berlin, Ratisbonne, Londres, Zürich, Bologne, Lisbonne, Tel-Aviv et Haïfa. … Les contributions se sont multipliées, et rapidement la quantité de matériaux à digérer est apparue considérable ! Mais ensemble, nous avons pu collecter et synthétiser les quantités d’information fournies par les centaines d’experts, et par le milliers de citoyens qui ont apporté leur contribution à la réflexion ».

On voudrait partager l’enthousiasme des responsables politiques qui vont s’aider de ce rapport pour justifier les prochains choix budgétaires qu’ils vont devoir arbitrer pour ‘donner le cap’ (car dit le rapport, « donner un sens, c’est-à-dire donner un cap », assimilant curieusement la signification de l’IA à un objectif pour l’IA), cap qui sera explicitement « l’objectif de la structuration proposée pour la politique industrielle ». En deux lignes on passe de l’affichage du but à l’exposé des moyens. C’est à l’exposé de la stratégie et des moyens à structurer proposés par les nombreux experts associés que le rapport va s’attacher, sans revenir sur l’exposition et l’interprétation du « sens à donner à l‘IA’.

D’où l’embarras du lecteur qui s’attendait à découvrir le ‘Pourquoi nous combattons ?’ éclairant la présentation du ‘Comment et avec quels moyens nous allons combattre’, en pré sélectionnant ‘quatre secteurs prioritaires d’intérêt général’. Embarras que les auteurs du rapport ont pressenti puisqu’ils ajoutent qu’ils vont bientôt établir « une version plus pédagogique, susceptible d’intéresser un public aussi large que possible, insistant davantage sur l’histoire, les attentes et les mystères de ce domaine ». Et il faut confesser que les citoyens sont d’abord impatients de découvrir ce qu’est ou devrait être « ce Cap de l’IA » ainsi entendu (celui d’une politique de civilisation plutôt que celui d’une politique industrielle), cap auquel on pourra se référer pour agir intelligiblement.

Dés lors ne nous faut-il pas quelques lumières sur ce que sont ‘l’histoire, les attentes et les mystères’ de ce nouvel OVNI, (Objet Virtuel Non Identifiable) que l’on appelle l’IA : « Définir l’intelligence artificielle n’est pas chose facile. » affirme d’emblée l’introduction du rapport, sans souligner pourtant que le paradoxe qui consiste à utiliser le substantif (français ET anglais) « Intelligence » (se faire une intelligence de la situation; avoir des intelligences dans la place) sans pour autant faire appel à sa définition usuelle pour qualifier la création de processus cognitifs
comparables à ceux de l’être humain.

Que peut-on entendre alors par le titre ‘Donner un sens à l’intelligence artificielle’ ?
Le rapport contourne pragmatiquement ces questionnements épistémiques d’apparence sémantique par des considérations d’apparence conjoncturelle puisque fort récentes. (‘Une nouvelle ère’) : « L’intelligence artificielle est entrée, depuis quelques années, dans une nouvelle ère, qui donne lieu à de nombreux espoirs. C’est en particulier dû à l’essor de l’apprentissage automatique. Rendues possibles par des algorithmes nouveaux, par la multiplication des jeux de données et le décuplement des puissances de calcul, les applications se multiplient : traduction, voiture autonome, détection de cancers,… Le développement de l’IA se fait dans un contexte technologique marqué par la
«mise en données» du monde (datafication) », qui touche l’ensemble des domaines et des secteurs.

Ce déplacement du la vocation de l’IA vers l’AA (Apprentissage Automatique) avait été souligné, en parallèle ou presque semble t il, par l’Académie des Technologies, (établissement public administratif national placé sous la tutelle du ministre chargé de la recherche), dernière née des académies accueillie sous la Coupole symbolique de l’Institut de France, qui publiait le 28 mars 2018 son rapport final sous le titre explicitement plus factuel «  Renouveau de l’Intelligence artificielle et de l’apprentissage automatique ».

Ceci puisque «Les domaines de l’Intelligence artificielle et de l’apprentissage comportent une dimension importante liée aux technologies et aux pratiques qui doivent recevoir l’attention et les moyens des pouvoirs publics ». On comprend que le lecteur du ‘Rapport Villani’ (publié le 29 mars 2018), soit surpris de pas trouver de références aux contributions des experts de l’Académie des Technologies, fusse pour contraster explicitement les deux points de vue. Suffira t il de rappeler que ‘le rôle de l’État doit être réaffirmé : le jeu du marché seul montre ses limites pour assurer une véritable politique d’indépendance’, sauf si l’on souhaite attribuer au seul État la charge de la définition du sens de l’IA ? Plus que par une allusion à la rituelle rivalité des services dans une organisation complexe telle que celle des États, il faudra sans doute reconnaitre une subreptice différence de point de vue tenant aux différences de conception que l’on tente de former du « sens de l’IA » Ne peut-on potentiellement lui ‘donner sens’ en lui attribuant un statut de ‘nouvelle science’ avec ses rituels universitaires et ses spécialistes assermentés, passibles donc d’une présentation critique de son (ou de ses ?) statut épistémologique de science d’ingénierie ?

Pari qu’affiche implicitement le rapport Villani par son titre « Donner Sens ». Même si il se résigne à donner dans l’immédiat en guise de sens à l’IA ‘un objectif de structuration de la politique industrielle de l’État’. Ou faut-il l’entendre plus pragmatiquement sans trop se soucier de son essence ontologique (if any ?) et de sa légitimité de connaissance scientifique ? Ce sera ce deuxième parti que prend le rapport des experts de l’Académie des Technologies qui précise d’emblée « L’IA n’est pas un but en soi , mais un moyen qui peut servir à des fins multiples et qui est donc destiné à pénétrer la majorité des pratiques et des environnements , dans l’entreprise comme dans la société civile ».

N’entrons pas ici dans la discussion des enjeux politiques et institutionnels sous-jacents, ceux de la tension traditionnelle entre jacobins et girondins qui se déclenche au lendemain de la parution quasi simultanée de ces deux rapports sur l’apprentissage automatique : deux éclairages différents sur ce que l’Académie appelle ‘ce marché capital pour le futur des entreprises françaises’ que sera celui des logiciels d’apprentissage automatique. Logiciels qui n’ont pas vocation à exercer leur intelligence puisqu’ils usent de ‘brute force algorithms’, alors qu’ils auront à faire la preuve de leur rentabilité économique : un marché capital nous assure-t-on.

Il reste que le rapport Villani nous avait mis l’eau à la bouche en s’intitulant «Donner du sens à l’IA », objectif annoncé qu’ignorait ostensiblement le rapport de l’Académie assurant que «L’IA n’est pas un but en soi » ce qui impliquera qu’elle ne peut avoir un sens ? Antagonisme apparent on l’a vu puisque le rapport Villani veut traiter ‘de la structuration proposée pour la politique industrielle’. Développer conjoncturellement un marché capital ou la structure d’une politique industrielle, sont-ce là des projets fondateurs d’une politique de civilisation ambitionnant une profonde transformation des cultures sociétale ans des contextes en évolution souvent peu prévisibles ?

A ce stade du diagnostic le citoyen peut-il inciter les instances académique et institutionnelle concernées à explorer plus avant les enjeux culturels de civilisation dont est porteur l’impressionnant développement des ’nouvelles sciences’, sciences d’ingénierie pour la plupart qui se développent se développe depuis un demi-siècle dans toutes les activités et institutions humaines ? Sciences de la computation, de l’information, de la communication, de la conception, de l’automation, de la traduction, de l’herméneutique, de l’argumentation (la nouvelle rhétorique), …

Sciences ‘nouvelles’, en ceci qu’elles s’attachent à l’établissement de connaissances portant sur des objets ou phénomènes qui n’existaient pas, et qui n’étant pas ‘donnés’ par la Nature, mais qui, pour exister, seront inventés et conçus intentionnellement par l’esprit humain. Ainsi pourrait s’entendre le domaine scientifico-ingénierial de l’Intelligence Artificielle que l’on enserrer a volontiers sein des domaines entrelacés des sciences de la cognition de la computation, de l‘argumentation (la Nouvelle Rhétorique). Autant de domaines de connaissances voulues enseignables et applicables qui n’ont pas encore su ou pu s’exercer assez à la critique épistémologique interne de leur expression. N’est ce pas pourtant cet exercice exemplaire du ’travailler à bien penser’ que les roseaux pensant que sont les humains sollicitent des institutions scientifiques dont se dotent nos sociétés.

Ne sont-elles pas conçues depuis l’origine pour développer en permanence des réflexions auto-éco-critiques sur la formation en permanente régénération des connaissances humaines, enracinées dans le creuset des deux passions, « passion de faire pour comprendre et passion de comprendre pour faire ». L’occasion de relire quelques lignes de l’introduction du ‘Nouvel Esprit Scientifique’ de G Bachelard (1934) : « Mettre en évidence une sorte de généralisation polémique qui fait passer la raison du pourquoi au pourquoi pas….et … montrer qu’à l’ancienne philosophie du comme si succède en philosophie scientifique, la philosophie du pourquoi pas ».

Peut-on rappeler alors que les germes de ces réflexions peuvent à nouveau être activés au moment ou le Paradigme de l’épistémologie de la Complexité commence à être entendu. Si l’on ne peut développer l’argument ici, on peut mettre en valeur un moment de l’histoire de la formation initiale de la critique épistémologique de l’IA qui enrichit sensiblement la réflexion sur la légitimation de connaissances développées par l’émergence de l’IA dans l’éventail des connaissances humaines.

Argument que le rapport Villani ne pouvait pas mettre en valeur en datant la naissance de l’IA du seul Séminaire d’été de Dartmouth (1956) qui rassemblait deux courants tous les deux en effet héritier du concept de machine intelligente de Turing L’un héritier de la jeune encore théorie cybernétique (N Wiener, 1948) des automates intelligents et porté principalement par l’équipe du MIT mené par M. Minsky et J. McCarthy (théorie des automates intelligents) ; l’autre constitué par une équipe de la jeune Carnegie Mellon University, H. Simon et A. Newell (stimulée par ses travaux à la Rand Corp. sur la simulation des comportements cognitifs des contrôleurs de navigation aérienne au début des années 50), riche principalement de son expérience dans le champ des sciences humaines et sociale inspirée par les travaux du mathématicien G. Polya,1948, (Les Mathématique du Raisonnement plausible), restaurateur du concept de Raisonnements Heuristique). Celle ci souhaitait qualifier ce domaine de recherche sous le label de « Simulation des processus cognitifs » ou même de « Traitement des systèmes d’information complexe ». L’équipe du MIT l’emporta aux voix et, pragmatique, l’équipe de CMU se résigna à l’adoption du vocable IA tout en produisant un ‘minority report’.

Mais la réflexion épistémologique de l’équipe de CMU continua à fermenter pendant les quarante années suivantes, (H Simon la qualifiera d’« épistémologie empirique » ce qui nous vaut d’importantes avancée dont rendent compte les principaux ouvrages (dont des collections d’articles) que l’on ne peut citer ici mais aisé d’accès* On m’accordera une exception pour la ‘ TURING Lecture (1975-76) donnée par H. Simon et A. Newell lors de l’attribution du Prix Turing décerné par l’ACM, que l’on peu considérer comme, une contribution solide à la mise en forme réfléchie d’une ‘épistémologie de l’IA’ : « Computer Science as Empirical Inquiry : Symbols and Search » et dans l’immédiat une contribution à la question ouverte pas le rapport Villani et peut être ensuite par l’Académie des Technologie ?

L’enjeu ici n’est pas de fixer un cap à atteindre alors que les environnements se transforment sans cesse; il est de progresser en maintenant ouvert un questionnement critique. Au moment où l’IA risque de se réduire à l’AA du fait de notre attention trop restreinte aux seules conditions immédiates de rentabilité et de guerre commerciale, n’importe t il pas de maintenir l’éventail ouvert ? L’Automate Algorithmique pourrait sans doute, en la ‘trivialisant’, dominer l’intelligence humaine (apte, elle, à, enchevêtrer l’IA et l’IN (l’Intelligence Naturelle, la Métis des grecs),
mais il ne le sait pas, alors que les humains le savent, rappelait déjà Pascal).

A nous de régénérer sans cesse l’humanisme en s’attachant à travailler à bien penser. L’événement conjoncturel qu’est le parution de ce rapport sur le sens de l’IA’ peut nous stimuler et nous questionner collectivement ? L’enjeu n’est-il pas la régénération de l’humanisme ?

 

* Mentionnons quelques titres: Human Problem Solving, 1972; Models of Discovery, 1977; Models of Thought, 2
volumes, V 1, 1977, V 2, 1989 ; Reason in Human Affairs, 1983., et la contribution à ‘Foundation of Cognitive Science, 1989.

Jean-Louis Le Moigne est un spécialiste français de la systémique et de l’épistémologie constructiviste. Ses domaines de recherche théorique privilégiés sont les sciences des systèmes, de l’ingénierie, de l’intelligence artificielle.

Les vues et les opinions exprimées dans cet article sont celles de leur auteur et ne reflètent pas nécessairement les vues ou les opinions d’Echoradar.

Share/Partage

EchoRadar Blog

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

quinze − neuf =

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.