Intelligence artificielle Ce qui a réponse à tout

Intelligence artificielle
Intelligence artificielle | Photo (détail): © Adobe

L’intelligence artificielle, une réponse à tout ? À propos des différences inéluctables entre l’Homme et la machine. Un essai de Peter Glaser

En 1997, le cybernéticien britannique Kevin Warwick fit commencer son livre March of the Machines par un scénario sombre sur l’avenir. Warwick pensait alors que la population terrienne serait dès le milieu du 21e siècle sous l’emprise d’une intelligence artificielle (IA) connectée et de robots pour lesquels l’Homme serait, dans le meilleur des cas, celui qui apporte un peu de désordre au système.

Sera-t-il un jour gênant pour les machines d’avoir été créées par l’Homme, tout comme l’Homme éprouva de la honte lorsqu’il découvrit qu’il avait un ancêtre commun à celui du singe ? L’Américain Edward Feigenbaum, pionnier de l’intelligence artificielle, imagina dans les années 80 comment les livres communiqueraient entre eux dans les bibliothèques du futur, multipliant ainsi leur savoir de façon autonome. Voici le commentaire de son collègue Marvin Minsky : « Les machines nous garderont peut-être comme animaux domestiques. » En 1956, Minsky fut le coorganisateur d’une conférence qui eut lieu au Dartmouth College, dans le New Hampshire, pendant laquelle on utilisa pour la première fois la notion d’« intelligence artificielle ».

Nous considérons encore les machines comme des animaux domestiques. Serons-nous un jour ceux des machines ? Nous considérons encore les machines comme des animaux domestiques. Serons-nous un jour ceux des machines ? | Photo (détail): © picture alliance / dpa Themendienst / Andrea Warnecke Les promesses d’une extension informatisée de l’intelligence étaient spectaculaires. Des problèmes de toutes sortes devaient être bientôt résolus par des cerveaux électroniques. Or la plupart de ces attentes furent déçues, ou bien elles devinrent réalité au bout de seulement plusieurs décennies et dans des domaines très spécifiques, comme le jeu d’échecs ou la reconnaissance de formes. Les progrès techniques de ces dernières années ont toutefois donné une nouvelle impulsion à cette évolution. Les récentes technologies de stockage des données, les superordinateurs de plus en plus performants, les nouveaux concepts de banques de données permettant le traitement d’énormes quantités de données, les millions d’investissements faits par les géants du net et maintenant aussi une course des États pour la domination du monde à travers les « avantages de l’algorithme », tout cela fait également revivre les vieilles peurs envers l’intelligence artificielle.
 
En mai 2014, quatre scientifiques renommés (Frank Wilczek, Prix Nobel de physique, le cosmologue Max Tegmark, l’informaticien Stuart Russell et le plus célèbre physicien du monde Stephen Hawking) adressèrent un appel aux lecteurs du journal britannique The Independant. Ils les mirent en garde contre le fait de prendre à la légère les machines intelligentes si on continue à penser qu’elles relèvent de la pure science fiction : « Ouvrir la porte avec succès à l’intelligence artificielle serait le plus grand événement de l’histoire de l’humanité. Malheureusement, cela pourrait aussi en être le dernier si nous n’apprenons pas à éviter les risques afférents. »

LA DESTRUCTION DE L’HUMANITÉ ?

On remarque que la recherche en matière d’intelligence artificielle est dominée par des hommes, pour lesquels une forme inversée du « désir de pénis » (le « Penisneid » freudien) pourrait, dans leur pathétique désir de création, jouer un rôle ; nommons cela le désir de donner la vie. Il s’agit de l’irrépressible désir d’opposer à un organisme vivant que l’évolution entraîne sur les chemins depuis environ 400 millions d’années, c’est-à-dire depuis la naissance de la vie sur Terre, et sous des apparences de plus en plus sophistiquées, quelque chose qui ne soit pas simplement une invention humaine de même niveau et informatisée mais quelque chose qui surpasse l’Homme et le dégrade à un rang de créature de transition, située entre le singe et le summum de la technique la plus moderne qui soit.

Cette vision se nomme « intelligence artificielle forte » et elle se fonde sur l’hypothèse que toutes les fonctions de l’existence humaine sont informatisables et surtout que le cerveau humain fonctionne comme un ordinateur. Toutes les mises en garde devant les machines folles convergent dans la singularité. C’est le moment à partir duquel une machine peut se perfectionner de manière autonome et où ses capacités croissent de manière fulgurante. Ceux qui ont lancé ce cri d’alarme craignent que cette hypermachine développe, une fois qu’elle est lancée, un noyau essentiel qui lui serait propre. Un moi intelligent.

La crainte que des objets capricieux puissent détruire l’humanité a des racines profondes. Elle est liée à la peur mais aussi à l’espoir que des choses inanimées puissent devenir vivantes, par exemple avec l’aide de la magie. Dans l’antiquité, les Égyptiens laissaient partir leurs morts dans la tombe avec des statuettes (les ouchebtis : les « répondants ») et celles-ci devaient effectuer à leur place des travaux dans l’au-delà. Ainsi apparaît pour la première fois dans l’histoire la notion d’ordinateur, c’est-à-dire celui qui répond à un ordre, qui l’exécute. Et les inscriptions dont sont pourvues les statuettes ressemblent de manière frappante aux séries d’algorithmes d’un programme informatique moderne.
 
Poupée magique, écoute-moi !
Quand on m’appelle
pour effectuer une tâche...
sache que tu es désignée par les gardiens de l’au-delà
pour la faire à ma place
semer les graines dans les champs
remplir les canaux d’eau
apporter le sable

 
Et à la fin, on peut lire :
Je suis là et j’écoute tes ordres.

Les « répondants » dans l’antiquité : les ouchebtis égyptiens qui accompagnaient les morts dans leur sépulture devaient accomplir des travaux dans l’au-delà. Les « répondants » dans l’antiquité : les ouchebtis égyptiens qui accompagnaient les morts dans leur sépulture devaient accomplir des travaux dans l’au-delà. | Photo (détail): © picture alliance / akg / Bildarchiv Steffens Aujourd’hui, nous parlerions de « guidage utilisateur interactif » et de « superstition » pour évoquer la croyance selon laquelle une formule magique peut insuffler la vie à une figurine d’argile. Cette superstition a trouvé un écho à notre époque. Les défenseurs de l’intelligence artificielle forte sont convaincus que, d’une manière ou d’une autre, une conscience vivante se formera un jour dans un ordinateur. Ils poursuivent l’hypothèse que la pensée peut être réduite à du traitement de l’information, indépendamment d’un support particulier, et que donc le cerveau n’est plus absolument nécessaire, l’esprit humain pouvant ainsi également être chargé depuis un ordinateur. Pour Marvin Minsky, mort en janvier 2016, l’IA était une tentative permettant de faire un pied de nez à la mort.

L’ILLUSION D’UN MOI MECANIQUE

En 1965, l’informaticien Joseph Weizenbaum mit au point au Massachusetts Institute of Technology un programme intitulé ELIZA avec qui on pouvait s’entretenir (à l’écrit). ELIZA jouait le rôle d’un psychothérapeute menant un entretien avec un client. « Ma mère a un comportement étrange », rentre l’individu dans l’ordinateur. « Depuis quand votre mère a-t-elle un comportement étrange ? », demande alors l’ordinateur. Les machines sont-elles éveillées ? Qu’est-ce qui nous parle et qui pourrait faire croire qu’à l’intérieur des ordinateurs se développeraient des noyaux essentiels qui leur sont propres et qu’on pourrait confondre avec ceux des humains ?

Auparavant les machines s’exprimaient seulement sous la forme de signaux impersonnels : « Pression d’huile en baisse », « En panne ». Weizenbaum était consterné par la rapidité à laquelle les personnes qui s’entretenaient avec ELIZA construisaient une relation émotionnelle avec une machine parée d’algorithmes. Lorsque sa secrétaire essaya le programme, rapidement elle le pria de quitter la pièce parce qu’elle avait des détails intimes à donner. Mais une machine à qui un programmateur demande de dire JE est encore loin d’avoir un véritable moi.

Un cerveau prenant la forme d’un ordinateur n’a rien à voir avec nos véritables connaissances sur le cerveau, ni avec l’intelligence humaine ni avec une conscience personnelle. C’est une métaphore moderne. On supposa d’abord que l’Homme était fait d’argile et qu’un dieu lui insufflait son esprit. Plus tard, un modèle hydraulique fut populaire : l’image que le flux des « humeurs » dans le corps aurait été responsable du fonctionnement corporel et intellectuel. Quand au 16e siècle on construisit des pantins faits de plumes et de mécanismes, des penseurs majeurs comme le philosophe français René Descartes commencèrent à croire que les Hommes étaient des machines complexes. Au milieu du 19e siècle, le physicien allemand Hermann von Helmholtz compara le cerveau à un télégraphe. Le mathématicien John von Neumann affirma que le système nerveux humain était digital et il mit en évidence des parallèles entre les mécanismes des machines à calculer de l’époque et ceux du cerveau humain. Mais personne n’a encore trouvé de banque de données dans le cerveau qui fonctionnerait, ne serait-ce qu’approximativement, comme la mémoire d’un ordinateur.

Une machine avec des droits civiques : l’humanoïde Sophia tient des conversations et montre des émotions ; c’est aussi le premier robot pourvu d’une nationalité. Elle fut reconnue fin 2017 par l’Arabie Saoudite comme une personne physique. Une machine avec des droits civiques : l’humanoïde Sophia tient des conversations et montre des émotions ; c’est aussi le premier robot pourvu d’une nationalité. Elle fut reconnue fin 2017 par l’Arabie Saoudite comme une personne physique. | Photo (détail): © picture alliance / Niu Bo / Imaginechina / dpa Parmi les chercheurs spécialisés dans l’intelligence artificielle, très peu sont inquiets d’une super-intelligence avide de pouvoir. « Toute la communauté est encore loin de mettre au point quelque chose qui serait susceptible d’inquiéter l’opinion », rassure Dileep George, cofondateur de l’entreprise Vicarious, spécialisée dans l’IA. « En tant que scientifiques, nous sommes tenus de donner des explications à l’opinion publique sur les différences entre Hollywood et la réalité. »

Chez Vicarious, qui a récolté 50 millions de dollars, notamment de la part de Mark Zuckerberg et Jeff Bezos, on travaille à un algorithme fonctionnant comme le système de perception du cerveau humain, un objectif très ambitieux. Les plus grands réseaux de neurones artificiels aujourd’hui en activité dans les ordinateurs présentent environ un milliard de connexions, mille fois plus que ce qui était possible il y a quelques années. Comparé au cerveau, c’est encore très peu car cela correspond à peu près à un millimètre cube de tissu cérébral. Sur une tomographie, cela serait moins d’un voxel, ce qui, en trois dimensions, correspond à un pixel.

Le problème principal de l’intelligence artificielle est la complexité du monde. Pour s’en arranger, un nouveau-né est d’emblée doté d’un système qui résulte de l’évolution : ses cinq sens, d’innombrables réflexes importants pour sa survie ainsi que, et c’est peut-être la chose la plus importante, des mécanismes d’apprentissage efficaces qui lui permettent de se transformer rapidement pour qu’il puisse interagir de mieux en mieux avec le monde, même si ce monde est complètement différent de celui de ses ancêtres.

En revanche, l’ordinateur n’est même pas capable de compter jusqu’à deux ; il ne connaît que le zéro et le un, et il fait des essais à base de bêtise et de vitesse, peut-être aussi de manière approximative avec ce qu’on appelle des heuristiques ainsi qu’avec une bonne dose de mathématiques ambitieuses (le mot-clé étant « les réseaux neuronaux »). Pour comprendre ne serait-ce que les fondements selon lesquels le cerveau active l’intellect humain, nous devons non seulement connaître l’état de  86 milliards de neurones et leurs 100 milliards de connexions, les différentes intensités avec lesquelles ils sont reliés, l’état de plus de 1000 protéines qui existent à chaque point de connexion mais aussi la manière dont l’activité du cerveau contribue à chaque instant à l’intégrité de l’ensemble du système.
À cela s’ajoute la spécificité de chaque cerveau qui relève de la singularité du parcours de chaque individu.
 

Intelligence artificielle, puissance supposée des algorithmes, conséquences sur la société d’un monde informatisé : sur Goethe.de, vous trouverez d’autres textes qui apportent un éclairage et des éléments de discussion sur ces thèmes et ces questions.

Nos droits fondamentaux nous protègent-ils encore suffisamment à l’heure de Big Data, des réseaux sociaux et des algorithmes prompts à la décision ? Pour le garantir, des experts du domaine numérique venus d’Allemagne s’engagent pour une Charte des droits fondamentaux numériques (Charter of Fundamental Digital Rights) de l’Union européenne.

Si des machines intelligentes prennent automatiquement des décisions, les conséquences ne seront pas seulement juridiques et pratiques mais aussi éthiques. Pour cette raison, une commission d’éthique (ethics commission) s’intéresse notamment à la responsabilité de la décision pour les véhicules autonomes.

Et le pouvoir des robots intelligents (social bots) est aussi regardé de près : dans quelle mesure sont-ils capables d’influencer des processus politiques ? Les élections passées offrent à cet égard bien des sujets de discussion.

Le débat sur l’impact des algorithmes (impact of algorithms) est en général marqué d’une part par une exigence de transparence, de l’autre par une utilisation toujours plus importante de Google, Facebook et d’autres opérateurs.

L’extension des ressources numériques se révèle dans beaucoup de domaines de la vie quotidienne. Ainsi, on voit de plus en plus souvent de robots dans des entreprises très différentes, non seulement sur des sites de production mais aussi dans le domaine des soins par exemple. À côté de quelques risques en matière de sécurité de l’emploi, cela peut aussi favoriser la création d’un plus grand nombre d’espaces de liberté et d’une plus grande efficacité.

Le modèle de la ville intelligente n’est plus une utopie ; une ville qui, grâce aux technologies intelligentes, serait écologique et respectueuse des ressources naturelles. Mais une telle communauté a un prix à payer : l’espace public, et les individus qui agissent à l’intérieur de celui-ci, sont presque constamment jaugés.

Et que fait l’art dans tout cela ? Il utilise lui aussi l’intelligence artificielle. Il y a de plus en plus d’artistes qui se consacrent aux liens entre les codes, l’art et la vie dans leurs œuvres