Dimanche 13 mars 2016, une intelligence artificielle créée par Google Deep Mind bat par trois fois le champion mondial au jeu de go : « Le dernier bastion de l’intelligence humaine branle de toutes parts », titre Le Temps. Vraiment ?

robot-916284_1280

Dans les années 80 déjà Marvin Minsky, cofondateur avec John Mc Carty du groupe d’intelligence artificielle au Massachusetts Institute of Technology (MIT), déclare : « Les ordinateurs du futur seront si intelligents que nous pourrons nous estimer heureux s’ils ne nous utilisent pas comme animaux de compagnie ». Heureusement, nous n’en sommes pas encore là. Mais d’autres scientifiques sonnent l’alarme. Dernièrement, le célèbre physicien Stephen Hawking, lors d’un entretien avec la BBC, a confié craindre pour la survie de l’espèce humaine face à la machine. Alors, existera-t-il un jour des robots ennemis, ou amis ? Des robots conscients, des robots émotifs, des robots aussi intelligents que nous le sommes, voire même des robots capables de créer des robots plus intelligents qu’eux ?

Pas si vite. Il convient, d’abord, de bien comprendre ce qu’est un ordinateur, et comment il fonctionne. Le tout premier ordinateur est conceptualisé par le mathématicien britannique Alan Turing en 1936, dans un article de logique intitulé On computable numbers with an application to the entscheidungsproblem (A propos des nombres calculables, avec une application au problème de la décision). Il ne s’agit pas encore, à ce stade, d’un objet matériel, mais de l’idée d’un système qui puisse résoudre des problèmes logiques ou mathématiques avec autant de succès que notre propre esprit. Souvenons-nous des « machines » en maths, ou fonctions, quand nous étions petits : ___ + 2 = ___ . Nous pouvions placer n’importe quel chiffre ou nombre en première position, ce qui modifiait à chaque fois le résultat. Or, Turing pensait qu’il était possible qu’une machine puisse faire de tels calculs automatiquement. Une révolution ! Jusqu’alors, le seul calculateur disponible était l’esprit humain et l’on n’avait pas encore imaginé qu’il serait un jour copié.

ordinateur

Comment fonctionne un ordinateur

 

Alan Turing avait par ailleurs une vision claire des applications probables de sa découverte dans le futur. Il a donc imaginé un test visant à comparer l’humain et la machine. Le joueur a, en face de lui, un être humain et un ordinateur. Il ne sait pas qui est qui. Il converse avec les deux par l’intermédiaire d’un clavier et d’un écran et, à l’issue de l’expérience, si le joueur ne parvient pas à déterminer qui est la machine et qui est l’être humain, on peut éventuellement déduire que l’ordinateur possède les mêmes capacités cognitives qu’un être humain.

test de Turing

Le test de Turing

 

En 2014, une intelligence artificielle réussit le test de Turing. Eugène Gootsman a treize ans, il est ukrainien, et convainc 33% des juges de son humanité. Petit score, d’autant plus que l’adolescent n’est pas de langue maternelle anglaise. Par conséquent, les résultats sont contestés. Mais même si Eugène était anglais. Même s’il parlait comme un brillant universitaire de quarante ans… Même s’il avait convaincu tous les juges. Pourrait-on en déduire qu’il est intelligent ? Devrait-on craindre pour la survie de l’humanité ? Et d’abord, ce robot-humain, ce robot-nous, est-il seulement possible ?

Trois camps s’opposent. D’un côté, les matérialistes pour qui tous les phénomènes de l’esprit sont réductibles à des processus matériels. Dans le camp opposé, les spiritualistes, ou idéalistes. Selon eux, l’esprit est immatériel et lié à l’âme. Mais il existe une position intermédiaire.

Pour le philosophe américain John Searle, l’esprit ne peut être copié complètement par une machine, car il ne procède pas en manipulant des symboles comme un ordinateur. Pour illustrer ce point de vue, il imagine en 1984, dans son livre Mind, Brains and Science, une expérience de pensée visant à illustrer cette différence fondamentale[1], The Chinese room experience.

Imaginons que nous sommes enfermés dans une pièce. Nous possédons un livre de règles grammaticales de la langue chinoise parfaitement complet. A un côté de la pièce se trouve une petite porte par laquelle on nous fait passer des questions en chinois. Par exemple : « Scrobbledudi? » Or, dans notre livre, il est indiqué ceci : si vous recevez « Scrobbledudi. », envoyez « Dadadim », « Zuzuli », ou « Padledud». Par conséquent, de l’autre côté de la pièce où se trouve une autre petite porte, nous passons comme réponse : « Dadadim ».

Au bout d’un moment, nous devenons super-rapides dans la manipulation de notre livre de règles et dans l’écriture de ce que nous renvoyons. A l’extérieur, les gens sont impressionnés. Ils disent : « Cette chambre répond parfaitement à toutes nos questions ! C’est une chambre magique qui parle chinois ! ». Ou même : « Pour parler si bien, cette chambre doit avoir une intelligence comparable à la nôtre ! ». Mais en réalité, nous ne comprenons pas du tout le chinois, nous jouons seulement avec des symboles dont il nous est impossible de connaître la signification. Il n’y a aucun moyen pour nous qui sommes enfermés dans la chambre de dépasser la manipulation mécanique pour comprendre ce que les symboles signifient. Nous ne pouvons pas apprendre le chinois dans une telle situation.

cc2

La chambre chinoise

cc1

Or, la chambre chinoise fonctionne exactement comme un ordinateur. Les séquences reçues correspondent à l’input dans l’ordinateur, c’est-à-dire aux données entrées. Nous sommes le système électrique permettant l’exécution de l’ensemble. Le livre de règles est le programme, ou code. Les séquences obtenues, enfin, sont l’output, les données produites par l’ordinateur. Alpha Go lui-même n’est rien de plus que cela. Il est bien sûr programmé avec un grand nombre de formules complexes, et fonctionne sur le principe de l’arborescence décisionnelle : pour chaque coup, il peut calculer un grand nombre de probabilités et jouer en fonction de celles-ci, ce qui imite les processus intuitifs. Cependant, en réalité, il s’agit de procédures formelles traçables, compréhensibles et explicables.

Au contraire, nos esprits, eux, peuvent apprendre et comprendre le chinois. Pourquoi ? Parce que notre intelligence est différente : elle est sémantique et non pas uniquement syntaxique. L’esprit humain ne se contente pas de manipuler des symboles, il les comprend. Il sait inventer des blagues ou des métaphores. Il peut, pour toute question (input) lui étant posée, fournir une infinité de réponses (output). « Comment vas-tu Yaudepoële ? » – « Très bien et toi Turenzinc ? », « Pas top, Inambour », « Ça va Spirateur ».

Cet argument est un parmi d’autres, tous liés à la notion de conscience. Cela peut sembler mystérieux, mais le rapport que nous entretenons avec le monde extérieur n’est pas uniquement causal. Nous n’agissons pas automatiquement en réponse à des stimuli. A l’intérieur, quelque chose se passe, quelque chose est senti, quelque chose est appréhendé, ou compris. Une douleur, par exemple, fait vraiment mal. De la même manière, un nuage n’est pas uniquement une expérience visuelle. Il est lié à un réseau complexe d’expériences sensibles et peut, dès lors, revêtir un grand nombre de significations, dont certaines ne sont même pas exprimables avec des mots. Pour cette raison il nous est possible, par exemple, d’écrire des vers métaphoriques comme : « Les nuages, infatigables voyageurs des cieux/Errent nonchalamment, promeneurs silencieux ».

Nous pouvons admettre cela sans pour autant croire en un esprit immatériel ou une âme immortelle. John Searle a nommé sa position « naturalisme biologique ». La conscience d’un individu s’éteint au moment de sa mort. Elle n’a rien de magique. Elle est simplement une caractéristique supérieure et observable, bien que seulement subjectivement, des états du cerveau. Dès lors, pour créer un esprit intelligent tel que le nôtre, il nous faudrait créer un cerveau. Mais nous savons le faire depuis toujours, simplement en nous reproduisant.

Déjà, les machines sont capables d’apprentissage. Leurs programmes peuvent se modifier au gré de leurs expériences, elles sont parfois dotées de capteurs comparables à un appareil sensoriel, peut-être que bientôt certaines d’entre elles ressembleront-elles parfaitement à de véritables êtres humains. Mais y aura-t-il, là-dedans, autre chose que des séries de calculs ? Y-aura-t-il du sens ? Ou ces machines ne seront-elles que des imitatrices, aussi vides que des zombies ? Nous sommes enclins à l’anthropomorphisme. Nous aimons croire que ce qui nous ressemble nous est identique. Cependant l’intelligence artificielle n’est pas plus dotée d’esprit qu’un thermostat. La matière biologique qui nous compose, par contre, sans que nous soyons vraiment capables de le comprendre, est toute entière tournée vers la survie, vers la reproduction, depuis des millions d’années. Ainsi est né ce que nous appelons l’esprit. Reproduire cela dans un ordinateur ? Il faudrait être magiciens.

[1] Il poursuivra et développera cette réflexion dans l’excellent The rediscovery of mind, paru en 1995.