Une autre intelligence

J’observe et je teste ces derniers mois, les résultats de Watson, Tensorflow et d’autres intelligences artificielles largement diffusées sur le réseau depuis un peu plus d’un an. Elles détectent les émotions (http://chatonsky.net/prediction + http://chatonsky.net/watson-vertigo/), décrivent des images (http://chatonsky.net/deep-subtitles) et produisent des peintures (http://chatonsky.net/really-you), des dessins (http://chatonsky.net/deep), des aquarelles (http://chatonsky.net/really-me) ou des musiques et des contextes culturels (http://chatonsky.net/capture).

On pourrait croire que leur objectif est de reproduire de la façon la plus convaincante possible ce que fait l’être humain : redoubler sa faculté créatrice, son intelligence, son discernement, etc. Mais quand on y regarde de plus près, cette seconde couche est plus complexe. Bien sûr, il y a des résultats étonnants, mais pour qui a utilisé des fonctions aléatoires dans la programmation (http://chatonsky.net/if-then + http://chatonsky.net/memories-center), sait combien un simple jeté de dès produit parfois de significatives rencontres parce que ce que nous voyons est autant dans ce qu’il y a à percevoir que dans ce que nous percevons.

Lorsque nous observons les résultats de ces IA, nous les comparons bien sûr à ce que nous aurions fait, mais cette comparaison est comme feuilletée. En premier lieu, elle suppose que nous déterminions notre intériorité, or on sait que celle-ci reste opaque car le regard jeté dessus la redouble. Tout se passe comme si l’IA était un miroir impair nous permettant de nous réfléchir. En second lieu, par cette comparaison nous déterminons des ressemblances et des dissemblances, et cette variation ouvre une différence dans la mimésis sous-jacente à la comparaison : nous sommes tout autant fascinés par le fait que l’IA nous ressemble que par ses résultats inattendus comme si une espèce extra-terrestre était en train de naître, comme si un organisme s’individuait et prenait forme sous nos yeux.

J’aimerais m’attarder sur cette seconde fascination, qui je crois fut au cœur de la seconde version du test de Turing, la moins connue.

« Fixons notre attention sur un ordinateur numérique particulier C. Est-il vrai qu’en modifiant cet ordinateur de sorte qu’il ait une mémoire adéquate, en augmentant sa vitesse d’action et en lui fournissant un programme approprié, C puisse jouer de façon satisfaisante le rôle de A, le rôle de B étant joué par un homme ?» (Turing. A. (1950). Computing machinery and intelligence, Oxford: Mind, vol. 49. 442)

Cette seconde version est particulièrement retorse parce que le jeu est double. Il ne s’agit plus pour une personne de distinguer l’humain de la machine, il s’agit de faire croire à cette personne qu’elle joue à un jeu alors que les règles de celui-ci ne sont pas celles qu’elle croit. Le jeu se joue avec un ordinateur, un interrogateur et une femme. Il est fondé sur le jeu entre humains qui cherchaient à déterminer le sexe de chacun alors que l’homme se faisait passer pour une femme. L’ordinateur prend maintenant la place de l’homme et doit tenter de se faire passer pour la femme dont le rôle reste inchangé. Le test est réussi lorsque l’ordinateur arrive à tromper le joueur au moins autant de fois qu’un homme après plusieurs essais. Il faut alors comparer les résultats de l’ordinateur avec ceux obtenus par l’homme placé dans la même situation. L’imitation est donc au second degré : l’ordinateur n’imite pas un homme, mais un homme imitant une femme. Bref, il imite une imitation, parce qu’il s’agit de placer l’ordinateur et l’homme dans le même type de situation. En comparant leur intelligence, on place nécessairement la machine dans une situation d’infériorité parce qu’on lui impose un modèle anthropologique. Il y a par ce second test, que la postérité n’a pas retenu, une attention remarquable de Turing concernant la singularité de la tekhnè.

Ce que nous cherchons avec l’IA n’est pas simplement un redoublement de l’anthropologique, nous voyons naître une autre espèce, d’autres comportements, d’autres individuations. Il y a quelques émotions à voir un programme qui a été élaboré par des êtres humains, mais selon des niveaux complexités en relation avec les données massives du réseau qu’il devient impossible de stipuler une volonté humaine, se détacher progressivement de résultats prévisibles et nous étonner. Cette surprise ressemble à la première réflexivité dont je parlais : l’IA est un détour entre nous et nous-mêmes, si ce même n’est pas exactement identique et décale l’identité, si ce même nous entraîne au dehors du dedans, irrémédiablement. Si l’IA est un artefact humain, elle n’est pas réductible et déductible de l’humain. L’agencement des parties excède la somme comptable des parties.

La fascination par rapport à l’IA est donc trouble. Identique et dissemblable, répétitive et différencielle. Il faut savoir tenir toujours ces deux bouts. Elle est une rencontre : l’enfant à quelque chose qui nous ressemble, mais reste monstrueux et anomique. Notre ego est fêlé par « nos » artefacts technologiques. Si l’IA est la plupart du temps envisagée de façon naïve selon le cadre d’une représentation mimétique, elle peut aussi être l’occasion d’une conscience troublée et doutant d’elle-même qui reconnaît, sans les maîtriser, les dédoublements, les ambiguïtés et les limites reportées.

« L’enfant est éminemment l’humain parce que sa détresse annonce et promet les possibles. Son retard initial sur l’humanité, qui en fait l’otage de la communauté adulte, est aussi ce qui manifeste l’inhumain à cette dernière, le manque d’humanité dont elle souffre, et ce qui l’appelle à devenir plus humaine. » (Lyotard, J.-F. (1988). L’inhumain. Paris : Galilée. 13)

Les débats sur l’IA ne concernent pas seulement l’innovation technologique récente. Ils structurent idéologiquement une bonne part de nos sociétés depuis la seconde partie du XXe siècle. On peut bien sûr remonter avant pour retracer les origines historiques de la relation entre intelligence et calculabilité. Sans doute faudrait-il, mais ce serait un autre travail, analyser les influences de ce débat sur des domaines aussi variés que les sciences cognitives, la philosophie analytique, la surveillance, la gouvernementalité, etc.