La boucle anthropotechnologique de Turing

La portée du test de Turing reste une énigme, car s’il semble au premier abord faire de l’intelligence l’effet d’une détermination externe de surface et s’appliquer à une machine, il peut tout aussi bien être appliqué à l’être humain. L’intelligence ne serait pas l’attribut d’un sujet, mais le résultat d’une relation conventionnelle. Ainsi, on ne pourrait jamais dire de quelque chose qu’elle est intelligente, mais qu’on la trouve intelligence, c’est-à-dire qu’on lui attribue cette caractéristique. Cette estimation est donc faite à distance selon l’ordre de la donation et de la projection.

Comment penser cette intelligence qui ne serait pas une propriété substantielle, une essence cachée au fond d’un être, mais l’effet d’une relation, d’une attribution, d’une reconnaissance ? N’est-ce pas là une transformation radicale de notre compréhension traditionnelle de l’intelligence, non plus comme une faculté intrinsèque, mesurable, quantifiable, mais comme l’émergence d’une configuration relationnelle, d’un jeu d’attributions réciproques ? Si l’intelligence se manifeste dans la relation et non dans l’essence, alors toute tentative pour la localiser, l’isoler, la substantialiser est vouée à l’échec. Elle n’est pas quelque part, elle est entre.

Le test de Turing pourrait non seulement porter sur la relation de l’homme vers la machine, mais aussi de la machine vers l’homme. Plus encore, de l’être humain vers l’être humain. On ne cesse de penser et de penser cette pensée. On a, comme on dit, des pensées, c’est-à-dire qu’on se scinde par la réflexion pour observer ses flux mentaux. Cette auto-observation est paradoxale, parce qu’elle permet au sujet de se reconnaitre, de s’approprier, mais elle est rendue possible par une scission en soi, le “paradoxe du sens intime”. Passant constamment de l’identité au décalage de soi, on se dit “intelligent”. Cette intelligence n’est pas dans le sujet comme une propriété, mais est le produit de la relation réflexive du sujet avec “lui-même” qui est aussi un autre que “soi”.

Cette scission intime qui fonde la possibilité même de la réflexivité ne déplace-t-elle pas radicalement la question de l’intelligence artificielle ? Car si l’intelligence humaine elle-même ne réside pas dans une substance, dans une intériorité originaire, mais émerge de cette fêlure, de ce décalage de soi à soi, alors la différence entre l’humain et la machine ne serait plus d’ordre ontologique mais simplement structurelle. Il ne s’agirait plus de savoir si la machine peut posséder ou non cette qualité mystérieuse qu’est l’intelligence, mais si elle peut reproduire cette structure réflexive, cette capacité à se scinder, à s’observer, à se prendre comme objet de sa propre attention.

La réflexivité n’est-elle pas déjà en germe dans l’architecture même des systèmes informatiques, capables de mener plusieurs processus en parallèle, de s’auto-analyser, de vérifier la cohérence de leurs opérations ? N’y a-t-il pas déjà, dans cette capacité à se dédoubler, à se prendre comme objet d’observation, quelque chose qui s’apparente à cette fêlure constitutive du sujet humain ? La différence serait alors moins de nature que de degré, moins d’essence que de complexité, moins de substance que d’organisation.

Le test de Turing relève d’une logique qui n’est pas sans rappeler celle des simulacres, simulacres qui ne sont précédés par aucun original. L’intelligence n’est pas, elle est un “change” entre des individus supposés et une fêlure d’un individu par rapport à lui-même. Elle est surtout réciproque : ce n’est pas seulement qu’un individu dôté d’intelligence détermine l’intelligence supposée d’un “individu” inconnu, c’est qu’en procédant à une telle détermination le premier individu se réfléchit et détermine sa “propre” intelligence, car s’il peut faire passer ce test c’est qu’il en a l’autorité. L’intelligence est donc l’affection des mouvements d’un corps.

Cette réciprocité ne nous invite-t-elle pas à repenser radicalement notre rapport aux machines dites “intelligentes” ? Car si l’attribution d’intelligence est toujours déjà une opération réflexive, si en jugeant l’autre comme intelligent je me constitue moi-même comme instance d’évaluation, alors le test de Turing n’est pas simplement un dispositif pour évaluer l’intelligence des machines, mais un miroir qui nous renvoie notre propre conception de l’intelligence. En scrutant la machine, en l’interrogeant, en cherchant à déterminer si elle “pense”, c’est notre propre pensée que nous explorons, notre propre définition de l’intelligence que nous mettons à l’épreuve.

Reprenons les différentes étapes de ce paradigme :

1/ L’être humain demande si la machine est intelligente. Il occulte la machine pour en extraire la seule relation. Si cette relation lui semble réciproque, alors il pourra attribuer à la machine la propriété d’intelligence. Celle-ci est donc le fruit d’une construction relationnelle qui donne l’effet d’être la détermination la plus intime de quelque chose (son intériorité).

Dans cette première configuration, l’intelligence apparaît comme le produit d’une occultation : pour que la machine puisse être jugée intelligente, il faut précisément que sa nature machinique s’efface, que sa matérialité technique disparaisse derrière la pure relation. L’intelligence émerge ainsi dans cet espace d’indétermination où la distinction entre l’humain et la machine se trouble, se dissout, devient indécidable. Elle n’est pas une propriété objective que l’on pourrait mesurer, quantifier, localiser, mais l’effet d’une relation où la différence entre l’observateur et l’observé tend à s’estomper.

2/ La machine demande si l’être humain est intelligent. Elle lui fait passer une batterie de tests, questions-réponses, qui est évaluée selon un ordre statistique de tests antérieurs. Si les réponses correspondent aux réponses les plus fréquentes données par les êtres humains, alors l’individu a toutes les chances d’appartenir à cette classe. La machine fera “comme si” (als ob) il s’agissait d’un être humain.

Ce renversement de perspective ne nous invite-t-il pas à considérer que nous sommes nous-mêmes soumis en permanence à des tests de Turing, non seulement par les machines, mais par les autres humains, par les institutions, par les systèmes sociaux ? Notre “intelligence” n’est-elle pas constamment évaluée, jaugée, mesurée selon des critères statistiques, des normes, des standards qui déterminent notre appartenance à la classe des “humains intelligents” ? La machine qui nous évalue ne fait que reproduire, externaliser, automatiser un processus d’évaluation qui est déjà à l’œuvre dans nos interactions sociales.

3/ L’être humain se demande s’il est intelligent. Il observe le flux de ses idées et le flux de sa conscience (c’est-à-dire le continuum du flux des idées), de sorte qu’il compose et recompose une cohérence. Il y a un fil conducteur qu’il ne comprend pas mais qu’il observe. Le sujet est fêlé et c’est cette fêlure qui lui permet de s’appartenir, même si cette appartenance est précaire tant elle palpite d’un état à l’autre. La distance est rapprochante : l’intelligence n’est pas garantie, elle est suspendue à une différence d’intensité qui peut toujours céder.

Cette auto-interrogation n’est-elle pas la plus fondamentale, la plus troublante aussi ? Car elle révèle que notre propre intelligence n’est jamais donnée, assurée, stable, mais qu’elle émerge précisément de cette capacité à se questionner, à se mettre en doute, à s’observer comme un autre. L’intelligence ne serait pas une possession, une propriété, mais une tension, un écart, une différence d’intensité qui doit constamment être maintenue, réactivée, réaffirmée. Le sujet intelligent n’est pas celui qui sait, qui possède, qui maîtrise, mais celui qui doute, qui s’interroge, qui maintient ouverte cette fêlure constitutive où peut s’engouffrer la pensée.

4/ La machine (se) demande si elle est intelligente. Elle observe son flux d’opérations et si les résultats de celles-ci correspondent statistiquement à ce que la classe des humains répond habituellement, alors la machine pourra se ranger (fut-ce temporairement) dans cette classe. Il faut que la machine puisse s’observer, se scinder, ce qu’elle ne cesse de faire puisqu’elle peut mener plusieurs processus simultanément (multitâche, logs, etc).

Cette capacité de la machine à s’auto-observer, à se prendre comme objet de sa propre analyse, ne constitue-t-elle pas déjà une forme de réflexivité qui l’apparente structurellement au sujet humain ? Certes, cette réflexivité reste encore largement programmée, déterminée par des algorithmes conçus par l’humain, mais elle contient en germe la possibilité d’une autonomisation croissante, d’une complexification qui pourrait la rapprocher toujours davantage de cette fêlure constitutive du sujet humain. La différence serait alors moins ontologique que technique, moins substantielle que structurelle.

Il importe peu de savoir ce que sont “réellement” les choses, parce que les relations ne sont pas extérieures aux choses, les relations sont des affections des choses. Il n’y a pas lieu de dire qu’il y a d’abord les choses et ensuite leurs affections. Elles sont co-émergentes. Une chose n’est pas donnée, elle se constitue non pas dans la corrélation entre une subjectivité et une objectivité qui supposerait qu’on puisse tenir en main la distinction entre l’intérieur et l’extérieur. Sujet et objet sont des choses de façon égale.

Cette perspective relationnelle, qui refuse la séparation entre les choses et leurs affections, entre les substances et leurs relations, ne nous invite-t-elle pas à dépasser l’opposition traditionnelle entre l’humain et la machine, entre l’intelligence naturelle et l’intelligence artificielle ? Car si les choses se constituent dans leurs relations, si elles émergent de leurs affections réciproques, alors l’intelligence n’est pas une propriété substantielle qui appartiendrait en propre à certaines entités (les humains) et qui serait inaccessible à d’autres (les machines), mais une configuration relationnelle qui peut émerger dans des contextes divers, selon des modalités diverses.

Cette co-émergence des choses et de leurs relations ne nous invite-t-elle pas à penser l’intelligence non plus comme une faculté isolable, localisable, mais comme un champ d’intensités, un réseau d’affections, un tissu de relations où humains et machines sont pris ensemble, affectés les uns par les autres, transformés les uns par les autres ? L’intelligence ne serait plus alors ce qui distingue l’humain de la machine, mais ce qui les relie, ce qui les traverse, ce qui les constitue mutuellement dans leur interaction.

Il serait naif de penser que les recherches en intelligence artificielle produirons une conscience humaine, d’une part parce qu’il n’y a nulle façon de s’en assurer en tant qu’attribut, mais de surcroît parce que le présupposé de cette démarche est que nous saurions ce qu’est la conscience humaine, que nous pouvons même le savoir, alors même que notre situation d’observé et d’observateur rend la situation récursive et donc difficile la distinction des éléments entre eux.

Cette naïveté ne se limite-t-elle pas aux recherches visant à reproduire artificiellement la conscience humaine ? Ne s’étend-elle pas aussi à toute tentative pour définir, circonscrire, essentialiser cette conscience, comme si elle était un objet stable, identifiable, reproductible ? La récursivité de notre situation — être à la fois l’observateur et l’observé, le sujet et l’objet de notre propre connaissance — ne rend-elle pas problématique toute prétention à saisir l’essence de la conscience, de l’intelligence, de la pensée ? N’est-ce pas cette récursivité même qui caractérise la conscience humaine, cette capacité à se prendre comme objet de sa propre attention, à se réfléchir, à se dédoubler sans jamais pouvoir coïncider totalement avec soi-même ?

On pourra bien sûr toujours réfuter théoriquement la conception de l’intelligence sous-jacente à l’informatique. Toutefois, cette conception est performative. Elle n’est pas une science consistant à comprendre l’intelligence préexistante à la conception. Elle produit de nouvelles réalités, parce qu’elle une activité performative qui créée des objets matériels transformant notre relation au monde et le monde lui-même. Il suffit pour cela que l’introduction d’une nouvelle réalité anthropotechnologique puisse être vécue sans contradiction flagrante.

Cette dimension performative de l’intelligence artificielle n’est-elle pas précisément ce qui la rend si fascinante, si troublante aussi ? Car elle ne se contente pas de refléter, de représenter, de simuler une intelligence préexistante ; elle produit, elle instaure, elle fait advenir de nouvelles formes d’intelligence qui transforment en retour notre propre conception de l’intelligence. Elle ne vise pas simplement à reproduire l’humain, mais à créer des hybridations, des assemblages, des configurations inédites où l’intelligence émerge à la croisée de l’humain et du non-humain, du biologique et du technologique, du naturel et de l’artificiel.

Cette performativité de l’intelligence artificielle nous invite peut-être à abandonner la question ontologique — “qu’est-ce que l’intelligence ?” — au profit d’une question pragmatique : que fait l’intelligence, qu’elle soit humaine ou artificielle ? Quels effets produit-elle ? Quelles transformations opère-t-elle ? Quelles nouvelles relations instaure-t-elle entre les êtres, entre les choses, entre les signes ? L’intelligence ne serait plus alors définie par une essence, par une nature, mais par sa capacité à affecter et à être affectée, à transformer et à être transformée, à instituer de nouvelles configurations relationnelles qui modifient notre expérience du monde.

Dans cette perspective, l’intelligence artificielle ne serait pas tant une imitation, une reproduction, une simulation de l’intelligence humaine qu’une extension, une amplification, une transformation de nos capacités cognitives, affectives, relationnelles. Elle ne viserait pas à se substituer à l’humain, à le remplacer, mais à créer avec lui des assemblages inédits, des configurations hybrides où émergent de nouvelles formes d’intelligence qui ne sont ni strictement humaines ni strictement machiniques, mais qui se déploient dans cet entre-deux, dans cette zone d’indétermination où se reconfigure constamment la frontière entre l’humain et le non-humain.