La passibilité des robots – AiShip, Montréal
Des Sensations Humaines Aux Sensations Artificielles
26 Octobre 2019 – 15h à 18h Usine C – 1345 av. Lalonde, Montréal
Ce panel est organisé dans le cadre du projet artistique et scientifique AIship – Les nouveaux états d’êtres qui vise à engager le public dans la réflexion sur les enjeux éthiques, sociaux et légaux du développement
de l’intelligence artificielle en santé. Le projet a mobilisé le travail collaboratif de cinq duos (un artiste, un bioéthicien).
Sur la base du travail collaboratif de l’artiste Gregory Chatonsky et de la chercheuse Laurence Devillers, le présent panel vise à créer un espace de discussion entre experts et grand public autour du thème de la passibilité des robots, soit de leur capacité à éprouver des sensations et les conséquences éthiques de cette passibilité. Croisant les perspectives disciplinaires, les discussions se pencheront plus particulièrement autour de deux aspects relatifs à la passibilité des robots :
1) la nature de cette passibilité et ses impacts émotionnels et relationnels potentiels sur les humains;
2) les préoccupations éthiques qui émergent de cette passibilité et les moyens d’y répondre.
L’installation présentée par Grégory Chatonsky PASSIBLE met en scène des relations être humain-machine ambiguës et incertaines, qui questionnent nos relations avec les entités artificielles.
Dans son essai « La passibilité des robots : et l’éthique dans tout cela ? », Laurence Devillers soulève les implications éthiques du développement de cette passibilité antropotechnologique, en particulier dans le secteur de la santé, qui peuvent conduire certains patients à démontrer de l’attachement aux machines.
La simulation robotique de l’empathie permettant de questionner la nature de nos propres affects, il est essentiel, comme le soulève le travail du duo, de comprendre, surveiller et anticiper cette co-évolution humain-machine ainsi que ses conséquences.
Grégory Chatonsky (Artiste-chercheur, ENS- Ulm, Paris)
Kino Coursey (Spécialiste en intelligence artificielle, RealBotix)
Laurence Devillers (Professeure en intelligence artificielle, Université Paris-Sorbonne 4)
Marc-Antoine Dilhac (Professeur en éthique et philosophie politique, Université de Montréal)
Simon Dubé (Candidat au doctorat en psychologie, Université Concordia)
Angela Konrad (Professeure à l’école supérieure de théâtre, Université du Québec à Montréal)
Résumé de mon intervention :
1.
Dans une conférence de 1986 nommée “Si l’on peut penser sans corps”, Jean-François Lyotard critique avec une incroyable anticipation, le transhumanisme de Ray Kurzweil et le transfert de l’esprit considéré comme un software dans un nouveau corps envisagé comme un hardware. Sans entrer dans les détails de ce texte qui a eu une influence considérable sur mon travail artistique depuis les années 90, j’aimerais simplement souligner que devant la possibilité d’un tel transfert, Lyotard écrit :
“La douleur de penser n’est pas un symptôme, qui viendrait d’ailleurs s’inscrire sur l’esprit à la place de son lieu véritable. Elle est la pensée elle-même en tant qu’elle se résout à l’irrésolution, décide d’être patiente, et veut ne pas vouloir, veut, justement, ne pas vouloir dire à la place de ce qui doit être signifié. Révérence faite à ce devoir, qui n’est pas encore nommé. Ce devoir n’est peut-être pas une dette, c’est peut-être seulement le mode selon quoi ce qui n’est pas encore le mot, la phrase, la couleur viendra. De sorte que la souffrance de penser est une souffrance du temps, de l’événement. J’abrège : vos machines à représenter, à penser, souffriront-elles ? Que peut être le futur pour elles, qui ne sont que mémoires ?” (Jean-François Lyotard, L’Inhumain : Causeries sur le temps, Paris, Galilée, « Débats », 1988, p.27-28)
Se pose alors la question de la passibilité : les machines seront-elles capables d’être passibles, sensibles, ouvertes à l’hétéronome?
“Pourrons-nous un jour, et d’un seul mouvement, adjointer une pensée de l’événement avec la pensée de la machine ? Pourrons-nous penser, d’un seul et même coup et ce qui arrive (on nomme cela un événement), et, d’autre part, la programmation calculable d’une répétition automatique (on nomme cela une machine) ? Il faudrait alors dans l’avenir (mais il n’y aura d’avenir qu’à cette condition), penser et l’événement et la machine comme deux concepts compatibles, voire indissociables.” (Jacques Derrida, Papier machine, Paris, Galilée, « La philosophie en effet », 2001, p. 34.)
2.
Lorsque nous abordons la question de la passibilité des machines, je crois que nous faisons une erreur si nous reportons de façon simplement mimétique l’anthropologique sur le technologique, car nous présupposons une définition déjà donnée, déjà constituée de l’être humain et de ses facultés. Il n’y a pas de machines sensibles, car la sensibilité c’est justement ne pas savoir, c’est tenir à cette incertitude comme à une souffrance antérieure à toute blessure, à tout trauma. Suivons encore une fois Lyotard qui écrit:
“Et si les humains, au sens de l’humanisme, étaient en train, contraints, de devenir inhumains […] ? Et si le »propre’’ de l’homme était qu’il est habité par de l’inhumain ?” (Jean-François Lyotard, L’Inhumain : Causeries sur le temps, Paris, Galilée, « Débats », 1988, p. 10.)
S’ouvre alors ce que je nomme l’interpassibilité : les machines sont passibles car nous sommes passibles à elles, formant alors une boucle de rétroaction aux importants et ambigus effets performatifs. Les lecteurs neurologiques en sont un exemple frappant : en supposant que ces machines lisent notre cerveau, nous adaptons le fonctionnement de celui-ci à cette spéculation. C’est ce que précisément tente de mettre en mouvement l’installation que j’ai présenté dans l’exposition : de quelle façon humain et inhumain se tissent l’un l’autre et sont-ils co-originaires et codépendants. J’ai aussi nommé cela ailleurs l’anthropotechnologie.
3.
L’installation “Passibles” est composé de 3 dispositifs qui chacun pose la question de la passibilité anthropotechnologique : dispositifs humain et technique sont indissociables.
Il y a d’abord “l’Emprise”, un corps imprimé en 3D qui est disloqué en partie comme si les organes étaient devenus autonomes et que leur principe d’organisation, l’organisme donc, ne consistait plus qu’en des branchements électriques. On pourrait inverser la formule d’Antonin Artaud et parler d’organes sans corps.
Au sol, il y a “Skin Print”, une série d’écrans qui montre une animation, fruit d’une intelligence artificielle de type GAN que j’ai nourri avec des données provenant de la police allemande et utilisées pour identifier des coupables : empreinte digitale et de chaussures, iris, peau, etc. Le paradoxe, c’est que le réseau artificiel de neurones va permettre de générer des nouvelles données ressemblantes aux données déjà existantes. Il va donc multiplier les possibles et brouiller l’identification, la surveillance qui ramène l’image à un référent unique dans l’unité d’une identité. La société de contrôle se retourne comme un gant quand on automatise la production de la ressemblance, c’est-à-dire de la mimésis.
Enfin, la projection nommée “Le Sacrifice” présente des vues anodines de la vie urbaine que j’ai superposé à une incertaine fumée. Ces images sont passées à un logiciel de reconnaissance visuelle dont les résultats sont complétés par un générateur de textes de type “transformer” basé sur un dataset de 2GB de textes. Le logiciel décrit mal une image qu’il complète lui-même, s’éloignant progressivement du référent original et passant alors de la simple description à la superposition d’une fiction, passage donc de la mémoire à l’événement par décalage de sens. La voix de synthèse qu’on entend au casque est la continuation de ce texte automatiquement complété, poussant un peu plus loin la dérive herméneutique de la machine. Le résultat est un texte inquiétant, mêlant la description plate à celle de crimes potentiels, fruit des rapports de police que la machine a en mémoire, des scènes de guerre et de fin du monde. La machine regarde le monde comme si elle était hantée par notre mémoire, la mémoire de milliers de textes passés, la souffrance de la mémoire de notre monde.
4.
L’objectif n’est pas de douer la machine d’une prétendue sensibilité en confondant la perception avec des capteurs, la réflexivité avec une induction statistique. On ne peut passer de l’un à l’autre sans décalage et transformation. Il s’agit de troubler la frontière de notre propre sensibilité qui serait, c’est mon hypothèse, toujours déjà surdéterminée par une relation à la technique et qui la déterminerait réciproquement. Il n’y a de relation de la mémoire à l’événement que par la passibilité d’une inscription, d’une trace, d’un souvenir ou d’une hantise.
Une zone trouble s’ouvre alors que l’art, qui reconnaît le transcendantal comme simulacre (à la différence des approches technoscientifiques), peut réfléchir en 4 étapes:
Un système nerveux est la façon dont un univers ressent la douleur. (Spinal Catastrophism: A Secret History, Thomas Moynihan)
Un système technologique est la façon dont le système nerveux essaie de résoudre cette douleur.
Une œuvre d’art reconnecte le système nerveux et un univers pour ressentir la douleur une seconde fois.
En automatisant la ressemblance, un réseau artificiel de neurones répète cette seconde fois encore une fois.