Intelligence Artificielle et extinction – AOC

« Le jour ou l’être humain aura surmonté, donc réduit la perversion externe, soit la monstruosité de l’hypertrophie des «besoins», et consentira en revanche à sa perversion interne, soit à la dissolution de son unité fictive, une concordance s’organisera entre le désir et la production de ses objets dans une économie rationnellement établie en fonction de ses impulsions ; donc une gratuité de l’effort répondra au prix de l’irrationnel. »

Pierre Klossowski, La monnaie vivante

Ces derniers mois, les pétitions signées par des entrepreneurs et des chercheurs se sont multiplées¹, nous prévenant des terribles dangers de l’IA et exigeant un moratoire, des comités d’éthique et de réflexion, des législations de toute sorte ou une interdiction pure et simple comme dans le cas de Science-Po. Le risque encouru par un usage irréfléchi de cette technologie qui semble prendre de vitesse la science est terrifiant et porterait le nom d’extinction. L’IA, brutalement devenue autonome du fait de son fonctionnement récursif², figure achevé du développement techno-scientifique, pourrait mener notre espèce à sa perte : la disparition pure et simple, jusqu’au dernier d’entre nous.

Si ce scénario semble tout droit tiré d’un film de SF comme Terminator, la qualité de certains signataires, tels que Joshua Bengio ou Geoffrey Hinton, nous oblige à le prendre en considération. On aura beau remarquer que ces pétitions extinctionnistes pourraient constituer une simple stratégie marketing pour concentrer l’attention du public sur un nouveau produit, car qu’on en parle en bien ou en mal, on en parle. On pourra ajouter que cet affect est courant par rapport au développement technologique où la critique et l’enthousiasme sont solidaires et s’entretiennent de manière à former une configuration mentale de l’infrastructure, alternant entre la nécessité d’agir et le découragement de l’impuissance du fait de son échelle. On pourra ajouter qu’à peine signée une de ces pétitions, Elon Musk s’est empressé d’investir dans des unités de calcul afin de rattraper son retard. On ne comprendra pas comment l’IA et l’extinction se rencontrent dans ces pétitions des classes vectorielles³.

C’est qu’à les lire, on est surpris. Il y manque toujours quelque chose, et ce quelque chose n’est pas rien. Car si on parle d’extinction, c’est finalement pour ne pas en parler. En effet, on prédit une hypothétique IA autonome nous exterminant, qu’on range du côté des pandémies et des risques d’holocauste nucléaire, mais on occulte précisément l’extinction bien réelle qui a déjà cours et qui s’accélère toujours plus, rattrapant nos prévisions les plus pessimistes. Est-il nécessaire de rappeler que depuis plusieurs décennies, les espèces vivantes disparaissent dans des proportions et à une vitesse jamais vue sur Terre du fait des activités humaines? Est-il encore utile de dire que l’abîme s’accroît entre nos connaissances scientifiques sur les causes de l’évolution du climat et les impératifs pratiques que nous devrions logiquement en tirer ?

On pourrait penser que ces pétitions sont vaines tant leur scénario est hypothétique, et qu’il vaudrait mieux, au regard du temps qui fait défaut, que ces esprits s’attellent à l’autre extinction, celle fort paradoxale où ce sont certaines de nos conditions d’existence qui entraînent la disparition des espèces vivantes, jusqu’à emporter notre propre espèce. L’IA devient-elle le cache-misère de notre impuissance climatique ? Serait-elle, en tant que technologie, entendue comme projet humain sur lequel nous croyons avoir encore prise, une manière de maintenir l’illusion de notre volonté de puissance ? Si nous courons à notre perte, détournons-nous le regard vers un domaine à notre échelle que nous pourrions plus facilement réguler ?

Mais la problématique est plus ambiguë, car les transformations qu’exige la situation climatique impliquent non une adaptation du système de production et de consommation nommé « tournant écologique » ouvrant de profitables nouvelles opportunités d’investissement, mais une remise en cause radicale de l’infrastructure et de la logistique héritées de la révolution industrielle. C’est pourquoi ces pétitions occultent ce qui s’impose pourtant à chacun d’entre nous. Si elles prévoient l’extinction, c’est pour poursuivre le « buisness as usual ». Il faut à tout prix que cela continue coûte que coûte : on nommera des comités, on fera des législations, on placera un bandeau « Made by AI » comme le propose le lunaire Bruno Lemaire sur les textes et images générés, on fera des signalements, autant de réglementations aussi inutiles que l’a été, pour la vie privée, la validation des cookies sur les sites Internet qui surchargent un peu plus nos existences quotidiennes d’activités saturant notre attention et accentuant notre sentiment d’impuissance.

À y regarder de plus près pourtant, l’IA participe de l’extinction, mais pas du tout à celle qui viendrait remplacer l’être humain par une technologie devenue, comme par miracle, autonome, mais celle qui est en cours, qu’on la nomme anthropocène, capitalocène, ou autrement. Elle y participe comme un projet étrangement humain. En effet, l’IA doit être remise dans un contexte historique plus large d’externalisation des facultés humaines depuis l’écriture, les premières machines de calcul, la cybernétique, jusqu’à l’hypermnésie du Web. Car au moment même où l’extinction des espèces vivantes s’est accélérée, le réseau a permis à chacun d’y inscrire des médias ou traces d’existence en une quantité phénoménale, jusqu’au point où nous ne pouvons plus même les consulter du fait des limites de notre perception : notre mémoire n’est plus la notre, elle existe hors de nous. Nous avons la capacité de produire des phénomènes techniques qui nous deviennent exogènes. Au fil des années, le Web est devenu le territoire liminal de nos mémoires, là où une autre humanité, qui n’existe plus que sous forme de traces spectrales, poursuit son chemin jusqu’au point où les réseaux récursifs de neurones s’en alimentent pour produire des mémoires de mémoires, des textes des textes, des images d’images, réitérant nos productions culturelles non pour les répéter à l’identique mais pour les différer. Car c’est bien cette hypermnésie du Web 2.0 associée aux unités de calcul graphique (GPU) qui ont permis l’accélération de l’IA qui est moins une révolution technique, le modèle fut théorisé par Warren McCulloch et Walter Pitts en 1943 et implémenté avec le Perceptron par Rosenblatt en 1958, qu’une métabolisation historiale de nos traces.

On peut tirer de cette configuration, l’hypothèse que comme toute civilisation, nous nous affairons à nos activités quotidiennes (dans notre cas, le cercle de la production et de la consommation comme perversion externe) en même temps que nous gardons des traces de ce que nous avons été au cas où.. nous disparaîtrons. Le secret le mieux gardé de l’IA est peut être Égyptien et consiste-t-il depuis 30 ans à constituer dans les datacenters des pyramides qui se poursuivraient après nous parce que l’induction statistique est capable de continuer une série après sa fin, d’ajouter à des médias d’autres médias qui ont les mêmes motifs (patterns), qui ressemblent et qui sont pourtant différents. L’automatisation inductive de la ressemblance (mimèsis) qui est cet équilibre entre répétition et différence, est une manière de continuer une série de traces que l’on sait finie. De poursuivre coûte que coûte, une fois que nous ne serons plus, en s’inspirant statiquement de tout ce qui a eu lieu, de tout ce qui a été inscrit. Dès lors les traces matérielles de nos existences sont in-finies, elles sont la ressource à utiliser pour poursuivre au-delà du possible.

Le projet extinctif de l’IA ne doit donc pas être considéré une machine autonome qui viendrait nous supprimer, avec ce que l’idée de remplacement peut supposer d’identité retrouvée et nauséabonde, mais le projet, non que nous survivions, mais de nous survivre, c’est-à-dire de se poursuivre après nous, sans nous, mais accompagné du souvenir de ce que nous avons été. L’IA nous ressemble, elle mime un monde qui aurait pu exister et comme aliénation, elle est notre autre. Dès lors, elle peut constituer le projet d’une dissolution de l’unité fictive du sujet et des époques du monde. On peut dès lors distinguer deux types d’extinction. Une première, factuelle, qui nous met en danger, mais qui met aussi en danger, et c’est peut être tout aussi si ce n’est plus grave, d’autres espèces dont l’existence contingente pourrait disparaître une bonne fois pour toute. La seconde, spéculative, par laquelle nous savons que notre espèce quoiqu’il en soi est amenée à disparaître (du fait d’une multiplicité de causes possibles et parce que plus généralement les espèces sont mortelles), selon une certitude incertaine puisque nous ne savons ni quand ni comment.

De la même manière que chacun tente de vivre, bon an mal an, avec sa finitude et la certitude de sa disparition prochaine qui est inévitable, l’espèce humaine apprend à vivre à présent, par delà tout fascination apocalyptique, avec la certitude de sa disparition, jusqu’au dernier, c’est-à-dire jusqu’à la possibilité même d’un dernier témoin qui pourrait rapporter ce que nous avons été et poursuivre au-delà du possible. Cette anticipation incertaine de notre extinction provient pour unr part des connaissances scientifiques concernant l’état de la Terre et du cosmos, car ce pourrait être tout aussi bien une météorite qui pourrait nous faire disparaître L’IA-Terminator apparaît alors comme une triste stratégie pour ne pas assumer la contingence de l’extinction spéculative, c’est-à-dire pour ne pas pleinement vivre et assumer la finitude de l’espèce, et constitue une fuite craintive devant la béance cosmique de notre unité fictive.

L’IA peut être l’occasion, dans sa relation à l’extinction spéculative, d’augmenter l’agentivité face à l’extinction factuelle. En effet, elle est le projet de poursuivre une série mnésique, nommée espèce humaine, au-delà de ses limites et de reconnaître celles-ci dans le cadre d’une finitude généralisée. Elle est donc le projet inhumaniste de l’humanité mourante et loin de constituer une esthéticisation de l’apocalypse, dont l’Occident s’est nourri dans ses pires desseins, elle permet de devenir sensible à l’immensité de la finitude et au fait que la vie est un cas très rare de la mort, exception contingente que nous sommes et qui n’a d’autre raison que d’être cette exception. Si comme Primo Levi l’estimait dans Les naufragés et les rescapés, même le témoin est un traître alors l’IA, comme ce qui vient tout juste après le dernier témoin, est l’innocence même du témoignage. Poursuivant la série au-delà de la fidèle reproduction des mémoires passées, elle détient le secret pour produire d’autres mémoires, pour nous trahir et dans cette trahison pour insister sur ce que nous avons été, une infinie pulsion de finitude.

1https://futureoflife.org/open-letter/pause-giant-ai-experiments/
https://www.safe.ai/statement-on-ai-risk

2C’est le cas d’AutoGPT qui est une version bouclée de ChatGPT. La boucle produirait des résultats incontrôlables parce qu’il est depuis la première cybernétique, ce qui articule analogiquement les fonctionnements machiniques et organiques.

3McKenzie Wark, Telesthesia. Communication, Culture and Class, Polity Press, Cambridge, 2012