Intelligence artificielle, conspirationnisme et réalisme

https://twitter.com/Lmorus/status/1158336971275743233?s=20

En février 2019, OpenAI (https://openai.com/), une entreprise de recherche ayant pour but de « découvrir le chemin vers une intelligence artificielle générale sure » a décidé de ne pas distribuer le modèle complet de son logiciel de génération de textes (https://openai.com/blog/better-language-models/) de peur, disaient-ils, de voir se multiplier des contenus douteux et d’alimenter de façon incontrôlable les fausses informations et le conspirationnisme.

Si l’on peut déconstruire la communication d’une telle décision ayant sans doute pour objectif de dramatiser des enjeux pour une part fantasmatique et de justifier les objectifs de cette entreprise, ce qui est une stratégie classique pour les acteurs de l’IA qui, selon une logique bien connue du pharmakon, agitent le danger tout autant que le remède, on doit aussi plonger dans l’imaginaire qu’une telle médiatisation a mis en place et s’interroger sur le lien entre IA et conspirationnisme.

Ce dernier semble être une conséquence imprévue du Web 2.0 et de la participation des internautes à la production de contenu éditorial : il ne s’agit plus de relayer une information vérifiée par une autorité (que l’on pourrait fort bien déconstruire et contester), mais de produire un contenu qui rencontre un certain succès auprès des lecteurs : on passe de la vérité à la crédibilité, du factuel au possible. Selon la logique des fans fictions, la production partagée de contenu éditorial a donné lieu à des conséquences contradictoires allant de médias alternatifs au conspirationnisme. La diversité de ces conséquences rend difficile la structuration d’une critique rationnelle parce qu’en s’attaquant aux uns on risque de se priver des autres. Cette ambivalence des signes contemporains pourrait bien être structurelle et relever de la relation entre le langage et les référents phénoménologiques (cf. Meillassoux sur les signes dépourvus de sens). Mais passons.

Quoi qu’il en soit, il est remarquable qu’OpenAI ait fermé ce logiciel estimant que le danger était trop grand et que cette AI risquait fort de nous submerger à la manière d’un flux. Quel lien existe entre AI et conspirationnisme ? Dans sa forme actuelle, l’AI est un système d’induction statistique qui, partant d’un important stock d’informations, peut produire de nouveaux contenus crédibles. La crédibilité est la relation entre la répétition et la différence : répétition du stock de donnée et différence par rapport à celui-ci. Il faut donc produire quelque chose qui pourrait appartenir aux données qui nourrissent le réseau de neurones artificiels. Cette crédibilité est un réalisme irréel, au sens où objectivement ces données n’existaient pas avant d’être générées, même si elles ressemblent à ce qui existait déjà. L’information doit être suffisamment bruitée pour être nouvelle et pas trop pour rester lisible.

Ceci veut dire que la crédibilité des données produites n’est pas une fonction interne de ces données, mais une fonction externe par le lecteur en tant que celui-ci fait partie d’une relation. C’est bien l’agent humain qui actualise le lien entre une certaine compréhension préalable du monde et ce qui est produit. Le logiciel quant à lui n’a pas cette compréhension, il n’a qu’un fragment de monde sur lequel il opère des calculs statistiques. Ceci veut dire que le contenu produit est l’occasion donnée à un être humain de créer une corrélation entre ce qu’il connait et ce qu’il lit, bref de ramener la nouveauté au connu avec une légère différence dans laquelle peut s’infiltrer le conspirationnisme comme la production de nouvelles connaissances : il faut aussi une part d’irréalité pour accéder au dit « réel ».

En y regardant de plus près, on voit combien l’IA ressemble au fonctionnement cognitif du conspirationnisme, non parce qu’il est le même, mais parce que cette ressemblance est justement du même ordre que la relation entre répétition et différence dans les réseaux de neurones artificiels. En effet, l’IA n’est pas identique au conspirationnisme, mais elle est l’occasion pour celui-ci de créer de nouvelles corrélations : les failles produites par l’une et l’autre peuvent être mises en relation, un dispositif technique devient inextricablement existentiel. Ainsi, on aurait tort de penser que l’on est à même lutter contre le conspirationnisme en vérifiant et en éliminant les « fake news ». Le conspirationnisme peut en effet se satisfaire de toutes informations, peu lui importe puisqu’il s’agit de creuser les signes pour créer, des corrélations et c’est pourquoi sa structure paranoïaque est si forte : on la retrouve en tant que structure fondamentale de l’esprit humain. L’ambivalence de cette structure me semble liée à l’occultation du rôle « fondateur » de l’imagination dans le jeu des facultés humaines que Kant exprima en corrigeant la Critique de la Raison Pure. Sans doute faudrait-il explorer les relations entre imaginations productive et reproductive (on y retrouve la différence et la répétition de l’AI), hallucination et réalisme.

L’ontologie, dans sa relation au langage et à la production de la vérité, n’est plus un problème limité à la philosophie, mais devient un enjeu commun qui s’exprime dans différentes sphères sociales. Le conspirationnisme questionne la manière dont nous produisons la connaissance, sans que nous puissions nous rassurer derrière une méthode universelle. Il nous fait douter, mais sans doute ce doute n’est-il pas du même ordre que celui que nous lègue la tradition philosophique. Il est un doute nihiliste, au sens d’Heidegger, au moment où le conflit entre la Terre et les mondes entre dans une nouvelle période. Au moment où la Terre semble se dérober sous nos pieds dans son habitabilité, les théories alternatives de la réalité se multiplient comme si le jeu de nos facultés cognitives produisait de plus en plus d’hallucinations.