Intelligence artificielle, conspirationnisme et réalisme

https://twitter.com/Lmorus/status/1158336971275743233?s=20

En février 2019, OpenAI (https://openai.com/), une entreprise de recherche ayant pour but de « découvrir le chemin vers une intelligence artificielle générale sure » a décidé de ne pas distribuer le modèle complet de son logiciel de génération de textes (https://openai.com/blog/better-language-models/) de peur, disaient-ils, de voir se multiplier des contenus douteux et d’alimenter de façon incontrôlable les fausses informations et le conspirationnisme.

Si l’on peut déconstruire la communication d’une telle décision ayant sans doute pour objectif de dramatiser des enjeux pour une part fantasmatique et de justifier les objectifs de cette entreprise, ce qui est une stratégie classique pour les acteurs de l’IA qui, selon une logique bien connue du pharmakon, agitent le danger tout autant que le remède, on doit aussi plonger dans l’imaginaire qu’une telle médiatisation a mis en place et s’interroger sur le lien entre IA et conspirationnisme.

Ce dernier semble être une conséquence imprévue du Web 2.0 et de la participation des internautes à la production de contenu éditorial : il ne s’agit plus de relayer une information vérifiée par une autorité (que l’on pourrait fort bien déconstruire et contester), mais de produire un contenu qui rencontre un certain succès auprès des lecteurs : on passe de la vérité à la crédibilité, du factuel au possible. Selon la logique des fans fictions, la production partagée de contenu éditorial a donné lieu à des conséquences contradictoires allant de médias alternatifs au conspirationnisme. La diversité de ces conséquences rend difficile la structuration d’une critique rationnelle parce qu’en s’attaquant aux uns on risque de se priver des autres. Cette ambivalence des signes contemporains pourrait bien être structurelle et relever de la relation entre le langage et les référents phénoménologiques (cf. Meillassoux sur les signes dépourvus de sens). Mais passons.

Quoi qu’il en soit, il est remarquable qu’OpenAI ait fermé ce logiciel estimant que le danger était trop grand et que cette AI risquait fort de nous submerger à la manière d’un flux. Quel lien existe entre AI et conspirationnisme ? Dans sa forme actuelle, l’AI est un système d’induction statistique qui, partant d’un important stock d’informations, peut produire de nouveaux contenus crédibles. La crédibilité est la relation entre la répétition et la différence : répétition du stock de donnée et différence par rapport à celui-ci. Il faut donc produire quelque chose qui pourrait appartenir aux données qui nourrissent le réseau de neurones artificiels. Cette crédibilité est un réalisme irréel, au sens où objectivement ces données n’existaient pas avant d’être générées, même si elles ressemblent à ce qui existait déjà. L’information doit être suffisamment bruitée pour être nouvelle et pas trop pour rester lisible.

Ceci veut dire que la crédibilité des données produites n’est pas une fonction interne de ces données, mais une fonction externe par le lecteur en tant que celui-ci fait partie d’une relation. C’est bien l’agent humain qui actualise le lien entre une certaine compréhension préalable du monde et ce qui est produit. Le logiciel quant à lui n’a pas cette compréhension, il n’a qu’un fragment de monde sur lequel il opère des calculs statistiques. Ceci veut dire que le contenu produit est l’occasion donnée à un être humain de créer une corrélation entre ce qu’il connait et ce qu’il lit, bref de ramener la nouveauté au connu avec une légère différence dans laquelle peut s’infiltrer le conspirationnisme comme la production de nouvelles connaissances : il faut aussi une part d’irréalité pour accéder au dit « réel ».

En y regardant de plus près, on voit combien l’IA ressemble au fonctionnement cognitif du conspirationnisme, non parce qu’il est le même, mais parce que cette ressemblance est justement du même ordre que la relation entre répétition et différence dans les réseaux de neurones artificiels. En effet, l’IA n’est pas identique au conspirationnisme, mais elle est l’occasion pour celui-ci de créer de nouvelles corrélations : les failles produites par l’une et l’autre peuvent être mises en relation, un dispositif technique devient inextricablement existentiel. Ainsi, on aurait tort de penser que l’on est à même lutter contre le conspirationnisme en vérifiant et en éliminant les « fake news ». Le conspirationnisme peut en effet se satisfaire de toutes informations, peu lui importe puisqu’il s’agit de creuser les signes pour créer, des corrélations et c’est pourquoi sa structure paranoïaque est si forte : on la retrouve en tant que structure fondamentale de l’esprit humain. L’ambivalence de cette structure me semble liée à l’occultation du rôle « fondateur » de l’imagination dans le jeu des facultés humaines que Kant exprima en corrigeant la Critique de la Raison Pure. Sans doute faudrait-il explorer les relations entre imaginations productive et reproductive (on y retrouve la différence et la répétition de l’AI), hallucination et réalisme.

L’ontologie, dans sa relation au langage et à la production de la vérité, n’est plus un problème limité à la philosophie, mais devient un enjeu commun qui s’exprime dans différentes sphères sociales. Le conspirationnisme questionne la manière dont nous produisons la connaissance, sans que nous puissions nous rassurer derrière une méthode universelle. Il nous fait douter, mais sans doute ce doute n’est-il pas du même ordre que celui que nous lègue la tradition philosophique. Il est un doute nihiliste, au sens d’Heidegger, au moment où le conflit entre la Terre et les mondes entre dans une nouvelle période. Au moment où la Terre semble se dérober sous nos pieds dans son habitabilité, les théories alternatives de la réalité se multiplient comme si le jeu de nos facultés cognitives produisait de plus en plus d’hallucinations.

In February 2019, OpenAI (https://openai.com/), a research company with the goal of « discovering the path to safe general artificial intelligence », decided not to distribute the full model of its text generation software (https://openai.com/blog/better-language-models/) for fear, they said, of seeing an increase in dubious content and uncontrollably feeding misinformation and conspiracy.

If we can deconstruct the communication of such a decision, which was probably intended to dramatize the stakes for a fantastical part and to justify the objectives of this enterprise, which is a classic strategy for AI actors who, according to a well-known pharmakon logic, agitate the danger as much as the remedy, we must also plunge into the imaginary that such media coverage has set up and question the link between AI and conspiracy.

The latter seems to be an unforeseen consequence of Web 2.0 and the participation of Internet users in the production of editorial content: it is no longer a question of relaying information verified by an authority (which could very well be deconstructed and contested), but of producing content that meets with a certain success with readers: we are moving from truth to credibility, from factual to possible. According to the logic of fan fiction, the shared production of editorial content has given rise to contradictory consequences ranging from alternative media to conspiracy. The diversity of these consequences makes it difficult to structure a rational critique because by attacking one, one risks depriving oneself of the others. This ambivalence of contemporary signs could well be structural and could relate to the relationship between language and phenomenological referents (cf. Meillassoux on meaningless signs). But let us move on.

Anyway, it is remarkable that OpenAI closed this software because it considered that the danger was too great and that this AI was likely to overwhelm us like a stream. What is the connection between IA and conspiracy? In its current form, the CEW is a statistical induction system that, based on a large stock of information, can produce new credible content. Credibility is the relationship between repetition and difference: repetition of the data stock and difference from it. It is therefore necessary to produce something that could belong to the data that feeds the artificial neural network. This credibility is an unreal realism, in the sense that objectively these data did not exist before they were generated, even if they resemble what already existed. The information must be noisy enough to be new and not too noisy to remain readable.

This means that the credibility of the data produced is not an internal function of the data, but an external function by the reader as part of a relationship. It is indeed the human agent who actualizes the link between a certain prior understanding of the world and what is produced. The software does not have this understanding, it only has a fragment of the world on which it performs statistical calculations. This means that the content produced is the opportunity given to a human being to create a correlation between what he knows and what he reads, in short, to bring back the new to the known with a slight difference in which conspiracy and the production of new knowledge can infiltrate: it also takes a certain amount of unreality to access the so-called « real ».

A closer look reveals how much AI resembles the cognitive functioning of conspiracy, not because it is the same, but because this resemblance is precisely of the same order as the relationship between repetition and difference in artificial neural networks. Indeed, AI is not identical to conspiracy, but it is an opportunity for conspiracy to create new correlations: the flaws produced by one and the other can be related, a technical device becomes inextricably existential. Thus, it would be wrong to think that we are able to fight conspiracy by checking and eliminating « fake news ». Indeed, conspiracy can be satisfied with any information, it doesn’t matter since it is a question of digging out the signs in order to create correlations, and that is why its paranoid structure is so strong: it is found as a fundamental structure of the human mind. The ambivalence of this structure seems to me linked to the occultation of the « founding » role of imagination in the play of human faculties that Kant expressed in correcting the Critique of Pure Reason. Undoubtedly, we should explore the relations between productive and reproductive imaginations (we find there the difference and the repetition of AI), hallucination and realism.

Ontology, in its relation to language and the production of truth, is no longer a problem limited to philosophy, but becomes a common issue that is expressed in different social spheres. Conspiracyism questions the way in which we produce knowledge, without being able to reassure ourselves behind a universal method. It makes us doubt, but doubtless this doubt is not of the same order as that which the philosophical tradition bequeaths to us. It is a nihilistic doubt, in the sense of Heidegger, at the moment when the conflict between the Earth and the worlds is entering a new period. At a time when the Earth seems to be slipping away from our feet in its habitability, alternative theories of reality are multiplying as if the interplay of our cognitive faculties were producing more and more hallucinations.