Caverne, boîte noire et égouts / Cave, black box and sewer

Le secret serait dans une boîte noire : les datacenters, la logistique du réseau, le code, l’intention des informaticiens, l’externalisation de la raison, les manigances de quelques transhumanistes. Il faudrait se méfier des obscures et confuses apparences, de ce qui se donne immédiatement à la surface des choses et entrer dans le mystère pour apprendre à discerner, à lire, à décrypter et à résister.

C’est toujours le même récit pastoral et paranoïaque de la pensée qui veut voir des signes partout qu’elle serait la seule à pouvoir lire selon le paradoxe de quelque chose qui est partout parce que nulle part. C’est le récit de la Caverne, de la réalité trompeuse qui sera démasquée (enfin) par la pensée. C’est la supériorité du discours intelligible sur les figures sensibles qui apparaissent à la surface du minéral. C’est la promesse d’une intelligibilité future qui, par la compréhension, permettrait de changer le monde ou de le ramener à sa véritable réalité.

On l’applique à l’IA, mais ce n’est qu’un cas parmi d’autres, tant d’autres. C’est toujours amusant de voir des schémas anciens s’appliquer à de nouveaux objets et y trouver des sources de projections fantasmatiques. C’est l’IA, mais ça pourrait être autre chose.

On dit qu’il faut comprendre le code pour comprendre l’IA, connaître les sources de ce qui constitue un dataset et puisqu’il s’agit de statistiques, on estime que cela ne peut produire qu’un retour du même poussant à sa moyenne extrémité le kitsch de la modernité. Il n’y aurait dans les résultats que la répétition de ce qu’on y a mis à l’origine. Ni plus ni moins, mais en plus caricatural encore.

Dans le secret de la boîte noire, on suppose que la pensée est une lecture (du code) de la réalité tout comme on croit en une causalité simple où les conséquences sont compréhensibles par leurs causes et s’y réduit. Ce platonisme informatique est déjà ancien. Combien sont ceux qui croyaient qu’il fallait savoir coder pour y entendre quelque chose sans prendre en compte que les informaticiens ont souvent une compréhension limitée de ce qu’ils produisent, sans doute parce que leur production modifie en retour les conditions d’exercice de leur pensée.

L’ordinateur n’est pas une machine dont le code informatique définit de part en part le destin. Cela n’en est qu’un fragment, dont la compréhension est nécessaire tout autant qu’incomplète. Il y manque souvent l’historialité et la manière dont des résultats sont métabolisés de façon complexe dans une société déterminée, par des corps singuliers, par leurs doutes.

Il n’y a pas de Caverne pas de boîte noire avec l’IA, mais des égouts, ces souterrains hugoliens où les déchets se noient, où l’entropie produit, où les flux sont inanticipables, s’écoulent et s’arrêtent, surplus et manque tout à la fois.

On ne peut critiquer par la lisibilité l’espace latent de l’IA. Il faut le percevoir à force d’expérimentation, le tâter avec la canne des prompts, frôler ses paramètres, avancer comme un aveugle dans les bas-fonds et savoir que l’écriture est une série de points et de lignes que nos doigts ne parviennent qu’à sentir.

The secret lies in a black box: datacenters, network logistics, code, the intentions of computer scientists, the outsourcing of reason, the schemes of a few transhumanists. We need to be wary of obscure and confused appearances, of what is immediately apparent on the surface of things, and enter into the mystery to learn to discern, read, decipher and resist.

It’s always the same pastoral and paranoid tale of the mind that wants to see signs everywhere that only it can read, according to the paradox of something that is everywhere because nowhere. This is the story of the Cave, of the deceptive reality that will be unmasked (at last) by thought. It’s the superiority of intelligible discourse over the sensible figures that appear on the surface of the mineral. It’s the promise of a future intelligibility that, through understanding, would enable us to change the world or bring it back to its true reality.

We apply it to AI, but that’s just one case among many, many others. It’s always amusing to see old patterns applied to new objects, and to find in them sources of fantasy projections. It’s AI, but it could be something else.

It’s said that you have to understand the code to understand AI, to know the sources of what constitutes a dataset, and since we’re talking about statistics, we believe that this can only produce a return of the same pushing the kitsch of modernity to its middle extremity. The results are nothing more than a repetition of what was originally there. No more, no less, but even more caricatured.
In the secrecy of the black box, we assume that thought is a reading (of the code) of reality, just as we believe in a simple causality in which consequences can be understood by their causes, and are reduced to this. This Platonism in computing is already ancient. How many people believed that you had to know how to code in order to hear something in it, without taking into account that computer scientists often have a limited understanding of what they produce, no doubt because their production in turn modifies the conditions under which they exercise their thought.

The computer is not a machine whose destiny is defined by its computer code. It’s just a fragment, whose understanding is both necessary and incomplete. What’s often missing is historicity, and the way in which results are metabolized in complex ways in a given society, by singular bodies and their doubts.
There is no Cavern, no black box with AI, but sewers, those Hugolian subterraneans where waste drowns, where entropy produces, where flows are inanticipable, flowing and stopping, surplus and lack all at once.
The latent space of AI cannot be criticized through legibility. You have to perceive it by dint of experimentation, feel it with the cane of the swift, brush up against its parameters, advance like a blind man into the shallows and know that writing is a series of dots and lines that our fingers can only feel.

https://chatonsky.net/boite-noire/
http://chatonsky.net/box-cube-fiction/