On ne sait pas ce que peut une intelligence (artificielle et/ou naturelle) / We Do Not Know What an Intelligence Can Do (Artificial and/or Natural)
Chaque jour apporte du code, des démos, de nouvelles versions de logiciels d’intelligence artificielle, et nous passons de l’un à l’autre sans prendre le temps de les utiliser. Quelques outils, rares, s’imposent l’espace de quelques mois avant qu’un autre ne les remplace. Les modèles d’IA ne créent pas ce problème. Ils le rendent visible avec une intensité nouvelle, car il relève d’une structure plus générale de la technique contemporaine : l’innovation y porte sur des potentialités, des codes dont les possibilités n’ont pas encore été actualisées, tandis que l’usage, soumis à une autre temporalité, doit attendre. Je dirai logiciel pour ce qui sort, modèle quand il s’agit d’IA, technique pour la structure que cela dessine.
Spinoza écrit que personne n’a encore déterminé ce que peut un corps. Je voudrais déplacer cette phrase de l’inconnu des puissances vers le temps qu’il faut pour les éprouver, et la transposer : nous ne savons pas ce que peut une intelligence, celle des modèles ni la nôtre quand elle s’y relie.
Le scolie où tombe cette phrase répond à ceux qui affirment que l’esprit commande au corps. Ils ignorent, dit Spinoza en substance, ce que le corps peut par les seules lois de la nature, car l’expérience n’a encore enseigné à personne ce qu’il peut ou ne peut pas faire. Il cite les somnambules, dont le corps accomplit en dormant des actes que l’esprit éveillé n’oserait pas, de sorte que le corps excède déjà ce que l’esprit en conçoit. Le mot qui compte est expérience. Ce que peut un corps ne se déduit pas d’une définition, il se découvre dans les rencontres.
Spinoza donne à ces rencontres un enjeu précis. Un corps est affecté de manières multiples, et selon ces affections sa puissance d’agir augmente ou diminue. Elle ne se possède pas comme un stock, elle se définit par ce qui nous arrive et par ce que nous en faisons. Je ne propose pas ici une exégèse de Spinoza, mais une transposition : si une intelligence se laisse penser de la même manière, sa puissance ne se lit pas sur un instrument. Les tests de performance mesurent des tâches attendues, ce que nous savions déjà demander. Ce que peut un modèle se précise dans les rencontres où on le met, avec quels textes, quelles images, quelles contraintes, et quels gestes de la personne qui s’y relie. Personne ne connaît ce terrain d’avance, ni le constructeur, ni l’utilisateur.
Dès lors l’ignorance cesse d’être un défaut provisoire. Elle est constitutive, et elle appelle du temps, celui des rencontres. Combien en laissons-nous à chaque logiciel avant de passer au suivant ? Une démonstration montre un possible. Elle montre ce que le logiciel peut faire dans les conditions où l’on a choisi de le montrer, et elle le montre pour vendre un usage futur, comme le dit le manuscrit que j’écris avec Yves Citton. Elle laisse ce possible ouvert sans rien réaliser. Publier prend moins de temps qu’expérimenter, et cette asymétrie, banale en apparence, règle tout le reste. Une version se sort avec un dépôt de code. La métaboliser exige des gestes qui se répètent, se déforment, deviennent habitude, puis culture. Le mot de maniement dit cela mieux que celui d’usage : prendre en main, c’est laisser la main apprendre ce que la tête ne devine pas. Or l’outil suivant est déjà là.
Les rares outils qui s’imposent quelques mois le doivent sans doute à quelqu’un qui les a pratiqués assez pour que d’autres puissent s’y fier. Leur valeur tient alors moins au code qu’aux manières dont on a appris à s’en servir, ce second travail, qui seul actualise le premier, restant invisible à une économie qui ne compte que les sorties. Que fait-on quand on ne peut pas expérimenter assez longtemps ? On assigne d’avance une fonction. Sans objectif préalable, le temps d’expérimentation devient indéfini, parce qu’aucun critère ne permet de dire que l’exploration est terminée. Avec un objectif, elle se termine : il suffit de vérifier que le logiciel remplit la tâche attendue, puis de passer au suivant. La fonction assignée d’avance agit comme une clôture.
On définit d’ordinaire l’instrumentalité comme une relation entre un outil et une fin. Elle serait plutôt une technique de compression du temps. L’instrument est peut-être moins ce qui sert à une fin que ce qui permet de ne pas perdre de temps. Il est produit pour être remplacé, c’est pourquoi on le réduit à une fonction, seule manière de le juger vite, et une technique que l’on ne fait que juger n’est pas expérimentée.
Pierre-Damien Huyghe répète qu’une technique doit être découverte et pas seulement inventée, et que cette découverte passe par le maniement. J’ajouterais que les habitudes instrumentales se logent d’abord dans le rythme : elles sont faites de la vitesse à laquelle on passe d’un outil à l’autre. Simondon voulait que les objets techniques entrent dans la culture. Que devient ce projet lorsque l’objet disparaît avant que l’attachement n’ait lieu ?
On pourrait croire que le remède consiste simplement à ralentir : garder un outil assez longtemps pour qu’il résiste à nos attentes, laisser l’expérimentation reprendre ses droits. Mais ce remède suppose que le décalage soit un accident de notre économie. Je crois qu’il ne se réduit pas à un accident. Toute action humaine comporte une strate méta qui formalise le possible : la langue qui permet de dire ce qu’on n’a pas dit, l’outil qui permet de faire ce qu’on n’a pas fait, le programme qui permet de produire ce qu’on n’a pas vu. Cette strate excède les actes concrets parce qu’elle en est la possibilité. Écrire un logiciel, c’est agir au niveau de ce qui pourra être fait, donc produire plus de possible que nous n’en actualiserons jamais. Nous produisons des puissances d’agir plus vite que nous ne développons les pratiques capables de les actualiser. Le décalage entre le code et son usage reproduit, à l’échelle industrielle, un excès ancien. Ralentir le rythme ne l’abolirait donc pas, il en modifierait la mesure.
Si le décalage est structurel, son rythme ne l’est pas. Quelqu’un règle la cadence. Une version hebdomadaire, une démonstration, une note de mise à jour valent d’abord pour ceux qui les publient et pour ceux qui les financent, dans la mesure où l’annonce capte l’attention avant tout usage. La valeur d’annonce précède ainsi la valeur d’usage. Elle se mesure à l’attente qu’un logiciel suscite au moment où il paraît, alors que la seconde exige des semaines de pratique que personne ne peut annoncer. L’annonce vend du possible, l’usage en fait de l’actuel, et l’on peut se demander si le système ne tire pas davantage de la promesse que de l’accomplissement. La technique reste en suspens parce qu’on la maintient en suspens, et ce maintien profite à certains.
De ce rythme naît un sentiment que je crois faux dans sa forme et juste dans son origine : l’intelligence artificielle se développerait sans nous. Nous la fabriquons pourtant, au sens où des humains écrivent le code et publient les versions. Mais ceux qui les publient sont rarement ceux qui prennent le temps d’en faire quelque chose, et nous autres, spectateurs de démos, nous observons et nous spéculons. La spéculation remplace l’expérience, et ce qui échappe au maniement prend l’allure de l’autonomie : ce que l’on ne touche pas semble se mouvoir seul. Le sentiment d’autonomie de la technique est un effet de rythme. Il ne dit rien de la technique, il dit où nous nous tenons par rapport à elle, en retrait, du côté du commentaire.
Autonomie et excès se distinguent nettement. Dans le premier cas, la machine serait devenue indépendante de nous, elle se donnerait sa loi, elle aurait rompu les liens. Dans le second, elle reste entièrement prise dans nos chaînes de production, de données, de financement, de décisions, et elle produit pourtant plus de possibilités que nous n’avons la capacité temporelle d’en actualiser. Rien ne s’est détaché. Un surplus s’est accumulé de notre côté. Ce second schéma est bien moins confortable que le premier, parce qu’il ne désigne aucun extérieur à craindre ou à célébrer.
Dans le lexique de Spinoza, un régime d’annonces continuelles nous maintient du côté de la passion : chaque nouveauté nous affecte, aucune ne nous donne de quoi agir, et chacune diminue d’autant ce que nous pouvons faire de la précédente. Il en découle une conséquence politique. Le problème n’est peut-être pas que les machines deviennent autonomes : nous devenons incapables d’habiter les puissances que nous produisons. Le discours de l’autonomie, en désignant la machine comme sujet de son propre développement, détourne de ceux qui règlent la cadence.
Ce que peut une intelligence, nous ne le saurons qu’en restant assez longtemps avec elle. Rien ne garantit que nous en aurons le temps.
Every day brings code, demos, new versions of artificial intelligence software, and we move from one to the next without taking the time to use them. A few tools, rare ones, establish themselves for a few months before another replaces them. AI models do not create this problem. They make it visible with a new intensity, because it belongs to a more general structure of contemporary technics: innovation bears there on potentialities, on codes whose possibilities have not yet been actualized, while use, subject to another temporality, has to wait. I will say software for what is released, model when it concerns AI, technics for the structure this sketches.
Spinoza writes that no one has yet determined what a body can do. I would like to shift this sentence from the unknown of powers toward the time it takes to test them, and to transpose it: we do not know what an intelligence can do, that of models or our own when it links up with them.
The scholium where this sentence falls answers those who claim that the mind commands the body. They do not know, Spinoza says in substance, what the body can do by the laws of nature alone, for experience has not yet taught anyone what it can or cannot do. He cites the sleepwalkers, whose bodies accomplish in their sleep acts that the waking mind would not dare, so that the body already exceeds what the mind conceives of it. The word that matters is experience. What a body can do is not deduced from a definition, it is discovered in encounters.
Spinoza gives these encounters a precise stake. A body is affected in many ways, and according to these affections its power of acting increases or decreases. It is not possessed like a stock, it is defined by what happens to us and by what we make of it. I do not propose here an exegesis of Spinoza but a transposition: if an intelligence can be thought in the same way, its power cannot be read off an instrument. Performance tests measure expected tasks, what we already knew how to ask for. What a model can do becomes precise in the encounters where it is placed, with which texts, which images, which constraints, and which gestures of the person who links up with it. No one knows this terrain in advance, neither the builder nor the user.
From then on, ignorance ceases to be a provisional defect. It is constitutive, and it calls for time, the time of encounters. How many do we leave to each piece of software before moving on to the next? A demonstration shows a possible. It shows what the software can do under the conditions in which one chose to show it, and it shows it to sell a future use, as the manuscript I am writing with Yves Citton puts it. It leaves this possible open without realizing anything. Publishing takes less time than experimenting, and this asymmetry, banal in appearance, governs everything else. A version goes out with a push to a code repository. Metabolizing it requires gestures that repeat, deform, become habit, then culture. The word handling says this better than use: to take in hand is to let the hand learn what the head does not guess. Yet the next tool is already here.
The rare tools that establish themselves for a few months probably owe it to someone who practiced them long enough for others to be able to rely on them. Their value then lies less in the code than in the ways one learned to use it, this second labor, which alone actualizes the first, remaining invisible to an economy that counts only outputs. What do we do when we cannot experiment long enough? We assign a function in advance. Without a prior objective, the time of experimentation becomes indefinite, because no criterion allows one to say that the exploration is finished. With an objective, it ends: it suffices to check that the software fulfills the expected task, then move on to the next. The function assigned in advance acts as a closure.
Instrumentality is ordinarily defined as a relation between a tool and an end. It would rather be a technique for compressing time. The instrument is perhaps less what serves an end than what allows one not to lose time. It is produced to be replaced, which is why it is reduced to a function, the only way of judging it quickly, and a technology that one merely judges is not experimented with.
Pierre-Damien Huyghe keeps repeating that a technique must be discovered and not only invented, and that this discovery passes through handling. I would add that instrumental habits lodge first in rhythm: they are made of the speed at which one passes from one tool to another. Simondon wanted technical objects to enter culture. What becomes of this project when the object disappears before attachment can take place?
One might think that the remedy consists simply in slowing down: keeping a tool long enough for it to resist our expectations, letting experimentation regain its rights. But this remedy supposes that the gap is an accident of our economy. I believe it cannot be reduced to an accident. Every human action contains a meta layer that formalizes the possible: the language that allows us to say what we have not said, the tool that allows us to do what we have not done, the program that allows us to produce what we have not seen. This layer exceeds concrete acts because it is their possibility. To write software is to act at the level of what could be done, and therefore to produce more possible than we will ever actualize. We produce powers of acting faster than we develop the practices capable of actualizing them. The gap between code and its use reproduces, on an industrial scale, an ancient excess. Slowing the rhythm would therefore not abolish it, it would modify its measure.
If the gap is structural, its rhythm is not. Someone sets the cadence. A weekly release, a demonstration, a release note are worth first of all to those who publish them and to those who finance them, insofar as the announcement captures attention before any use. Announcement value thus precedes use value. It is measured by the expectation that software arouses at the moment it appears, whereas the second requires weeks of practice that no one can announce. The announcement sells the possible, use makes it actual, and one may wonder whether the system does not draw more from the promise than from the accomplishment. Technics remains in suspension because it is kept in suspension, and this keeping benefits some.
From this rhythm arises a feeling that I believe false in its form and right in its origin: artificial intelligence would be developing without us. We make it, however, in the sense that humans write the code and publish the versions. But those who publish them are rarely those who take the time to make something of them, and the rest of us, spectators of demos, observe and speculate. Speculation replaces experience, and what escapes handling takes on the look of autonomy: what we do not touch seems to move by itself. The feeling of the autonomy of technics is an effect of rhythm. It says nothing about technics, it says where we stand in relation to it, withdrawn, on the side of commentary.
Autonomy and excess are clearly distinct. In the first case, the machine would have become independent of us, it would give itself its law, it would have broken the ties. In the second, it remains entirely caught in our chains of production, of data, of financing, of decisions, and yet it produces more possibilities than we have the temporal capacity to actualize. Nothing has detached itself. A surplus has accumulated on our side. This second scheme is much less comfortable than the first, because it designates no outside to fear or to celebrate.
In Spinoza’s lexicon, a regime of continual announcements keeps us on the side of passion: each novelty affects us, none gives us anything to act with, and each diminishes by as much what we can do with the previous one. A political consequence follows. The problem is perhaps not that machines become autonomous: we become incapable of inhabiting the powers we produce. The discourse of autonomy, by designating the machine as the subject of its own development, turns attention away from those who set the cadence.
What an intelligence can do, we will know only by staying with it long enough. Nothing guarantees that we will have the time.