Dans le désert, rien ne nous sauvera / In the Desert, Nothing Will Save Us

J’avais écrit bénévolement avec l’aide d’Eli Commins, au début de l’année, un dossier de recommandations pour le ministère de la culture dans le cadre de la mission Villani sur l’intelligence artificielle. J’y proposais de préparer les transformations que cette technologie va produire dans le champ culturel : protéger les métiers qui vont être atteints, doter la France d’une capacité de calcul publique dont l’usage serait délibéré par des collectifs de citoyens, former la population aux problématiques de ces machines, soutenir l’expérimentation artistique. J’y expliquais qu’une position simplement défensive ne pouvait pas tenir sur la durée et qu’elle ne constituerait, au mieux, qu’une période de transition avant autre chose, qu’on ne se donnait pas les moyens de penser.

Je n’ai pas été entendu. Le dossier est resté lettre morte. Il n’a même pas été transmis à Villani pour qu’on envisage d’ajouter au rapport un cinquième axe consacré à l’art et à la culture. On ne m’a pas donné de raisons. Je n’en tire aucune amertume, j’avais anticipé ce silence et j’en avais pris le risque, en connaissance de cause pourrait-on dire, puisque cette connaissance était justement l’objet du dossier. Ce qui m’occupe depuis, c’est la texture de ce silence. Si on avait rejeté mes propositions pour des raisons idéologiques, j’aurais pu me consoler en me disant qu’au moins elles avaient été lues, comprises, pesées et trouvées trop coûteuses ou trop gauchistes. Mais je crois qu’il ne s’est rien passé de tel. Le dossier a rencontré le manque de temps, le manque de compréhension et l’absence de toute planification. Personne, dans la chaîne administrative qui l’a reçu, ne disposait du loisir nécessaire pour se demander de quoi il retournait. L’État traite une transformation anthropologique avec le calendrier d’un plan de communication. Je ne vois là aucune malveillance et c’est bien ce qui rend la chose irréparable, car contre une malveillance on peut lutter, tandis que contre l’emploi du temps d’un cabinet ministériel on ne peut rien du tout.

À partir de ce silence, je crois pouvoir déduire les années qui viennent. Je l’écris pour pouvoir me relire dans dix ans et mesurer à quel point je me serai trompé. Les médias vont continuer à s’agiter autour de l’intelligence artificielle en basculant de l’enthousiasme pour l’innovation aux craintes pour la survie de l’humanité. Un jour la machine qui lit les radiographies mieux que le médecin, le lendemain la machine qui nous exterminera. On pourrait croire à un débat contradictoire. Il n’y a pas de contradiction, les deux affects se vendent au même prix et leur alternance rapporte davantage que chacun pris séparément, puisque la seule cause de ce balancement est la capture de l’attention. Le catastrophisme et le solutionnisme sont les deux faces d’une même monnaie dont personne ne demande qui la frappe. Cela durera des années et on appellera cela le débat public sur l’intelligence artificielle.

Pendant que ce débat aura lieu, la chose se fera. Une poignée d’entreprises américaines en train de concentrer les trois ressources qui comptent, les données, les processeurs et le capital patient, s’empareront totalement du domaine. Les modèles grossissent d’année en année, on augmente les paramètres, les corpus, la puissance, et les résultats s’améliorent sans que quiconque sache très bien expliquer pourquoi. Rien n’arrêtera cette croissance de l’intérieur. Les universités décrocheront faute de machines, les laboratoires publics deviendront des viviers où les entreprises viendront puiser, et nos chercheurs partiront, non par appât du gain, simplement parce qu’ailleurs il y aura de quoi calculer.

Puis viendront les data centers. Des centaines d’abord, des milliers ensuite, posés sur des terres agricoles, branchés sur des centrales, refroidis avec l’eau des nappes, négociés discrètement entre des exécutifs locaux flattés et des juristes qui auront prévu chaque exemption fiscale. Les gouvernements accueilleront ces installations en y croyant sincèrement. Ils parleront de levier de croissance, de souveraineté numérique, tout en louant à l’heure les serveurs de ceux dont ils se prétendront souverains, et ils confondront durablement le fait d’héberger une infrastructure avec le fait de la posséder. Alors une partie de la population se soulèvera. Les implications de ces installations sur les conditions de la vie commune, l’eau, le sol, l’électricité, le paysage, la fiscalité, le travail, sont d’une ampleur qui excède la responsabilité d’entreprises privées, et il sera parfaitement logique que des citoyens s’emparent d’une question dont on les aura privés. Je prévois des occupations de terrain, des recours juridiques, des sabotages peut-être, et un activisme qui réclamera le démantèlement des data centers. J’ai de la sympathie pour ce mouvement avant même qu’il existe. Sur les faits, il aura raison. Sur le fond, je crains qu’il ne se trompe.

Car pendant toutes ces années, l’expérimentation restera minoritaire, presque invisible, pour ne pas dire inexistante. J’entends par expérimentation le fait de travailler avec ces machines assez longtemps, assez patiemment, assez inutilement, pour découvrir ce qu’elles font de nous et ce que nous pourrions faire d’elles en dehors de tout usage prévu. Il y aura sans doute un moment de mode, une œuvre générée vendue aux enchères pour une somme absurde, des titres de journaux sur la mort de l’artiste, quelques expositions de visages flous sortis de réseaux antagonistes, et pendant deux ou trois saisons on confondra la nouveauté du procédé avec un travail. Puis la mode passera et il restera un usage décoratif, l’intelligence artificielle comme filtre, comme effet, comme argument pour rajeunir le public des musées. Je redoute d’ailleurs davantage cette adoption décorative que l’indifférence actuelle du ministère, car on peut travailler dans l’indifférence alors que la vitrine vous assigne une place.

L’expérimentation véritable demande un temps infini. Elle demande notre curiosité et notre attention, c’est-à-dire la capacité de dépenser du temps sans savoir comment le compter. Or nous en sommes devenus incapables, et cette incapacité n’a rien d’une faiblesse morale que l’on pourrait corriger par un effort de volonté, elle est produite industriellement par une économie entière dont le carburant est le prélèvement de l’attention. Il faudrait donc soustraire du temps à ce qui vit de le capter, au moyen de machines issues de cette captation même. Je mesure ce que cette boucle a de décourageant. Je ne connais pourtant pas d’autre passage.

D’un côté je vois le refoulement. On refuse d’admettre que l’extériorisation de nos facultés dans des appareillages techniques constitue une donnée fondamentale de l’hominisation. Nous n’avons jamais pensé sans support. Le silex taillé, la trace, l’écriture, l’imprimerie, le calcul mécanique, nous avons toujours déposé notre mémoire hors de nous et nous sommes chaque fois revenus transformés par ce dépôt, au point qu’il n’existe aucun état antérieur, aucune intériorité vierge que la technique serait venue profaner. Leroi-Gourhan l’avait établi, Stiegler en a fait le cœur de sa pensée, et l’intelligence artificielle prolonge ce mouvement en extériorisant cette fois quelque chose comme l’imagination, ce qui trouble davantage parce que nous pensions que l’imagination, au moins, resterait dedans. Ceux qui défendent l’humain contre la machine défendent une fiction, et une défense fondée sur une fiction finit toujours par se payer.

De l’autre côté je vois l’acceptation. Le réalisme capitaliste dont parle Fisher, cette certitude qu’il n’existe aucune alternative, que ces machines arriveront de toute façon, qu’il faut s’adapter, se former, rester employable. Ce réalisme est en train de changer de teinte. Ce qu’il annonce ressemble de moins en moins à la fin de l’histoire dans un centre commercial et de plus en plus à un ordre autoritaire où le tri des populations, la prédiction des comportements et la surveillance des visages constitueront l’usage normal des machines. Les prototypes existent déjà, le crédit social se met en place en Chine, la reconnaissance faciale s’installe dans nos aéroports, Cambridge Analytica a montré cette année ce que devient la délibération démocratique quand on module industriellement les affects de millions d’électeurs. Un réalisme fasciste, donc, et je pèse le mot en sachant qu’on me le reprochera.

Entre le refoulement et l’acceptation, le passage est étroit. Seule l’expérimentation permet à mes yeux de dépasser l’instrumentalité, et il faut s’arrêter sur ce mot car tout s’y joue. L’instrumentalité désigne d’abord une manière d’envisager et de manier la technique, l’outil comme moyen neutre au service de fins humaines. Mais elle est devenue bien davantage, le paradigme même de l’exploitation du monde en son entier. Heidegger nommait cela l’arraisonnement, la mise à disposition de tout ce qui existe comme fonds exploitable, les fleuves devenus réserves hydroélectriques, les forêts devenues stocks de bois, les hommes devenus ressources humaines, et il faut aujourd’hui ajouter à cette liste les phrases devenues corpus d’entraînement et l’attention devenue gisement. La machine à calculer arrive au bout d’une chaîne qui commence bien avant elle. Si nous l’abordons comme un outil de plus, nous refermons la chaîne sur nous et nous devenons à notre tour du fonds disponible.

L’expérimentation artistique déjoue cela par l’usage même. Elle prend la machine et lui fait produire ce que personne ne lui demande. Elle rate beaucoup. Elle passe des mois sur des images dont on ne sait pas quoi faire, et dans ces images apparaît parfois quelque chose qui n’était écrit dans aucun cahier des charges, une manière qu’ont ces réseaux de rêver la statistique, une mémoire sans souvenirs, des visages que personne n’a portés et qui nous regardent quand même. Depuis des mois je regarde des réseaux antagonistes générer des figures humaines qui n’existent pas, et ce qui me retient dans ces figures tient précisément à leur inutilité, elles ne servent à rien, elles ne vendent rien, elles ne prédisent rien, elles témoignent seulement d’une extériorité qui s’est mise à produire du possible sans nous. Cette inutilité constitue leur seule valeur et la raison pour laquelle une telle pratique ne reconduit pas l’instrumentalité qu’elle utilise pourtant de part en part.

Sans ce déplacement profond de notre relation à la technique, on aura beau bloquer, brûler, disloquer autant de data centers qu’on voudra, on n’aura pas touché au fondement du problème. On aura détruit des hangars en laissant intacte la manière de penser qui les a rendus nécessaires, et cette manière de penser les reconstruira ailleurs, sous d’autres noms, avec l’assentiment fatigué de ceux-là mêmes qui les avaient abattus. Le geste luddite est honorable, il a pour lui le courage et l’évidence des corps, il se trompe seulement d’organe. La machine n’est que l’excroissance visible d’un rapport au monde, et c’est ce rapport qu’il faudrait atteindre.

Je n’attends plus d’être entendu. Ce texte ne cherche pas de destinataire, je doute qu’il en existe encore un dans les institutions, je ne suis pas certain qu’il en ait jamais existé. Les décisions qui comptent seront prises par défaut, par sédimentation de petites urgences, par des gens qui n’auront pas eu le temps de lire, et cette entropie administrative n’a même pas la dignité d’un adversaire.

Dans le désert, rien ne nous sauvera. Aucun rapport, aucune loi, aucune mission, aucun soulèvement ne nous épargnera le travail. Mais l’absence de salut n’est pas une fatalité, la fatalité étant encore une forme de salut puisqu’elle nous décharge de tout. Reste à faire ce qu’on peut, lentement, mal, sans destinataire et sans compter le temps, puisque c’est justement ce temps sans compte que tout, autour de nous, s’emploie à rendre impossible.

With the help of Eli Commins, and without being asked, I wrote a memorandum of recommendations for the Ministry of Culture earlier this year, in the context of the Villani mission on artificial intelligence. I proposed that we prepare for the transformations this technology is going to produce in the cultural field: protect the trades that will be hit, endow France with a publicly held computing capacity whose use would be deliberated by citizen collectives, train the population in the problems raised by these machines, and support artistic experimentation. I tried to explain that a purely defensive position could not hold over time and that it would constitute, at best, a transitional period before something else that we were giving ourselves no means to think.

I was not heard. The document remained a dead letter. It was not even forwarded to Villani so that a fifth axis devoted to art and culture might be considered for the report. No reasons were given to me. I take no bitterness from this. I had anticipated the silence and had accepted the risk, in full knowledge one might say, since that knowledge was precisely the object of the document.

What has occupied me since is the texture of this silence. Had my proposals been rejected on ideological grounds, I might have consoled myself with the thought that they had at least been read, understood, weighed, and found too costly or too left-wing. But I do not think anything of the sort took place. The document met with a shortage of time, a shortage of understanding, and the absence of any planning whatsoever. No one in the administrative chain that received it had the leisure required to ask what it was about. The State handles an anthropological transformation with the calendar of a communications plan. I see no malice in this, and that is precisely what makes the situation irreparable, because against malice one can fight, whereas against the schedule of a ministerial cabinet one can do absolutely nothing.

From this silence, I believe I can deduce the years to come. I write it down so that I may reread myself in ten years and measure the extent to which I will have been wrong.

The media will go on stirring about artificial intelligence by swinging from enthusiasm for innovation to fears for the survival of humanity. One day the machine that reads radiographs better than the doctor, the next day the machine that will exterminate us. One might believe this to be a contradictory debate. There is no contradiction. The two affects sell at the same price, and their alternation yields more than either taken separately, since the sole cause of this oscillation is the capture of attention. Catastrophism and solutionism are the two faces of a single coin whose minter no one bothers to ask about. This will last for years, and it will be called the public debate on artificial intelligence.

While that debate takes place, the thing itself will be done. A handful of American companies, currently concentrating the three resources that matter—data, processors, and patient capital—will take total possession of the field. The models grow larger year on year, one increases parameters, corpora, and power, and the results improve without anyone being quite able to explain why. Nothing will stop that growth from within. Universities will drop out for lack of machines, public laboratories will become pools from which the companies come to draw, and our researchers will leave, not out of greed, but simply because elsewhere there is something to compute with.

Then the data centers will come. Hundreds at first, then thousands, set down on agricultural land, wired to power plants, cooled with water drawn from aquifers, quietly negotiated between flattered local executives and lawyers who will have anticipated every tax exemption. Governments will welcome these installations while sincerely believing in them. They will speak of a growth lever, of digital sovereignty, all the while renting by the hour the servers of those over whom they claim to be sovereign, and they will lastingly confuse hosting an infrastructure with owning it. Then a part of the population will rise up. The implications of these installations for the conditions of common life—water, soil, electricity, landscape, taxation, labor—are of a scale that exceeds the responsibility of private companies, and it will be perfectly logical that citizens should take up a question of which they will have been dispossessed. I foresee land occupations, legal appeals, perhaps sabotage, and an activism calling for the dismantling of the data centers. I have sympathy for this movement before it even exists. On the facts, it will be right. On the substance, I fear it will be mistaken.

For throughout these years, experimentation will remain minoritarian, almost invisible, not to say nonexistent. By experimentation I mean the fact of working with these machines long enough, patiently enough, uselessly enough, to discover what they do to us and what we might do with them outside any anticipated use. There will no doubt be a moment of fashion, a generated work sold at auction for an absurd sum, newspaper headlines on the death of the artist, a few exhibitions of blurred faces produced by adversarial networks, and for two or three seasons the novelty of the procedure will be mistaken for a body of work. Then the fashion will pass and what will remain is a decorative use, artificial intelligence as filter, as effect, as an argument for rejuvenating museum audiences. I fear this decorative adoption, in fact, more than the ministry’s current indifference, because one can work within indifference, whereas the shop window assigns you a place.

True experimentation demands infinite time. It demands our curiosity and our attention, that is to say the capacity to spend time without knowing how to count it. Now we have become incapable of this, and this incapacity has nothing of a moral weakness that could be corrected by an effort of will; it is produced industrially by an entire economy whose fuel is the extraction of attention. One would therefore have to subtract time from that which lives off capturing it, by means of machines issued from that very capture. I measure how discouraging that loop is. I know, however, of no other passage.

On one side I see repression. It is refused that the externalization of our faculties into technical apparatuses constitutes a fundamental datum of hominization. We have never thought without support. The knapped flint, the trace, writing, the printing press, mechanical calculation—we have always deposited our memory outside ourselves and have each time returned transformed by that deposit, to the point that there exists no anterior state, no virginal interiority that technics would have come to profane. Leroi-Gourhan established this, Stiegler made it the heart of his thought, and artificial intelligence prolongs this movement by externalizing this time something like the imagination, which unsettles us more because we believed the imagination, at least, would stay inside. Those who defend the human against the machine defend a fiction, and a defense founded on a fiction always ends up costing.

On the other side I see acceptance. Capitalist realism, in the sense Fisher gives it, the certainty that no alternative exists, that these machines will arrive in any case, that one must adapt, retrain, remain employable. This realism is in the process of changing hue. What it announces looks less and less like the end of history in a shopping mall and more and more like an authoritarian order in which the sorting of populations, the prediction of behaviors, and the surveillance of faces will constitute the normal use of the machines. The prototypes are already there, social credit is being set in place in China, facial recognition is settling into our airports, Cambridge Analytica this year showed what democratic deliberation becomes when one industrially modulates the affects of millions of voters. A fascist realism, then, and I weigh the word knowing I will be reproached for it.

Between repression and acceptance, the passage is narrow. Only experimentation, to my mind, makes it possible to move beyond instrumentality, and it is worth pausing on that word because everything is at stake in it. Instrumentality first designates a way of envisaging and handling technics, the tool as a neutral means in the service of human ends. But it has become far more than that: the very paradigm of the exploitation of the world in its entirety. Heidegger called this Gestell, the setting into standing-reserve of everything that exists as an exploitable stock—rivers become hydroelectric reserves, forests become stocks of timber, human beings become human resources, and we must today add to this list sentences become training corpora, and attention become a deposit to be mined. The computing machine arrives at the end of a chain that begins well before it. If we approach it as one more tool, we close the chain back upon ourselves and become, in turn, available stock.

Artistic experimentation foils this by its very use. It takes the machine and has it produce what no one asks of it. It fails a great deal. It spends months on images no one knows what to do with, and in those images there sometimes appears something that was written in no specification, a way these networks have of dreaming statistics, a memory without recollections, faces no one has worn and which look back at us all the same. For months now I have been watching adversarial networks generate human figures that do not exist, and what holds me in those figures has to do precisely with their uselessness. They serve nothing, they sell nothing, they predict nothing; they only bear witness to an exteriority that has set about producing the possible without us. That uselessness constitutes their sole value and the reason why such a practice does not reproduce the instrumentality it nonetheless uses from end to end.

Without this profound displacement of our relation to technics, one may block, burn, dislocate as many data centers as one likes; one will not have touched the ground of the problem. One will have destroyed sheds while leaving intact the way of thinking that made them necessary, and that way of thinking will rebuild them elsewhere, under other names, with the weary assent of those very people who had brought them down. The Luddite gesture is honorable, it has on its side the courage and the evidence of bodies; it is only mistaken about the organ. The machine is nothing but the visible outgrowth of a relation to the world, and it is that relation that would have to be reached.

I no longer expect to be heard. This text seeks no addressee. I doubt one still exists within the institutions, and I am not sure that one ever existed. The decisions that matter will be taken by default, through the sedimentation of small emergencies, by people who will not have had the time to read, and that administrative entropy does not even have the dignity of an adversary.

In the desert, nothing will save us. No report, no law, no mission, no uprising will spare us the labor. But the absence of salvation is not a fatality, fatality being itself still a form of salvation, since it discharges us from everything. What remains is to do what one can, slowly, badly, without an addressee and without counting time, since it is precisely that uncounted time that everything around us is bent on rendering impossible.