The Bureaucratic ChatGPT

Je devais recevoir des achats vintage en provenance du Japon et payer des frais de douanes comprenant de la TVA. Me demandant si je devais payer une telle taxe, je tente vainement de contacter les douanes en France : un répondeur me demande d’attendre 8 min avant d’avoir un employé et au bout de ce délai on me dit qu’aucun employé n’est disponible et que je dois réitérer mon appel. Ce que j’ai fait 6 fois sans résultat.

Je tente donc de contacter le transporteur Fedex par l’intermédiaire du chat. Un robot est en ligne, je demande un employé, on me dit qu’il arrive, qu’il est entré dans le chat, je m’adresse à lui sans jamais aucune réponse. Je téléphone donc à Fedex et là, d’une voix assez naturelle, un robot me répond. Je lui demande où faire une réclamation pour les frais de douanes. Il me répond qu’il peut me renvoyer un email avec le lien pour payer les frais de douanes. J’essaye de reformuler, avec toujours la même réponse monocorde.

Je perds ainsi 1 h 30…

Je décide, en désespoir de cause, de tenter ChatGPT. Je lui demande d’être un spécialiste des douanes franco-japonaises. Je lui pose la question. La réponse arrive en 2 secondes avec des liens vers les articles de loi et des explications simples.

Cette question bureaucratique ou administrative est moins anecdotique qu’il n’y paraît. Je crois que chacun d’entre nous est éreinté d’être de plus en plus exposé à de telles tâches sans parvenir à fournir ou à trouver l’information souhaitée. Cette incapacité n’est pas accidentelle, mais constitue le symptôme qu’une complexification technique et logistique du monde où il y a de plus en plus de flux et de plus en plus de règles. Cet enchevêtrement est devenu si dense qu’il est devenu impraticable et que les services clients sont débordés (c’est pourquoi ils sont devenus payants) et leurs automatisations insatisfaisantes. Par là s’exprime la capacité (ou l’incapacité) des êtres humains à produire des entités qui dépassent leurs capacités perceptives et cognitives (le Web en est l’exemple paradigmatique).

Seule une machine inductive et statistique est capable de nous orienter dans les dédales administratifs que nous avons créés et qui se referment sur nous à la manière d’un piège. C’est sans doute le signe que beaucoup de discussions sur la bêtise de ces logiciels ne semblent pas en saisir les enjeux : il ne s’agit nullement de reproduire mimétiquement la conscience humaine (à supposer que celle-ci existe), mais de naviguer dans le monde humain qui est un simulacre, c’est-à-dire une image sans original. La position excentrique de l’être humain en tant qu’il n’est jamais à sa place et qu’il tend toujours vers quelque chose de possible produit non seulement la technique, mais encore l’insoumission de celle-ci à nos volontés, c.-à-d.. à l’instrumentalité, en tant qu’elle « incarne » cette excentricité par l’extériorisation de nos facultés. Cette dernière ne s’effectue pas de manière mimétique, mais par des boucles de rétroaction où nous aliénons les machines (par exemple en les nourrissant de données) et nous sommes aliénés par elles, faisant que nous ne savons plus qui est à l’origine de l’autre et que les facultés entendues comme condition de possibilités de l’unification du sensible sont étrangement affectées par l’a posteriori technologique.

Les démarches bureaucratiques qui nous excèdent, qui nous débordent, sont la matérialité de ce décalage excentrique entre la production technique qui est d’origine anthropologique, mais qui est au-delà de nos capacités. Le fait que l’induction statistique y réponde infiniment mieux qu’un agent humain ou un système expert signifie qu’on ne peut y entrer que par la récursivité du possible.

I was supposed to receive some vintage purchases from Japan and pay customs fees including VAT. Wondering whether I should pay such a tax, I vainly tried to contact the French customs: an answering machine asked me to wait 8 minutes before getting an employee, and after this time I was told that no employee was available and that I should call again. I did this 6 times without any result.

So, I tried to contact the FedEx carrier through the chat. A robot was online, I asked for an employee, I was told that he was coming, that he had entered the chat, I addressed him but never got any response. So, I called FedEx and there, with a fairly natural voice, a robot answered me. I asked where to file a complaint about the customs fees. It replied that it could send me an email with the link to pay the customs fees. I tried to rephrase, always getting the same monotonous response.

I thus lost 1 hour and 30 minutes…

In desperation, I decided to try ChatGPT. I asked it to be a specialist in Franco-Japanese customs. I asked my question. The answer came in 2 seconds with links to legal articles and simple explanations.

This bureaucratic or administrative question is less anecdotal than it seems. I believe that each of us is exhausted from being increasingly exposed to such tasks without being able to provide or find the desired information. This incapacity is not accidental, but is the symptom of a technical and logistical complexity of the world where there are more and more flows and more and more rules. This entanglement has become so dense that it has become impracticable and that customer services are overwhelmed (which is why they have become paid) and their automations unsatisfactory. This expresses the capacity (or incapacity) of human beings to produce entities that exceed their perceptive and cognitive capacities (the Web is the paradigmatic example).

Only an inductive and statistical machine is capable of guiding us through the administrative labyrinths that we have created and which are closing in on us like a trap. This is probably a sign that many discussions about the stupidity of these softwares do not seem to grasp the stakes: it is not at all about mimetically reproducing human consciousness (assuming it exists), but about navigating in the human world which is a simulacrum, that is, an image without an original. The eccentric position of the human being as he is never in his place and always tends towards something possible produces not only technology, but also the insubordination of it to our wills, i.e., to instrumentality, in that it “embodies” this eccentricity through the externalization of our faculties. This is not done mimetically, but through feedback loops where we alienate machines (for example, by feeding them data) and we are alienated by them, so that we no longer know who originated the other and that the faculties understood as conditions of possibilities of the unification of the sensible are strangely affected by the technological a posteriori.

The bureaucratic steps that exasperate us, that overwhelm us, are the materiality of this eccentric gap between technical production which is of anthropological origin, but which is beyond our capacities. The fact that statistical induction responds infinitely better than a human agent or an expert system means that we can only enter it through the recursivity of the possible.