The fragility of machines

Common discourses seem to be dialectically divided between those who believe in the omnipotence of machines, as an expression of the human will, and those who ridicule these claims. I would like to develop a third point of view which tries to escape from this apparent opposition whose unity lies in the fact that on both sides one supposes the autonomy of the entities in play.

This position would consist in underlining that the machines make up for our fragility, allowing us to increase some of our capacities, an increase which is not neutral and which changes the nature of our faculties, just as we make up for the imperfections of the machines by projecting there a universe of meaning and the hope in a future functioning without hitch, the breakdown being considered as something accidental coming from outside.

The case of artificial imagination can play a revealing role in this domain. Indeed, how to explain that we are at the same time fascinated by the results of statistical synthesis and that when we learn about the functioning of these softwares, we can be surprised by their reductionist and simplistic character. We see in the texts and images of the artificial imagination something like meaning, but without intention and this discrepancy disturbs us. It is because, as we know, we project into the gaps of meaning an over-signification, we reconstruct the fragments of the puzzle.

The most striking example is the test which consists in making a reader read a text co-written with a neural network and to tell some readers what was its production procedure and to make others believe that it is of exclusively human origin. The first ones will find the text unstructured, badly written, with many defects. The latter will have a much more fluid reading and will not notice its defects or attribute it to a voluntary intention. This means that reading is determined by an a priori context that concerns the conditions of possibility of production. When we evaluate the results of artificial imagination, we are not evaluating an autonomous entity, but a context embedded in complex relationships. What we read is not only a text, but the genesis of a text and the values we attribute to the different agents in action. Here again, as in the case of the assignment of autonomy to the human being, we assume that we are reading a separate and autonomous document, whereas it is connected to a whole web of pre-comprehension. In this sense, meaning is a fabric with holes and tears in it that we mend each time to find a factual meaning.

Machines thus produce a lacunar and unintentional meaning that is supplemented by the horizon of meaning that concerns our own intentionality and orientation in the world. All discussions and debates about the meaninglessness of AI are determined by this ideological pre-understanding. What does it mean to give meaning to a production co-produced between a human being and a software? Either we presuppose that machines are incapable of producing meaning and so we produce the missing meaning by projection, or, and this is a much more interesting position, we know that meaning is lacking in software productions as in human productions, and indeed we grant this meaning by positioning ourselves as lacking subjects: the insignificance of the artificial imagination is also ours and its recognition can be a source of reflection. This ambiguous position seems to me to be at the heart of contemporary artistic practices that testify to a reflexive consideration of the conditions of emergence of production and meaning as an in-between between a torn and a mended canvas.

These examples allow us to understand that the industrial machines increased the cognitive and physical capacities of the human being, by degrading most often these conditions of existence and his environment by transformation of the beings in a common unit of value (the energy, the money, etc.), and that the neuronal machines are not overpowered, but fragile and as failing. They lack what they should be capable of, meaning, as an impossible promise to keep. This fragility articulated to human finitude produces meaning from the proposed gaps. This conception entails a refoundation of our relation to the technique in a general way as the meeting between two limits, one that we will designate as human finitude and the other we will designate as technological facticity. In this sense, we are in the production of the intentionality as indispensable to the machines as they are for us, and to believe that the intention, the writing, the reflection, would exist in the human being without technique, it is to forget that these faculties appear only in the exteriorization on material supports of memory and objects of technical inscription.

Les discours communs semblent se partager dialectiquement entre ceux qui croient en la toute-puissance des machines, expression de la volonté humaine, et ceux qui ridiculisent ces prétentions. J’aimerais développer un troisième point de vue qui tente de s’échapper de cette apparente opposition dont l’unité tient à ce que d’une part et d’autre on suppose l’autonomie des entités en jeu.

Cette position consisterait à souligner que les machines suppléent notre fragilité, nous permettant d’augmenter certaines de nos capacités, augmentation qui n’est pas neutre et qui change la nature de nos facultés, tout comme nous suppléons aux imperfections des machines en y projettant un univers de sens et l’espérance en un futur fonctionnement sans accroc, la panne étant considérée comme quelque chose d’accidentel venant du dehors.

Le cas de l’imagination artificielle peut jouer en ce domaine un rôle de révélateur. En effet comment expliquer que nous soyons en même temps fascinés par les résultats de la synthèse statistique et que lorsque nous prenons connaissance des fonctionnements de ces logiciels, nous puissions être surpris de leur caractère réductionniste et simpliste. Nous voyons dans les textes et les images de l’imagination artificielle quelque chose comme de la signification, mais sans intention et ce décalage nous perturbe. C’est que, nous le savons bien, nous projetons dans les lacunes de signification une sursignification, nous reconstituons les fragments du puzzle.

L’exemple le plus frappant est le test consistant à faire lire un texte coécrit avec un réseau de neurones et de dire à certains lecteurs quelle a été sa procédure de production et à d’autres de leur faire croire qu’elle est d’origine exclusivement humaine. Les premiers vont trouver le texte déstructuré, mal écrit, avec de nombreux défauts. Les seconds vont avoir une lecture beaucoup plus fluide et ne vont pas remarquer ses défauts ou l’attribuer à une intention volontaire. Ceci veut dire que la lecture est déterminée par un contexte à priori qui concerne les conditions de possibilité de la production. Lorsque nous évaluons les résultats de l’imagination artificielle, nous n’évaluons pas une entité autonome, mais un contexte noyé dans des relations complexes. Ce que nous lisons n’est pas seulement un texte, mais la genèse d’un texte et les valeurs que nous attribuons aux différents agents en action. Là encore, comme dans le cas de l’affectation de l’autonomie à l’être humain, on suppose qu’on lit un document séparé et autonome alors qu’il est relié à tout un tissu de précompréhension. En ce sens la signification est une toile trouée et déchirée que nous raccommodons à chaque fois pour y trouver un sens factuel.

Les machines produisent donc un sens lacunaire et non intentionnel qui est suppléé par l’horizon de signification qui concerne notre propre intentionnalité et orientation dans le monde. Toutes les discussions et débats sur l’insignifiance de l’IA sont déterminés par cette précompréhension idéologique. Qu’est-ce que veut dire d’accorder du sens à une production coproduite entre un être humain et un logiciel ? Soit nous présupposons que les machines sont incapables de produire de la signification et donc nous produisons le sens manquant par projection, soit, et c’est là une position beaucoup plus intéressante, nous savons que la signification est lacunaire dans les productions logicielles comme dans les productions humaines, et effectivement nous accordons cette signification en nous positionnant comme des sujets nous-mêmes lacunaire : l’insignifiance de l’imagination artificielle est aussi la nôtre et sa reconnaissance peut être source de réflexion. Cette position ambigüe me semble être au cœur des pratiques contemporaines artistiques qui témoignent d’une prise en compte réflexive des conditions d’émergence de la production et de la signification comme un entredeux entre une toile déchirée et une toile raccommodée.

Ces exemples nous permettent de comprendre que les machines industrielles augmentaient les capacités cognitives et physiques de l’être humain, en dégradant le plus souvent ces conditions d’existence et son environnement par transformation des étants en une unité de valeur commune (l’énergie, l’argent, etc.), et que les machines neuronales sont non pas surpuissantes, mais fragiles et comme défaillantes. Il leur manque ce dont elles devraient être capables, la signification, comme une promesse impossible à tenir. Cette fragilité articulée à la finitude humaine produit du sens à partir des lacunes proposées. Cette conception entraine une refondation de notre rapport à la technique de façon générale comme la rencontre entre deux limites, l’une qu’on désignera comme finitude humaine et l’autre on désignera comme la facticité technologique. En ce sens, nous sommes dans la production de l’intentionnalité aussi indispensable aux machines qu’elles le sont pour nous, et croire que l’intention, l’écriture, la réflexion, existeraient chez l’être humain sans technique, c’est oublier que ces facultés n’apparaissent que dans l’extériorisation sur des supports matériels de mémoire et des objets d’inscription technique.