L’alignement du réalisme instrumental / Instrumental realism alignment

Par alignement, on entend le fait de pousser une IA à répondre selon les objectifs fixés d’avance par l’opérateur humain. Ce problème a été désigné dès 1960 par Wiener : « Si on utilise, pour atteindre nos objectifs, un agent mécanique qu’on ne peut pas contrôler efficacement… On ferait bien de s’assurer que l’objectif que l’on assigne à cette machine soit celui que l’on désire vraiment. » (« Some Moral and Technical Consequences of Automation: As machines learn they may develop unforeseen strategies at rates that baffle their programmers. », Science, vol. 131, no 3410,‎ 6 mai 1960, p. 1355–1358).

Le fait que pour des raisons de sécurité et d’éthique, il faille que l’IA soit alignée avec un opérateur et essaie de faire ce que l’opérateur veut qu’elle fasse répond parfaitement à la conception instrumentale et anthropologique de la technique héritée d’Aristote et longuement analysée par Heidegger. La technique est déterminée par une quadruple causalité hiérarchisée : la cause matérielle (la matière dont est fait l’objet technique), la cause formelle (la forme fonctionnelle de cet objet), la cause finale (la finalité de l’objet, ce à quoi il sert) et la cause efficiente (la personne qui institue le plan de conception et de réalisation de l’objet technique et qui rassemble les 3 causes précédentes dans un seul et même projet).

Cette conception instrumentale de la technique est antagoniste à la relation de l’art à la technique qui cherche souvent à défaire un tel projet par l’introduction de la diché (la bonne fortune) qu’on pourrait interpréter comme une part de contingence dans la production.

Il est fascinant de remarquer que cet alignement instrumental prend aujourd’hui la forme d’un alignement réaliste consistant à créer des logiciels automatisant de plus en plus la ressemblance. Dernier en date, Sora d’OpenAI, un générateur vidéo capable de séquences « plus vraies que nature ». Mais si on s’extasie ainsi par rapport aux évolutions rapides, c’est au titre d’une conception étriquée du réaliste déterminée par la période précédente du photoréalisme. Le photoréalisme devient kitsch quand il est pris pour la réalité en soi, pour son indice même, pour l’unique réalisme possible.

Il exprime son caractère limité quand il se rapproche de l’instrumentalité jusqu’à s’y confondre en tant qu’il répond d’une égale manière à l’impératif de sens, mais un sens qui est prédéterminé. Cette convergence entre l’alignement instrumental et l’alignement du réalisme sous sa forme photomimétique, induit des processus de production qui ne sont pas artistique parce qu’elle implique que de la même manière que nous devons avoir des demandes qui prédéterminent le type de réponse attendue, nous devons produire des images qui s’alignent sur des images déjà existantes et dont le réalisme en général répond à un réalisme déjà connu. Le concept de « réalisme instrumental » désigne donc la convergence entre le fonctionnement attendu d’une technique (sa pragmatique) et sa générativité esthétique (son réalisme). Elle limite son réalisme au réalisme précédent qui n’a pas plus de rapport à la réalité que d’autres formes et dont le seul privilège est l’antériorité qui impose sa reproduction dans le nouveau réalisme.

On voit là le caractère profondément réactionnaire du réalisme instrumental dont l’alignement referme le monde des imaginations artificielles à des demandes déjà formulées en attente de réponses attendues, plutôt qu’à l’exploration et à la dérive de nouveaux territoires.

Alignment means pushing an AI to respond according to the objectives set in advance by the human operator. This problem was identified as early as 1960 by Wiener: “If we use, to achieve our objectives, a mechanical agent which we cannot control effectively… We had better make sure that the objective we assign to this machine is the one we really want.” (“Some Moral and Technical Consequences of Automation: As machines learn they may develop unforeseen strategies at rates that baffle their programmers,” Science, vol. 131, no. 3410, May 6, 1960, pp. 1355-1358).

The fact that, for reasons of safety and ethics, AI must be aligned with an operator and try to do what the operator wants it to do is perfectly in line with the instrumental and anthropological conception of technique inherited from Aristotle and analyzed at length by Heidegger. Technique is determined by a quadruple hierarchical causality: the material cause (the material from which the technical object is made), the formal cause (the functional form of this object), the final cause (the object’s purpose, what it is used for) and the efficient cause (the person who institutes the plan for designing and realizing the technical object, and who brings the 3 previous causes together in a single project).

This instrumental conception of technique is antagonistic to the relationship between art and technique, which often seeks to undo such a project by introducing diché (good fortune), which could be interpreted as an element of contingency in production.

It is fascinating to note that this instrumental alignment is now taking the form of a realistic alignment involving the creation of software that increasingly automates resemblance. The latest of these is Sora from OpenAI, a video generator capable of “truer-than-life” sequences. But if we are so ecstatic about these rapid developments, it’s because of a narrow conception of realism determined by the previous period of photorealism. Photorealism becomes kitsch when it is taken for reality itself, for its very index, for the only possible realism.

It expresses its limited character when it approaches instrumentality to the point of merging with it insofar as it responds in equal measure to the imperative of meaning, but a meaning that is predetermined. This convergence between instrumental alignment and the alignment of realism in its photomimetic form induces production processes that are not artistic, because it implies that just as we must have demands that predetermine the type of response expected, we must produce images that align themselves with already existing images, and whose realism in general responds to a realism that is already known. The concept of “instrumental realism” therefore refers to the convergence between the expected functioning of a technique (its pragmatics) and its aesthetic generativity (its realism). It limits its realism to the previous realism, which has no more relation to reality than other forms, and whose only privilege is the anteriority that imposes its reproduction in the new realism.

Here we see the profoundly reactionary character of instrumental realism, whose alignment closes the world of artificial imaginations to demands already formulated and awaiting expected responses, rather than to the exploration and drifting of new territories.