Pizza-chien et contrefactualité des possibles

Je regarde cette pizza-chien depuis un moment. Elle circule sur les réseaux depuis quelques jours, depuis que Google a publié ses premières images issues de DeepDream, et je n’arrive pas à déterminer si elle m’amuse ou m’inquiète, ou si ces deux sentiments sont en train de se confondre en quelque chose que je n’ai pas encore de mot pour nommer. Ce qui est certain, c’est qu’elle me retient. Et je me méfie un peu de cette rétention, parce que je sais que je suis exactement le public visé par ce genre d’image, quelqu’un qui a passé des années à chercher dans le numérique autre chose que ce qu’il offrait ordinairement, et que ma fascination n’est peut-être pas une réponse à quelque chose de réel mais la satisfaction d’une attente que j’avais construite moi-même sans m’en rendre compte.

Cela dit, je crois que quelque chose se passe vraiment. Quand je regarde ce qui m’a intéressé dans le numérique depuis le début, je vois une série de tentatives de comprendre ce que la machine fait à l’image. La discrétion des pixels, le glitch, la synthèse en trois dimensions avec ses surfaces parfaites et froides comme des objets platoniciens, des formes sans histoire : rien de tout cela ne m’avait vraiment convaincu. Ces esthétiques travaillaient autour de la machine, elles en exhibaient les effets ou les ratés, mais elles ne touchaient pas à quelque chose de plus profond, à savoir la possibilité que la machine vienne habiter l’image de l’intérieur, qu’elle l’infecte, qu’elle y introduise sa propre logique comme un corps étranger qui ne serait plus tout à fait étranger. Le Web m’avait semblé plus proche de cette transformation de l’archive et de la mémoire, peut être n’était-ce qu’une étape préparatoire.

DeepDream fait cela. Pas encore complètement. Le photoréalisme reste hors de portée et les images produites gardent quelque chose de brouillon, de provisoire. Mais c’est précisément dans cette imperfection que quelque chose d’étrange se dessine, quelque chose qui ne ressemble à rien de ce que nous avons produit avant.

Ce qui se passe dans ces images est double et les deux niveaux sont inséparables. D’un côté, la machine projette sur une image des formes qu’elle a apprises à reconnaître dans d’autres images. Elle cherche des chiens dans une pizza, des yeux dans des nuages, des visages dans des façades d’immeubles. C’est de la pareidolie, ce mécanisme ancien par lequel la perception humaine trouve du familier dans l’informe. Sauf que là, la pareidolie est algorithmique, elle est systématisée et amplifiée à chaque itération jusqu’à ce que ce que la machine croit voir finisse par apparaître effectivement dans l’image, comme si la croyance suffisait à produire la réalité qu’elle anticipe.

De l’autre côté, ces images ressemblent fabuleusement à une hallucination sous LSD. Pas vaguement, pas par métaphore approximative. De manière précise, reconnaissable. Est-ce voulu ? La question mérite qu’on s’y arrête plutôt que de la laisser ouverte. Les ingénieurs qui ont travaillé sur ce programme évoluent dans une Silicon Valley dont la culture est largement constituée par l’héritage des années 1960, par les expériences avec les psychédéliques, par l’idée que modifier la perception est une façon de modifier la réalité. Stewart Brand, qui a lancé le Whole Earth Catalog en 1968 et qui a contribué à définir l’idéologie de ce milieu, disait que les ordinateurs personnels étaient les LSD des années 1980, un outil de libération de la conscience individuelle. Cette filiation n’est pas anecdotique. Elle signifie que la représentation de la machine comme productrice d’états altérés n’est pas un accident mais une façon de voir la technologie qui s’est transmise de génération en génération dans ce milieu particulier. Quand DeepDream produit des images qui ressemblent à des hallucinations, il actualise une vieille promesse de la contre-culture californienne, celle d’une machine qui ne calcule pas mais qui rêve, qui ne traite pas de l’information mais qui transforme la perception. Que cela soit entièrement conscient de la part de ses créateurs ou qu’il s’agisse d’un héritage intégré sans réflexion explicite ne change pas grand-chose. La ressemblance est là, et elle a une histoire.

Ce qui m’importe davantage, c’est ce que cette ressemblance dit sur le statut de ces images. Ce sont des images d’images. Pas des représentations du monde, pas des captures d’une réalité extérieure, mais des images qui se sont nourries d’autres images, qui ont intégré dans leur structure la mémoire d’un corpus visuel immense, et qui produisent à partir de cette mémoire accumulée quelque chose de nouveau et d’instable. Ernst Cassirer décrivait les Formes Symboliques comme les grandes structures par lesquelles l’humanité organise son rapport au monde, le mythe, le langage, la science, l’art. Ces formes ne sont pas des représentations au sens ordinaire du terme, elles sont des modes d’organisation de l’expérience qui ont leur propre logique, leur propre temporalité. Ce qui se passe avec DeepDream ressemble à une automatisation de cette idée. Comme si les formes symboliques que nous avons accumulées sur le réseau depuis vingt ans, toutes ces images de chiens et de pizzas et de visages et de paysages, étaient en train d’être retraitées par une machine qui en extrait une grammaire et la projette sur n’importe quelle surface.

La croyance en l’image en sort déstabilisée. Pas parce que ces images sont fausses au sens ordinaire du terme. Mais parce qu’elles superposent dans notre perception plusieurs régimes à la fois, l’indiciel et l’hallucinatoire, la trace et la projection, le souvenir et l’invention. On ne sait plus si on voit ce qui est là ou ce que la machine a décidé d’y voir. Et peut-être que cette incertitude existait depuis toujours dans notre rapport aux images, peut-être que nous n’avons fait que croire que les photographies montraient la réalité parce que personne ne nous avait encore fourni d’images qui exhibaient aussi clairement le mécanisme de la projection.

Comment vont évoluer ces images dans les années qui viennent ? Je me pose la question sérieusement, sans pouvoir y répondre. Resteront-elles dans cet espace de l’hallucination visible, de l’instabilité revendiquée, ou bien le processus sera-t-il affiné jusqu’à produire quelque chose d’indiscernable d’une photographie ordinaire ? Si la deuxième option se réalise, alors quelque chose change radicalement. Ce ne sera plus seulement la croyance en l’image qui sera déstabilisée. Ce sera la notion même de réalisme photographique, cette confiance implicite dans le fait qu’une image a forcément un référent quelque part dans le monde, qu’elle documente quelque chose qui a eu lieu. Nous verrons toutes les images, indicielles ou inductives, comme des images potentiellement produites par des machines. Ce seront des images contrefactuelles qui ressembleront aux images photographiques mais qui n’auront jamais été prises, seulement apprises et vectorisées. Je fais l’hypothèse que cette contrefactualité ouvre un réalisme du possible qui « documente » ce qui aurait pu avoir lieu ou ce qui pourrait avoir lieu. J’avoue que depuis mes années d’études, je suis attiré par ce concept de possible et que je n’ai cessé de réfuter la notion de virtuel. La distinction n’est pas terminologique. Le virtuel, au sens deleuzien du terme, désigne ce qui est réel sans être actuel, une potentialité qui attend ses conditions de réalisation, comme une graine contient déjà l’arbre sans l’être encore. C’est une notion qui conserve une logique de l’origine et du déploiement, quelque chose qui se réalise à partir d’une essence préexistante. Le possible fonctionne autrement. Il n’est pas en attente de réalisation, il est latéral, il coexiste avec ce qui a eu lieu sans en dériver. Deux événements possibles peuvent être également cohérents avec le même passé sans qu’aucun des deux soit plus virtellement contenu dans ce passé que l’autre. Ce que DeepDream produit n’est pas du virtuel en ce sens, ce n’est pas une image qui attendait d’être révélée dans le corpus dont elle est issue. C’est une image possible, une image qui est cohérente avec ce corpus sans en être la conséquence nécessaire, sans que quiconque l’ait jamais vue ou anticipée. Elle n’était pas là en puissance. Elle est là par vraisemblance statistique. Et cette différence change tout à la façon dont on comprend ce que la machine fait, parce qu’elle signifie que la machine ne révèle pas, elle génère, et que ce qu’elle génère n’a pas de profondeur cachée à déchiffrer, seulement une surface cohérente à habiter ou non.

J’avais commencé à travailler sur cette question l’année dernière avec Memories Center : The Dreaminbg Machine, une installation dans laquelle une machine génère de nouveaux rêves à partir d’une base de données de vingt mille rêves humains. Ce que je tentais de mettre en scène, c’était précisément cette idée d’une machine qui rêve les rêves humains, qui hallucine nos images à partir de ce que nous lui avons donné à mémoriser. DeepDream me semble aller dans la même direction, mais de manière plus radicale, parce qu’il ne s’appuie pas sur un corpus délimité et constitué intentionnellement. Il s’est nourri de ce que nous avons produit et mis en circulation sans y penser, de la totalité diffuse et incohérente de ce que l’humanité a photographié et téléchargé sur le réseau. Et il en extrait quelque chose qui ressemble à une culture, à un inconscient visuel collectif rendu visible par les itérations d’un algorithme.

C’est peut-être là la question la plus intéressante que ces images posent. Sommes-nous en train de passer d’un réalisme fondé sur la trace, sur le spectre du ça a été dont parlait Barthes, à quelque chose d’entièrement différent, un réalisme des possibles, un réalisme de tout ce qui n’a pas eu lieu mais qui ressemble tellement à tout ce que nous avons accumulé qu’il finit par avoir la même densité, le même poids de réel ? Si c’est le cas, alors la photographie comme art de la capture du présent n’est pas simplement complétée par un nouvel outil. Elle est remplacée par quelque chose qui fonctionne selon une logique opposée, non plus la saisie d’un moment particulier mais la génération d’un moment probable, statistiquement cohérent avec ce qui a existé sans être pour autant l’un de ces moments.

Ce qui va arriver à cette puissance de calcul, je le sais à peu près. Le capitalisme viendra l’utiliser, et ce n’est pas une observation morale, c’est un constat mécanique : toute technique qui permet de produire des images moins chères et plus nombreuses finit par être absorbée par les industries qui ont besoin d’images moins chères et plus nombreuses. La publicité, le divertissement, la pornographie. Le problème n’est pas l’appropriation en elle-même, toutes les techniques ont été appropriées. Le problème est que cette appropriation particulière risque de refermer très vite quelque chose que ces images viennent d’ouvrir. Si DeepDream devient un outil de production de contenu optimisé pour l’attention, il cessera d’être ce qu’il est aujourd’hui, un révélateur involontaire de la logique de perception de la machine. Il deviendra un miroir de nos propres désirs calibrés, et la distance qu’il introduit actuellement entre notre culture et notre regard sur elle disparaîtra.

C’est cette distance qui m’intéresse, pas comme valeur esthétique abstraite mais comme fait concret. La machine qui hallucine des chiens dans une pizza ne sait pas ce qu’est un chien. Elle sait que dans beaucoup d’images, cette configuration de pixels est associée à cette autre configuration de pixels. C’est tout. Et cette ignorance produit quelque chose d’étrange, presque de la tendresse, en tout cas de la distance. Nous regardons notre propre culture avec les yeux de quelque chose qui l’a entièrement mémorisée sans jamais l’avoir habitée. Ce n’est pas le regard d’une intelligence artificielle au sens des films de science-fiction. C’est quelque chose de plus modeste et de plus troublant, le regard d’une archive qui se met à voir.

Peut-être que cette pizza-chien ressemble aux images que produirait une espèce qui nous aurait succédé et qui tenterait de reconstituer ce que nous étions à partir de nos traces. Une espèce qui n’aurait pas accès à notre expérience du monde, seulement à ses représentations, et qui produirait à partir de là quelque chose de fidèle dans la forme et entièrement déplacé dans le sens. Je ne sais pas si cette image est consolante ou non. Je sais qu’elle est juste. Et je sais que mon imagination pour elle fait partie de ce qu’elle décrit, que je suis moi aussi en train d’halluciner quelque chose dans ces pixels, quelque chose qui dit peut-être plus sur ce que j’attends de la machine que sur ce qu’elle est réellement.

I have been looking at this dog-pizza for a while now. It has been circulating on social media for a few days, ever since Google published its first images generated by DeepDream, and I cannot figure out whether it amuses me or worries me, or if these two feelings are merging into something I do not yet have a word for. What is certain is that it holds my attention. And I am somewhat wary of this retention, because I know that I am precisely the target audience for this kind of image—someone who has spent years looking for something else in the digital realm than what it ordinarily offers—and that my fascination may not be a response to something real, but rather the satisfaction of an expectation I built myself without realizing it.

That said, I believe something is truly happening. When I look at what has interested me in the digital realm from the beginning, I see a series of attempts to understand what the machine does to the image. The discretion of pixels, the glitch, three-dimensional synthesis with its cold, perfect surfaces like Platonic objects, forms without a history—none of that ever truly convinced me. These aesthetics worked around the machine, exhibiting its effects or its flaws, but they did not touch upon something deeper, namely the possibility that the machine might inhabit the image from within, that it might infect it, that it might introduce its own logic like a foreign body that is no longer entirely foreign. The Web had seemed closer to this transformation of archive and memory; perhaps that was only a preparatory step.

DeepDream does this. Not completely yet. Photorealism remains out of reach, and the images produced retain something messy, provisional. But it is precisely in this imperfection that something strange takes shape, something that resembles nothing we have produced before.

What happens in these images is twofold, and the two levels are inseparable. On one hand, the machine projects onto an image shapes it has learned to recognize in other images. It searches for dogs in a pizza, eyes in clouds, faces in building facades. This is pareidolia, that ancient mechanism by which human perception finds the familiar in the formless. Except that here, the pareidolia is algorithmic, systematized and amplified with each iteration until what the machine believes it sees ends up actually appearing in the image, as if belief were enough to produce the reality it anticipates.

On the other hand, these images look fabulously like an LSD hallucination. Not vaguely, not through some approximate metaphor. In a precise, recognizable way. Is this intentional? The question deserves to be paused upon rather than left open. The engineers who worked on this program operate within a Silicon Valley whose culture is largely shaped by the heritage of the 1960s, by experiments with psychedelics, by the idea that modifying perception is a way of modifying reality. Stewart Brand, who launched the Whole Earth Catalog in 1968 and helped define the ideology of this milieu, said that personal computers were the LSD of the 1980s, a tool for liberating individual consciousness. This lineage is not anecdotal. It means that the representation of the machine as a producer of altered states is not an accident, but a way of viewing technology that has been passed down from generation to generation within this particular milieu. When DeepDream produces images that look like hallucinations, it actualizes an old promise of the Californian counter-culture: that of a machine that does not calculate but dreams, that does not process information but transforms perception. Whether this is entirely conscious on the part of its creators or an inherited trait integrated without explicit reflection changes little. The resemblance is there, and it has a history.

What matters more to me is what this resemblance says about the status of these images. These are images of images. Not representations of the world, not captures of an external reality, but images that have fed on other images, that have integrated into their structure the memory of an immense visual corpus, and that produce something new and unstable from this accumulated memory. Ernst Cassirer described Symbolic Forms as the grand structures through which humanity organizes its relationship with the world—myth, language, science, art. These forms are not representations in the ordinary sense of the term; they are modes of organizing experience that have their own logic, their own temporality. What happens with DeepDream looks like an automation of this idea. As if the symbolic forms we have accumulated on the network over the past twenty years—all those images of dogs and pizzas and faces and landscapes—were being reprocessed by a machine that extracts a grammar from them and projects it onto any surface.

Belief in the image is destabilized as a result. Not because these images are false in the ordinary sense of the term. But because they superimpose multiple regimes in our perception at once: the indexical and the hallucinatory, trace and projection, memory and invention. One no longer knows whether one is seeing what is actually there or what the machine has decided to see there. And perhaps this uncertainty has always existed in our relationship to images; perhaps we merely believed that photographs showed reality because no one had yet provided us with images that exhibited the mechanism of projection so clearly.

How will these images evolve in the coming years? I seriously ask myself this question, without being able to answer it. Will they remain in this space of visible hallucination, of claimed instability, or will the process be refined until it produces something indistinguishable from an ordinary photograph? If the second option materializes, then something changes radically. It will no longer be just belief in the image that is destabilized. It will be the very notion of photographic realism, that implicit trust in the fact that an image necessarily has a referent somewhere in the world, that it documents something that took place. We will view all images, indexical or inductive, as potentially machine-produced images. They will be counterfactual images that resemble photographic images but were never taken, only learned and vectorized. I hypothesize that this counterfactuality opens up a realism of the possible that “documents” what could have taken place or what could take place. I confess that ever since my university years, I have been drawn to this concept of the possible, and I have constantly refuted the notion of the virtual. The distinction is not merely terminological. The virtual, in the Deleuzian sense of the term, designates what is real without being actual, a potentiality awaiting its conditions of realization, just as a seed already contains the tree without yet being it. It is a notion that retains a logic of origin and deployment, something that realizes itself from a pre-existing essence. The possible works differently. It does not wait for realization; it is lateral, coexisting with what took place without deriving from it. Two possible events can be equally coherent with the same past without either being more virtually contained in that past than the other. What DeepDream produces is not virtual in this sense; it is not an image waiting to be revealed within the corpus from which it stems. It is a possible image, an image that is coherent with this corpus without being its necessary consequence, without anyone ever having seen it or anticipated it. It was not there in potential. It is there through statistical likelihood. And this difference changes everything about how we understand what the machine does, because it means the machine does not reveal, it generates, and what it generates has no hidden depth to decipher, only a coherent surface to inhabit or not.

I had started working on this question last year with Memories Center: The Dreaming Machine, an installation in which a machine generates new dreams from a database of twenty thousand human dreams. What I was trying to stage was precisely this idea of a machine that dreams human dreams, that hallucinates our images based on what we gave it to memorize. DeepDream seems to me to go in the same direction, but more radically, because it does not rely on a delimited and intentionally constituted corpus. It has fed on what we produced and circulated without thinking about it, on the diffuse and incoherent totality of what humanity has photographed and uploaded to the network. And it extracts something from it that resembles a culture, a collective visual unconscious made visible by the iterations of an algorithm.

Perhaps this is the most interesting question these images pose. Are we moving from a realism based on the trace, on the specter of the “that-has-been” that Barthes spoke of, to something entirely different—a realism of the possible, a realism of everything that did not happen but resembles everything we have accumulated so much that it ends up having the same density, the same weight of the real? If so, then photography as the art of capturing the present is not simply supplemented by a new tool. It is replaced by something that operates on an opposite logic: no longer the seizure of a particular moment, but the generation of a probable moment, statistically coherent with what has existed without being one of those moments.

What will happen to this computing power, I more or less know. Capitalism will come to use it, and this is not a moral observation, but a mechanical statement: any technique that makes it possible to produce cheaper and more numerous images ends up being absorbed by industries that need cheaper and more numerous images. Advertising, entertainment, pornography. The problem is not the appropriation in itself; all techniques have been appropriated. The problem is that this particular appropriation risks shutting down very quickly something that these images have just opened up. If DeepDream becomes a tool for attention-optimized content production, it will cease to be what it is today—an involuntary revealer of the machine’s logic of perception. It will become a mirror of our own calibrated desires, and the distance it currently introduces between our culture and our gaze upon it will disappear.

It is this distance that interests me, not as an abstract aesthetic value, but as a concrete fact. The machine that hallucinates dogs in a pizza does not know what a dog is. It knows that in many images, this configuration of pixels is associated with that other configuration of pixels. That is all. And this ignorance produces something strange, almost tenderness, or at least distance. We look at our own culture through the eyes of something that has entirely memorized it without ever having inhabited it. This is not the gaze of artificial intelligence in the sense of science fiction films. It is something more modest and more unsettling: the gaze of an archive that has started to see.

Perhaps this dog-pizza resembles the images that would be produced by a species succeeding us and trying to reconstruct what we were from our traces. A species that would not have access to our experience of the world, only to its representations, and that would produce from there something faithful in form and entirely displaced in meaning. I do not know whether this image is comforting or not. I know that it is accurate. And I know that my imagination regarding it is part of what it describes, that I too am hallucinating something within these pixels—something that perhaps says more about what I expect from the machine than about what it actually is.