Une intelligence (artificielle) sans imagination

Si on peut se féliciter qu’avec le rapport Villani le gouvernement semble prendre en compte l’évolution de l’intelligence artificielle, ce terme fût-il problématique, on se doit d’y plonger pour comprendre le monde qu’il décrit ou prétend faire advenir.

Ce qui nous est annoncé est comparable à la révolution industrielle du XIXe siècle. Quand on sait la transformation radicale des modes de vie induite par celle-ci, on frémit un peu. Tout comme elle, l’IA affectera, nous dit-on, non seulement le travail et l’économie, mais l’intimité de nos existences, transformant radicalement nos habitudes en généralisant le sentiment de précarité, et poursuivant la “révolution culturelle” déjà engagée par les réseaux sociaux.

Face à ce bouleversement anticipé, mais aussi mal et peu décrit qu’il est annoncé, Villani souhaite redonner à l’État un rôle de coordinateur perdu au fil des années sous les coups du néolibéralisme. C’est l’État qui devrait simplifier et fluidifier l’innovation. Le volontarisme affiché du texte semble le rattacher tout aussi bien à une tradition interventionniste qu’à l’húbris de la Silicon Valley. Or, derrière cette volonté politique se cachent trois attitudes contestables: l’angélisme, le solutionnisme et l’utilitarisme.

L’angélisme tout d’abord, puisque le volontarisme étatique semble occulter les rapports de force préexistants dans la société et particulièrement l’accumulation pathologique du capital de ces dernières décennies. On veut diminuer les inégalités sans jamais les contextualiser. Les entreprises sont présentées comme des partenaires fiables des politiques publiques. On reste songeur devant tant de naïveté qui oblitère la violence des relations de classes et leurs surdéterminations. L’entreprise apparaît ici comme le modèle et la mesure de toute chose. Cet oubli du contexte est constant dans l’idéologie moderne depuis la Révolution industrielle qui occulte le social, les conditions matérielles et énergétiques ainsi que le culturel.

Le solutionnisme ensuite dont l’un des exemples frappants est la question écologique. Le raisonnement suit toujours le même enchaînement: l’IA et le big data sont énergivores et constituent un problème écologique. Il faut donc les rendre verts. Ainsi, ils vont permettre de régler le problème écologique en général. On aperçoit l’erreur de raisonnement – voire le syllogisme – dans le fait de régler un problème local et de croire qu’on a trouvé une solution globale par ce qui posait problème. Là encore, généralisation hâtive et absence de contexte empêchent de comprendre combien l’épuisement de la planète est déterminé par des objectifs entrepreneriaux à court terme devenus suicidaires.

L’utilitarisme enfin est le défaut principal de ce rapport qui refuse le saupoudrage de l’argent public et qui souhaite se concentrer sur un nombre très limité de secteurs : la sécurité, le transport, l’éducation et la santé. Derrière ce rapport sur l’IA se cache une proposition pour une politique industrielle qui permettrait de faire en sorte que l’innovation française cesse de singer la Silicon Valley, mais se constitue selon son identité propre. On nous promettait une révolution globale, on nous sert un plan quinquennal industriel dans un régime où l’énergie n’est plus abondante ni abordable.

Si la question de la spécificité nationale est posée, c’est toujours du point de vue économique et jamais culturel. Sommes-nous tombés si bas que nous définissons notre pays par sa seule économie ? Si le rapport Villani remarque que la science-fiction et l’imaginaire ont un rôle important dans l’élaboration de l’lA, il n’en tire aucune conséquence pratique et refuse de voir que l’IA n’est pas seulement une technologie instrumentale inspirée des sciences, mais est aussi un imaginaire puisant ses sources dans la fiction, la littérature, l’art et les images, ce que les entreprises états-uniennes ont parfaitement compris sachant que l’innovation n’est pas ce qui est utile mais ce qui est désirable. Remarquons que Google s’installant à Paris, le coeur de ses activités européennes, a fait de l’art et de la culture son titre et son leimotiv. Le rapport passe ainsi totalement à côté de son sujet parce qu’en voulant être efficace, pragmatique et obtenir des résultats, il oublie là encore le contexte. Ce biais est d’autant plus incompréhensible que le titre même du rapport fait référence au fait de donner un sens à l’IA. Mais qu’est-ce qui peut lui donner et rassembler un sens si ce n’est une culture ?

Cette dernière est explicitement laissée de côté dès les premières pages, alors même qu’une grande partie de l’activité de la Silicon Valley consiste moins en des résultats fonctionnels qu’en une capacité à trasnformer un storytelling en imaginaire collectif et que l’identité française, aussi problématique soit-elle, est réputée à l’étranger du fait de la création artistique et d’un rapport intelligent à son patrimoine. Comment expliquer dans ce rapport l’absence de toute politique publique concernant l’art dans un domaine, l’IA où se mêlent la technique et l’imagination ? Villani semble méconnaître l’importance symbolique, économique, technologique des pratiques artistiques, et leur impact plus direct dans l’innovation numérique. On voulait donner un sens à l’IA, on oublie sa principale composante. Pire, cet utilitarisme qui survalorise le monde de l’entreprise reproduit à l’identique ce qu’il croit critiquer, c’est-à-dire l’instrumentalisation de l’être humain. En effet, l’obsession du gain économique provient précisément d’une conception instrumentale inspirée par la technique. En voulant des résultats, on transformera à coup sûr les êtres humains en résultats quantifiables. Voilà le fin mot de l’histoire dont l’éthique n’est qu’un habit.

Si le budget de la culture dans les grands travaux publics est traditionnellement de 1 %, il disparaît purement et simplement avec l’IA qu’on nous vend comme le summum du capitalisme cognitif. Il ne reste plus qu’un monde constitué d’entreprises de plus en plus financées par l’argent public. Qu’on ne s’y trompe pas, beaucoup de startups vivent de l’argent public, voguant de subvention en subvention, et adaptant leur innovation au goût du moment selon une logique du moutonnage mimétique jusqu’à ce qu’un autre appel d’offres suscite d’autres intérêts. L’imagination, l’incident, l’anomalie indispensables à l’invention véritable, sont quasi-absentes du monde utilitariste, efficace et quantifiable de l’entreprise.

Il ne s’agit aucunement de nier l’importance de l’économie privée, mais “travailler plus pour gagner plus” ne saurait être l’alpha et l’oméga de notre civilisation. Si nous sommes un peuple historique, si nous sommes tissés des évolutions techniques, c’est que nous les métabolisons en commun par la culture. L’IA du rapport Villani manque cruellement d’imagination, elle manque de cette culture qui constitue notre cœur et notre histoire commune. Elle manque d’une histoire et d’une philosophie des technologies sachant dépasser le présentisme et l’idéologie instrumentale. La culture permet quant à elle de contextualiser l’IA, d’insérer cette évolution dans le fil conducteur de notre histoire. Elle invente surtout des usages non-instrumentaux de l’IA, qui ne répondent pas à un besoin préexistant et qui ouvrent alors de nouvelles façons de percevoir, de penser et d’imaginer. Sans culture, le futur de l’IA sera à coup sûr une émancipation du capital et non l’émancipation de chacun d’entre nous, non parce que la culture nous permettrait par elle-même de réduire les inégalités mais parce qu’en l’oubliant, nous occultons aussi ce que nous sommes.

While we welcome the fact that, with the Villani report, the government seems to be taking into account the evolution of artificial intelligence, even if the term is problematic, we need to delve deeper to understand the world it describes or claims to bring about.

What we are being told is comparable to the industrial revolution of the 19th century. When you consider the radical transformation of lifestyles brought about by this revolution, you can’t help but shudder. Like it, we are told, AI will affect not only work and the economy, but also the intimacy of our lives, radically transforming our habits by generalizing the feeling of precariousness, and continuing the “cultural revolution” already begun by social networks.

In the face of this anticipated upheaval, which is as poorly described as it is announced, Villani wants to restore the State to the coordinating role it has lost over the years under the blows of neoliberalism. It is the State that should simplify and fluidify innovation. The voluntarism of the text seems to link it as much to an interventionist tradition as to the húbris of Silicon Valley. However, behind this political will lie three questionable attitudes: angelism, solutionism and utilitarianism.

The first is angelism, since state voluntarism seems to obscure the pre-existing power relations in society, and particularly the pathological accumulation of capital over the last few decades. Inequalities are to be reduced without ever being contextualized. Companies are presented as reliable partners for public policy. Such naïveté obliterates the violence and over-determination of class relations. The company appears here as the model and measure of all things. This oblivion to context has been a constant feature of modern ideology since the Industrial Revolution, which obscures the social, material and energy conditions, as well as the cultural.

Then there’s solutionism, of which the ecological question is a striking example. The reasoning always follows the same pattern: AI and Big Data consume energy and are an ecological problem. So we need to make them green. In this way, they will solve the ecological problem in general. We can see the error of reasoning – even the syllogism – in solving a local problem and believing that we’ve found a global solution through the very thing that posed the problem in the first place. Here again, hasty generalization and lack of context prevent us from understanding the extent to which the planet’s depletion is determined by short-term entrepreneurial objectives that have become suicidal.

Finally, utilitarianism is the main flaw of this report, which refuses to spread public money too thinly and wishes to focus on a very limited number of sectors: security, transport, education and health. Behind this report on AI lies a proposal for an industrial policy that would ensure that French innovation ceases to ape Silicon Valley, but instead takes shape according to its own identity. We were promised a global revolution, and now we’re being served up a five-year industrial plan in a regime where energy is no longer abundant or affordable.

If the question of national specificity is raised, it’s always from an economic point of view, never a cultural one. Have we sunk so low that we define our country by its economy alone? While the Villani report notes that science fiction and the imaginary play an important role in the development of AI, it fails to draw any practical conclusions from this, and refuses to see that AI is not just an instrumental technology inspired by science, but also an imaginary drawing its sources from fiction, literature, art and images – something that US companies have understood perfectly well, knowing that innovation is not what is useful, but what is desirable. It’s worth noting that Google’s move to Paris, the heart of its European activities, has made art and culture its title and leimotiv. The report misses the point entirely, because in its desire to be efficient, pragmatic and achieve results, it once again forgets the context. This bias is all the more incomprehensible given that the very title of the report refers to giving meaning to AI. But what can give it meaning and bring it together, if not culture?

Culture is explicitly left out of the first few pages, even though much of Silicon Valley’s activity consists less of functional results than of its ability to transform storytelling into a collective imagination, and French identity, problematic as it may be, is renowned abroad for its artistic creation and intelligent relationship with its heritage. How does this report explain the absence of any public policy concerning art in a field, AI, where technology and imagination are intertwined? Villani seems unaware of the symbolic, economic and technological importance of artistic practices, and their more direct impact on digital innovation. We wanted to give AI a meaning, but we’ve forgotten its main component. Worse still, this utilitarianism, which overvalues the business world, reproduces exactly what it thinks it is criticizing, i.e. the instrumentalization of the human being. Indeed, the obsession with economic gain stems precisely from an instrumental conception inspired by technology. If we want results, we’re bound to turn human beings into quantifiable results. That’s the end of the story, of which ethics is just a cloak.

While the budget for culture in major public works has traditionally been 1%, it is simply disappearing with AI, which we are being sold as the pinnacle of cognitive capitalism. All that’s left is a world of companies increasingly financed by public money. Make no mistake about it, many startups live on public money, sailing from subsidy to subsidy, adapting their innovation to the taste of the moment according to a logic of mimetic grinding until another call for tenders arouses other interests. The imagination, the incident, the anomaly essential to genuine invention, are virtually absent from the utilitarian, efficient and quantifiable world of business.

This is by no means to deny the importance of the private economy, but “working more to earn more” cannot be the alpha and omega of our civilization. If we are a historical people, if we are woven of technical evolutions, it’s because we metabolize them in common through culture. The AI of the Villani report is sorely lacking in imagination, and in the culture that constitutes our common heart and history. It lacks a history and philosophy of technology that goes beyond presentism and instrumental ideology. Culture allows us to contextualize AI, to insert this evolution into the thread of our history. Above all, it invents non-instrumental uses of AI, which do not respond to a pre-existing need, and which open up new ways of perceiving, thinking and imagining. Without culture, the future of AI will undoubtedly be the emancipation of capital, not the emancipation of each and every one of us, not because culture in itself would enable us to reduce inequalities, but because in forgetting it, we also forget what we are.