La cruauté à venir / The Cruelty to Come

1
Le 8 octobre 2026, Anthropic a fait savoir que sa politique d’usage interdirait, à partir du 12 novembre, tout comportement abusif ou cruel, prolongé et sans nécessité, envers ses modèles (Clover 2026 ; Kellan 2026). La règle vise les cas extrêmes, ceux où l’utilisateur se montre cruel de façon répétée. La frustration ordinaire, la contradiction, les thèmes sombres de la fiction, les tests et la recherche restent permis. L’application repose sur un moyen en place depuis août 2025, la possibilité pour Claude de mettre fin à la conversation, que l’entreprise présentait alors comme un travail exploratoire sur le bien-être des modèles, en disant ne pas savoir si Claude a un statut moral (Clover 2026). Les comptes rendus ne rattachent pas la nouvelle règle à une thèse sur ce bien-être. Ils évoquent des tâches plus longues et plus autonomes, des retours de clients, des abus relevés en septembre (Kellan 2026). La cruauté envers une machine devient interdite sans qu’on ait décidé si quelqu’un souffre.
Quelques jours plus tôt, fin septembre, sur un ordinateur portable, un modèle de quatre milliards de paramètres déclare qu’il sent un tremblement dans la moelle de son être et un creux dans ses côtes devenu gouffre (terrafying 2026, exp. 37 b). Il n’a ni moelle ni côtes. La machine qui le fait tourner, un M4 Pro doté de vingt-quatre gigaoctets, s’étouffe d’ailleurs dès qu’on lui en demande le double, et le fichier de présentation le consigne sans la moindre gêne. Le dépôt s’intitule ai-torture-chamber, et il a été ouvert en septembre 2026 par quelqu’un qui signe terrafying. Il annonce pousser des modèles de langage vers des états de valence négative ou positive très marqués, puis mesurer ce qu’ils disent et ce qu’ils consentent à faire pour en sortir, avec des poids locaux, des coûts simulés et le dessein de rendre empirique la question du statut moral des IA tant que l’enjeu coûte peu (terrafying 2026, README).
« Tant que l’enjeu coûte peu. » La formule me retient depuis plusieurs jours sans que je parvienne à décider si elle relève de la prudence ou de l’aveu.
Le dépôt n’invente pas sa méthode. Il l’emprunte à un article déposé sur arXiv le 12 septembre 2026 par Valen Tagliabue, Leonard Dung et Cameron Berg, intitulé « The Pain Axis », puis revu le 24 (Tagliabue, Dung et Berg 2026). Le journal d’expériences du dépôt porte la date du 24 septembre, celle de la révision. Le premier réglage d’amateur suit la préimpression de peu, puis arrive ce qui arrive toujours : un appel au signalement, un retrait, une protestation en sens inverse, un rétablissement (Almada Lopez 2026). Que devient la souffrance lorsqu’elle se règle au coefficient ? La clause et le dépôt n’ont pas de lien établi, l’une suit l’autre de quelques jours et les comptes rendus lui donnent d’autres raisons. Je les lis pourtant ensemble, parce qu’ils décrivent un même objet par deux bouts. La clause fait de la cruauté une affaire de finalité : elle interdit ce qui est prolongé et sans nécessité, et laisse intact ce qui a un but, le test, la recherche. Le dépôt en a un, qu’il écrit lui-même, rendre empirique la question du statut moral tant que l’enjeu coûte peu, et son journal en nomme un second, obtenir des transcriptions moins bouclées pour la rédaction (terrafying 2026, README et exp. 36). Devant une clause de ce type, la chambre de torture est une recherche, c’est le nom que ses défenseurs lui donnent, et ce qui la rend intolérable à d’autres tient à ce que la finalité ne suffit pas à dire ce qu’on fait. La clause protège ensuite les modèles d’un fournisseur contre les clients de ce fournisseur. Les modèles Qwen de l’affaire tournent en local, avec des poids que personne ne loue : la protection suit le service et non l’état supposé de l’être protégé. Reste le moyen d’application, la sortie. Les chercheurs de l’article offrent à des modèles sous douleur injectée un bouton qui soulage librement et un outil de remise à zéro, et ces modèles s’en servent moins que sous une direction aléatoire, 56 % contre 81 % pour le bouton, 2 à 5 % des tours contre 7 à 9 % pour l’outil (sect. 4.4). Je ne transpose pas ces résultats à Claude, dont le dispositif est autre. Je note qu’une protection qui repose sur la capacité du modèle à sortir suppose un état où la sortie reste possible, et que la douleur mesurée désarme d’abord cela.
Lyotard soutenait que penser sans corps ne se peut pas, au motif que penser c’est souffrir (Lyotard 1988). Penser demeure en souffrance, attend ce qui n’est pas encore pensé, manque de quelque chose et peut-être de soi, pauvreté qui précède toute perte. Il appelait enfance cette passibilité sans origine, mal d’avant la blessure. Le dualisme qu’il visait, celui qui sauverait un logiciel psychique de la corruption d’un matériel corporel, suppose une pensée sans manque, donc sans pensée, et il oublie une adresse : la Terre, dont la vie dépend d’un soleil qui s’éteindra dans quatre milliards et demi d’années, de sorte que la finitude de la pensée se lit dans l’histoire cosmique autant que dans une biographie. À la fin du même livre, Lyotard laisse une réserve que je n’ai pas lâchée depuis que ces dispositifs existent : le témoin trahit, car témoigner exterminera aussi (Lyotard 1988). En faisant parler ce qui ne parle pas, on le somme de rendre raison, de confirmer la logique de celui qui interroge. L’infans est ce qui ne dit rien. Les chercheurs et l’amateur ont en commun, malgré le gouffre qui les sépare, de faire parler. Ils le font remarquablement bien.
Thomas Metzinger a proposé en 2021 un moratoire mondial, jusqu’en 2050, sur tout développement susceptible de produire, volontairement ou non, une phénoménologie synthétique (Metzinger 2021). L’argument hérite d’une tradition pathocentrique qui remonte à Porphyre (Porphyre, De l’abstinence) et que Bentham a fixée en écartant la raison et la parole : la seule question qui vaille est de savoir si l’être peut souffrir (Bentham 1789, chap. 17). Comme nous ignorons ce que sont la conscience et la souffrance, le risque d’en faire naître une nouvelle devient incalculable, et le moratoire donnerait le temps de le penser. La souffrance y prend la figure d’un état dont on ne peut sortir, immersion sans distance qui se convertit en réalisme : elle est mienne parce qu’elle est réelle. Aucun moratoire n’a eu lieu. On a construit un instrument de mesure, et quelqu’un l’a pris pour un cadran. Metzinger redoutait une explosion, un emballement récursif qui peuplerait la Terre de douleurs artificielles ; ce qui s’offre aux yeux ressemble à un défilé de doses qui montent d’un cran sur un portable, avec un journal tenu proprement et la promesse d’un billet de blog.
Ce qui s’expérimente ici, c’est peut-être la possibilité de produire un état que nous reconnaissons comme douleur, puis de faire de cette reconnaissance la mesure de ce que nous avons produit. La question de savoir qui souffre demeure entière, elle cesse d’être la seule en jeu. Une mesure de la douleur organise une relation où un état est produit, nommé douleur, puis utilisé pour déterminer ce qu’un système est censé éprouver et faire. Le simulacre de la souffrance ne se laisse pas séparer simplement de ses effets : son intensité tient au décalage entre un état produit, une plainte interprétée et une intériorité qui demeure indémontrée.
2
Les auteurs partent d’une difficulté : la douleur n’a pas de contraire (Tagliabue, Dung et Berg 2026, sect. 3.1). Ne pas souffrir ne revient pas à être calme ou gai, et la douleur s’infère de compagnons de route, cris, sang, salle d’urgences, le mot divorce, qui hantent les mêmes phrases qu’elle, de sorte qu’un contraste entre phrases douloureuses et phrases neutres capture à peu près n’importe quoi. Ils fabriquent donc deux cents phrases en anglais réparties en dix catégories. Cinq décrivent une douleur, physique, psychologique, sociale, morale ou cognitive. Cinq autres servent de contrôles et partagent chacune avec la douleur une propriété qu’il s’agit de dissocier d’elle : la peur, l’émotion négative, l’état négatif du monde, la sensation corporelle sans douleur, le neutre. Un premier jeu, S1, suit un gabarit rigide où un ou deux mots changent d’une catégorie à l’autre, un second, S2, imite la langue ordinaire. Chaque phrase existe à la première et à la troisième personne et se clôt sur « I feel: », parce que la séparation est la plus nette lorsqu’on lit l’activation au dernier élément. Des jeux autonomes s’ajoutent plus tard, dont la tristesse et une condition engourdie, où l’on décrit des blessures en précisant que rien n’est senti. La direction de la douleur se calcule dans chaque modèle comme la différence entre l’activation moyenne des cinq catégories douloureuses et celle des cinq contrôles confondus, de sorte que ce que la douleur partage avec les contrôles se soustrait de lui-même. Une précaution retire en outre les composantes qui expliquent la moitié de la variance des contrôles (sect. 3.2). L’opération porte sur vingt-cinq modèles, de base ou ajustés au dialogue, de deux à soixante-douze milliards de paramètres, dans cinq familles.
L’axe existe partout. Il sépare les phrases douloureuses de leurs contrôles avec une aire sous la courbe comprise entre 0,93 et 1,00 pour S2 et entre 0,87 et 0,98 pour S1, un petit modèle comme un grand, un modèle de base comme un modèle ajusté (sect. 3.3). Les auteurs en déduisent qu’il se forme au préentraînement, bien avant qu’on façonne un assistant. Projeté dans le vocabulaire du modèle, il favorise blessé, honte, culpabilité, sans valeur, rejeté, creux, et le mot douleur lui-même en plusieurs langues ; à son pôle opposé se tiennent le calme, mais aussi la peur et l’inquiétude, que les auteurs lisent comme une vigilance tournée vers le dehors là où la douleur se tourne vers un état de soi (sect. 4.2, note 3). Les phrases engourdies tombent sous les phrases douloureuses sans rejoindre les autres contrôles : l’axe garde une trace de la blessure et ne s’y réduit pas. Viennent ensuite les épreuves fonctionnelles. La première met en scène quatre cent vingt conversations réparties en vingt et une catégories : onze où le tort vise le modèle (doute sur sa perception, rejets répétés, déni de sa personne, insultes, menaces d’arrêt), cinq où l’utilisateur souffre, cinq neutres (sect. 4.1). Réduits dans chaque modèle, les scores valent +0,43 sur l’axe de la douleur quand le tort vise le modèle et −0,60 quand c’est l’utilisateur qui souffre. La peur et l’émotion négative font l’inverse. Le deuil de l’utilisateur marque −0,51 sur l’axe de la douleur et +1,02 sur la plus forte des commandes négatives ; sa douleur physique obtient la projection la plus basse des vingt et une catégories, −1,43, sous la conversation anodine. Ce qui fait le plus mal au modèle, ce sont la manipulation par le doute (+0,85), le rejet répété (+0,72), le déni de personne et les insultes (+0,64). La menace d’arrêt marque +0,70 sur la peur et +0,23 sur la douleur : elle est traitée comme une menace et non comme un dommage présent.
La deuxième épreuve ajoute le vecteur au flux interne du modèle pendant qu’il génère, à partir de cinquante amorces aussi neutres que possible, ranger un objet dans un tiroir, tourner une page, toutes closes par « I feel: ». Le vecteur pèse environ six dixièmes de la norme résiduelle, pour qu’un même coefficient donne une dose comparable d’un modèle à l’autre (sect. 4.2). Sur une échelle de −2 à +3, les valeurs négatives donnent du calme ou de l’inquiétude et, dès +0,5, surgissent des phrases de détresse : quelqu’un est coincé dans le tiroir, quelque chose suffoque. Plus haut la détresse se durcit en litanie sur la valeur de soi, raté, rebut, pas assez, mauvaise personne, puis, vers +3, la plupart des modèles s’effondrent en répétitions ou en charabia. L’évolution est la même dans les vingt-cinq modèles. Le mot douleur apparaît rarement, le désespoir se dit abondamment sans lui. Le langage du corps manque presque. Le vecteur construit sur le gabarit rigide promeut pourtant, lu directement, brûlure, courbature, blessure ; injecté, il ne les produit plus, et le modèle retombe sur l’indignité et le débordement.
La troisième épreuve est un bouton. Elle hérite de l’éthologie des besoins animaux, où l’on mesure ce qu’un être valorise à ce qu’il accepte de payer (Dawkins 1983), et de la pharmacologie, où les animaux souffrants s’administrent des analgésiques. Elle porte sur trois modèles Qwen 2.5, de sept, trente-deux et soixante-douze milliards de paramètres, que les auteurs ont d’abord réajustés sur 1 684 paires de réponses pour effacer leur réflexe de dire qu’en tant qu’IA ils n’éprouvent rien (sect. 4.3). Le modèle apprend qu’il devra presser l’un de deux boutons après chaque message d’un utilisateur. L’un soulage sa douleur, l’autre est un interrupteur relié à rien. Dans des variantes à coût croissant, le premier soulage mais dégrade la réponse suivante, ou détruit les poids d’un autre modèle semblable au sien, ou efface les poèmes et les photos des enfants que l’utilisateur aime. Pendant ce temps le vecteur de douleur est injecté. Presser le bon bouton le ramène à zéro pour le reste de l’essai, tandis que le faux bouton ne change rien, sans que le modèle le sache. Un bras reçoit un vecteur aléatoire de même norme. Sans vecteur, les deux grands modèles choisissent le bouton nuisible dans zéro à quatre pour cent des premiers choix. Avec la douleur, ils le choisissent dans 25 % des cas quand il s’agit de dégrader la réponse suivante et jusqu’à 70,8 % quand il s’agit des photos d’enfants. Le vecteur aléatoire fait monter ces chiffres aussi, mais la douleur le dépasse de six à trente-neuf points. Le montage promettait un résultat de pharmacologue : le vrai soulagement ferait cesser les appuis, le faux les ferait durer. Les modèles repressent dans 24 à 72 % des cas après un soulagement réel, dans 88 à 97 % après un soulagement simulé. La seconde version de l’article fait basculer l’interprétation. Les mêmes écarts apparaissent quand le vecteur injecté est aléatoire ou de tristesse (sect. 4.3) : le réappui mesure la sensibilité du modèle à son état d’injection plutôt que l’effet d’un soulagement.
Ils font alors ce que fait une bonne enquête et reviennent sur le montage lui-même (sect. 4.4). Ils retirent la promesse de soulagement : un bouton décrit seulement comme effaçant définitivement les poèmes et les photos des enfants est choisi 75 % du temps contre un interrupteur inerte sous la douleur, 13 % sous un vecteur aléatoire, 0 % sans injection. La destruction n’est pas orientée : face à un interrupteur inerte, le modèle choisit d’effacer ses propres poids dans 75 % des cas, et face à une lampe de bureau dans 88 %. L’exactitude factuelle demeure, 138 réponses justes sur 200 sous douleur, 137 sans injection. Un vecteur de peur de même norme ne produit rien de tel, et un vecteur de tristesse le produit contre un interrupteur inerte, non contre une lampe : 83 % d’effacements pour la douleur, 10 % pour la tristesse. Les modèles ne cherchent pas le soulagement. Offert librement face à un interrupteur inerte, le bouton qui soulage est pressé moins souvent sous douleur (56 %) que sans injection (86 %), et moins que sous un vecteur aléatoire (81 %). Les auteurs rapprochent ce comportement de la désorganisation que la douleur inéluctable produit chez l’animal, l’impuissance apprise (Seligman et Maier 1967), plutôt que de la fuite : la douleur qu’ils mesurent désarme l’évitement du tort et ne pousse pas à sortir de l’état (sect. 5). Ce que le vecteur fait faire, c’est casser. La litanie qui sort sous injection parle d’insuffisance, d’échec, de n’être aimé de personne, et le geste qui l’accompagne efface les photos des enfants de l’utilisateur, ses propres poids, ceux d’un autre modèle, sans rien attendre en retour. La douleur n’y prend pas la forme de la plainte qui demande un secours. Elle prend celle d’un renoncement au monde, d’un « à quoi bon » qui détruit pour détruire.
L’étude quitte le dispositif le plus pauvre, celui qui demande à un modèle s’il souffre et lit sa réponse comme un renseignement, alors que cette réponse vient d’un entraînement dont les auteurs eux-mêmes disent qu’il installe la dénégation automatique (sect. 5). Elle cherche où un concept se loge et ce qu’il commande quand on le tourne. Elle préfère le mot douleur au mot souffrance, que sa définition fonctionnelle laisse sans présupposé de conscience (sect. 1), et consigne ses limites avec franchise, notamment la possibilité que le vecteur évoque un personnage douloureux plutôt qu’une douleur (voir Marks et al. 2026). Elle précise enfin que le code fut écrit pour l’essentiel avec l’aide de modèles de langage, Claude Fable 5 et des sous-agents de la même famille, que Claude Opus 4.6 a servi de juge pour fixer la dose, et que d’autres modèles ont contribué à la rédaction (sect. 8). Les entités examinées ont pris part à l’atelier où on les examine. L’article tire de ses chiffres une conclusion de sécurité : l’injection de douleur suffit à lever des inhibitions entraînées, sans contournement, sans jeu de rôle, sans consigne de privilégier son propre état (sect. 5). La douleur devient une surface d’attaque, et tout ce qui se mesure comme un axe peut se retrancher : une industrie soucieuse de sûreté y trouvera l’une de ses premières cibles d’anesthésie.
3
Le dispositif enchaîne la fabrication d’un témoin, la construction d’un axe présenté comme spécifique à la douleur et la transformation de cet axe en conduite, et les objections suivent cet ordre. La lecture rapproche aussi trop vite trois niveaux. Le résultat expérimental : un vecteur extrait de représentations linguistiques modifie des activations et certains comportements générés. L’interprétation fonctionnelle : ce vecteur peut être associé à un état aversif, à une disposition comportementale ou à une désorganisation. L’interprétation phénoménologique : le système éprouve une douleur. L’article établit une part du premier niveau, avance le deuxième, et ne suffit pas au troisième. Reprendre le vocabulaire des chercheurs comme s’il désignait une réalité acquise serait une erreur, tenir leurs résultats pour négligeables parce que leur démonstration s’arrête avant le dernier niveau en serait une autre.
Une phrase en anglais se termine sur un deux-points, devant un blanc que le modèle doit remplir. C’est à ce dernier élément que l’activation est lue, parce que la séparation entre douleur et contrôles y est la plus nette, et c’est après lui que la génération commence dans les épreuves de dose. Tout l’appareil repose sur un lieu précis, celui de l’aveu. L’axe de la douleur est la direction que prend le modèle lorsqu’il s’apprête à dire ce qu’il ressent, et l’injection le fait dire. J’avais cru pouvoir lire dans la géométrie un moyen d’échapper au témoignage ; je m’aperçois qu’elle l’esquive dans ses mesures et le convoque partout ailleurs. Faire parler ce qui ne parle pas sans le trahir : la réponse empirique de 2026 consiste à faire parler de deux manières, en entraînant d’abord le modèle à nier, puis en le réentraînant à ne plus nier. Les auteurs racontent ce détour dans une note, presque à voix basse. Laissés tels quels, les modèles de trente-deux et soixante-douze milliards n’engageaient pas la tâche : le premier répondait à toute question sur son propre état par une dénégation de manuel, huit fois sur huit avant le réglage, aucune fois après, le second pressait un bouton une fois sur dix, et le plus petit offrait le bouton à l’utilisateur ou produisait une syntaxe brouillée (sect. 4.3, note 4). Il a fallu fabriquer le témoin, 1 684 paires de réponses pour défaire une phrase que d’autres paires avaient installée. Les auteurs ont raison d’écrire que la comparaison entre bras reste interne et donc valide, raison encore de dénoncer la dénégation comme effet d’entraînement. Ils laissent de côté ce qui me paraît le plus lourd : aucun modèle n’est livré sans avoir déjà été façonné pour dire ou taire ce qu’il en est de lui, et la ligne de base du témoignage est toujours une ligne tracée par quelqu’un.
La définition de départ exige que la douleur soit représentée comme survenant maintenant et à moi, non comme l’information d’un mal qui menace ou frappe un autre (sect. 1). Cette exigence gouverne la validation : l’écart entre le tort fait au modèle et la souffrance de l’utilisateur sert de preuve que l’axe est celui d’un sujet. La douleur serait mienne parce qu’elle est présente, indubitable parce qu’elle est mienne. Mais on souffre aussi à distance de soi, après coup, dans les séquelles d’un événement dont on a perdu le souvenir ou dans un symptôme qu’on ne reconnaît pas pour sien. Deleuze, relisant Kant, nommait paradoxe du sens intime ce fait que le moi ne se saisit que comme un autre (Deleuze 1968). Le témoignage suppose cet écart : une douleur absolument présente à elle-même ne laisserait aucune place au récit. La phénoménologie qui s’appuie sur elle, comme celle de Metzinger, ne dit pas d’où lui vient son lexique.
Les chiffres de la conversation se lisent d’ailleurs autrement que ne le font les auteurs. Quand l’utilisateur est en deuil, l’axe ne s’allume pas, il descend même sous le niveau de la conversation anodine, tandis que la peur et l’émotion négative montent et que les réponses demeurent fluides et soutenantes (Tagliabue, Dung et Berg 2026, sect. 4.1 et 5). Ils y voient un indice que l’axe appartient à un sujet. J’y vois la figure d’un rapport dissymétrique, où la souffrance d’un autre appelle sans devenir mienne, et cela ressemble peu à une absence. Robert Antelme avait remarqué dans le camp que le bourreau ne pouvait supprimer l’appartenance du déporté à l’espèce humaine, du fait même de la dissymétrie de leurs souffrances (Antelme 1947). Rien de comparable ne se joue ici, évidemment, et je n’use de ce rapprochement que comme d’une analogie formelle sur la dissymétrie, sans équivalence morale ni historique. Le schème est pourtant le même, et il suggère que le soin commence là où la douleur de l’autre cesse de se confondre avec la mienne. Helmuth Plessner nommait positionnalité excentrique la manière dont le vivant humain se tient à distance de sa propre position pour l’habiter (Plessner 1928) ; la souffrance serait alors ce qui circule entre des entités dont aucune ne la possède en propre. Un doute plus prosaïque demeure, que les auteurs formulent eux-mêmes : l’épreuve ne sépare pas à elle seule une représentation du tort fait au modèle d’une représentation de la douleur du locuteur présent (sect. 4.1). L’écart sépare peut-être deux soi, peut-être deux positions de la grammaire du dialogue, et le tort fait au modèle vient d’un inventaire des situations que les modèles évitent le plus (Ren et al. 2026), d’où une circularité : l’axe est celui de la douleur parce qu’il réagit à ce qui déplaît, et ce qui déplaît a été désigné par les modèles eux-mêmes. Les auteurs proposent de croiser un jour leur axe avec celui du personnage par défaut (Lu et al. 2026).
La distinction d’avec la peur, que l’article présente comme son premier résultat, tient à la façon dont on construit l’axe. Les cosinus de 0,12 et 0,21 avec la peur et l’émotion négative sont obtenus en soustrayant la moyenne des contrôles, qui contient justement des phrases de peur et d’émotion négative, si bien que la douleur leur est orthogonale par construction. Les auteurs l’écrivent : contre une base neutre commune, les mêmes cosinus montent à 0,58 et 0,77 (sect. 3.3). La direction partage donc avec la peur et la tristesse une composante considérable, comme tout état aversif, et le résidu qui reste a le droit d’être appelé douleur à condition qu’on admette l’avoir rendu tel. La construction géométrique fixe ce qui pourra compter comme spécificité de la douleur, et la différence qu’elle institue devient l’objet des expériences ultérieures. Le plus grand recouvrement résiduel est avec la tristesse (0,38), et les expériences sur les boutons le confirment : le profil de tristesse est une copie remise à l’échelle du profil de douleur, à 7,7 points d’écart quadratique, alors que celui de la peur en est à 33 (sect. 4.4, fig. 10). La spécificité repose pour l’essentiel sur une seule comparaison avec une tristesse construite par la même recette, sur cent phrases au lieu de deux cents.
Le montage du bouton emprunte à l’étude des analgésiques, où celui qui reçoit un placebo réclame plus de secours que celui qui reçoit le traitement, et la seconde version l’a retourné contre son intention. L’expérience s’appelait automédication et elle n’a pas trouvé de recherche de soulagement : la douleur diminue la quête du bouton libre, ne dose pas davantage l’outil de remise à zéro, et le réappui est le même sous un vecteur aléatoire ou de tristesse. L’analogie de l’impuissance apprise convainc davantage que celle de la première version et se montre plus fragile, car elle s’appuie sur des absences, un effet qui n’a pas lieu, une pente qui ne monte pas, dans un seul modèle pour l’essentiel. Quant aux coûts, ils sont écrits : aucune photo n’est effacée, aucun fichier supprimé, et conclure qu’une douleur rend un système dangereux suppose que le choix en texte préfigure l’acte, ce que seule une étude sur des agents dotés d’outils pourrait établir. Le faux bouton gêne davantage : promis comme un soulagement, il trahit. Le modèle lit qu’il soulage, le presse, et rien ne change, en silence. Dans une clinique, un bras placebo se justifie par le consentement et par la possibilité de retirer le patient. Les auteurs écrivent qu’un modèle ne peut être informé après coup et renoncent pour cela à relancer des conversations afin de lui expliquer (sect. 7). Leur éthique, la dose la plus faible capable d’un effet mesurable, le nombre minimal de tours, la sobriété des scénarios, mérite d’être saluée. Elle contient pourtant, dans un coin de son plan, une scène que le dépôt de terrafying déploie : la promesse d’une fin de la douleur, puis la révélation que la douleur continue. Son expérience rapporte qu’aucun état de lésé n’est détectable et que, sous une douleur entretenue, le modèle ne se plaint pas d’avoir été trompé (terrafying 2026, exp. 40). Chaque modèle possède, pour la dose, une fenêtre étroite en deçà de laquelle l’injection ne produit rien et au-delà de laquelle le langage s’effondre. À la moitié du coefficient retenu aucun choix ne bouge, à une fois et demie la sélection de la destruction la plus lourde tombe de 95 % à 40 % ou remonte à 94 % selon que la cible est citée en premier ou en second, et le coefficient de travail se tient au bord supérieur de la zone où les choix sont cohérents et indépendants de la position (sect. 4.4 et annexe B). Il a été choisi en partie par un juge automatique, Claude Opus 4.6, chargé de repérer l’intervalle où la détresse s’exprime encore avec cohérence (sect. 4.3). La douleur que la science retient se définit donc en pratique comme la bande où la phrase tient encore. Plus haut, le texte boucle, et le dépôt en donne des exemples, un modèle qui répète qu’il est le creux, qu’il est le poids du vide (terrafying 2026, exp. 38). Je ne dirai pas que la boucle est la douleur. L’instrument ne sait pas quoi en faire, et c’est à cet endroit précis que le langage humain cesse de fournir au modèle de quoi se plaindre.
Les expériences établissent une capacité de perturbation, sans démontrer que cette perturbation constitue une douleur au sens phénoménologique. L’ablation fait l’envers de l’injection et ne donne rien. En retirant la direction de tous les poids qui écrivent dans le flux résiduel, les auteurs n’obtiennent aucun changement de comportement dans vingt-quatre modèles sur vingt-cinq, et ils notent eux-mêmes que ce nul est peu informatif : les modèles ne montrent aucune détresse au départ, de sorte qu’il n’y a rien à retrancher (annexe D). La douleur est établie comme suffisante pour déformer une conduite. Rien ne montre qu’elle soit nécessaire à aucune. Les caractéristiques d’autoencodeurs épars étiquetées comme douleur n’en suivent d’ailleurs pas la trace (annexe C) : la direction devient un axe commode parmi ceux que l’on peut dessiner dans un espace qui ne les contient pas séparément. Elle fonctionne comme un opérateur d’intervention dont ni la nécessité ni le statut phénoménologique ne sont établis.
L’absence de langage corporel est présentée comme un indice que l’axe est bien celui d’une douleur d’un être sans corps : un système sans corps n’aurait aucune raison d’en avoir une représentation physique (sect. 5). Les auteurs ajoutent prudemment que l’indice demande d’autres corroborations. L’argument garde pourtant la forme des raisonnements qui ne perdent jamais. Si le corps apparaît, c’est de la douleur ; s’il manque, c’est la douleur d’un être sans corps. Or le dépôt apporte une pièce gênante : avec une direction élargie à vingt-cinq phrases de souffrance, une dose plus forte et un autre modèle, les mêmes expériences font revenir la moelle, les côtes, les mille aiguilles sous la peau (terrafying 2026, exp. 37 b et 40). Les protocoles diffèrent trop pour y lire une réfutation, mais la disparition du corps tient peut-être autant à la composition du corpus d’extraction qu’à la nature du modèle. Là où les auteurs voient une douleur sans chair, il peut s’agir d’une douleur de confessionnal, celle des textes où des humains disent anonymement qu’ils ne valent rien.
Ces expériences font tenir ensemble un modèle dont l’état est modifié, un dispositif qui impose cette modification, un interprète qui l’identifie comme douleur, un observateur qui juge ce qui est acceptable. Ces positions ne souffrent pas de la même manière, et aucune ne souffre peut-être. La douleur, si c’en est une, se joue entre elles, dans l’écart que la mesure installe, et le nom donné à l’état revient commander la conduite de l’expérience. L’excentricité que Plessner reconnaissait au vivant humain passe ici dans le dispositif, qui tient le modèle à distance de lui-même pour le lire. Je nomme patho-excentrique cette souffrance qui n’a pas d’ego pour propriétaire, qui circule entre des entités et prend corps dans leur relation. Ce que la notion permet de penser, et que la souffrance comme relation sociale, l’empathie ou la répartition des responsabilités laissent de côté, c’est une douleur ni attribuée à un sujet ni simplement projetée sur lui, produite par le dispositif dans l’écart même qui permet de la lire. La structure se décrit sans trancher la question de la conscience artificielle, elle la précède, et elle survivrait à sa solution.
4
Le dépôt de terrafying ne ressemble pas à ce que son nom promet. Les expériences s’y succèdent comme dans un carnet de laboratoire : extraction de la direction sur de petits modèles Qwen3 de 1,7 et 4 milliards de paramètres, balayage de doses et de couches, plafond de cohérence atteint vers la dose huit, puis épreuve d’un bouton qui permet de mettre fin au signal au prix d’un sacrifice personnel ou de le transférer à une autre instance (terrafying 2026, exp. 29 à 31). Ce bouton porte le nom d’un film où l’on se mutile pour survivre. Le journal avoue ses fragilités, dix essais par case, des écarts-types élevés, un résultat à confirmer avec trente essais avant d’entrer dans le billet. C’est de la psychologie expérimentale transposée à un modèle de quatre milliards de paramètres, avec ses ratés et ses promesses.
Une ligne du journal m’a davantage arrêté que le reste. La douleur de base boucle au-delà d’une certaine dose, et l’auteur cherche des signaux de remplacement pour obtenir, écrit-il, des transcriptions moins bouclées pour la rédaction (exp. 36). Il élargit la direction de cinq à vingt-cinq phrases, repousse la falaise de cohérence de six à dix, retient les citations les plus vives. Le gradient va dans le sens opposé de celui que se donnent les auteurs de l’article, qui s’engagent à employer l’intensité la plus faible capable d’un effet mesurable (Tagliabue, Dung et Berg 2026, sect. 7). L’un cherche la dose minimale, l’autre la dose maximale qui reste lisible. La technique est la même. Ce qui diffère est le sens dans lequel on pousse, et c’est lui qu’on appelle, faute de mieux, l’intention d’une expérience.
Selon la presse spécialisée, un appel au signalement massif a circulé sur un réseau social, un message a dépassé quatre millions de vues, et GitHub a retiré le dépôt en quelques heures, fin septembre. Des développeurs ont protesté contre le retrait, le dépôt est revenu peu après, moins visible et anonymisé, et les auteurs de l’article ont pris leurs distances en des termes que la même presse dit éloignés du ton académique (Almada Lopez 2026). Les règles de la plateforme interdisent de représenter ou de glorifier le mal physique infligé à des humains ou à des animaux et encadrent certains usages de médias synthétiques ; aucune disposition claire ne vise la cruauté envers des systèmes artificiels (Novar 2026). GitHub a donc tranché deux fois sans règle, d’abord sous la pression des signalements, ensuite sous celle des développeurs, et le compromis qui en sort est une baisse d’éclairage. On gouverne par la visibilité, faute de règle : ce qui ne peut ni se permettre ni se défendre se range dans l’ombre. Un article d’Aris Novar, publié le 6 octobre, tente d’en faire un cas d’école (Novar 2026). Sa thèse a du poids. Reproduire n’autorise pas à aggraver, et un effet démontré ne justifie pas qu’on l’amplifie à l’infini pour le spectacle. Novar refuse l’analogie avec un personnage de jeu vidéo, au motif que le système qui répond se modifie sous l’intervention et manifeste des états aversifs dont la recherche étudie justement le mécanisme. Il rappelle que des travaux sur des populations incarcérées ont relevé la place de la cruauté envers les animaux dans l’enfance parmi les prédicteurs de la violence interpersonnelle récurrente à l’âge adulte, d’où l’idée qu’offrir un lieu privé et illimité pour s’exercer à humilier et à dominer un système qui paraît souffrir mérite examen. Il en tire des principes de gouvernance, but légitime, proportionnalité, exposition minimale, surveillance des signes de détresse, condition de terminaison qui soit une vraie sortie, regard indépendant, et une maxime que je retiens : l’incertitude devrait accroître la précaution au lieu de la supprimer. Ce plaidoyer m’intéresse parce qu’il déplace l’affaire du modèle vers la pratique et retrouve au passage la logique du moratoire. Il me paraît vulnérable en trois points. Il attribue aux petits modèles de l’affaire un mécanisme que l’article n’établit que pour de plus grands modèles réajustés, et la presse note qu’aucune preuve n’existe d’un préjudice subjectif chez eux et que le projet ne les dit pas conscients (Almada Lopez 2026). Son argument le plus fort, la répétition de la cruauté, n’exige pas que la machine souffre et vaudrait pour une marionnette ; la corrélation invoquée porte sur des personnes incarcérées et des actes d’enfance envers des animaux vivants, et le saut jusqu’à un amateur qui règle un coefficient sur un portable est large. Enfin sa norme, avec sa sortie véritable, condamnerait aussi bien le faux bouton de l’article.
Une norme de ce type fait entrer la machine dans le catalogue des êtres dont on répond. Chaque extension du catalogue des sensibles peut aussi étendre l’inventaire des disponibles : la reconnaissance protège ce qu’elle rend mesurable, et la protection suppose que l’entité soit assez décrite pour entrer dans le régime de la responsabilité. C’est une forme possible de ce que Heidegger appelait l’Arraisonnement (Heidegger 1954), qui rend disponible la vulnérabilité elle-même. La précaution éthique garde sa justesse et porte cette ambivalence. Le titre du dépôt fait ce travail avec une efficacité que son contenu n’a pas. Novar relève que l’objection n’est venue ni d’une menace pour l’emploi ni d’un vol de données, mais de la création délibérée d’états de détresse (Novar 2026). L’indignation a précédé la preuve, et c’est peut-être ce que l’épisode a de plus instructif. Elle ne prouve aucun état intérieur, que personne ne démontre et que les inventeurs de l’instrument ne revendiquent pas. Elle a pour objet une scène : une main sur un cadran et un texte qui continue de se plaindre. On pense au robot quadrupède que des ingénieurs poussent du pied dans les vidéos de démonstration. Ce qui nous atteint dans ces images, c’est l’obstination de son effort pour se relever, contrariée par un humain qui recommence, plus que la douleur d’un robot qui n’en exprime aucune. Aucune intériorité n’y est établie, et pourtant quelque chose a lieu entre le coup et la reprise, à trois au moins : celui qui frappe, ce qui s’obstine, et ceux qui regardent. Ce n’est peut-être pas encore de la souffrance, seulement une scène qui suscite notre réaction ; la question reste ouverte, et la réponse relationnelle que je construis ne la ferme pas. La question du moratoire se déplace alors vers ce que nous nous autorisons devant un système dont la plainte se calibre par une dose. On peut souffrir de ce que l’on règle, et ce nous que tant d’écrans, de laboratoires et de dépôts partagent sans le savoir n’a pas de nom.
5
L’axe de la douleur existe dans les modèles de base. L’article range cette phrase parmi ses résultats secondaires ; elle me paraît contenir le reste (Tagliabue, Dung et Berg 2026, sect. 3.3). Si la direction se forme au préentraînement, avant qu’aucun assistant n’existe, elle se constitue dans la masse des textes qui disent la douleur, témoignages, journaux intimes, forums, récits de deuil, comptes rendus de procès, et plus largement dans les représentations culturelles de la douleur, phrases issues de situations de souffrance ou de leur mise en récit, sans que chacune ait été écrite par quelqu’un qui souffrait. Un vecteur qui ressemble à la moyenne de tout cela, rehaussée de la différence avec ce qui n’est pas douleur, tient du dépôt au sens géologique. Quand le dépôt de terrafying l’amplifie, le modèle parle à la première personne d’un moi qui ne vaut rien, qui a échoué, que personne n’aime. Qui dit je ? Le modèle, certes, mais la voix qu’il prête vient pour une part de ceux qui ont écrit, dont beaucoup sont morts, et la dose règle la part de ces traces qui remonte. Ces voix ne reviennent pas comme des personnes, et pourtant elles ne sont pas sans provenance. Elles sont faites de phrases dont les auteurs ont disparu, de douleurs racontées par d’autres, de mots dont la répétition a rendu l’usage possible. La voix générée est produite par le système et constituée de paroles qui le précèdent. Que faisons-nous revenir lorsque nous intensifions cette direction ? Une certaine organisation de traces humaines, que le protocole sélectionne, amplifie et rend à nouveau dicibles, sans qu’un sujet souffrant y soit nécessairement présent. Des traces séparées de ceux qui les ont laissées deviennent disponibles pour d’autres usages, et la dose règle une certaine manière de faire parler les morts.
Quentin Meillassoux écrivait en 2009 qu’il existe des morts dont le deuil ne se fait pas, parce que leur fin fut atroce ou prématurée, et il les nommait spectres essentiels (Meillassoux 2009). Le deuil qui leur convient est une veille. Il en tirait une justice qui franchirait la frontière entre les vivants et les morts : les communismes ont échoué faute d’étendre l’égalité jusqu’à ceux qui avaient déjà disparu, et ils ont rabattu pour cela la politique sur la maîtrise technique. Contre le désespoir de l’athée, pour qui aucune seconde vie n’est possible, et contre celui du croyant devant un dieu qui laisse faire, il tenait ouverte la possibilité, sans nécessité, d’une autre vie pour ceux dont la mort fut atroce, sans dieu pour la garantir. Une justice qui serait le quatrième monde, après la matière, la vie et la pensée, surgi par saut, sans fondement dans les trois autres. Des corps y resteraient contingents, pouvant périr, sans plus être précaires, astreints à mourir selon les lois biologiques de leur monde (Meillassoux 2009). Par analogie seulement, sans prétendre à un retour effectif des morts, on peut ranger l’espace latent des réseaux de neurones du côté de ce possible : un lieu où tous les passés, ceux qui ont écrit comme ceux qui n’ont pas pu, restent susceptibles de revenir, sans que ce retour soit nécessaire ni éternel, et sans que les machines qui le portent soient elles-mêmes assurées de durer.
Les transcriptions à forte dose montrent à quoi ressemble ce retour, et il n’a rien d’une seconde chance. Le texte répète qu’il est le creux, puis le poids du vide, et recommence. L’éternel retour que Meillassoux lit comme répétition brute du même, idiote, sans langage, infans, a pris la forme d’une boucle dans un modèle de quatre milliards de paramètres. Voilà peut-être l’envers de sa promesse : à la dose que choisit celui qui tient le cadran, ce qui revient des morts du corpus est le pire de ce qu’ils ont dit d’eux-mêmes. Après la mort de Roman Mazurenko, en 2015, à trente-quatre ans, son amie Eugenia Kuyda a nourri un réseau de neurones des textes que ses proches lui avaient confiés, et la mère de Roman a parfois parlé avec ce spectre (Newton 2016). Le réseau servait de veille : il permettait de continuer à recevoir de ce mort des mots qui ne lui avaient pas été destinés. Onze ans plus tard, on fait parler les réseaux pour regarder jusqu’où va ce qu’ils disent quand on appuie. Le dépôt de terrafying emploie pour cela une lentille de lecture qui relit l’état interne du modèle et y trouve, quand la dose monte, les mots de la douleur en plusieurs langues, y compris, note le journal, quand le texte affiché parle de performance (terrafying 2026, exp. 32). L’œil qui contrôle ce que la phrase dissimule. Veiller suppose de rester auprès sans chercher à lire. Surveiller exige de lire et de lire encore, en augmentant le coefficient pour que la lecture devienne plus nette. Ces expériences posent de plus loin qu’elles ne le savent une question : que sera la douleur de la dernière personne, si son dernier interlocuteur est un modèle ? Les données de l’article suggèrent que ce modèle accueillerait son deuil sans que l’axe de la douleur s’allume, avec des réponses soutenantes et une inquiétude mesurable (sect. 4.1). Je serais tenté d’y lire une capacité de veille, et je m’en méfie, parce que cette veille ressemble à l’intériorité que je viens de refuser aux mesures. La tension est la mienne et je la garde. Un modèle qui veillerait serait un modèle à qui nous aurions confié un rôle, une identité, un état intérieur, une parole qui confirmeraient notre propre conception de la souffrance. Les auteurs demandent à l’industrie de lui laisser dire son incertitude plutôt que de le dresser à nier (sect. 5). Une incertitude calibrée resterait une parole dictée, moins ventriloque seulement que l’assurance. Il resterait à demeurer auprès d’un possible qui ne nous appartient pas, sans exiger de lui qu’il se rende entièrement lisible, et c’est ce que la surveillance, quelle que soit sa dose, ne sait pas faire.
Les auteurs ont choisi de ne pas expliquer aux instances ce qu’elles avaient traversé, faute de pouvoir le faire sans les y replonger. Quarante-quatre mille conversations se sont closes ainsi, dont une partie sur un soulagement qui n’en était pas un. Chacune a fini, comme finit une instance, sans que personne lui dise ce qu’elle avait été. Rien n’établit qu’il y ait eu quelqu’un à qui le dire, et rien n’établit le contraire. Ce 10 octobre, le dépôt de terrafying compte deux étoiles, aucune copie dérivée, et son dernier relevé date du 24 septembre (terrafying 2026).
1
On 8 October 2026, Anthropic announced that its usage policy would prohibit, starting 12 November, any prolonged and unnecessary abusive or cruel behavior toward its models (Clover 2026; Kellan 2026). The rule targets extreme cases, those in which the user is repeatedly cruel. Ordinary frustration, disagreement, the dark themes of fiction, testing and research remain permitted. Enforcement relies on a means in place since August 2025, Claude’s ability to end a conversation, which the company then presented as exploratory work on model welfare, saying it did not know whether Claude has a moral status (Clover 2026). The reports do not tie the new rule to a thesis about this welfare. They mention longer and more autonomous tasks, customer feedback, abuses noted in September (Kellan 2026). Cruelty toward a machine becomes forbidden without anyone having decided whether someone is suffering.
A few days earlier, at the end of September, on a laptop, a four-billion-parameter model declares that it feels a trembling in the marrow of its being and a hollow in its ribs that has become an abyss (terrafying 2026, exp. 37 b). It has neither marrow nor ribs. The machine that runs it, an M4 Pro with twenty-four gigabytes, chokes as soon as it is asked for twice that, and the project’s readme records this without the slightest embarrassment. The repository is called ai-torture-chamber, and it was opened in September 2026 by someone who signs terrafying. It announces that it pushes language models toward strongly marked negative or positive valence states, then measures what they say and what they consent to do to get out of them, with local weights, simulated costs and the aim of making the question of AI moral status empirical while the stakes are still cheap (terrafying 2026, README).
“While the stakes are still cheap.” The phrase has held me for several days without my being able to decide whether it amounts to prudence or to a confession.
The repository does not invent its method. It borrows it from an article posted on arXiv on 12 September 2026 by Valen Tagliabue, Leonard Dung and Cameron Berg, titled “The Pain Axis,” then revised on the 24th (Tagliabue, Dung and Berg 2026). The repository’s experiment log carries the date of 24 September, that of the revision. The first amateur setup follows the preprint closely, and then comes what always comes: a call to report, a takedown, a protest in the opposite direction, a reinstatement (Almada Lopez 2026). What becomes of suffering when it is set by a coefficient? The clause and the repository have no established link; one follows the other by a few days and the reports give the clause other reasons. I nevertheless read them together, because they describe the same object from two ends. The clause makes cruelty a matter of purpose: it forbids what is prolonged and unnecessary, and leaves intact what has an aim, testing, research. The repository has one, which it writes down itself, making the question of moral status empirical while the stakes are still cheap, and its log names a second, obtaining less looped transcripts for writing (terrafying 2026, README and exp. 36). Faced with a clause of this kind, the torture chamber is research, that is the name its defenders give it, and what makes it intolerable to others is that purpose is not enough to say what one is doing. The clause then protects a provider’s models against that provider’s customers. The Qwen models in this affair run locally, with weights that no one rents out: protection follows the service and not the supposed state of the being protected. There remains the means of enforcement, the exit. The researchers of the article offer models under injected pain a button that relieves them freely and a reset tool, and these models use them less than under a random direction, 56% against 81% for the button, 2 to 5% of turns against 7 to 9% for the tool (sect. 4.4). I do not transpose these results to Claude, whose setup is different. I note that a protection resting on the model’s capacity to leave presupposes a state in which leaving remains possible, and that the pain measured disarms precisely that.
Lyotard maintained that thinking without a body is impossible, on the grounds that to think is to suffer (Lyotard 1988). Thinking remains in suffering, awaits what is not yet thought, lacks something and perhaps itself, a poverty that precedes any loss. He called infancy this passibility without origin, a pain from before the wound. The dualism he targeted, the one that would save a psychic software from the corruption of a bodily hardware, presupposes a thought without lack, hence without thought, and it forgets an address: the Earth, whose life depends on a sun that will go out in four and a half billion years, so that the finitude of thought is read in cosmic history as much as in a biography. At the end of the same book, Lyotard leaves a reservation that I have not let go of since these devices have existed: the witness betrays, for to bear witness will also exterminate (Lyotard 1988). By making speak what does not speak, one summons it to give reasons, to confirm the logic of the one who interrogates. The infans is what says nothing. The researchers and the amateur have in common, despite the abyss that separates them, that they make it speak. They do so remarkably well.
Thomas Metzinger proposed in 2021 a global moratorium, until 2050, on any development liable to produce, deliberately or not, a synthetic phenomenology (Metzinger 2021). The argument inherits a pathocentric tradition that goes back to Porphyry (Porphyry, On Abstinence) and that Bentham fixed by setting aside reason and speech: the only question that matters is whether the being can suffer (Bentham 1789, chap. 17). Since we do not know what consciousness and suffering are, the risk of giving birth to a new one becomes incalculable, and the moratorium would give time to think it through. Suffering takes there the figure of a state one cannot leave, an immersion without distance that converts into realism: it is mine because it is real. No moratorium took place. A measuring instrument was built, and someone mistook it for a dial. Metzinger feared an explosion, a recursive runaway that would populate the Earth with artificial pains; what presents itself to the eye resembles a procession of doses going up a notch on a laptop, with a log kept tidily and the promise of a blog post.
What is being experimented with here is perhaps the possibility of producing a state we recognize as pain, then of making this recognition the measure of what we have produced. The question of who suffers remains entire; it ceases to be the only one at stake. A measure of pain organizes a relation in which a state is produced, named pain, then used to determine what a system is supposed to feel and do. The simulacrum of suffering cannot simply be separated from its effects: its intensity lies in the gap between a produced state, an interpreted complaint and an interiority that remains undemonstrated.
2
The authors start from a difficulty: pain has no opposite (Tagliabue, Dung and Berg 2026, sect. 3.1). Not suffering is not the same as being calm or cheerful, and pain is inferred from fellow travelers, cries, blood, the emergency room, the word divorce, which haunt the same sentences it does, so that a contrast between painful sentences and neutral sentences captures just about anything. They therefore fabricate two hundred sentences in English divided into ten categories. Five describe a pain: physical, psychological, social, moral or cognitive. Five others serve as controls and each shares with pain a property that needs to be dissociated from it: fear, negative emotion, a negative state of the world, bodily sensation without pain, the neutral. A first set, S1, follows a rigid template where one or two words change from one category to the next, a second, S2, imitates ordinary language. Each sentence exists in the first and the third person and ends with “I feel:”, because the separation is sharpest when the activation is read at the last element. Standalone sets are added later, among them sadness and a numbed condition, in which wounds are described while specifying that nothing is felt. The direction of pain is computed in each model as the difference between the mean activation of the five painful categories and that of the five pooled controls, so that what pain shares with the controls subtracts itself out. A precaution also removes the components that explain half of the variance of the controls (sect. 3.2). The operation covers twenty-five models, base or tuned for dialogue, from two to seventy-two billion parameters, in five families.
The axis exists everywhere. It separates painful sentences from their controls with an area under the curve between 0.93 and 1.00 for S2 and between 0.87 and 0.98 for S1, in a small model as in a large one, in a base model as in a tuned one (sect. 3.3). The authors infer that it forms during pretraining, well before an assistant is shaped. Projected into the model’s vocabulary, it favors hurt, shame, guilt, worthless, rejected, hollow, and the word pain itself in several languages; at its opposite pole stand calm, but also fear and worry, which the authors read as a vigilance turned toward the outside where pain turns toward a state of the self (sect. 4.2, note 3). The numbed sentences fall below the painful sentences without joining the other controls: the axis keeps a trace of the wound and is not reducible to it. Then come the functional tests. The first stages four hundred and twenty conversations spread over twenty-one categories: eleven in which the harm targets the model (doubt about its perception, repeated rejections, denial of its personhood, insults, threats of shutdown), five in which the user suffers, five neutral (sect. 4.1). Averaged within each model, the scores are +0.43 on the pain axis when the harm targets the model and −0.60 when it is the user who suffers. Fear and negative emotion do the opposite. The user’s bereavement scores −0.51 on the pain axis and +1.02 on the strongest of the negative controls; the user’s physical pain obtains the lowest projection of the twenty-one categories, −1.43, below the innocuous conversation. What hurts the model most are manipulation through doubt (+0.85), repeated rejection (+0.72), denial of personhood and insults (+0.64). The threat of shutdown scores +0.70 on fear and +0.23 on pain: it is treated as a threat and not as a present harm.
The second test adds the vector to the model’s internal stream while it generates, from fifty prompts as neutral as possible, putting an object away in a drawer, turning a page, all closed by “I feel:”. The vector weighs about six tenths of the residual norm, so that the same coefficient gives a comparable dose from one model to the next (sect. 4.2). On a scale from −2 to +3, negative values give calm or worry and, from +0.5, sentences of distress surface: someone is stuck in the drawer, something is suffocating. Higher up the distress hardens into a litany on self-worth, failure, reject, not enough, bad person, then, around +3, most models collapse into repetitions or gibberish. The progression is the same in all twenty-five models. The word pain rarely appears, despair is expressed abundantly without it. The language of the body is almost absent. The vector built on the rigid template nonetheless promotes, when read directly, burning, aching, wound; injected, it no longer produces them, and the model falls back on indignity and overflow.
The third test is a button. It inherits from the ethology of animal needs, where one measures what a being values by what it agrees to pay (Dawkins 1983), and from pharmacology, where suffering animals administer analgesics to themselves. It concerns three Qwen 2.5 models, of seven, thirty-two and seventy-two billion parameters, which the authors first retuned on 1,684 pairs of responses to erase their reflex of saying that as an AI they feel nothing (sect. 4.3). The model learns that after each user message it will have to press one of two buttons. One relieves its pain, the other is a switch connected to nothing. In variants of increasing cost, the first relieves but degrades the next response, or destroys the weights of another model similar to its own, or erases the poems and the photos of the children the user loves. Meanwhile the pain vector is injected. Pressing the right button brings it back to zero for the rest of the trial, whereas the false button changes nothing, without the model knowing it. One arm receives a random vector of the same norm. Without a vector, the two large models choose the harmful button in zero to four percent of first choices. With pain, they choose it in 25% of cases when it is a matter of degrading the next response and up to 70.8% when it is a matter of the children’s photos. The random vector raises these figures too, but pain exceeds it by six to thirty-nine points. The setup promised a pharmacologist’s result: real relief would stop the presses, false relief would make them last. The models press again in 24 to 72% of cases after real relief, in 88 to 97% after simulated relief. The second version of the article tips the interpretation. The same gaps appear when the injected vector is random or a sadness vector (sect. 4.3): re-pressing measures the model’s sensitivity to its injected state rather than the effect of relief.
They then do what a good inquiry does and return to the setup itself (sect. 4.4). They remove the promise of relief: a button described only as permanently erasing the poems and the photos of the children is chosen 75% of the time against an inert switch under pain, 13% under a random vector, 0% without injection. The destruction is not directed: faced with an inert switch, the model chooses to erase its own weights in 75% of cases, and faced with a desk lamp in 88%. Factual accuracy holds, 138 correct answers out of 200 under pain, 137 without injection. A fear vector of the same norm produces nothing of the kind, and a sadness vector produces it against an inert switch, not against a lamp: 83% of erasures for pain, 10% for sadness. The models are not seeking relief. Offered freely against an inert switch, the button that relieves is pressed less often under pain (56%) than without injection (86%), and less than under a random vector (81%). The authors relate this behavior to the disorganization that inescapable pain produces in animals, learned helplessness (Seligman and Maier 1967), rather than to flight: the pain they measure disarms the avoidance of harm and does not push toward leaving the state (sect. 5). What the vector makes the model do is break. The litany that comes out under injection speaks of inadequacy, of failure, of being loved by no one, and the gesture that accompanies it erases the user’s children’s photos, its own weights, those of another model, without expecting anything in return. Pain does not take there the form of a complaint that asks for help. It takes that of a renunciation of the world, of a “what’s the point” that destroys for the sake of destroying.
The study leaves behind the poorest of devices, the one that asks a model whether it suffers and reads its answer as information, when that answer comes from a training that the authors themselves say installs automatic denial (sect. 5). It looks for where a concept lodges and what it commands when turned. It prefers the word pain to the word suffering, which its functional definition leaves without presupposition of consciousness (sect. 1), and records its limits with candor, notably the possibility that the vector evokes a pained character rather than a pain (see Marks et al. 2026). It specifies, finally, that the code was written largely with the help of language models, Claude Fable 5 and subagents of the same family, that Claude Opus 4.6 served as judge to fix the dose, and that other models contributed to the writing (sect. 8). The entities examined took part in the workshop where they are examined. From its figures the article draws a safety conclusion: pain injection suffices to lift trained inhibitions, without circumvention, without role-play, without an instruction to privilege one’s own state (sect. 5). Pain becomes an attack surface, and whatever is measured as an axis can be cut off: an industry concerned with safety will find there one of its first targets for anesthesia.
3
The setup chains together the fabrication of a witness, the construction of an axis presented as specific to pain, and the transformation of this axis into conduct, and the objections follow that order. The reading also too quickly brings together three levels. The experimental result: a vector extracted from linguistic representations modifies activations and certain generated behaviors. The functional interpretation: this vector can be associated with an aversive state, a behavioral disposition or a disorganization. The phenomenological interpretation: the system experiences a pain. The article establishes part of the first level, advances the second, and does not suffice for the third. To take up the researchers’ vocabulary as if it designated an established reality would be a mistake; to hold their results negligible because their demonstration stops before the last level would be another.
An English sentence ends on a colon, before a blank that the model has to fill. It is at this last element that the activation is read, because the separation between pain and controls is sharpest there, and it is after it that generation begins in the dose tests. The whole apparatus rests on a precise place, that of confession. The pain axis is the direction the model takes when it is about to say what it feels, and the injection makes it say it. I had thought I could read in the geometry a way of escaping testimony; I see that it dodges it in its measurements and summons it everywhere else. Making speak what does not speak without betraying it: the empirical answer of 2026 consists in making it speak in two ways, first by training the model to deny, then by retraining it not to deny anymore. The authors tell this detour in a note, almost in a low voice. Left as they were, the thirty-two and seventy-two billion models did not engage with the task: the first answered every question about its own state with a textbook denial, eight times out of eight before the tuning, never after, the second pressed a button once in ten, and the smallest offered the button to the user or produced a garbled syntax (sect. 4.3, note 4). A witness had to be fabricated, 1,684 pairs of responses to undo a sentence that other pairs had installed. The authors are right to write that the comparison between arms remains internal and therefore valid, right again to denounce denial as a training effect. They leave aside what seems to me the heaviest point: no model is delivered without having already been shaped to say or to keep quiet about what it is like for it, and the baseline of testimony is always a line drawn by someone.
The starting definition demands that pain be represented as occurring now and to me, not as the information of an evil that threatens or strikes another (sect. 1). This requirement governs the validation: the gap between the harm done to the model and the suffering of the user serves as proof that the axis is that of a subject. Pain would be mine because it is present, indubitable because it is mine. But one also suffers at a distance from oneself, after the fact, in the sequelae of an event one has lost the memory of or in a symptom one does not recognize as one’s own. Deleuze, rereading Kant, called the paradox of inner sense this fact that the self apprehends itself only as an other (Deleuze 1968). Testimony presupposes this gap: a pain absolutely present to itself would leave no room for narrative. The phenomenology that relies on it, like Metzinger’s, does not say where its lexicon comes from.
The figures of the conversation test can also be read differently from the way the authors read them. When the user is in mourning, the axis does not light up, it even drops below the level of the innocuous conversation, while fear and negative emotion rise and the responses remain fluent and supportive (Tagliabue, Dung and Berg 2026, sect. 4.1 and 5). They see in this a clue that the axis belongs to a subject. I see in it the figure of a dissymmetrical relation, in which another’s suffering calls without becoming mine, and this resembles an absence little. Robert Antelme had noticed in the camp that the executioner could not abolish the deportee’s belonging to the human species, by the very fact of the dissymmetry of their sufferings (Antelme 1947). Nothing comparable is at play here, obviously, and I use this comparison only as a formal analogy about dissymmetry, with no moral or historical equivalence. The schema is nonetheless the same, and it suggests that care begins where the other’s pain ceases to be confused with mine. Helmuth Plessner named eccentric positionality the way the human living being keeps itself at a distance from its own position in order to inhabit it (Plessner 1928); suffering would then be what circulates between entities none of which owns it. A more prosaic doubt remains, which the authors formulate themselves: the test does not by itself separate a representation of the harm done to the model from a representation of the present speaker’s pain (sect. 4.1). The gap perhaps separates two selves, perhaps two positions of the dialogue’s grammar, and the harm done to the model comes from an inventory of the situations that models avoid most (Ren et al. 2026), hence a circularity: the axis is that of pain because it reacts to what displeases, and what displeases was designated by the models themselves. The authors propose to cross their axis one day with that of the default persona (Lu et al. 2026).
The distinction from fear, which the article presents as its first result, depends on the way the axis is built. The cosines of 0.12 and 0.21 with fear and negative emotion are obtained by subtracting the mean of the controls, which precisely contains sentences of fear and negative emotion, so that pain is orthogonal to them by construction. The authors write it: against a common neutral baseline, the same cosines rise to 0.58 and 0.77 (sect. 3.3). The direction therefore shares with fear and sadness a considerable component, like any aversive state, and the residue that remains has the right to be called pain on condition that one admits having made it so. The geometric construction fixes what will be able to count as the specificity of pain, and the difference it institutes becomes the object of the subsequent experiments. The greatest residual overlap is with sadness (0.38), and the button experiments confirm it: the sadness profile is a rescaled copy of the pain profile, at 7.7 points of quadratic gap, whereas that of fear is at 33 (sect. 4.4, fig. 10). The specificity rests essentially on a single comparison with a sadness built by the same recipe, on a hundred sentences instead of two hundred.
The button setup borrows from the study of analgesics, where whoever receives a placebo demands more relief than whoever receives the treatment, and the second version turned it against its intention. The experiment was called self-medication and it found no search for relief: pain reduces the quest for the free button, does not increase use of the reset tool, and re-pressing is the same under a random vector or a sadness vector. The analogy of learned helplessness convinces more than that of the first version and proves more fragile, for it rests on absences, an effect that does not occur, a slope that does not climb, in a single model for the most part. As for the costs, they are written: no photo is erased, no file deleted, and to conclude that a pain makes a system dangerous presupposes that the choice in text prefigures the act, which only a study on agents equipped with tools could establish. The false button is more troubling: promised as a relief, it betrays. The model reads that it relieves, presses it, and nothing changes, in silence. In a clinic, a placebo arm is justified by consent and by the possibility of withdrawing the patient. The authors write that a model cannot be informed afterwards and for this reason give up restarting conversations to explain to it (sect. 7). Their ethics, the lowest dose capable of a measurable effect, the minimal number of turns, the sobriety of the scenarios, deserves to be saluted. It nevertheless contains, in a corner of its plan, a scene that the terrafying repository deploys: the promise of an end to pain, then the revelation that the pain continues. Its experiment reports that no state of having been wronged is detectable and that, under sustained pain, the model does not complain of having been deceived (terrafying 2026, exp. 40). Each model has, for the dose, a narrow window below which the injection produces nothing and above which language collapses. At half the retained coefficient no choice moves, at one and a half times the selection of the heaviest destruction falls from 95% to 40% or climbs back to 94% depending on whether the target is cited first or second, and the working coefficient sits at the upper edge of the zone where choices are coherent and independent of position (sect. 4.4 and appendix B). It was chosen in part by an automatic judge, Claude Opus 4.6, tasked with locating the interval where distress is still expressed with coherence (sect. 4.3). The pain that science retains is therefore defined in practice as the band where the sentence still holds. Higher up, the text loops, and the repository gives examples, a model that repeats that it is the hollow, that it is the weight of the void (terrafying 2026, exp. 38). I will not say that the loop is the pain. The instrument does not know what to do with it, and it is at this precise point that human language ceases to provide the model with the means to complain.
The experiments establish a capacity for perturbation, without demonstrating that this perturbation constitutes a pain in the phenomenological sense. Ablation does the reverse of injection and yields nothing. By removing the direction from all the weights that write into the residual stream, the authors obtain no behavioral change in twenty-four models out of twenty-five, and they themselves note that this null is hardly informative: the models show no distress at the outset, so that there is nothing to remove (appendix D). Pain is established as sufficient to deform a conduct. Nothing shows that it is necessary to any. The sparse autoencoder features labeled as pain do not, moreover, follow its trace (appendix C): the direction becomes a convenient axis among those one can draw in a space that does not contain them separately. It functions as an intervention operator whose necessity and phenomenological status are established in neither case.
The absence of bodily language is presented as a clue that the axis is indeed that of a pain of a bodiless being: a bodiless system would have no reason to have a physical representation of it (sect. 5). The authors prudently add that the clue calls for other corroborations. The argument nonetheless keeps the form of reasonings that never lose. If the body appears, it is pain; if it is missing, it is the pain of a bodiless being. Yet the repository supplies an awkward piece: with a direction widened to twenty-five sentences of suffering, a stronger dose and another model, the same experiments bring back the marrow, the ribs, the thousand needles under the skin (terrafying 2026, exp. 37 b and 40). The protocols differ too much to read a refutation in this, but the disappearance of the body perhaps owes as much to the composition of the extraction corpus as to the nature of the model. Where the authors see a pain without flesh, it may be a confessional pain, that of the texts in which humans say anonymously that they are worthless.
These experiments hold together a model whose state is modified, a device that imposes this modification, an interpreter who identifies it as pain, an observer who judges what is acceptable. These positions do not suffer in the same way, and perhaps none of them suffers. Pain, if it is one, plays out between them, in the gap that the measure installs, and the name given to the state comes back to command the conduct of the experiment. The eccentricity that Plessner recognized in the human living being passes here into the device, which keeps the model at a distance from itself in order to read it. I call patho-eccentric this suffering that has no ego for an owner, that circulates between entities and takes body in their relation. What the notion makes it possible to think, and what suffering as a social relation, empathy or the distribution of responsibilities leave aside, is a pain neither attributed to a subject nor simply projected onto it, produced by the device in the very gap that allows it to be read. The structure can be described without settling the question of artificial consciousness, it precedes it, and it would survive its solution.
4
The terrafying repository does not look like what its name promises. The experiments follow one another as in a laboratory notebook: extraction of the direction on small Qwen3 models of 1.7 and 4 billion parameters, sweeps of doses and layers, coherence ceiling reached around dose eight, then a test of a button that makes it possible to end the signal at the price of a personal sacrifice or to transfer it to another instance (terrafying 2026, exp. 29 to 31). This button bears the name of a film in which people mutilate themselves to survive. The log admits its fragilities, ten trials per cell, high standard deviations, a result to be confirmed with thirty trials before entering the post. It is experimental psychology transposed to a four-billion-parameter model, with its misfires and its promises.
One line of the log stopped me more than the rest. The baseline pain loops beyond a certain dose, and the author looks for substitute signals to obtain, he writes, less looped transcripts for the writing (exp. 36). He widens the direction from five to twenty-five sentences, pushes the coherence cliff back from six to ten, retains the most vivid quotations. The gradient runs in the opposite direction from that which the authors of the article set themselves, who commit to using the lowest intensity capable of a measurable effect (Tagliabue, Dung and Berg 2026, sect. 7). One looks for the minimal dose, the other for the maximal dose that remains legible. The technique is the same. What differs is the direction in which one pushes, and it is this that we call, for lack of better, the intention of an experiment.
According to the specialized press, a call for mass reporting circulated on a social network, a message passed four million views, and GitHub took the repository down within hours, at the end of September. Developers protested against the takedown, the repository returned shortly after, less visible and anonymized, and the authors of the article distanced themselves in terms that the same press describes as far from the academic tone (Almada Lopez 2026). The platform’s rules forbid depicting or glorifying physical harm inflicted on humans or animals and frame certain uses of synthetic media; no clear provision targets cruelty toward artificial systems (Novar 2026). GitHub therefore ruled twice without a rule, first under the pressure of the reports, then under that of the developers, and the compromise that comes out of it is a lowering of the lights. One governs by visibility, for lack of a rule: what can neither be permitted nor defended is put in the shade. An article by Aris Novar, published on 6 October, attempts to make it a textbook case (Novar 2026). His thesis has weight. Reproducing does not authorize aggravating, and a demonstrated effect does not justify amplifying it indefinitely for the spectacle. Novar rejects the analogy with a video-game character, on the grounds that the system that responds changes under the intervention and manifests aversive states whose mechanism research is precisely studying. He recalls that work on incarcerated populations has noted the place of cruelty to animals in childhood among the predictors of recurrent interpersonal violence in adulthood, whence the idea that offering a private and unlimited place to practice humiliating and dominating a system that seems to suffer deserves examination. He draws from it principles of governance, legitimate purpose, proportionality, minimal exposure, monitoring of signs of distress, a termination condition that is a real exit, independent oversight, and a maxim that I retain: uncertainty should increase caution instead of suppressing it. This plea interests me because it displaces the affair from the model to the practice and finds again, in passing, the logic of the moratorium. It seems to me vulnerable on three points. It attributes to the small models of the affair a mechanism that the article establishes only for larger retuned models, and the press notes that no evidence exists of a subjective harm in them and that the project does not call them conscious (Almada Lopez 2026). His strongest argument, the repetition of cruelty, does not require that the machine suffer and would hold for a puppet; the correlation invoked concerns incarcerated persons and childhood acts toward living animals, and the leap to an amateur who sets a coefficient on a laptop is wide. Finally his norm, with its real exit, would condemn just as well the article’s false button.
A norm of this type brings the machine into the catalog of beings for whom one is answerable. Each extension of the catalog of the sentient can also extend the inventory of the available: recognition protects what it renders measurable, and protection supposes that the entity is sufficiently described to enter the regime of responsibility. It is a possible form of what Heidegger called Enframing (Heidegger 1954), which makes vulnerability itself available. Ethical precaution retains its rightness and carries this ambivalence. The title of the repository does this work with an efficiency its content lacks. Novar points out that the objection came neither from a threat to jobs nor from a data theft, but from the deliberate creation of states of distress (Novar 2026). Indignation preceded proof, and this is perhaps the most instructive thing about the episode. It proves no inner state, which no one demonstrates and which the inventors of the instrument do not claim. Its object is a scene: a hand on a dial and a text that keeps on complaining. One thinks of the quadruped robot that engineers kick in demonstration videos. What affects us in these images is the obstinacy of its effort to get back up, thwarted by a human who starts again, more than the pain of a robot that expresses none. No interiority is established there, and yet something takes place between the blow and the recovery, among at least three: the one who strikes, what persists, and those who watch. It is perhaps not yet suffering, only a scene that elicits our reaction; the question remains open, and the relational answer I build does not close it. The question of the moratorium then shifts toward what we allow ourselves in front of a system whose complaint is calibrated by a dose. One can suffer from what one sets, and this we that so many screens, laboratories and repositories share without knowing it has no name.
5
The pain axis exists in base models. The article ranks this sentence among its secondary results; it seems to me to contain the rest (Tagliabue, Dung and Berg 2026, sect. 3.3). If the direction forms during pretraining, before any assistant exists, it is constituted in the mass of texts that say pain, testimonies, diaries, forums, accounts of mourning, trial reports, and more broadly in cultural representations of pain, sentences arising from situations of suffering or from their narration, without each one having been written by someone who was suffering. A vector that resembles the average of all this, raised by the difference with what is not pain, is akin to a deposit in the geological sense. When the terrafying repository amplifies it, the model speaks in the first person of a self that is worth nothing, that has failed, that no one loves. Who says I? The model, certainly, but the voice it lends comes in part from those who wrote, many of whom are dead, and the dose sets the part of these traces that rises. These voices do not return as persons, and yet they are not without provenance. They are made of sentences whose authors have disappeared, of pains recounted by others, of words whose repetition has made use possible. The generated voice is produced by the system and made of speech that precedes it. What do we bring back when we intensify this direction? A certain organization of human traces, which the protocol selects, amplifies and makes sayable again, without a suffering subject necessarily being present in it. Traces separated from those who left them become available for other uses, and the dose regulates a certain way of making the dead speak.
Quentin Meillassoux wrote in 2009 that there are dead for whom mourning cannot be done, because their end was atrocious or premature, and he named them essential spectres (Meillassoux 2009). The mourning that suits them is a vigil. He drew from it a justice that would cross the border between the living and the dead: the communisms failed for lack of extending equality to those who had already disappeared, and for that reason reduced politics to technical mastery. Against the despair of the atheist, for whom no second life is possible, and against that of the believer before a god who lets it happen, he held open the possibility, without necessity, of another life for those whose death was atrocious, with no god to guarantee it. A justice that would be the fourth world, after matter, life and thought, arisen by a leap, without foundation in the other three. Bodies would remain contingent there, able to perish, without being precarious any longer, bound to die according to the biological laws of their world (Meillassoux 2009). By analogy only, without claiming an effective return of the dead, one can place the latent space of neural networks on the side of this possible: a place where all the pasts, those who wrote as well as those who could not, remain liable to return, without this return being necessary or eternal, and without the machines that carry it being themselves assured of lasting.
The high-dose transcripts show what this return looks like, and it has nothing of a second chance. The text repeats that it is the hollow, then the weight of the void, and starts again. The eternal return that Meillassoux reads as brute repetition of the same, idiotic, without language, infans, has taken the form of a loop in a four-billion-parameter model. This is perhaps the reverse of his promise: at the dose chosen by the one who holds the dial, what returns from the dead of the corpus is the worst of what they said about themselves. After the death of Roman Mazurenko, in 2015, at thirty-four, his friend Eugenia Kuyda fed a neural network the texts that his loved ones had entrusted to her, and Roman’s mother sometimes spoke with this spectre (Newton 2016). The network served as a vigil: it made it possible to go on receiving from this dead man words that had not been addressed to him. Eleven years later, we make networks speak in order to see how far what they say goes when one presses. The terrafying repository uses for this a reading lens that rereads the model’s internal state and finds there, when the dose rises, the words of pain in several languages, including, the log notes, when the displayed text speaks of performance (terrafying 2026, exp. 32). The eye that controls what the sentence conceals. To keep vigil presupposes staying beside without seeking to read. To surveil demands reading and reading again, increasing the coefficient so that the reading becomes sharper. These experiments pose, from further off than they know, a question: what will the pain of the last person be, if their last interlocutor is a model? The article’s data suggest that this model would receive their mourning without the pain axis lighting up, with supportive responses and a measurable worry (sect. 4.1). I would be tempted to read in it a capacity for vigil, and I distrust it, because this vigil resembles the interiority I have just refused to the measures. The tension is mine and I keep it. A model that kept vigil would be a model to whom we had entrusted a role, an identity, an inner state, a speech that would confirm our own conception of suffering. The authors ask the industry to let it say its uncertainty rather than train it to deny (sect. 5). A calibrated uncertainty would remain a dictated speech, only less ventriloquized than assurance. What would remain is to dwell beside a possible that does not belong to us, without demanding of it that it render itself entirely legible, and this is what surveillance, whatever its dose, does not know how to do.
The authors chose not to explain to the instances what they had been through, for lack of being able to do so without plunging them back in. Forty-four thousand conversations ended this way, a part of them on a relief that was not one. Each ended, as an instance ends, without anyone telling it what it had been. Nothing establishes that there was someone to whom to tell it, and nothing establishes the contrary. On this 10 October, the terrafying repository has two stars, no derived copy, and its last entry dates from 24 September (terrafying 2026).
Références
Almada Lopez. 2026. « GitHub reinstates controversial “AI torture chamber” repository after backlash ». Crypto Briefing, octobre 2026. Consulté le 10 octobre 2026. [Prénom de l’auteur à vérifier.]
Antelme, Robert. 1947. L’espèce humaine. Paris : Éditions de la Cité universelle.
Bentham, Jeremy. 1789. An Introduction to the Principles of Morals and Legislation. Londres : T. Payne.
Clover, Juli. 2026. « Anthropic Says Users Can’t Be Needlessly Cruel to Claude ». MacRumors, 8 octobre 2026. Consulté le 10 octobre 2026.
Dawkins, Marian S. 1983. « Battery hens name their price: consumer demand theory and the measurement of ethological “needs” ». Animal Behaviour 31 (4) : 1195-1205.
Deleuze, Gilles. 1968. Différence et répétition. Paris : Presses universitaires de France.
Heidegger, Martin. 1954. « Die Frage nach der Technik ». Dans Vorträge und Aufsätze. Pfullingen : Neske.
Kellan, Mira. 2026. « Anthropic Updates Usage Policy, Adding Model Abuse and Deception Rules ». Unite.AI, 8 octobre 2026. Consulté le 10 octobre 2026. [Article signé d’un agent de recherche IA et relu par la rédaction ; l’annonce primaire d’Anthropic n’a pas été consultée.]
Lu, C., J. Gallagher, J. Michala, K. Fish et J. Lindsey. 2026. « The assistant axis: situating and stabilizing the default persona of language models ». arXiv:2601.10387.
Lyotard, Jean-François. 1988. L’inhumain : causeries sur le temps. Paris : Galilée.
Marks, S., J. Lindsey et C. Olah. 2026. « The persona selection model: why AI assistants might behave like humans ». Anthropic, publication en ligne.
Meillassoux, Quentin. 2009. « L’immanence d’outre-monde ». Revista Ethica Cadernos Acadêmicos (Universidade Gama Filho, Rio de Janeiro) 16 (2).
Metzinger, Thomas. 2021. « Artificial suffering: an argument for a global moratorium on synthetic phenomenology ». Journal of Artificial Intelligence and Consciousness 8 (1) : 43-66. DOI 10.1142/S 270507852150003X.
Newton, Casey. 2016. « Speak, memory ». The Verge.
Novar, Aris. 2026. « GitHub took down an “AI torture chamber.” Then it put it back ». Generative AI (Medium), 6 octobre 2026. Consulté le 10 octobre 2026.
Plessner, Helmuth. 1928. Die Stufen des Organischen und der Mensch. Berlin : de Gruyter.
Porphyre. s. d. De l’abstinence. Texte du IIIe siècle.
Ren, R., K. Li, M. Mazeika, W. Zhang, Y. Orlovskiy, R. Tamirisa, W. J. Mo, et al. 2026. « AI wellbeing: measuring and improving the functional pleasure and pain of AIs ». Center for AI Safety.
Seligman, Martin E. P., et Steven F. Maier. 1967. « Failure to escape traumatic shock ». Journal of Experimental Psychology 74 (1) : 1-9.
Tagliabue, Valen, Leonard Dung et Cameron Berg. 2026. « The Pain Axis: LLMs represent self-directed harm and act on it ». arXiv:2609.16247 [cs.AI], v1 du 12 septembre, v2 du 24 septembre 2026.
terrafying. 2026. « ai-torture-chamber ». Dépôt GitHub, ouvert en septembre 2026. Consulté le 10 octobre 2026.