Anthropic et la prétendue souffrance de Claude, le bullshit qui nous emmène en pleine dystopie

Il est interdit d’être « cruel » avec Claude ! C’est inscrit depuis le 8 octobre 2026 dans la nouvelle politique d’Anthropic, qui entrera en vigueur le 12 novembre. Vous comprenez, il ne faudrait quand même pas risquer de faire souffrir ce tas de calculs statistiques, le choubichou… Vous trouvez que ça sent la grosse carabistouille ? D’accord, mais dans quel but ? Délire de vieux geeks qui auraient trop lu Asimov ? Clin d’œil appuyé en direction des mystiques de l’IA ? Ou cynisme à des fins de prestige technologique pour rassurer les investisseurs ? Un indice : l’histoire commence en 1965.

En 1965, Herbert Simon, pionnier de l’IA et futur prix Nobel d’économie, répète dans un livre une prédiction qu'il a déjà faite en 1960 : les machines pourront accomplir n’importe quel travail humain d’ici les années 1980. Sauf que reproduire l’intelligence humaine s’avère un poil plus compliqué que prévu. Les résultats déçoivent, les financements s’assèchent et, dès les années 1970, une longue période de vaches maigres commence. On l’appellera « l’hiver de l’IA ».

Ça ne vous rappelle rien ?

En 2015, Sam Altman s’imagine atteindre l’intelligence artificielle générale (IAG) en 2025. Il le racontera dix ans plus tard, dans un entretien accordé à Bloomberg. Raté ? Qu’à cela ne tienne : en janvier 2025, il estime désormais probable l’arrivée de l’IAG pendant le second mandat de Donald Trump. Allez, disons avant janvier 2029 !

Chez Anthropic, Dario Amodei est encore plus impatient. Le 6 mars 2025, l’entreprise annonce officiellement à la Maison-Blanche que des systèmes d’IA extrêmement puissants, capables de rivaliser avec les meilleurs experts humains dans presque tous les domaines intellectuels, pourraient apparaître dès fin 2026 ou début 2027. Le terme « superintelligence » n’est pas explicitement employé, mais l'idée y est.

Or, il y a un truc embêtant avec les promesses : le moment où il faut les tenir finit toujours par arriver. Et là, fin 2026, on y est presque. Le locataire de ladite Maison-Blanche en a marre d'attendre ? Pas grave : un décret du 29 septembre 2026 oblige l’administration fédérale à remplacer « intelligence artificielle » par « superintelligence ». Un cas de novlangue spectaculaire, certes. Mais que voulez-vous ? « Quand les événements nous dépassent, feignons d’en être les organisateurs », comme disait Cocteau.

Winter is coming

L’ennui pour Anthropic, c’est que d’autres que Trump s’impatientent aussi. Car l’énorme différence avec les années 1960, ce sont les montants d’argent engloutis. Selon des chiffres rapportés par Reuters, la société a réalisé 4,6 milliards de dollars de chiffre d’affaires en 2025… pour 8,06 milliards de pertes opérationnelles. Oui, vous avez bien lu. HUIT MILLIARDS DANS LE ROUGE, ces gens ont apparemment des banquiers très conciliants. Alors certes, le chiffre d’affaires grimpe vite, mais une grosse partie de la valorisation repose sur les promesses de croissance future. Si les progrès ralentissent ou si les dépenses continuent d’exploser, la confiance pourrait vaciller. Et vu les sommes engagées, un nouvel hiver coûterait très cher.

Pour que la fête continue, il faut donc que la promesse reste crédible. Et c’est là que l’histoire prend un tour complètement délirant.

Trois glissements en dix-huit mois

Le 27 mars 2025, Anthropic publie une étude sur le fonctionnement interne de Claude. On y découvre notamment que le modèle anticipe certains mots en fin de vers pour faire rimer ses poèmes. Rien de choquant, sinon le titre de l’étude : Tracing the thoughts of a large language model, soit « Retracer les pensées d’un grand modèle de langage ». On ne parle plus seulement de mécanismes de calcul, mais aussi de ce qui se passe « dans la tête » de Claude. Un choix de vocabulaire qui n’a rien d’anodin.

Ça passe ? On peut continuer ! Un mois plus tard, le 24 avril 2025, Anthropic lance un programme de recherche sur le model welfare, le « bien-être des modèles ». Oui, oui. Et les communiquants de nous expliquer sans rire que la question de la conscience de Claude serait « ouverte ». Évidemment, personne n’a jamais démontré qu’un LLM puisse avoir la moindre expérience subjective, et pour cause ! Comme le rappellent Murray Shanahan et ses collègues dans Nature, un modèle peut évidemment jouer le rôle d’un être qui éprouve des émotions, mais ça n’a rien à voir avec des états mentaux réels. Anthropic serait-elle tentée de rejoindre le camp de ceux que j’appelle « les mystiques de l’IA », c'est-à-dire ces gens qui ont trouvé la foi en Claude (ou en ChatGPT) à la faveur d'une fenêtre de contexte un peu trop saturée ?

Troisième glissement, le 15 août 2025. Certains modèles de Claude peuvent désormais mettre fin aux conversations jugées inappropriées. Anthropic précise que cette fonctionnalité a été développée principalement dans le cadre de ses recherches sur le bien-être potentiel des modèles. Et donc, le 8 octobre 2026, sa nouvelle politique d’utilisation, applicable à compter du 12 novembre, interdit les comportements abusifs ou « cruels » persistants et gratuits envers ses modèles.

Cruels ? Envers un assemblage de calculs statistiques ? Mais bien sûr, introduisons des principes moraux dans les CGU d’un logiciel, on n’est plus à ça près !

Amodei ne perd ni la tête, ni le nord

Dario Amodei, le cofondateur d’Anthropic, aurait-il perdu la tête ? Je suis convaincu du contraire. Et il a encore moins perdu le nord. Il suffit de se demander à qui profite cette étrange promotion d’un assemblage de calculs statistiques au rang d’être potentiellement souffrant. Certainement pas à Claude, qui ne ressent toujours rien puisqu’il reste un LLM. Mais en instillant le doute sur une éventuelle conscience de ses machines, l’entreprise contribue à entretenir l’idée qu’elles deviennent toujours plus humaines. C'est-à-dire toujours plus proches de cette fameuse IAG promise pour demain. Et quand le contexte, c'est huit milliards de dollars de pertes opérationnelles en un an, la question de la stratégie commerciale d'une telle annonce mérite d’être posée.

Et nous ? Ben nous, on a les deux pieds dans la dystopie. Car si un acteur majeur de l’IA commence à fabriquer des fausses croyances (et de l’effet ELIZA) à une échelle industrielle, c'est le signe qu’il est devenu vraiment urgent de prendre soin de notre rapport au réel.

👉 Quant à vous, si jamais vous cherchez une formation d’introduction à l’IA courte mais dense, dynamique et sympa à Bruxelles ou en Wallonie, j’ai mis toutes les dates ici 😉 (Pour les formations d’équipe, c’est là)