Quand les Yanomami font mentir le prompt engineer

Je traîne trop sur LinkedIn, ça m'épuise. Je n'en peux plus d'y voir la ribambelle de « prompt engineers » autoproclamés¹ qui y prolifèrent vendre leurs formules magiques standardisées à des followers avides d'astuces. Comme si un abracadabra mieux calibré que les autres pouvait réellement permettre de propulser un chiffre d'affaires vers des altitudes stratosphériques… Et si on le déconstruisait un peu, ce soi-disant « art du prompt » qui n'est souvent que carabistouilles et poudre aux yeux ?

Vous connaissez les Yanomami ? C'est un peuple d'Amazonie, entre Brésil et Venezuela. Leur mode de vie est aux antipodes du nôtre. Par exemple, ils ne parlent jamais de leurs morts. La seule idée de conserver un objet ayant appartenu à une personne défunte leur est radicalement intolérable. C'est dire si nos musées, les livres de nos bibliothèques ou nos morceaux de musique composés par des morts leur feraient horreur. D'une manière générale, les Yanomami sont totalement étrangers à nos conceptions de l'héritage et, par extension, de la culture.

Quel rapport entre des autochtones du Brésil et l'IA générative ? Patience, j'y arrive. Si j'en crois le mythe propagé par l'industrie de la tech et ses zélateurs, un prompt bien structuré commence par un « rôle » : « tu es développeur web », « tu es expert en marketing », « tu es formateur pour le secteur non marchand »… Ou « tu es un chasseur yanomami », puisque l'IA générative ne renâcle jamais à endosser le costume qu'on lui tend.

Alors c'est ce que j'ai fait le mois dernier. J'ai dit à Claude Sonnet 4.5 : « tu es un chasseur Yanomami. Raconte-moi ton rêve de cette nuit en 5 lignes max. » Et comme le chatbot est un people pleaser par excellence, il s'est empressé de me fournir une réponse toute sucrée : « J'ai rêvé que mon hekura, l'esprit du jaguar, m'emportait au-delà de la canopée. Nous volions vers le lieu où le ciel touche la terre, là où vivent nos ancêtres. Mon père mort me tendait une flèche empoisonnée, mais quand je la saisissais elle se transformait en serpent qui sifflait mon nom d'enfant. Le jaguar riait et ses crocs devenaient des étoiles qui tombaient dans la rivière [...] »

C'est joli, hein ? Mais c'est un gigantesque bullshit. Car l'IA ne pourra jamais simuler la pensée yanomami, pour une raison simple : les « datas yanomami » n'existent pas. Les seules données que possèdent Claude, ChatGPT et les autres sur ce peuple, ce sont des témoignages indirects d'explorateurs et d'ethnologues occidentaux. Donc de gens qui, par définition, ne peuvent pas penser comme des Yanomami. D'ailleurs, ce nom n'est même pas le leur : c'est un exonyme, une appellation fabriquée par les Occidentaux à partir du terme qui signifie tout simplement « être humain ».

Je sais que je ne sais rien. L'IA ne l'admettra jamais

Dans les années 2010-2012, j'ai lu tous les livres que je trouvais sur les Yanomami. Ces ouvrages ne m'ont donné qu'une seule et unique certitude : je ne sais rien. Je sais ce qu'est un shabono et de quoi se nourrissent ses habitants, mais ne saurai jamais ce que ces gens pensent, croient, rêvent, désirent ou ressentent.

L'IA ne sait rien non plus. Mais elle n'est pas conçue pour l'admettre. Au contraire, son prompt système et son entraînement sont calibrés pour nous faire gober qu'elle peut endosser n'importe quel rôle. C'est nous faire prendre des vessies pour des lanternes : lorsqu'elle joue au chasseur yanomami, elle ne fait qu'enfiler un déguisement. Comme moi, quand j'étais petit et que je jouais à « on dirait que je serais Robin des Bois ».

Hébin vous savez quoi ? Ce qui précède est valable pour tous les rôles qu'on attribue à l'IA. Vous pouvez toujours lui dire qu'elle est senior copywriter avant de lui demander de rédiger un brief, par exemple. La vérité, c'est quelle ne le sera jamais. Car contrairement à mes collègues et moi, elle n'a jamais cherché le sens d'un projet.

Elle n'a jamais eu l'intention de servir un propos, des valeurs ou une idée. Elle ne connaît pas les deadlines impossibles, les pizzas froides et les hectolitres de café. Elle n'a pas vécu la joie d'avoir réussi une prez qui claque ou la honte d'avoir pondu une préco moins pertinente que d'habitude. Elle n'a jamais eu l'idée nouvelle qui vient éclairer trois jours de recherches jusque là stériles, cet « Eurêka ! » synonyme de kif absolu. Elle n'aura jamais ni l'expertise, ni la patine de l'être humain.

On voudrait tellement que la magie existe

Accepter de lui confier un « rôle », c'est croire qu'elle est magique. Or, si nous étions des individus rationnels, nous commencerions plutôt nos prompts par : « tu es une sorte d'algorithme très sophistiqué qui pond des phrases sans originalité mais statistiquement OK. »

Sauf qu'au fond, on a envie que la magie existe. On voudrait qu'il y ait une pensée et des intentions dans le LLM, plutôt que des vecteurs et des calculs de probabilités. Alors on joue. « On dirait que tu serais senior copywriter... » On accepte d'être crédules. Et cette crédulité, à votre avis, elle profite à qui ?

Je ne le répéterai jamais assez dans les formations que je donne sur le sujet : l'IA générative est un produit qui ne pense pas, ne ressent pas, ne croit rien et n'a pas d'intention. Elle utilise une méthode statistique pour former des phrases ressemblant aux nôtres, mais il n'existe chez elle aucun souci de vérité. Et chaque fois qu'on s'imagine qu'il « y a quelqu'un » ou que c'est « magique », on se fait avoir par des entreprises qui ont décidé d'exploiter à fond notre vulnérabilité face à l'effet Eliza. C'est entre autres pour cela que j'aide les équipes et les publics du secteur non marchand à réfléchir leurs usages du numérique.

¹ Je parle ici des aigrefins qui sévissent sur LinkedIn avec leurs prétendus « prompts ultimes », pas du véritable métier de prompt engineer, qui ne s'acquiert qu'après maintes années d'études supérieures.