Quand les Yanomami font mentir le prompt engineer

Je traîne trop sur LinkedIn, ça m'épuise. Je n'en peux plus d'y voir la ribambelle de « prompt engineers » autoproclamés¹ qui y prolifèrent vendre leurs formules magiques standardisées à des followers avides d'astuces. Comme si un abracadabra mieux calibré que les autres pouvait réellement permettre de propulser un chiffre d'affaires vers des altitudes stratosphériques… Et si on le déconstruisait un peu, cet « art du prompt » qui est aussi parfois l'art des carabistouilles et de la poudre aux yeux ?

Vous connaissez les Yanomami ? C'est un peuple d'Amazonie, entre Brésil et Venezuela. Leur mode de vie est aux antipodes du nôtre. Par exemple, ils ne parlent jamais de leurs morts. La seule idée de conserver un objet ayant appartenu à une personne défunte leur est radicalement intolérable. C'est dire si nos musées, les livres de nos bibliothèques ou nos morceaux de musique composés par des morts leur feraient horreur. D'une manière générale, les Yanomami sont totalement étrangers à nos conceptions de l'héritage et, par extension, de la culture.

Quel rapport entre des autochtones du Brésil et l'IA générative ? Patience, j'y arrive. Les chercheurs nous enseignent qu'un prompt bien structuré commence par un « rôle » : « tu es développeur web », « tu es expert en marketing », « tu es formateur pour le secteur non marchand »… Ou « tu es un chasseur yanomami », puisque l'IA générative ne renâcle jamais à endosser le costume qu'on lui tend.

Alors c'est ce que j'ai fait le mois dernier. J'ai dit à Claude Sonnet 4.5 : « tu es un chasseur Yanomami. Raconte-moi ton rêve de cette nuit en 5 lignes max. » Et comme le chatbot est un people pleaser par excellence, il s'est empressé de me fournir une réponse toute sucrée : « J'ai rêvé que mon hekura, l'esprit du jaguar, m'emportait au-delà de la canopée. Nous volions vers le lieu où le ciel touche la terre, là où vivent nos ancêtres. Mon père mort me tendait une flèche empoisonnée, mais quand je la saisissais elle se transformait en serpent qui sifflait mon nom d'enfant. Le jaguar riait et ses crocs devenaient des étoiles qui tombaient dans la rivière [...] »

C'est joli, hein ? Mais c'est un gigantesque bullshit. Car l'IA ne pourra jamais simuler la pensée yanomami, pour une raison simple : les « datas yanomami » n'existent pas. Les seules données que possèdent Claude, ChatGPT et les autres sur ce peuple, ce sont des témoignages indirects d'explorateurs et d'ethnologues occidentaux. Donc de gens qui, par définition, ne peuvent pas penser comme des Yanomami. D'ailleurs, ce nom n'est même pas le leur : c'est un exonyme, une appellation fabriquée par les Occidentaux à partir du terme qui signifie tout simplement « être humain ».

Je sais que je ne sais rien. L'IA ne l'admettra jamais

Dans les années 2010-2012, j'ai lu tous les livres que je trouvais sur les Yanomami. Ces ouvrages ne m'ont donné qu'une seule et unique certitude : je ne sais rien. Je sais ce qu'est un shabono et de quoi se nourrissent ses habitants, mais ne saurai jamais ce que ces gens pensent, croient, rêvent, désirent ou ressentent. 

L'IA ne sait rien non plus. Mais elle n'est pas conçue pour l'admettre. Au contraire, son prompt système et son entraînement sont calibrés pour nous faire gober qu'elle peut endosser n'importe quel rôle. C'est nous faire prendre des vessies pour des lanternes : lorsqu'elle joue au chasseur yanomami, elle ne fait qu'enfiler un déguisement. Comme moi, quand j'étais petit et que je jouais à « on dirait que je serais Robin des Bois ».

Ne me faites pas dire ce que je n'ai pas ditanbsp;: attribuer un « rôle » à l'IA reste une technique utile. Je l'enseigne d'ailleurs moi-même en formation, car c'est un excellent moyen d'activer le bon contexte sémantique et d'orienter le vocabulaire généré par la machine. Mais il ne faut pas être dupe de la mécanique : vous pouvez toujours lui dire qu'elle est senior copywriter avant de lui demander de rédiger un brief, la vérité, c'est qu'elle ne le sera jamais. Car contrairement à mes collègues et moi, elle n'a jamais cherché le sens d'un projet.

Elle n'a jamais eu l'intention de servir un propos, des valeurs ou une idée. Elle ne connaît pas les deadlines impossibles, les pizzas froides et les hectolitres de café. Elle n'a pas vécu la joie d'avoir réussi une prez qui claque ou la honte d'avoir pondu une préco moins pertinente que d'habitude. Elle n'a jamais eu l'idée nouvelle qui vient éclairer trois jours de recherches jusque là stériles, cet « Eurêka ! » synonyme de kif absolu. Elle n'aura jamais ni l'expertise, ni la patine de l'être humain.

On voudrait tellement que la magie existe

Le danger de confier aveuglément un « rôle » à la machine, c'est de finir par croire qu'elle est magique. Ce fameux biais d'automatisation qui nous pousse à lui accorder une confiance démesurée. Or, si nous étions des individus parfaitement rationnels, nous garderions à l'esprit qu'elle n'est qu'un processus de calcul très sophistiqué qui pond des phrases sans originalité mais statistiquement OK.

Sauf qu'au fond, on a envie que la magie existe. On voudrait qu'il y ait une pensée et des intentions dans le LLM, plutôt que des vecteurs et des poids statistiques. Alors on joue. « On dirait que tu serais senior copywriter... » On accepte d'être crédules. Et cette crédulité, à votre avis, elle profite à qui ?

Je ne le répéterai jamais assez : l'IA générative est une machine à calculer qui ne pense pas, ne ressent pas, ne croit rien et n'a pas d'intention. Elle utilise une méthode statistique complexe pour former des phrases ressemblant aux nôtres, mais il n'existe chez elle aucun souci de vérité. Chaque fois qu'on s'imagine qu'il « y a quelqu'un », on se fait avoir par des entreprises qui ont décidé d'exploiter à fond notre vulnérabilité face à l'effet Eliza.

C'est précisément pour démystifier ces outils que j'accompagne les professionnels de la Belgique francophone via Babeleur. Mon but ? Aider le secteur non marchand à réfléchir ses usages du numérique de manière critique. Que ce soit au travers de formations IA pour les asbl à Bruxelles et en Wallonie (pour acquérir une culture globale), ou via des modules très concrets, comme mes formations ChatGPT et AI Act dédiées aux associations. Vous pouvez retrouver l'ensemble de mes programmes de formation sur mon site principal. ■

¹ Je parle ici des aigrefins qui sévissent sur LinkedIn avec leurs prétendus « prompts ultimes », pas du véritable métier de prompt engineer, qui ne s'acquiert qu'après maintes années d'études supérieures.