L'usine à trombones, encore une histoire de prompt mal cadré...

Depuis la démission fracassante de Jacob Coxon, ce chercheur passé par OpenAI puis Anthropic, difficile d’échapper aux commentaires des journalistes sur le thème de l’IA qui va tous nous tuer. Il faut dire que Coxon lui-même a accusé son employeur de foncer vers des systèmes toujours plus puissants en « jouant avec nos vies ». Et même d'annoncer que l'IA pourrait nous vaporiser « d'ici la fin de la décennie ». Ambiance.

Alors, forcément, revoilà la bonne vieille thématique de l’usine à trombones qui repointe son nez.

Cette expérience de pensée popularisée par le philosophe Nick Bostrom imagine une superintelligence à laquelle on aurait confié un objectif apparemment innocent : fabriquer le plus de trombones possible. Très consciencieuse, la machine commence par recycler tout le métal à sa disposition. Mais comme celui-ci finit par manquer, elle en vient à atomiser la Terre et ses habitant·es pour alimenter en matière première sa gigantesque usine à trombones.

L'idée a alimenté un jeu en ligne et inspiré un youtubeur dont il faut reconnaître qu'il est doué pour le teasing et la narration.

Bref, l'usine à trombones, ça file grave les chocottes.

Mais attendez…

Pour qui, les trombones ?

Parce qu'en vrai, si la personne qui a prompté l'IA avait pris cinq minutes pour cadrer son besoin avec les 6W et le CADRE que j'enseigne en formation, elle aurait peut-être précisé : Produire suffisamment de trombones pour couvrir la consommation mondiale, puis s’arrêter.

Car c'est exactement la fonction du Who? des 6W et du E de mon schéma CADRE : Échappements, qui invite la personne utilisatrice à se poser explicitement la question : "Qu'est-ce qui pourrait bien partir en sucette ?"

Une diapo extraite de ma formation IA de deux jours.

Ça tombe bien, je vous propose justement un méta-prompt qui permet de vérifier qu'on a suffisamment cadré son intention avec ces deux cribles.

Et hop. Humanité sauvée. Merci Babeleur.

Sauvez l’humanité : apprenez à cadrer vos prompts ! 😎

Bon, d’accord : j'ai un peu déformé l'histoire, car en 2003, Bostrom ne connaissait pas la notion de prompt, apparue près de vingt ans plus tard avec les premiers modèles d'IA générative. Chez lui, il est question d’un objectif inscrit dans le système. Mais ça revient presque au même.

Et ça en dit quand même assez long sur nos usages actuels de l’IA : un prompt n’est pas mauvais uniquement parce qu’il est mal formulé. Il peut surtout être raté parce que l’intention n’a pas été suffisamment pensée en amont. Donc, parce qu'on n'a pas activé ce qui reste notre meilleur outil pour donner des instructions à une IA : nos cerveaux.

👉 Quant à vous, si jamais vous cherchez une formation d'introduction à l'IA courte mais dense, dynamique et sympa à Bruxelles ou en Wallonie, j'ai mis toutes les dates ici 😉 (Pour les formations d'équipe, c'est là)