Pourquoi on a cru que les IA savaient rédiger

Vous utilisez l'IA ? Mais pour faire quoi ? Dans les associations et ONG où j'interviens, la réponse est souvent la même. Quand la structure n'a pas encore intégré d'outils d'automatisation, c'est un peu pour organiser ou réfléchir des activités, un peu pour illustrer des documents ou des posts Instagram, mais surtout beaucoup pour rédiger. Une utilisation très banale, en somme, et partagée par une écrasante majorité de la population. L'ennui c'est qu'elle se fonde sur un énorme biais. Car si ChatGPT, Claude et Gemini peuvent nous rendre d'innombrables services au quotidien, ils ne sont pas faits pour écrire ! Ils n'ont même jamais appris à le faire.

La plupart de mes formations IA pour les associations et ONG de Bruxelles et de Wallonie commencent par un tour de table où l'on se présente. Et, très souvent, j'observe la même répartition de participant·es : comptez en moyenne 10 % de réfractaires, 10 % de passionné·es... Et entre ces deux extrêmités du spectre, une large majorité de personnes plus ou moins curieuses, qui ont plus ou moins commencé à tester ChatGPT dans leur coin... Pour quoi faire ? Bah, pour faire comme tout le monde : questionner, relire, corriger, rédiger des mails...

L'ennui, c'est que ChatGPT est bien incapable d'aligner trois paragraphes corrects. S'il avait des membres inférieurs, je dirais même qu'il rédige comme ses pieds. Et que ça n'est pas près de changer. Plutôt contre-intuitive, ma révélation, vous ne trouvez pas ? Eh oui ! Et pour comprendre notre erreur collective, il faut revenir sur la chronologie.

Novembre 2022 : le malentendu fondateur

Le 30 novembre 2022, OpenAI lance un outil présenté comme un système conversationnel. Pour les millions de curieux·se qui le testent, l'expérience tient dans une boîte de dialogue : on pose une question, la machine répond. On lui demande de nous préparer un mail ? Ça ne lui prend que quelques secondes. Les fonctions qui nous seront bientôt indispensables n'existent pas encore : la navigation web arrivera en bêta en mai 2023, Code Interpreter en juillet 2023. Donc, tout ce que nous voyons (et retenons), c'est un outil qui génère du texte dans une interface conversationnelle.

OK, mais ce n'est pas ça, une IA. Une IA, c'est un système capable de suivre des instructions complexes. Si on avait découvert ChatGPT sous la forme d'un terminal de code austère, on l'utiliserait pour ce qu'il est : un puissant moteur de traitement de structures. Mais le « Chat » nous a répondu comme un humain, alors notre cerveau l'a assimilé à un scripteur compétent.

Ce malentendu persiste toujours, malgré toutes les récriminations qu'on voit passer sur LinkedIn. Désormais, tout le monde est bien conscient que les textes générés sont bourrés de tics irritants. On s'en plaint souvent. On repère les plus visibles, ces « crucial » creux, ces « massif » assenés à tout bout de champ, et tous ces tirets cadratins qui ruissellent en cascade. On les corrige en râlant, mais on n'en tire toujours pas la seule conclusion logique : cette incapacité à produire du premier coup des textes qui nous conviennent, c'est une limite structurelle. Pas un défaut de paramétrage.

Personne ne leur a appris

D'abord, vous pouvez en croire mon expérience de senior copywriter et conseil éditorial, écrire, ce n'est pas seulement aligner des phrases fluides. C'est aussi choisir un angle, organiser une progression et revenir constamment sur son ouvrage : on coupe là où il faut couper, on insiste quand ça a du sens. Et ça, l'IA ne peut pas le faire, puisqu'elle génère sans réfléchir, un token après l'autre.

Ensuite, ces modèles n'ont tout simplement pas été formés à la rédaction. Personne ne leur a expliqué l'accord du participe passé avec l'auxiliaire avoir ni comment conjuguer coudre à l'imparfait du subjonctif. Ils ont inféré par corrélations statistiques à partir de quantités astronomiques de textes, certes. Mais pas n'importe quels textes... Passe encore si on ne les avait nourris qu'avec le Grevisse, le Bled et le Dictionnaire de l'Académie française. Mais comme on les a entraînés avec tout ce qui traîne sur le web, entre le jargon marketing creux, les posts de réseaux sociaux truffés de fautes et les articles rédigés à l'arrache, ils ont lu infiniment plus de médiocrité que de pages de Proust ou de Richard Brautigan !

Or générer, c'est produire du médian. Le LLM cherche statistiquement ce qui ressemble le plus à ses données d'origine, donc à « comment on écrit sur le web » : pas de singularité, pas d'expression originale, pas de voix reconnaissable. Ses calculs de probabilités lui permettent de fabriquer du moyennement correct, pas de sortir du lot.

Enfin, il y a l'absence d'intention. Votre IA ne peut pas deviner ce que vous voulez vraiment dire, si vous ne l'avez pas précisé. Alors elle tourne en boucle, avec des effets de manche et des paragraphes redondants. La conséquence, beaucoup l'ont vécue : on passe plus de temps à relire et corriger ses textes qu'on n'en aurait mis à rédiger soi-même. C'est épuisant cognitivement, car il faut déployer une concentration hors du commun pour détecter les fausses notes, dans une suite de mots qui a l'air tellement fluide...

Blâmer l'outil ne sert à rien, d'autant qu'il fait plutôt bien son job, si l'on y pense. Moi, qu'une gigantesque machine à calculer des poids statistiques puisse produire du langage qui fait sens à nos yeux, je trouve ça fascinant. Ça me passionne tellement que je passe mon temps à explorer la mécanique, par exemple avec FoxGPT, mon LLM imbécile.

Alors, comment on fait ? On repart de zéro en adoptant les réflexes qu'on aurait dû avoir dès novembre 2022 : on instruit la machine. On lui fixe un cadre, on lui donne des règles et on lui explique qu'elle doit savoir. Ça peut sembler fastidieux au premier abord, mais si l'on prend le temps de bien préparer ses outils, c'est là qu'ils prennent tout leur sens.

Je suis en train d'écrire un court livre sur le sujet. Un guide pratique, clé en main, pour écrire avec l'IA sans écrire comme une IA. J'en reparlerai bientôt. En attendant, vous pouvez toujours tester mon détecteur des tics LLM les plus courants : collez-y n'importe quel texte généré par ChatGPT ou un autre et observez le résultat, c'est édifiant.  ■