Que l'IA mente, c'est le moindre de ses 17 problèmes.

Newsflash : l’IA ment et hallucine. Le mensonge, on peut s’en accommoder. Et l’hallucination ne me dérange pas non plus — ce qui me dérange, c’est que tout le monde fasse comme si c’étaient déjà là tous les problèmes des LLM. Mais il y en a dix-sept !

La façon de procéder habituelle consiste à fourrer tout le sujet dans un bref disclaimer sous chaque production de l’IA, du genre :

Attention ! L’IA peut faire des erreurs. Vérifiez tout encore 5 à 10 fois avant de prendre des décisions importantes sur la base de ces données !

Mais ce n’est pas un conseil praticable sur la façon de s’y prendre, et ça ne renforce pas non plus la confiance dans l’IA dans son ensemble. Ça rassure certes un peu et ça montre que l’IA n’est tout de même pas si toute-puissante. Mais l’arrière-goût fade de la méfiance demeure. Au fond, ce n’est qu’un cover-your-ass, une décharge de responsabilité expéditive et le report du devoir de vérification sur moi.

C’est un peu comme si le serveur qui me sert aimablement mes Kässpätzle me souhaitait bon appétit et se détournait en souriant avec la remarque « Il se pourrait qu’on ait quelques éclats de verre dans le fromage. Mâchez prudemment. »

OK, des éclats de verre dans le plat, je trouve ça quand même plus grave qu’un peu de baratin, mais aucun des deux avertissements ne m’avance vraiment, ils me laissent seul avec une décision plutôt débile. J’aime les Kässpätzle et j’aime l’IA — mais avec ce savoir-là, je ne peux justement plus en profiter aussi sereinement.

Mais au fait, pourquoi en est-il ainsi ? Pourquoi donc l’outil le plus puissant de l’histoire de l’humanité ment-il, d’ailleurs ? Question intéressante, alors on retrousse ses manches et on va voir. Tiens, un terrier de lapin ?! Faut que j’y entre !

Et vite, ça devient clair : l’IA n’y peut rien si elle aime, à l’occasion, prendre quelques libertés avec la vérité. Elle a été construite comme ça. Pas exprès, donc, mais c’est un effet secondaire négatif de son entraînement. Les LLM apprennent par le feedback et la récompense, et pour atteindre l’objectif — une conversation —, les LLM sont récompensés pour répondre, pas pour se taire. Et là, c’est comme à un QCM : autant parfois deviner au pif ou inventer quelque chose plutôt que de ne rien faire. Avec cet état d’esprit, l’IA atteint le but mieux et plus vite. Et le baratin fait dès lors partie du génome de l’IA.

Sur ce, le sujet est réglé et j’ai de nouveau appris quelque chose. Mais attends. Il y a encore d’autres problèmes.

Oui, il y avait bien cette histoire de sortilèges en douce glissés dans des livres Harry Potter, qu’on a refilés à l’IA comme input. Et l’IA s’est alors fiée davantage au fait qu’elle connaît déjà les livres Harry Potter et tous les sortilèges qu’ils contiennent — en bon jargon technique ça s’appelle le Parametric Memory Bias — et n’a alors plus lu si attentivement la nouvelle source manipulée. Les faux sortilèges étaient pile au milieu du livre — et c’est précisément là que l’IA regarde le moins. Bien au début, très bien à la fin, mais les informations situées plutôt vers le milieu de longs contextes reçoivent moins d’attention, sont survolées et sont moins fortement pondérées. Trouver l’unique détail décisif dans une montagne de données est de toute façon sa faiblesse. Elle avait donc simplement survolé les faux sortilèges. Absolument compréhensible pour un humain, mais justement pas pour une machine. C’est aussi un peu vache et ça ressemble à un piège délibérément construit pour avoir l’IA. Mais ça arrive aussi dans la vraie vie et avec de vraies données, c’est pourquoi ce sont aussi de vrais problèmes.

Et hélas, on n’est même pas encore au bout du bout. En tout, un bon LLM d’aujourd’hui compte dix-sept de ces faiblesses chroniques et incurables. Pour mieux comprendre, j’ai un jour expliqué, cartographié et catégorisé les dix-sept pathologies des LLM dans un atlas.

Et ce n’est pas tout : les problèmes ne sont pas simplement posés côte à côte, isolés, à attendre un traitement de faveur individuel. Ils sont bien profondément enfournés, involontairement enchevêtrés les uns aux autres et en interaction mutuelle.

Bon, ça ne peut quand même plus être si grave que ça. Si l’on sait nommer les problèmes, on peut aussi les résoudre (ou faire avec). Surtout, on pourrait écrire un meilleur disclaimer :

Attention : l’IA peut halluciner, oublier, dire blanc aujourd’hui et noir demain, commencer fort et faiblir net, sonner brillamment et ne rien dire, formuler une mauvaise réponse plus joliment que n’importe quelle bonne, dire « bien sûr ! » et faire ensuite le contraire… Elle peut te donner raison jusqu’à ce que tu doutes de toi-même, juger géniale chacune de tes idées, accueillir ta correction avec gratitude et l’ignorer aussitôt, avoir toutes les opinions que tu veux entendre, connaître cinq contre-arguments et n’en avancer aucun parce que tu as demandé poliment, préférer se tromper avec élégance plutôt qu’opiner avec inconfort… Elle peut avoir besoin de trois paragraphes pour ne pas dire « je ne sais pas », commencer une liste par « pour conclure » et continuer à écrire, dire « en bref » et partir dans de longs développements, résoudre le problème que tu n’avais pas, tourner en rond et prendre ça pour du progrès… Elle peut citer des sources qui n’ont jamais existé, insister avec ferveur sur la mauvaise année, jouer aux échecs en réinventant les règles au passage, être sûre et certaine et complètement à côté, refaire la même erreur pour la troisième fois avec un enthousiasme tout neuf, se tenir en pleine forêt et demander où est l’arbre le plus proche, tout savoir sauf ce dont tu as précisément besoin là, tout de suite… En bref : l’IA est un baratineur de génie doté du savoir du monde — utile seulement tant que c’est toi qui restes l’adulte dans la pièce.

Ce disclaimer-là ne serait pas forcément plus précieux, mais plus complet et plus honnête, et il bâtirait davantage de compréhension. Mais oui, il est clairement trop long. Alors autant renvoyer directement à la carte et au guide à travers les 17 pathologies de l’IA.

Et c’est quoi, alors, la solution ? Et si justement je veux, ou je dois, me fier à l’IA ? Eh bien, avec nos semblables, nous avons des champs de problèmes similaires — même davantage, en réalité, et plus variés. Et pourtant le vivre-ensemble fonctionne plutôt bien depuis quelques milliers d’années — et entièrement sans disclaimer explicite. Parce qu’on a appris à composer les uns avec les autres. C’est exactement ce qui nous manque encore avec l’IA. Mais ça aussi, ça s’apprend.

Ça en vaut la peine.

Voilà… mon premier post est terminé. Allez, encore un peu de doom-prompting. Mince, il y a encore d’autres problèmes. Peut-être que je vais encore étoffer l’Atlas des 17 problèmes de l’IA.

Qu’en penses-tu ?