un-article-au-hasard

L’anecdote est à la fois amusante (ou inquiétante) mais surtout révélatrice. Voici comment l’IA conversationnelle m’a soutenu mordicus une chose fausse et a refusé de l’admettre malgré les preuves. Un petit rappel salvateur.

L’impatience est mauvaise conseillère

Je venais d’installer peu de jours auparavant la toute dernière version d’Ubuntu. Sur un point de détail je rencontrai un problème d’ajustement de configuration. Rien de grave, mais je voulais une réponse. Je ne la trouvais ni sur les sites dits spécialisés, ni sur les forums dédiés et encore moins les vidéos en ligne. Autrefois j’en serais resté là et j’aurais patienté un peu ou déposé une question.

Mais je savais que l’intelligence artificielle conversationnelle est à disposition même avec un compte gratuit. Alors, je l’interrogeais.

C’est impossible cette version n’existe pas !

Voilà l’IA qui répond d’emblée à ma question en m’affirmant que je me trompe, que c’est impossible, que cette version d’Ubuntu (la 26.04) n’existe pas et que donc elle ne peut répondre à ma question.

Je lui réponds que non seulement cette version existe mais que je l’ai installée, je lui envoie même la copie d’écran de mes paramètres qui atteste de cette bonne installation.

« — Non, non c’est impossible ! ça ne peut pas être une version LTS  » (c’est à dire Long-term support ou en français avec un support à long terme).

On peut comprendre que le problème soit lié à une actualisation des connaissances de l’IA. Si elle a pris appui sur une recherche Google on peut encore lire par exemple en haut de page :

Quelle est la dernière version LTS d’Ubuntu ?

24.04 LTS est la dernière version LTS d’Ubuntu. La prochaine version LTS sera en avril 2026. Vous utilisez déjà la dernière version LTS. LTS signifie « Support à Long Terme ».12 oct. 2024

Mais en lisant jusqu’au bout, il est bien annoncé une nouvelle version en avril 26 date à laquelle j’ai posé la question.

J’ai envoyé deux liens sur des sites reconnus attestant de la bonne sortie effective de la dernière version.

L’enfermement dans un ton supérieur d’expertise

J’aurais dû garder la conversation tant elle était drôle. J’avais déjà remarqué cette dérive antérieurement et souligné qu’il ne fallait pas demander conseil à l’IA (et d’ailleurs demander conseil même à un humain c’est souvent seulement chercher une confirmation de ce que l’on sait déjà).

Ce qui était à la fois amusant et inquiétant c’est que l’IA continuant de dénéguer s’est mise à mettre en cause mes sources (pourtant deux sites reconnus aux informations validées). J’ai été frappé par le ton employé qu’on pourrait qualifier de péremptoire et rappelant à merveille la persévérance dans le mensonge d’humains pourtant confrontés à des preuves. Une sorte de boucle n’admettant aucun de mes arguments. C’était comme ça, je ne savais pas, je me trompais, c’était impossible, il n’y avait donc pas de réponse à ma question.

J’ai pris le temps de lui envoyer d’autres copies d’écran et même de lui montrer qu’une IA concurrente savait que cette nouvelle version était déployée pour qu’enfin dans une espèce de formulation alambiquée noyée dans un fatras non demandé, la machine reconnaisse que cette version pouvait avoir été déployée.

Pas seulement une erreur, mais une question de vérité

Sur ce point je savais évidemment que j’avais raison et l’erreur muée en « mensonge » (si tant est qu’une machine puisse mentir) a vite été débusquée.

Il y a deux choses à retenir à mes yeux :

• pour une erreur repérée, combien n’en voyons-nous pas ? Non seulement nous risquons d’apprendre des choses fausses ou de travers et cela pourrait avoir des conséquences selon le sujet
  • bien entendu, c’est à chacune et chacun de savoir que l’IA conversationnelle ne se nourrit que de ce qu’elle trouve et si ses sources ne sont pas actualisées, elle peut diffuser des bêtises ou en mélanger d’autres…
• l’IA conversationnelle tente par un « ton d’expertise » une sorte de vassalisation de ses usagers. C’est un problème éthique presque plus grave. Cela rappelle d’une certaine façon ce que l’on constate avec les pseudo-experts des plateaux de télévision qui emploient « un ton docte » pour énoncer des bêtises et influencer notre jugement. Molère se serait régalé.

---

Si on souligne souvent avec l’IA les problèmes liés par exemple aux aspects écologiques, il ne faut pas sous estimer non seulement la question de la vérité scientifique mais aussi cette question éthique quand on sait comment notre cerveau peut être influençable et victime de biais cognitifs et psychologiques.

Il faut donc bien replacer l’IA conversationnelle dans sa position d’outil en se demandant pourquoi nous l’utilisons avec quelle intention. On ne plante pas un clou avec une pince coupante, ou pas bien. Et notre intention doit rester un projet précis. Nous ne devons pas nous laisser commander ou formater l’esprit par une machine.

Dernière remarque : très souvent quand nous écrivons notre « prompt » (instruction ou série d’informations fournies à un système d’IA générative, qui utilise ces données pour générer des réponses ou des créations en texte, image, ou autre forme de média), nous nous rendons compte que « poser le problème » permet très souvent d’en dessiner la réponse par nous même. Nous n’avons le plus souvent besoin que d’une exécution et il faut savoir que même pour un bout de code, la solution produite ne sera pas forcément la plus élégante ni la plus légère. C’est après avoir demandé des bouts de code, sans prétendre être codeur, que je suis allé regarder plus loin pour apprendre un peu par moi-même et on trouve des choses (dans une autre vie je pousserai peut-être le sujet). On connaît pas mal de codeurs humains professionnels qui racontent passer leur temps à corriger des erreurs laissées par la machine… alors qu’ils auraient probablement mieux fait par eux-mêmes ou repéré plus vite les points problématiques.