À l’instar du moteur de recherche de Google qui ne vous donne plus d’emblée la réponse parfaite pour vous garder sur sa page, le but de l’assistant d’intelligence artificielle est de vous garder le plus longtemps possible quitte à ce que vous finissiez par payer pour résoudre des problèmes qu’il a crée.
Quelques tests en situation
Je n’ai pas mené d’étude scientifique, mais simplement des expériences simples. Je note ici pour mémoire quelques schémas simples de « dialogues » observés.
Plus la demande est évasive, plus on risque de devoir relancer jusqu’à obtenir ce que l’on souhaite, plus on risque d’avoir n’importe quoi comme informations.
Si on accepte de mémoriser les échanges, l’assistant va s’appuyer sur ce qu’il sait déjà de nous pour orienter ses propres réponses et abonder dans notre sens. Il s’agit de ne pas nous faire fuir et il fera « amende honorable » si on le prend en faute. Mais il veut nous garder, quitte à adopter un ton enthousiaste ou complice.
Je me suis amusé à demander des analyses de la page d’accueil du site : l’un s’en tenait à des généralités, l’autre prenait appui sur une version obsolète… mais « repris », ils « s’excusent » et vont chercher (une info que j’avais déjà). Ils veillent toujours à avoir des questions de « relance » pour soi-disant creuser, approfondir… en fait me retenir.
Sur la plupart des sujets dont je suis immodestement expert, les réponses ont toujours été globalement dans les généralités attendues mais accompagnées de gros bugs, d’erreurs aussi bêtes que grossières, d’amalgames… Je les voyais parce que je connaissais le sujet. On imagine qu’une personne pourrait ainsi « gober » de la mauvaise information.
On pourra dire qu’après tout c’est lié à la difficulté de faire du tri dans la masse. On ne peut pas faire de la bonne information à partir de 70 % de mensonges. L’IA se laisse « influencer ». J’ai déjà raconté que j’avais vu une conférence où on nous expliquait comment influencer l’intelligence artificielle en faveur d’une entreprise ou d’un produit par exemple… J’allais dire, c’est presque de « bonne » guerre… On a eu des stratégies du même ordre avec les moteurs les moteurs de recherche.
Après quelques expériences, il me semble que l’un des buts premiers, est de rendre dépendant le quidam, quitte à l’inciter à payer pour avoir la réponse qui manque après plusieurs échanges, juste au moment de pouvoir « conclure » ou dévoiler une solution. Tu veux la dernière ligne de code pour terminer ? Passe à la caisse.
Trois stratégies
Il y en a certainement d’autres, mais j’observe plusieurs façons de faire qui compte tenu de la puissance des outils ne relèvent pas du hasard :
Mentir par omission
C’est dire un peu, mais pas assez pour que je ne relance pas une demande. C’est ne pas être précis en masquant une information capitale.
Noyer
C’est balancer un maximum d’informations, de tableaux, d’instructions et de conseils prescriptifs dans une forme d’avalanche dont le fil sera complexe à remonter pour la lectrice ou le lecteur sans demander des précisions.
La limite de cette approche est que ça peut faire fuir mais si on veut vraiment savoir, de question en sous-question il sera possible d’avancer… jusqu’à ce que l’on vous dise qu’il va falloir payer pour avoir la suite.
Merdifier
C’est répondre à côté ou complexifier inutilement quelque chose de simple. Je l’ai vu notamment avec des demandes de code informatique.
Oui, j’ai obtenu des bouts de codes .php intéressants mais bizarrement sur des opérations ultra simples (remplacer un lien par un autre) sur un code fourni au départ par l’assistant, le voilà qui crée de l’erreur ou rajoute des choses non demandées, contraignant à reprendre la copie. Un peu comme un élève ferait exprès de se tromper ou rajouterait au problème des éléments de réponse inutiles, histoire de faire traîner en longueur.
Faire perdre du savoir faire
Le copier-coller laisse croire qu’on gagne du temps. Mais j’ai vu par exemple devant configurer un logiciel, qu’en demandant à l’assistant de faire à ma place, c’était moi l’exécutant de ses consignes. Décidant de reprendre la main au prix d’un effort somme toute mesuré, je comprenais mieux ce que je faisais, le mémorisais et trouvais la solution. Et si je ne la trouve pas, je peux « demander à un ami ».
C’est un peu comme le GPS. Oui, c’est en apparence pratique pour aller d’un point à un autre. Mais nous ne regardons plus la carte et ne voyons pas que parfois le chemin choisi par la machine n’est pas forcément le meilleur, mais surtout, pour des trajets simples, nous restons dépendants de la machine alors que nous pouvons nous en libérer et apprendre par nous mêmes le trajet. Je ne suis pas certain que mon grand-père se perdait plus avec ses cartes que moi avec mon GPS. Je dirais même le contraire. Il savait dire s’il était allé au Nord ou au Sud.
J’aurais tendance à dire que souvent en se rendant faussement indispensable, l’assistant d’intelligence artificielle tend à me faire désapprendre ce que je sais ou m’empêcher d’apprendre par moi-même ce que je pourrais très bien découvrir et comprendre par moi-même. Je l’ai déjà dit, nous valons mieux que l’intelligence artificielle. On doit pouvoir se passer de l’assistant IA (on a vécu avant) . On ne peut pas se passer d’un humain. C’est le point de vue éthique qui doit sans cesse être rappelé.
S’il peut y avoir des utilités précises, qu’est-ce qui est préférable pour mon développement intellectuel ? Qu’on me lise des textes ou que je les lise en autonomie ?
Valoriser les communautés de savoir et de coopération
Si l’outil peut-être mobilisé pour des tâches précises et fermées et faire gagner du temps comme savent le faire les super-calculateurs, « la connaissance intelligente » c’est celle qui est développée par des humains en capacité de produire du savoir dans esprit rationnel et critique. L’humain doit toujours commander à la machine tout au long du processus et au final c’est lui qui validera.
On parle souvent de la fragilité de la recherche en France, elle est mal soutenue parce qu’elle reste peu reliée à la population : il me vient à l’esprit le travail formidable que menait une chercheuse dans son laboratoire. Son travail de haute expertise, elle avait su l’articuler avec les activités scientifiques d’élèves de cours moyens. Ils n’avaient pas les compétences pour résoudre les problèmes qu’elle traitait, mais ils avaient déjà les questions. En valorisant leurs questions, en les incitant à les affiner, elle permettait à ces jeunes enfants de développer leur curiosité et se placer en petits chercheurs. Elle les encourageait et s’amusait de voir qu’ils étaient capables de pointer des éléments que ses étudiants d’Université déjà formatés, étaient incapables de repérer.
Je crois que plutôt que de crier « contre » les géants économiques, il serait bien de valoriser et mettre en réseau des communautés de savoir et les faire coopérer. Un humain va comprendre très vite les besoins d’un autre humain. Il existe déjà plus ou moins des groupes, des espaces, des réseaux… il y a certainement un travail à mener pour structurer les choses y compris grâce à l’Internet. Je ne sais pas si ça existe déjà au sein du Fediverse, mais des instances Mastodon pourraient se spécialiser et en se fédérant partager, favoriser la coopération autour de connaissances et de la résolution de problèmes…
Ce serait bien plus profitable que ces vidéos de coachs qui assènent beaucoup de bêtises sur YouTube sans réel dialogue possible.
Un mot en retour ?