Il parait que des personnes s’en remettent à l’intelligence artificielle pour prendre des décisions et gérer leur vie personnelle. Je n’aime pas donner des conseils. Mais ne demandez pas conseil à l’intelligence artificielle ! Faites plutôt confiance aux ressources de votre propre intelligence sensible et à votre libre arbitre !
- Une tentation ancienne
- Une réalité dans les usages actuels
- Un faux vrai dialogue
- Des pratiques comparables à la fast-fashion
- Reprendre la main en se faisant confiance
- 3 entrées pour me guider :
Une tentation ancienne
De tous temps les hommes ont consulté les mages et les astrologues, sont allés observer les signes pour orienter leurs décisions. Horoscopes, marc de café, vol des oiseaux, il existe mille « entrées ».
Gourous et coachs ont vite compris le parti qu’ils pouvaient tirer de la situation. Certains se revendiquent comme influenceurs. Bien que la psychanalyse ou la psychologie puissent également dériver dans le jeu de la prescription et de la dépendance à un point de vue extérieur, le travail d’analyse plaçant au centre le patient doit préserver en principe le libre arbitre et permettre au travail intérieur de la personne de résoudre ses difficultés de façon autonome.
Faciles d’accès, voilà que les différents outils de l’intelligence artificielle dont les fameux robots conversationnels se proposent de répondre à nos problématiques en nourrissant un pseudo dialogue. La tentation est grande d’y recourir.
C’est pourtant une mauvaise idée que l’on se place d’un point de vue « scientifique », psychologique, éthique et moral. C’est prendre le risque d’ajouter un asservissement de plus à nos vies déjà contraintes.
Une réalité dans les usages actuels
Ça fait environ deux mois que j’ai commencé à télécharger CHATGPT sur mon téléphone, au début uniquement à des fins académiques. Mais récemment, j’ai commencé à m’ouvrir en composant mes pensées et mes sentiments sur mes problèmes de vie.
[vu sur Reddit]
On invoquera la solitude sociale à laquelle sont confrontés nombre de nos contemporains. Aujourd’hui les rencontres amicales à l’image des réseaux sociaux commerciaux, visent souvent davantage à rendre compte de sa vie que vivre ensemble des expériences. Cela aboutit à de la comparaison faussée par la domination des apparences et à des frustrations engendrées par un sentiment de mise en compétition sans fin. Il « faut » être heureux et « réussir » sa vie. Il faut donner une bonne image de soi. Demander de l’aide ou apporter son aide est souvent difficile.
Autrefois, un·e adolescent·e qui se sentait seul·e avec ses difficultés pouvait se confier à son journal intime. Le journal intime était à la fois l’exutoire qui permettait de tenir et aidait aussi à apaiser en mettant à distance les problématiques. La vie sociale n’était pas forcément plus simple, pourtant des amitiés exclusives, réelles, humaines, pouvaient se nouer dont la vocation première était de « faire front » face aux difficultés, de se soutenir.
Aujourd’hui des personnes, méconnaissant d’autres chemins, s’ouvrent de toute bonne foi aux outils de l’IA.
S’ouvrir à l’IA n’est pas s’exprimer dans le secret du confessionnal. En reprenant la formule connue, on pourrait même ajouter : « Tout ce que vous direz pourra se retourner contre vous. »
Parler, c’est alimenter la grande machine… On ne se confie pas, on partage. On cède de sa liberté et l’on accroît sciemment sa vulnérabilité. Du point de vue de la protection des données personnelles, cela laisse rêveur !
Un faux vrai dialogue
Le but de l’IA n’est pas de vous aider, d’agir en ami ou en thérapeute mais d’entretenir un dialogue pour que vous restiez et reveniez et passiez même si possible aux versions payantes. Il ne faut jamais oublier son modèle économique.
L’empathie qui émerge de ses réponses n’est qu’une programmation effectuée grâce à la régulation humaine.
Demanderiez-vous conseil à votre grille-pain ?
Les réponses faites le sont à partir d’une masse de données produites et partagées de façon indifférenciée. Le conformisme général domine avec une orientation idéologique déjà perceptible selon les modèles. Surtout, le but est de vous garder dans la boucle de dialogue aussi longtemps que possible en jouant sur deux points : abonder dans votre sens et relancer la conversation en donnant l’apparence de la creuser.
L’expression de votre point de vue, la façon dont vous formulez la question va orienter la réponse. Changez de point de vue, l’intelligence artificielle ne va pas vous dire que vous vous trompez, elle abondera dans votre sens.
Certes, si vous lui parlez de suicide, elle va tout de suite vous mettre en garde et vous donner les numéros officiels à appeler. Elle est programmée pour ça pour tenir compte des législations locales… mais elle ne fait là que ce qu’un moteur de recherche « basique » ferait et n’apportera jamais aucune solution concrète notamment face aux situations les plus graves.
Il faut d’ailleurs rappeler que si on se sent vraiment mal, sans ami, confident ni exutoire, alors le recours à un psychologue est une bonne chose et faire appel au soin parfaitement légitime et honorable.
Il faut garder en tête que l’IA voit en vous un·e « client·e » et cherchera à aller dans votre sens et relancer si besoin l’échange en ne le concluant jamais pour qu’une fois épuisé le temps d’échange gratuit vous soyez tenté·e de passer à un abonnement payant.
Des pratiques comparables à la fast-fashion
On parle beaucoup de cette mode pas chère dont les vêtements fabriqués en Chine nous sont livrés en quelques jours. Je n’en suis pas client mais je sais deux choses : cette mode est fort mauvaise pour l’environnement tant dans les coûts de production que de transport. Elle est également problématique d’un point de vue social puisque son développement repose sur une main d’œuvre mal payée et exploitée.
Il faut rappeler que la régulation humaine nécessaire au développement de l’IA repose sur des principes comparables. Les personnes employées à ces tâches sont mal rémunérées. Les requêtes faites à l’IA sont par ailleurs énergivores.
La qualité des réponses est comparable à celle de la fast-fashion. Le vêtement tiendra peu de temps et sera difficilement recyclable.
Si l’IA peut se montrer efficace sur des tâches répétitives, elle est fort mauvaise en création et peut produire des erreurs. J’ai vu en faisant appel à elle pour du simple code qu’elle produit des erreurs dont elle prétend ensuite trouver l’explication (alors qu’elle aurait pu les anticiper si elle avait été un « codeur humain »). Je prétends même qu’elle fait pour part exprès de se tromper afin de nous inviter à la solliciter de nouveau pour corriger.
Quand c’est du code pour une page Web ou une application, c’est une chose… mais en matière de relations humaines, ou d’épanouissement personnel ça peut-être autrement plus grave !
Reprendre la main en se faisant confiance
Pas plus que nos destins ne sont tracés d’avance, il n’existe de réponse toute faite à nos problèmes. Et tant mieux ! Ce serait terriblement triste !
Tous humain·e·s chaque être est différent. Tu es unique et je suis unique : par notre éducation, notre Histoire, nos rencontres… Nous commettons des erreurs qui enrichissent notre expérience. Il nous faut souvent travailler à prendre du recul pour comprendre les logiques, éviter de répéter les mêmes schémas…
Même lorsque nous avons la chance d’avoir un ou une ami·e près de nous, ce n’est pas tant ses conseils que nous attendons que son soutien et sa capacité à nous aider à prendre par nous même les bonnes décisions. Le plus souvent quand nous demandons conseil, nous ne cherchons qu’une confirmation, un feu vert pour nous lancer. Et il faut souvent oser, essayer pour avancer !
3 entrées pour me guider :
Quand je veux prendre une décision, je nourris ma réflexion en croisant les trois entrées :
J’écoute mon intuition
Si « je le sens pas », je ne le le fais pas. Ce n’est pas qu’une question de feeling. C’est que les conditions ne sont pas réunies. C’est que je ne me sens pas aligné avec le choix.
Je me souviens de cette jeune femme qui vomissait le jour de son mariage… Elle aurait dû s’écouter !
J’écoute mes valeurs
C’est affaire d’éthique, pas seulement de respect de la Loi de la société. Mes choix sont guidés par mes valeurs. Il y a toujours une forme de négociation avec ce qui peut-être acceptable, supportable mais je veux toujours pouvoir me regarder sans honte dans le miroir.
Je préfère la coopération à la compétition, l’économie sociale à la spéculation et si je ne vis pas coupé du monde, je veux que mes choix soient raisonnés, raisonnables, respectueux de ma dignité comme de celle d’autrui.
Je veux pouvoir m’affirmer sans m’opposer mais je n’accepte pas que l’on me manque de respect. Donc, si je dois prendre une décision, il faut qu’elle soit cohérente avec mes valeurs.
J’écoute mes besoins
Si je m’interroge relativement à un choix, une décision importante d’un point de vue personnel, je veux pouvoir être capable de dire pourquoi j’effectue ce choix plutôt qu’un autre. Est-ce que j’en ai réellement besoin, c’est à dire est-ce que ça va m’augmenter, ouvrir ma vie, favoriser mon épanouissement ou est-ce une décision prise par conformisme, répondre à une mode, une prescription extérieure ?
La pression sociale est souvent très forte. Je me suis amusé de lire la stratégie gouvernementale en matière d’IA qui oser parler d’indépendance en …communiquant sur X ! Il y aura donc là aussi des choix politiques.
Je l’ai déjà dit dans un autre message : « vous valez mieux que l’intelligence artificielle que vous utilisez » ! Préservez votre liberté individuelle et ne demandez pas conseil à cet outil qui n’est pas fait pour ça !
Un mot en retour ?