Quand on parle des IA notamment conversationnelles, on pense aux problèmes d’ordre écologique, à l’impact sur la façon de penser, voire la dépendance à cet outil quand il est utilisé pour prendre des décisions. Mais il ne faudrait pas oublier que si l’IA nous donne des informations -sans même évoquer la question de leur qualité- , nous lui en donnons énormément sur nous mêmes, de quoi nous profiler avec tous les risques à court ou moyen terme.
Le super aspirateur à données
Le vieux modèle de Facebook auquel nous avons confié nombre d’éléments de notre vie en négligeant de les masquer est largement surpassé. Ce qui était déjà inquiétant risque de devenir dramatique.
Eliott Meunier le rappelle dans une vidéo percutante, discuter avec l’intelligence artificielle c’est parler avec un aspirateur de données. Ça l’est pour le grand public même si des alternatives coûteuses existent.
Il ne s’agit pas d’une simple collecte de données à visée commerciale comme nous avons pu en connaître. C’était déjà grave. J’ai souvent expliqué que parmi les raisons qui m’ont fait quitter Méta et d’autres géants du Web, il y avait ce sentiment de ne pouvoir échapper à de la publicité intrusive, d’être sans-cesse sollicité et outrageusement désinformé ou manipulé par des algorithmes orientés sciemment.
Essayant une application voisine, j’avais découvert que non seulement celle-ci aspirait les numéros de téléphone de mes contacts si je n’y prenais garde mais était capable de retrouver des numéros pourtant bloqués et absents du répertoire actualisé. Une façon de rappeler qu’Internet n’oublie jamais rien et sait relier des données différentes.
Des séries télévisées évoquent ce qui n’est pas impossible techniquement aujourd’hui comme espionner une personne par le micro de son smartphone… voire via un objet connecté comme un aspirateur domestique ! Nos appareils ont des yeux et des oreilles !
Un ami qui ne vous veut pas forcément que du bien
Le curé au confessionnal, en principe, est tenu au secret et ne tient pas de fiches . L’IA conversationnelle, pas vraiment malgré les apparences qu’elle se donne.
Quand nous dialoguons avec une IA, ce que nous écrivons ou disons quitte notre ordinateur et va rejoindre les serveurs de l’entreprise qui héberge le modèle. On sait que dès lors qu’une entreprise est américaine, même si elle possède une filiale en Europe, elle est censée devoir répondre aux requêtes du gouvernement américain. Mais nous ne leurrons pas : le système serait français, ça n’apporterait pas forcément des garanties de respect de nos données !
Un message même une simple question que nous transmettons est traité par des ordinateurs ultra puissants . Des GPU (Graphics Processing Unit) ou « unités de traitement graphique » vont traiter tout ça en quelques secondes (d’où le côté énergivore) pour produire une réponse.
Au delà de la question de la pertinence de la réponse et de la relance de dialogue systématiquement engagée pour nous conduire vers des modèles payants, il nous faut percevoir tout ce que nous laissons remonter simplement en écrivant une requête :
- des fragments de notre vie privée
- nos goûts ou aspirations
- nos opinions
- nos doutes
- notre lexique
- notre portrait
- notre façon de penser
- etc.
Des éléments très intimes peuvent être concernés qu’ils relèvent de notre santé, de nos préférences alimentaires, de nos relations amoureuses etc.
Cela permet deux choses liées :
- le profilage de la personne : mieux que ne le ferait un détective ou un agent secret
- l’établissement de scénarios de prédiction de notre propre comportement
Ça va où, pour quoi faire ?
De ce que j’identifie il y a plusieurs usages :
À des fins publicitaires : pour nous proposer des produits… on connaît ça
Pour améliorer les modèles d’entraînement : j’avais lu une théorie disant qu’en alimentant les IA on pourrait orienter leur contenu. Plus prosaïquement à moins de penser à désactiver la fonctionnalité (et de faire confiance) les conversations peuvent être utilisées pour « améliorer » les futures versions.
Pour nous servir de second cerveau : ce serait presque sympathique. Ce que je confie à l’IA elle devrait pouvoir s’en souvenir et m’aider à retrouver une ancienne conversation ou une info… et ainsi mieux me « conseiller ».
Pour personnaliser notre propre expérience : l’IA sait que nous ne mangeons pas de viande, elle nous proposera des idées de recettes végétariennes si nous demandons que faire à dîner, elle s’appuiera sur notre propre pratique mais pour « aller dans notre sens » et tant pis si cela alimente nos propres biais cognitifs.
L’IA va conserver les données pour des raisons légales ou de sécurité Supprimer un historique n’efface rien. On imagine très bien ce que les machines seraient capables de faire y compris sous le couvert de la loi en se basant sur les thèmes, les termes… L’humour noir pourrait être un piège faisant réagir de travers les robots et on imagine bien comment une dictature enverra la police sur simple alerte de « la machine » pour reprendre l’appellation d’une série…
L’IA peut partager les données avec des tiers Des entreprises, des sous-traitants, des hébergeurs, des services d’analyse… On peut supposer qu’à différents étages des données peuvent déjà fuiter. On sait d’ailleurs que certaines conversations sont analysées par de vrais humains. Nous ne savons pas lesquelles, ni qui, ni pour en faire quoi .
En travaillant il y a quelques temps à vouloir protéger ce site des robots de l’IA, j’ai mesuré que c’était déjà trop tard pour tout ce qui a été aspiré depuis longtemps.
De même, si j’ai expérimenté des conversations avec différentes IA conversationnelles, fermer les comptes n’aura pas effacé le passé déjà stocké.
La boîte noire n’est pas un mythe paranoïaque
Des gouvernements plus ou moins autoritaires, élus « démocratiquement » pourront trouver très intéressant de pousser l’analyse de nos conversations que ce soit pour contrôler les libertés individuelles, orienter nos choix ou même comme un super institut de sondage en quasi temps réel afin de prétendre apporter des solutions aux problèmes de la Société dans une visée s’inspirant d’une forme de technosolutionnisme.
Après tout pourquoi aller voter quand les décisions pourront être prises grâce à une analyse fine de nos profils ?
L’intimité de nos pensées doit pouvoir être préservée
Nous sommes toutes et tous traversés de pensées, de réflexions que nous ne partageons qu’avec nous même, parfois fugacement. En transférant ces pensées à l’espace numérique, voilà que ces évocations prennent une forme tangible, sont conservées même si une forme d’impermanence les atteindra aussi… il y aura le risque que cela atteigne nos vies réelles.
Confier à la machine ce que nous ne confions pas à notre compagne ou compagnon, à notre animal domestique ou à notre meilleur ami, c’est aussi nous priver de la possibilité de ne pas perdre le lien avec nous-même, de nous faire confiance. Nous devons pouvoir décider de nous même et apprendre de nos erreurs sans nous remettre à un tiers, fut-ce une machine prétendument objective et scientifique.
Il m’arrive de parler à ma machine à laver. Elle ne me répond pas et comme elle est ancienne elle ne peut pas plus m’écouter que le galet posé sur la plage.
Si je demande quelque chose à l’IA, je dois toujours m’interroger de ce qui pourrait en être fait par une oreille tierce et comment elle pourrait l’interpréter.
Parler à une IA c’est comme parler dans la rue, publiquement. Ça n’a rien d’un chat privé (lequel d’ailleurs risque de ne pas l’être tant que ça).
Cela invite à un peu d’autocensure et limiter le recours à l’outil pour des demandes ciblées, utilitaires et qui le maintiennent clairement dans mon esprit à une demande faite à une machine de traitement de l’information. Mais derrière la machine, il y a des personnes avec des intentions pas toujours avouables.
Un mot en retour ?