Vous n’avez pas besoin de voir un humain derrière un écran pour modifier votre façon d’agir. Il peut suffire de penser que vos mots sont enregistrés, que vos choix sont évalués ou qu’un système pourrait un jour les utiliser contre vous. Vous reformulez votre question, renoncez à chercher un sujet sensible ou choisissez une réponse plus conforme à ce que vous imaginez attendu.

C’est le point de départ d’une réflexion sur l’IA et la surveillance. Pas l’affirmation selon laquelle chaque outil espionnerait ses utilisateurs, ni l’idée que l’IA lirait les pensées. La question est plus précise : qu’est-ce qui est effectivement observé, qu’est-ce qui est déduit, et qu’est-ce que nous imaginons sans preuve ?

Le panoptique n’est pas une preuve

Le panoptique conçu par Jeremy Bentham et analysé par Michel Foucault désigne un dispositif où chacun peut se comporter comme s’il était observé, même sans savoir si quelqu’un regarde effectivement. Son efficacité tient moins à une surveillance constante qu’à l’intériorisation de cette possibilité.

Appliquée aux technologies numériques, cette grille de lecture aide à comprendre un effet social réel : la surveillance perçue peut modifier les conduites. Elle ne permet pas, à elle seule, de conclure qu’un service d’IA surveille réellement ses utilisateurs. Pour cela, il faut regarder le dispositif concret : ses données, ses réglages, ses destinataires et ses décisions.

La Mozilla Foundation pose cette question dans une ressource consacrée à ce que l’IA peut savoir d’un utilisateur. Le bon réflexe consiste à ne pas s’arrêter à la formule « l’IA sait », mais à demander par quel moyen elle pourrait savoir, à partir de quelles traces et avec quel degré de certitude.

Trois niveaux à ne pas mélanger

Les traces collectées

Ce sont les éléments qu’un service enregistre ou reçoit effectivement : une requête, un fichier envoyé, une heure de connexion, un choix effectué, un appareil utilisé ou une interaction avec une interface. Une trace technique peut servir au fonctionnement, à la sécurité ou au diagnostic. Elle ne constitue pas automatiquement une surveillance au sens d’une évaluation personnelle.

La question décisive est celle de la conservation et de l’accès. Une donnée temporairement traitée, une donnée conservée dans un historique et une donnée transmise à un autre acteur ne produisent pas le même risque.

Les informations inférées

À partir de plusieurs traces, un système peut produire une catégorie, une probabilité ou une recommandation. Il peut estimer un intérêt pour un sujet, repérer une anomalie ou attribuer un niveau de risque. Cette information n’a pas été déclarée directement par l’utilisateur : elle résulte d’un calcul.

Une inférence n’est pas une vérité sur une personne. Elle peut être approximative, datée ou fondée sur un critère contestable. Pourtant, elle peut avoir des effets concrets si elle détermine ce qui est affiché, proposé, bloqué ou soumis à vérification.

Les scénarios imaginés

Entre une donnée réellement collectée et une décision effectivement prise, il y a parfois un grand saut. Le fait qu’un outil puisse conserver une conversation ne prouve pas qu’un humain la consulte. Le fait qu’un système personnalise des recommandations ne signifie pas qu’il établit un dossier complet sur vous. Le fait qu’un score existe ne prouve pas qu’il décide seul.

Cette distinction ne sert pas à minimiser les risques. Elle évite de leur donner une forme vague et totale. Sans elle, la peur de l’IA devient impossible à vérifier et donc difficile à combattre.

Trois scènes ordinaires

Les situations suivantes sont des cas de figure illustratifs : leur fonctionnement exact dépend de l’outil, de son paramétrage et de l’organisation qui l’utilise.

Avec un assistant conversationnel

Vous saisissez une question et envoyez parfois un document ou des informations personnelles. La trace la plus évidente est le contenu transmis au service. Le système peut ensuite produire une réponse, appliquer une modération ou conserver certains éléments selon ses règles.

Il faut distinguer ici quatre opérations : journaliser une requête pour des raisons techniques, modérer un contenu, personnaliser une réponse et utiliser des données pour améliorer un système. Elles peuvent se côtoyer, mais ne sont pas synonymes. Pour l’utilisateur, la question utile n’est donc pas seulement « l’IA m’écoute-t-elle ? », mais « qu’est-ce que j’envoie, combien de temps cela reste-t-il accessible et à quelle fin ? »

Dans un fil de recommandations

Un service observe généralement des signaux liés à vos choix dans son interface : contenus consultés, ignorés ou sélectionnés, par exemple. Il peut s’en servir pour personnaliser ce qui vous est proposé. Cette personnalisation n’est pas nécessairement une surveillance individuelle au sens courant du terme.

Elle peut néanmoins orienter votre environnement informationnel. Si vous anticipez que chaque clic contribuera à vous enfermer dans une catégorie, vous pouvez aussi adapter vos choix, cliquer moins librement ou éviter certains sujets. Le pouvoir ne réside pas seulement dans ce que le système sait, mais dans la manière dont ses classements influencent ce que vous voyez ensuite.

Au travail ou à l’école

Un dispositif peut mesurer une performance, signaler une anomalie ou aider à classer des dossiers. Là encore, mesurer n’est pas automatiquement surveiller, et automatiser n’est pas décider seul. Tout dépend de la finalité, des critères retenus et de l’usage qui est fait du résultat.

Le risque augmente lorsque la personne évaluée ne connaît pas les données prises en compte, ne peut pas corriger une erreur ou ne sait pas qui tranche au final. Un score présenté comme objectif peut alors déplacer le pouvoir vers ceux qui choisissent les indicateurs. La possibilité d’être évalué en permanence peut aussi encourager une autocensure : produire ce qui sera facilement mesurable plutôt que ce qui est pertinent.

La vraie question est celle du pouvoir

Parler de surveillance sans identifier l’acteur responsable entretient la confusion. Un assistant, une plateforme, un employeur, un établissement scolaire ou un fournisseur technique n’ont ni les mêmes objectifs ni les mêmes moyens d’action.

Le niveau de risque dépend au moins de cinq éléments : les données utilisées, la finalité du système, la durée de conservation, les personnes ou organisations qui peuvent accéder aux résultats, et les recours disponibles. Une recommandation réversible n’a pas le même poids qu’une décision qui affecte l’accès à un emploi, à une formation ou à un service.

La présence d’une IA ne suffit donc pas à caractériser une surveillance. Il faut examiner ce qu’elle fait réellement : collecte-t-elle, journalise-t-elle, personnalise-t-elle, modère-t-elle, mesure-t-elle ou participe-t-elle à une décision ? Ces fonctions peuvent se combiner, mais chacune appelle des questions différentes.

Cinq questions avant d’accepter un outil

• Quelles données sont utilisées ? Distinguez ce que vous fournissez volontairement, ce qui est généré par votre usage et ce qui est déduit.
• Pour quelle finalité ? Le fonctionnement du service, la sécurité, la personnalisation, la modération et l’évaluation ne sont pas interchangeables.
• Qui peut y accéder ? Cherchez à savoir si les résultats restent dans l’outil, sont visibles par un responsable ou sont transmis à un autre acteur.
• Quelles décisions peuvent en découler ? Une suggestion, un classement et une exclusion n’ont pas les mêmes conséquences.
• Comment contester ou corriger ? Une erreur de donnée ou d’inférence doit pouvoir être signalée, expliquée et, si nécessaire, réexaminée.

Le panoptique fournit une alerte utile : la possibilité d’être observé peut suffire à changer nos comportements. Mais cette alerte ne remplace pas l’examen des faits. Avant de parler de surveillance, identifiez la trace, l’inférence, l’acteur qui agit et la décision concernée. Ni confiance aveugle, ni panique : ce sont les mécanismes précis et les moyens de recours qui permettent de savoir où se trouve réellement le pouvoir.