Une surveillance n’a pas besoin d’être permanente pour modifier les conduites. Il peut suffire de ne pas savoir ce qui est enregistré, analysé ou évalué. C’est là que l’IA rejoint, au moins en partie, la logique du panoptique : le pouvoir ne vient pas seulement du regard posé sur nous, mais de la possibilité que ce regard existe.

La question n’est donc pas simplement de savoir si une IA « nous surveille ». Elle consiste à distinguer trois opérations souvent confondues : la collecte de traces, la déduction d’un profil et l’ajustement du comportement. Entre ce qui est effectivement capté et ce que l’on imagine être interprété, l’écart est décisif.

Le panoptique ne désigne pas seulement une prison

Le panoptique imaginé par Jeremy Bentham repose sur une organisation architecturale simple : des cellules disposées autour d’une tour centrale. Depuis cette tour, un surveillant peut potentiellement observer chaque détenu. Mais les détenus ne savent jamais s’ils sont regardés à un instant précis.

Cette incertitude suffit à rendre la surveillance efficace. Chacun peut finir par se comporter comme s’il était observé en permanence, même sans preuve d’une observation réelle.

Michel Foucault a étendu cette idée à des institutions et à des pratiques sociales plus larges. Ce qui l’intéresse n’est pas uniquement le bâtiment, mais la manière dont un dispositif de surveillance peut être intériorisé. Le contrôle devient plus discret : il n’a plus besoin d’intervenir à chaque écart si les individus apprennent à se réguler eux-mêmes.

Appliquée à l’IA, cette grille ne signifie pas que chaque personne est suivie en continu par un centre unique. Elle aide plutôt à comprendre un effet possible : la crainte d’être classé, signalé ou évalué peut modifier les usages avant même qu’une décision soit prise.

Trois niveaux à ne pas mélanger

1. La trace collectée

Une trace est une donnée effectivement enregistrée : une recherche, une heure de connexion, une localisation, une interaction, un achat, un document transmis ou une action effectuée dans un service numérique.

Cette collecte ne dit pas encore ce que la personne pense ni pourquoi elle agit. Elle décrit seulement un événement ou une suite d’événements, avec plus ou moins de précision.

2. Le profil déduit

À partir de plusieurs traces, un système peut produire une catégorie, une probabilité ou une estimation : risque supposé, intérêt probable, niveau de priorité, possibilité de fraude, adéquation à une offre ou comportement considéré comme inhabituel.

Cette déduction n’est pas une observation directe. Elle dépend des données disponibles, des catégories choisies et du modèle utilisé. Elle peut être utile dans un contexte donné, mais elle reste une interprétation. Une corrélation n’est pas une intention et une probabilité n’est pas une vérité sur la personne.

Le livre Technopolice. La surveillance policière à l’ère de l’intelligence artificielle, de Félix Tréguer, s’inscrit précisément dans cette réflexion sur les usages policiers des technologies de surveillance et leurs effets politiques. La recension publiée par La Vie des idées permet d’en situer l’édition et l’angle général, sans transformer cet ouvrage en preuve que tous les systèmes d’IA fonctionnent de la même manière.

3. Le comportement ajusté

Le troisième niveau concerne ce que les personnes font en anticipant une évaluation possible. Elles peuvent éviter un sujet, modifier une formulation, renoncer à une recherche ou adopter le comportement qui leur semble le moins risqué.

Cet effet ne doit pas être présenté comme automatique. Tout le monde ne réagit pas de la même façon, et la possibilité d’une surveillance ne produit pas mécaniquement de l’autocensure. Mais elle peut devenir une contrainte pratique lorsque les règles sont opaques, que les recours sont faibles ou que les conséquences d’un classement sont importantes.

Un utilisateur qui évite d’écrire certaines choses parce qu’il pense qu’un système pourrait les signaler n’est pas nécessairement observé au moment où il se retient. Son comportement est pourtant influencé par la possibilité supposée de l’observation. C’est le cœur de l’effet panoptique : l’incertitude devient elle-même une force de régulation.

L’IA n’accède pas directement à l’intériorité

Le vocabulaire courant pousse à exagérer les capacités des systèmes. Dire qu’une IA « sait » qu’une personne est anxieuse, dangereuse, sincère ou mal intentionnée donne l’impression qu’elle accède à une réalité intérieure. Ce n’est pas ce que montre une inférence algorithmique.

Un système traite des données et compare des configurations à des catégories ou à des exemples. Il peut produire une estimation à partir d’indices, mais il ne lit pas une pensée et ne vérifie pas directement une intention. Il ne découvre pas non plus une vérité indépendante de la manière dont les données ont été sélectionnées et interprétées.

Cette limite ne rend pas les classements insignifiants. Une déduction imparfaite peut tout de même déclencher une vérification, réduire une visibilité, orienter une décision ou rendre un parcours plus difficile. L’erreur compte précisément parce qu’elle peut avoir des effets réels, même lorsque le profil produit est discutable.

Une analogie utile, mais incomplète

Le panoptique fournit une bonne grille de lecture pour penser l’incertitude et l’intériorisation de la surveillance. Il devient trompeur si on le transforme en description exacte de l’écosystème numérique.

Dans le modèle classique, un centre observe des individus disposés autour de lui. Dans les systèmes contemporains, les données circulent entre plusieurs acteurs, services et infrastructures. La visibilité est inégale : certains comportements sont très documentés, d’autres échappent aux capteurs. Les acteurs qui collectent, analysent et utilisent les données ne sont pas toujours les mêmes.

À cela s’ajoutent l’opacité des modèles, les erreurs de mesure et les catégories contestables. Un système peut produire un classement sans que la personne sache quelles données l’ont déterminé, qui l’a consulté ou comment le corriger. La surveillance n’est donc pas forcément totale ; elle peut être partielle, fragmentée et néanmoins décisive dans un moment précis.

La bonne question n’est pas seulement « qui me regarde ? »

Pour évaluer une situation, quatre questions permettent de sortir du débat abstrait :

• Quelles données sont effectivement captées ? Distinguez les informations déclarées, les traces techniques et les données obtenues par recoupement.
• Qu’est-ce qui est déduit ? Cherchez à savoir s’il s’agit d’une catégorie, d’un score, d’une probabilité ou d’une décision automatisée.
• Qui peut utiliser cette déduction ? Le collecteur n’est pas nécessairement le seul acteur à accéder au profil ou à ses conséquences.
• Quel comportement le dispositif rend-il plus probable ? Encourage-t-il la prudence, le contournement, le conformisme, la contestation ou le retrait ?

Cette grille évite deux erreurs opposées. La première consiste à croire que l’IA voit tout et comprend les personnes. La seconde revient à minimiser ses effets au motif qu’elle ne produit que des probabilités. Entre les deux, il faut regarder ce qui est enregistré, ce qui est interprété et ce que cette interprétation change concrètement.

Pour prolonger cette réflexion par un angle plus directement consacré aux usages et aux effets de la surveillance, consultez aussi l’article consacré à l’IA, à la surveillance et à la prise de parole. Ici, l’enjeu est plus précis : comprendre comment l’incertitude sur les traces et les profils peut suffire à orienter les conduites, même sans observation totale.