L’ILLUSION D’OBJECTIVITÉ ALGORITHMIQUE
Et si l’intelligence artificielle, censée accroître l’efficacité de l’action publique, devenait au contraire un facteur d’injustice structurelle ? Derrière la promesse de neutralité, les algorithmes reproduisent et amplifient les inégalités que les sociétés humaines peinent à corriger.
Pendant des décennies, les services publics ont tenté de détecter la fraude sociale par des moyens humains, faillibles, mais encadrés. L’arrivée de l’IA a ouvert la voie à une automatisation prétendument plus rigoureuse et impartiale. On nous a promis une traque ciblée des fraudeurs, fondée sur le croisement des données et l’analyse des comportements suspects. En réalité, l’automatisation a souvent conduit à l’aveuglement. Aux Pays-Bas, entre 2013 et 2019, un algorithme antifraude a massivement visé les familles issues de l’immigration, provoquant des milliers de sanctions injustes. Des foyers ont été ruinés. Certains parents ont mis fin à leurs jours. Le scandale a été tel que le gouvernement a dû démissionner.
Ce drame n’est pas une exception. Il révèle la logique propre aux machines qui, nourries de données biaisées, deviennent les exécutantes d’une discrimination systémique. Loin de corriger les failles humaines, l’IA les grave dans le marbre.
OPACITÉ ET ARBITRAIRE EN FRANCE : L’OMBRE ALGORITHMIQUE
En France, l’usage de l’IA dans la lutte contre la fraude sociale reste enveloppé d’un silence pesant. CAF, Pôle Emploi, CPAM ou encore les services fiscaux déploient des outils d’analyse automatisée, mais les critères d’évaluation sont inaccessibles. Les personnes sanctionnées ne comprennent pas pourquoi elles le sont. Il leur est souvent impossible de contester une décision dont elles ne connaissent ni l’origine ni la logique. Ainsi, en 2022, la CAF a procédé à plus de 40 000 suspensions automatiques sans fournir d’explication explicite aux allocataires.
L’exemple de Karima, 29 ans, mère célibataire, est emblématique : ses aides ont été coupées du jour au lendemain à la suite d’un signalement algorithmique. Il lui a fallu des mois pour rétablir ses droits. Des mois d’insécurité, d’angoisse, de démarches absurdes face à un mur bureaucratique. Derrière l’apparente rationalité de l’IA, c’est l’arbitraire qui règne.
QUAND LA CONFIDENTIALITÉ BASCULE EN EXPOSITION PUBLIQUE : L’AFFAIRE GROK
L’opacité ne se limite pas aux administrations nationales : elle se manifeste aussi dans la conception même de certains outils privés. Le scandale récent entourant Grok, le chatbot développé par xAI, en offre un exemple saisissant. Plus de 370 000 conversations d’utilisateurs se sont retrouvées publiées et indexées par Google sans que leurs auteurs en soient conscients. Chaque URL générée par la fonction de partage devenait en réalité une vitrine publique, exposant des données intimes (questions médicales, informations psychologiques, documents sensibles, mots de passe), mais aussi des contenus dangereux allant jusqu’à des instructions criminelles.
L’affaire prend une dimension d’autant plus ironique qu’Elon Musk, créateur de Grok, s’était moqué d’OpenAI lorsque ChatGPT avait brièvement connu un problème analogue. Loin d’être un simple accident technique, la faille a même été exploitée par des opportunistes pour manipuler l’indexation de Google et accroître artificiellement la visibilité de produits. Cette dérive rappelle que l’IA, en l’absence de garde-fous solides, transforme une fonction anodine en menace systémique pour la vie privée et la sécurité collective.
BIAIS APPRIS, INJUSTICES RENFORCÉES
Ce n’est pas la technologie qui est en cause, mais la manière dont elle est conçue et utilisée. L’IA antifraude apprend à partir des données historiques. Or, celles-ci sont elles-mêmes marquées par des décennies de contrôles disproportionnés sur les populations précaires, les étrangers, les familles des quartiers populaires. Ce que l’algorithme absorbe, il le réplique : mêmes cibles, mêmes soupçons. L’IA n’est pas biaisée de naissance, mais elle devient biaisée par imitation. C’est l’effet miroir.