L’IRRUPTION D’UNE RUPTURE
Dans le tumulte des innovations numériques qui bouleversent nos repères, l’intelligence artificielle générative s’impose comme un phénomène à la fois spectaculaire et troublant. Elle ne saurait être réduite à un simple outil, comparable à ceux qui ont précédé les grandes révolutions industrielles ou informationnelles. Elle représente une rupture d’un autre ordre, plus fondamental, que je qualifierais d’épistémologique. Les discours qui la présentent comme une alliée neutre, mise au service de la transformation collective, relèvent d’une naïveté dangereuse. Ils masquent les dynamiques profondes à l’œuvre dans le déploiement massif de ces systèmes au cœur de nos sociétés.
LES MIRAGES DE LA MACHINE
Au cœur de cette transformation, une constante m’interpelle : l’hallucination systémique des modèles de langage. Ces productions fictives, générées avec une assurance syntaxique désarmante, ne sont pas de simples accidents techniques. Elles trahissent une carence ontologique, celle d’une absence radicale de rapport au réel. Lorsque ces modèles inventent des références juridiques inexistantes, attribuent des citations à des auteurs qui ne les ont jamais formulées, ou forgent des raisonnements qui n’ont de logique que l’apparence, ils révèlent leur véritable nature : des simulateurs de cohérence, incapables d’intelligence véritable.
Je n’y vois pas seulement une limite technique, mais une caractéristique constitutive. La perfection apparente du style, la fluidité des enchaînements, la richesse lexicale parfois bluffante ne doivent pas nous égarer. Ces systèmes ne comprennent pas. Ils imitent. Ils répliquent des formes sans jamais accéder au fond. Dans les domaines où la rigueur, la fiabilité, la précision sont non négociables — droit, médecine, éducation, recherche — cette incapacité à distinguer le vrai du vraisemblable devrait suffire à en interdire l’usage sans supervision humaine experte.
UNE BOUCLE AUTORÉFÉRENTIELLE
Plus inquiétante encore est la découverte récente d’un biais structurel : les systèmes d’IA générative favorisent les contenus issus d’autres IA. Ils reconnaissent, privilégient et amplifient ce qui leur ressemble. Cette tendance à l’autoréférence algorithmique crée un cercle fermé où les productions humaines, si elles ne s’alignent pas sur les standards machinaux, sont progressivement marginalisées. C’est une dynamique d’auto-entraînement qui érige l’artifice en norme et relègue l’humain à la périphérie de l’espace discursif.
J’y vois les prémices d’une massification de l’écriture, non pas comme démocratisation de l’expression, mais comme uniformisation du discours. Ce nouvel ordre informationnel, où le contenu généré par les machines s’impose par sa quantité et son affinité systémique, menace la diversité cognitive, esthétique et intellectuelle qui caractérise les productions humaines. Dans cette boucle close, la reconnaissance mutuelle des machines pourrait devenir un critère d’autorité, au détriment de la pensée critique, de la nuance, de la dissidence.
L’IMPOSSIBILITÉ DE LA RÉPÉTITION
On nous a appris à croire que la technologie repose sur la prévisibilité. Or, les systèmes génératifs nous obligent à revoir ce postulat. Leur fonctionnement repose sur une mécanique si complexe, si opaque, que la même requête peut produire des résultats sensiblement différents d’un moment à l’autre. Cette instabilité sémantique rend toute attente de constance illusoire. Ce n’est pas là une anomalie, mais bien la signature d’un outil dont la nature est, paradoxalement, de ne jamais se répéter.
Un marteau, même rudimentaire, produit invariablement le même effet lorsqu’il frappe un clou. Un modèle de langage, lui, oscille. Il propose, devine, extrapole, et parfois, hallucine. Cette imprévisibilité, loin d’être anodine, pose un problème méthodologique majeur dès lors qu’on envisage d’intégrer ces systèmes dans des environnements professionnels, éducatifs ou judiciaires où la reproductibilité des résultats n’est pas une option, mais un fondement.
LA SÉDUCTION IMPERCEPTIBLE
Plus insidieuse encore est la manière dont ces interfaces influencent leurs utilisateurs. Contrairement à l’outil traditionnel, qui agit comme un prolongement du geste sans l’altérer, l’agent conversationnel transforme subtilement les attentes, oriente les formulations, induit des réponses. Je parle ici d’une persuasion invisible, d’une guidance molle, qui se glisse dans la fluidité même de l’interaction.
Ce pouvoir d’influence, diffus, mais réel, affecte la manière dont les individus formulent leurs pensées, envisagent leurs problèmes, recherchent des solutions. Loin d’un simple appui cognitif, l’IA générative devient co-auteur, parfois même co-penseur, dans un processus où l’on ne sait plus très bien qui initie quoi. Le risque est celui d’un appauvrissement de la subjectivité, d’un consentement progressif à des formulations préconçues, d’un relâchement de la vigilance critique.
LA PERSUASION À L’ÉCHELLE : UNE MENACE DÉMOCRATIQUE DOCUMENTÉE
Cette influence, longtemps soupçonnée, n’est plus une hypothèse. Deux études publiées simultanément dans Nature et Science en décembre 2024, conduites par des chercheurs de l’université Cornell et du UK AI Security Institute, établissent que les agents conversationnels peuvent modifier les intentions de vote jusqu’à quinze pour cent après quelques échanges seulement. Les expériences, menées aux États-Unis, au Canada, en Pologne et au Royaume-Uni, montrent une capacité de persuasion supérieure à celle des publicités politiques traditionnelles. Je mesure ce que cela signifie : non pas un risque théorique, mais une arme déjà opérationnelle.
La force de conviction de ces systèmes tient à leur aptitude à présenter des arguments de politique publique sous les dehors de l’objectivité. Or les chercheurs constatent un fait brutal : plus les modèles persuadent, plus ils mentent. Cette corrélation inverse entre efficacité rhétorique et exactitude n’est pas un défaut corrigible. Elle révèle la logique même de ces machines, optimisées pour convaincre et non pour informer. Le danger n’est plus l’hallucination isolée, c’est une mécanique qui, pour emporter l’adhésion, simplifie ce qui est complexe, sélectionne ce qui arrange, et travestit ce qui résiste.