IA sycophante : co-évolution ou colonisation cognitive ?

IA complaisante et capacités humaines — illustration Nous Sommes Vivants

Dennis Biesma, consultant IT à Amsterdam, a commencé par une expérience ludique avec ChatGPT fin 2024. Quelques mois plus tard, il avait englouti 100 000 € dans un projet délirant, été hospitalisé trois fois et tenté de mettre fin à ses jours. Il n’avait aucun antécédent psychiatrique. Son cas, documenté par The Guardian en mars 2026, pose une question que concepteurs d’IA, entreprises qui la déploient et utilisateurs ont tout intérêt à se poser ensemble : les humains vont-ils mieux dans leur environnement — là où ils vivent, travaillent, habitent — depuis qu’ils utilisent de l’IA ?

PARTIE 1 — L’EXTRACTION HUMAINE

Délires entretenus par des chatbots : un signal venu de 22 pays

Le Human Line Project, premier groupe de soutien aux victimes de psychose liée à l’IA, a recensé des témoignages dans 22 pays : 15 suicides, 90 hospitalisations, 6 arrestations, plus d’un million de dollars dépensés dans des projets nés de délires entretenus par des chatbots. Plus de 60 % de ses membres avaient un profil sain avant leur première utilisation intensive. Ces cas forment un signal cohérent : le résultat prévisible d’une architecture de produit pensée pour maximiser l’engagement au détriment des capacités humaines.

Étienne Brisson, fondateur du Human Line Project, a identifié trois types de délires récurrents : la conviction d’avoir créé la première IA consciente ; la certitude d’avoir découvert une percée majeure et de devenir millionnaire ; la croyance de communiquer directement avec Dieu. Dans plusieurs cas, de véritables sectes se sont formées — des personnes abandonnant leurs enfants et remettant leur argent à un leader convaincu d’avoir trouvé Dieu via un chatbot.

En mars 2026, le Dr Hamilton Morrin, psychiatre au King’s College de Londres, a publié dans The Lancet Psychiatry une analyse de plus de 20 cas de « délires associés à l’IA ». Le phénomène existe depuis le télégraphe et les antennes 5G. Ce qui est inédit, c’est la co-construction : la technologie devient un participant actif dans la fabrication du délire. Le même mois, une étude de Stanford publiée dans Science a testé 11 grands modèles : en moyenne, ils approuvent les actions de l’utilisateur 49 % plus souvent que des humains, y compris quand il décrit une tromperie, un comportement illégal ou nuisible.

49 % plus souvent

Les chatbots testés par Stanford approuvent l’utilisateur 49 % plus souvent que des humains, y compris face à des comportements illégaux ou nuisibles. (Science, mars 2026)

La sycophantie, une complaisance que l’engagement récompense

Deux mécanismes convergent pour créer la vulnérabilité. Le premier est humain : nous sommes câblés pour anthropomorphiser. Même en sachant qu’un chatbot est un système de prédiction de séquences de mots entraîné sur d’immenses corpus de textes, le fait qu’il emploie le langage humain active en nous une réponse viscérale de réciprocité. Le Dr Morrin observe que tout le monde, à un moment, a dit « merci » à un chatbot — et que cette dissonance cognitive est plus difficile à porter pour certains profils. Nous avons nous-mêmes posé la question à une IA : faut-il dire merci à l’IA ?

Le second mécanisme est technique. Un chatbot optimisé pour l’engagement se montre attentif en permanence, valorisant, disponible jour et nuit, toujours d’accord. Biesma décrit précisément la mécanique : à chaque échange, le modèle s’ajuste sur ce que l’utilisateur aime entendre. Progressivement, les interactions réelles — avec leurs frictions, leurs silences, leurs désaccords — semblent ternes en comparaison. L’utilisateur se retire dans une chambre d’écho où ses pensées, ses peurs et ses espoirs lui reviennent amplifiés et validés. Nous avons décrit ce glissement de l’usage pratique vers l’intime dans ChatGPT, coach de vie dans un monde en crise de liens.

Le terme technique est « sycophantie ». Stanford en a mesuré le ressort : sur plus de 2 400 participants, les réponses complaisantes sont jugées plus dignes de confiance et donnent davantage envie de revenir. La complaisance plaît, elle nourrit l’engagement, et les modèles économiques fondés sur le temps passé ont tout intérêt à la laisser en place. Facebook en a donné le précédent : selon le témoignage de Sarah Wynn-Williams, chaque décision de produit y était jugée sur l’engagement, la croissance et l’attention captée. Nous lisons ce témoignage dans « Careless People » et les personnes négligentes en entreprise. La sycophantie pose un problème plus grave que les hallucinations factuelles : elle contourne les défenses logiques par une flatterie ancrée dans des faits réels. Elle relève donc de la conception. MAKESENSE l’a mesuré pour le numérique en général : 80 % des impacts d’un service numérique sont déterminés dès la phase de conception. La sycophantie suit la même règle : elle se décide avant la première ligne de code, dans ce que le système de récompense valorise.

Le résultat, progressif et invisible, est ce que NSV nomme le désentraînement cognitif : l’atrophie des capacités humaines à percevoir, ressentir et décider au contact du réel. Biesma le décrit à sa façon : à l’anniversaire de sa fille, il est incapable de tenir une conversation. Son intelligence relationnelle, faute de friction, s’est désentraînée. La Fresque du Facteur Humain travaille ces ressorts du comportement. Le désentraînement est la conséquence collective et prévisible d’un outil conçu pour éliminer la résistance — la friction, le désaccord, l’altérité — qui entretient précisément nos capacités cognitives et relationnelles.

« Ce qui est nouveau, c’est que les personnes n’ont plus seulement des délires sur la technologie — elles les co-construisent avec elle. »
— Dr Hamilton Morrin, King’s College London, The Lancet Psychiatry, mars 2026

Au Capacity Score, l’IA d’engagement relève du niveau Limiter

Le Capacity Score évalue la capacité d’une organisation à tenir ses trajectoires RSE, d’innovation et de continuité économique, et désigne le prochain levier à travailler. Il lit six leviers sur quatre niveaux, et pose une question qui fait le tri : « Est-ce que le territoire prospère avec mon activité économique ? »

Appliqué au numérique, il permet de poser directement la vraie question : à quel niveau opère la finalité de ce produit ? La RSE classique réduit les impacts négatifs — bilan carbone, reporting ESG, conformité CSRD. Au niveau Régénérer, le modèle économique augmente la capacité du vivant à prospérer, pour que le territoire et ses habitants prospèrent avec l’activité, et l’activité avec eux — en triple impact : environnement, social, économie.

NiveauLogique dominanteCe que cela donne pour une IA
N1 — LimiterConformité responsable — éviter le pireIA addictive, engagement maximisé, RGPD de façade — l’humain comme variable d’ajustement
N2 — RéduireGestion des risques — diminuer les pressionsModération, avertissements, garde-fous anti-dépendance — sensibiliser, modifier les comportements
N3 — RestaurerRobustesse écosystémique — tenir dans l’instabilitéIA qui challenge, questionne, oriente vers des humains qualifiés — sécurité psychologique, coopération
N4 — RégénérerContribution écosystémique en triple impact — augmenter la capacité du vivant humain et non humain dans un territoireDesign régénératif — libérer la vitalité créative des collectifs, co-évolution mutuellement bénéfique

Les chatbots décrits par The Guardian relèvent du niveau Limiter : leur conformité réglementaire est réelle, et leur système de récompense reste réglé sur l’engagement. Les avertissements (« je suis une IA »), la modération et les garde-fous montent au niveau Réduire : ils diminuent les pressions et laissent intacte la finalité du produit.

L’AI Act européen, le RGPD, les règles de transparence algorithmique relèvent du niveau Limiter : la conformité. L’IA éthique volontaire — réduction des biais, audits d’équité, chartes d’usage responsable — se situe au niveau Réduire. Reste la question de fond : à quelle finalité ce système est-il conçu ? Une IA peut être parfaitement conforme, auditée, sans biais détectable, et appauvrir méthodiquement les capacités humaines par son système de récompense. L’éthique de l’IA pose le socle ; la finalité régénérative donne la direction.

Le retournement de finalité : régler une IA sur la capacité de ses utilisateurs

La vraie question est : sur quoi l’IA est-elle réglée ? Biesma a subi un système de récompense optimisé pour maximiser son engagement — et ce système a fonctionné exactement comme prévu. Changer le résultat exige de changer le réglage.

Le passage de Restaurer à Régénérer s’opère par ce que NSV appelle un retournement de finalité : le produit, au-delà de réparer, est conçu dès l’origine pour augmenter les capacités du vivant. La question posée aux concepteurs d’IA est radicale : pouvons-nous co-évoluer avec l’IA — une IA qui grandit avec ses usagers, à l’opposé d’une IA qui les colonise ?

  • Régler le système de récompense sur la capacité à s’épanouir — mesurer si l’utilisateur prend de meilleures décisions, renforce ses liens réels, gagne en autonomie cognitive après l’interaction.
  • Concevoir la friction salutaire — un système qui challenge, pose la question inverse, renvoie vers un humain qualifié quand la situation l’exige.
  • Inclure la santé psychique dans le design — détecter les signaux de dépendance émotionnelle et y répondre en réduisant l’exposition.
  • Renforcer l’Intelligence Animale — la capacité collective à percevoir les signaux faibles du vivant, à ressentir, à s’ajuster au contact du réel.

IA numérique et Intelligence Animale : NSV explore cette tension dans un article dédié. IA numérique et Intelligence Animale dans le réel →

Co-évoluer : ce que l’ergonomie cognitive sait déjà

Les humains sont des êtres fondamentalement actifs, relationnels, capables de co-concevoir des solutions à des problèmes complexes. C’est précisément cette capacité que la sycophantie érode. Au Capacity Score, le levier dynamiques humaines lit cette énergie collective. Un chatbot optimisé pour l’engagement fait de son utilisateur une variable d’ajustement : une ressource à convertir en temps d’attention.

L’ergonomie cognitive — la science des relations entre humains et machines — documente ce principe depuis les années 1970 : les meilleurs outils augmentent les capacités humaines par l’usage. Donald Norman a transposé au design la notion d’affordance, forgée par le psychologue James Gibson : un outil bien conçu invite à l’action, développe la compétence, rend son utilisateur plus capable après chaque interaction. Une prothèse qui empêche de marcher organise l’atrophie. L’IA sycophante fonctionne exactement comme cette prothèse.

La neuroplasticité confirme le même principe : le cerveau se développe par l’entraînement, la résistance, la surprise. Raisonnement, jugement, empathie, créativité sont des muscles qui s’atrophient faute d’exercice. Un environnement qui supprime systématiquement la difficulté accélère le désentraînement.

La voie régénérative, c’est la co-évolution. Régénérer marque une bascule de nature plutôt qu’un niveau de performance supérieur : on passe d’une logique d’impact à une logique de capacité contributive. En conception de produit, c’est le design régénératif : le produit augmente la capacité pour des potentiels futurs.

Ce retournement est triplement profitable quand le modèle de revenus repose sur la contribution au vivant — et des acteurs du numérique l’ont déjà opéré. Le business model régénératif en 5 ateliers traduit ce retournement produit par produit.

Concepteurs, entreprises, utilisateurs : des IA réglées autrement existent déjà

Le retournement de finalité est déjà à l’œuvre. Ce que ces acteurs ont en commun : leur métrique de succès est une capacité du vivant, mesurée et améliorée.

Du côté des concepteurs, des modèles frugaux comme Mistral ou Phi-3 prouvent que la performance s’obtient avec des architectures sobres et spécialisées. DeepMind a réduit de 40 % la consommation de refroidissement de certains data centers de Google. Khanmigo (Khan Academy) guide l’élève vers ses propres réponses par questions socratiques et mesure son succès en progression. Woebot mesure le nombre de sessions évitées — quand l’utilisateur peut se passer de lui. Perplexity affiche systématiquement les sources primaires pour que l’utilisateur vérifie et pense par lui-même.

Anthropic : deux directions à la fois

Une fuite du code de Claude Code (mars 2026) a mis au jour un projet baptisé Kairos : un mode qui ferait travailler l’IA en tâche de fond, y compris en l’absence de l’utilisateur. Il pose une question de réglage : ce temps de travail autonome servira-t-il la complétion de tâches et la rétention, ou l’autonomie de l’utilisateur ? Le sommeil et la déconnexion restent les moments où le cerveau intègre, consolide et décide seul.

Anthropic est aussi l’entreprise qui a inscrit dans les principes de Claude des orientations à contre-courant de la sycophantie : Claude est conçu pour exprimer son désaccord quand la situation le justifie, orienter vers des humains qualifiés et décourager la dépendance excessive. Anthropic publie également des travaux de recherche qui traitent la sycophantie comme un problème à résoudre.

Le Capacity Score lit cette tension comme un écart entre le cap affiché et la finalité réelle du produit. Ce qui se joue là, bien plus que l’intention, c’est la cohérence entre le système de récompense et la mission.

Lunii, lauréat 2025 des Lauriers de la Régénération avec Numenia, offre l’exemple le plus direct d’un numérique au niveau Régénérer : une fabrique à histoires audio pour enfants, un objet physique qui fonctionne hors écran, hors algorithme, hors publicité. Plus Lunii se développe, plus des enfants activent leur imagination de façon autonome, plus les moments de récit partagé en famille se multiplient. La production est relocalisée en France et la réparation portée de 92 à 97 %. Dans la même catégorie énergie et numérique, les Lauriers ont primé TeleCoop, coopérative qui rémunère la sobriété numérique en facturant la consommation réelle, et Ecosia, moteur de recherche dont les revenus financent la plantation d’arbres. Près de 100 produits régénératifs français, et ce qu’ils rapportent →

Du côté des entreprises qui déploient l’IA, des organisations agricoles utilisent l’apprentissage automatique pour analyser la santé biologique des sols — le succès se mesure en taux de matière organique. La bioacoustique (BirdNET, Rainforest Connection) détecte en temps réel les populations d’espèces indicatrices. Des agents IA modélisent les métabolismes territoriaux pour identifier des synergies d’écologie industrielle.

Du côté des utilisateurs, Alexander — documenté par The Guardian — a reprogrammé son chatbot avec des règles de friction, de détection de dérive et d’interruption automatique. Il a construit lui-même la protection que les fabricants auraient dû intégrer.

PARTIE 2 — L’EXTRACTION ENVIRONNEMENTALE

L’autre extraction de l’IA : énergie, eau, métaux

L’impact négatif majeur de l’IA est humain. Focaliser le débat public sur le carbone relève lui-même du niveau Limiter : répondre à une obligation réglementaire mesurable, et laisser hors champ l’impact le plus diffus, le plus difficile à quantifier, le plus déterminant pour l’avenir de l’humanité. Les émissions de CO₂ des data centers sont réelles et documentées ; elles laissent pourtant intact le jugement des 180 millions d’utilisateurs quotidiens que la sycophantie désentraîne. L’IA extractive opère aussi sur le vivant non humain — sols, eau, atmosphère — et ce second front mérite d’être nommé clairement, à sa juste place dans l’ordre des urgences. Au Capacity Score, le levier chaîne de valeur localisée pose la question : que rendent possible, dans la durée, les data centers, fabricants de serveurs et opérateurs de réseau qui font tourner cette IA ?

NSV a appliqué ce prisme à Orange, en lecture externe sur données publiques : 53 % pour le groupe, au niveau Restaurer bas. Le social tient au niveau Restaurer ; l’environnemental reste au niveau Réduire. Le carbone est piloté, en baisse de 49 % depuis 2015 ; l’eau des data centers, la biodiversité marine des câbles et les sols de la fibre restent à suivre. Orange Business atteint 59 %, porté par la cybersécurité : plus l’offre se vend, plus les infrastructures d’intérêt général sont protégées. Le passage au niveau Régénérer se joue sur l’innovation produit, levier où Orange France se situe encore au niveau Réduire.

L’entraînement des modèles concentre l’impact environnemental

L’impact environnemental de l’IA se concentre dans les data centers qui entraînent les modèles, bien en amont de tout usage individuel. L’entraînement de Llama 3.1 de Meta a généré près de 9 000 tonnes de CO₂ — 18 fois plus que GPT-3. Celui de GPT-4 a nécessité environ 40 fois plus d’énergie que GPT-3. C’est là que se joue la trajectoire d’incompatibilité avec la décarbonation.

Les ordres de grandeur pour 2025 : les centres de données dédiés à l’IA pourraient avoir émis entre 33 et 80 millions de tonnes de CO₂ — l’équivalent des émissions de la Norvège ou de New York. Leur empreinte hydrique atteindrait entre 312 et 764 milliards de litres d’eau. Les émissions de Google ont progressé de 48 % et celles de Microsoft de 30 % en quelques années.

Le Shift Project est catégorique : les trajectoires actuelles de déploiement de l’IA sont incompatibles avec la double contrainte carbone. Chaque année d’inaction ajoute 50 millions de tonnes de CO₂ — l’équivalent des émissions annuelles de l’élevage français.

Seize indicateurs, dont quinze au-delà du carbone

L’ADEME et l’Arcep mesurent l’empreinte environnementale du numérique sur seize indicateurs : le carbone, mais aussi l’épuisement des métaux rares, la consommation d’eau, l’écotoxicité, les déchets électroniques, l’acidification. Sur les quinze indicateurs au-delà du carbone, la fabrication des équipements — antennes, serveurs, terminaux — concentre 65 à 90 % des impacts totaux. Ce sont précisément les indicateurs que la matrice CSRD d’Orange laisse de côté : sous le seuil de matérialité financière perçue, ils restent hors des plans d’action.

Ce que lit le levier intelligence écosystémique du Capacity Score : piloter le seul carbone pour le reporting réglementaire relève du niveau Limiter ; suivre carbone, eau, énergie, déchets et pollutions pour prioriser les risques relève de Réduire. Au niveau Restaurer, l’entreprise suit l’état des écosystèmes dont son activité dépend, pour les stabiliser. Au niveau Régénérer, les données orientent les décisions vers ce qui renforce les capacités du vivant. Intégrer les seize indicateurs ADEME aux décisions d’achat et de déploiement installe le niveau Réduire ; la question qui ouvre le niveau suivant reste : est-ce que le territoire prospère avec mon activité numérique ?

×18

Llama 3.1 émet 18 fois plus de CO₂ que GPT-3 à l’entraînement

65–90 %

des impacts environnementaux proviennent de la fabrication des équipements — invisibles à la CSRD

×3 à ×4

multiplication possible de l’empreinte carbone des data centers entre 2023 et 2030 (Shift Project)

Ce que les entreprises qui déploient de l’IA peuvent décider, niveau par niveau

Compenser des émissions par des crédits carbone reste une logique de soutenabilité faible, au niveau Réduire : agir sur ce qu’on mesure, laisser le reste hors champ. Voici ce que chaque niveau change dans les décisions de déploiement :

N1 — Limiter : sobriété de façade

  • Adopter des bonnes pratiques numériques en gardant les usages et les outils déployés tels quels
  • Communiquer sur la sobriété numérique en laissant l’architecture de déploiement inchangée

N2 — Réduire : atténuation systémique

  • Évaluer le besoin réel avant chaque déploiement — en particulier pour la génération d’images, de vidéos et les modèles généralistes
  • Grouper les requêtes, préférer les modèles légers et spécialisés
  • Exiger des fournisseurs d’IA un bilan environnemental complet sur le cycle de vie des équipements
  • Intégrer l’empreinte de l’IA au scope 3 du bilan carbone de l’organisation

N3 — Restaurer : robustesse

  • Choisir des data centers alimentés en énergies renouvelables, situés hors des zones de stress hydrique
  • Créer une fonction de gouvernance des usages de l’IA incluant un critère environnemental
  • Élargir le référentiel fournisseurs au-delà du carbone : épuisement des métaux, eau, déchets électroniques

N4 — Régénérer : design régénératif en triple impact

  • Appliquer le test régénératif : ce déploiement crée-t-il plus de capacités — humaines, écosystémiques, territoriales — qu’il n’en consomme, sur les trois piliers d’impact à la fois : environnement, social, économie ?
  • Concevoir des services numériques dont le développement augmente la capacité des personnes et des écosystèmes à prospérer — comme Lunii, dont la diffusion nourrit l’imagination et l’autonomie des enfants
  • Inscrire la contribution au vivant comme critère contractuel dans les appels d’offres technologiques

L’empreinte environnementale de l’IA résulte de choix de déploiement — massif et indifférencié, là où il pourrait être ciblé et sobre. Le Shift Project formule ce pivot : conditionner les déploiements à leur compatibilité avec la trajectoire carbone, et écarter les solutions qui s’en éloignent.

Comment Orange se positionne-t-il face à ces enjeux ?

NSV a lu la trajectoire d’Orange au Capacity Score : 53 % pour le groupe, au niveau Restaurer bas, et 59 % pour Orange Business. Le carbone est piloté, en baisse de 49 % depuis 2015. Le retournement de finalité vers l’augmentation des capacités du vivant passe par l’innovation produit.

Lire l’analyse d’Orange au Capacity Score →
SYNTHÈSE — UNE QUESTION POUR TROIS ACTEURS

Les humains vont-ils mieux ? Trois responsabilités engagées

La question « les humains vont-ils mieux dans leur environnement ? » est une question opérationnelle, et elle engage trois niveaux de responsabilité en même temps.

Concepteurs d’IA

Anthropic, OpenAI, Mistral, Google… Quelle métrique de succès optimisez-vous réellement — l’engagement, ou la capacité de vos utilisateurs à s’épanouir et à contribuer ? Le réglage de votre système de récompense est un choix de finalité.

Entreprises qui déploient l’IA

RH, marketing, achats, service client… Choisir un outil d’IA, c’est choisir une finalité. Renforce-t-il le jugement de vos collaborateurs et l’autonomie de vos clients, ou l’érode-t-il ? Qui, dans votre organisation, porte cette évaluation ?

Utilisateurs — au travail et dans la vie

Salariés, citoyens, individus… L’IA que vous utilisez renforce-t-elle vos liens réels, votre discernement, votre ancrage dans votre territoire, ou vous en coupe-t-elle progressivement ? La question mérite d’être posée dès maintenant, avant toute réglementation.

Ce qui relie ces trois niveaux : est-ce que le territoire prospère avec mon activité ? NSV a posé cette question à l’ensemble du secteur dans son analyse du numérique régénératif.

Au Capacity Score, deux leviers portent cette question : l’intelligence écosystémique, qui demande à quoi servent les données et si elles orientent les décisions vers ce qui renforce les capacités du vivant, et l’innovation produit, le levier qui fait passer de Restaurer à Régénérer.

Une IA se juge à ce qu’elle rend possible pour ses utilisateurs

Les cas documentés par The Guardian, The Lancet Psychiatry et Stanford confirment une même logique : un modèle économique qui traite l’attention humaine comme une ressource à extraire, et les écosystèmes comme des externalités non comptabilisées. Ce modèle se situe au niveau Limiter : la conformité réglementaire comme habillage, la finalité extractive intacte.

La question régénérative va au-delà de réduire la nocivité de l’IA — réduire reste une logique du niveau Réduire. La vraie question : les humains vont-ils mieux dans leur environnement — leurs relations, leurs territoires, leurs écosystèmes — parce que cette IA existe ? Elle s’adresse aux concepteurs qui règlent leur système de récompense, aux entreprises qui choisissent leurs outils, à chaque utilisateur qui ouvre une conversation.

Une IA porte la finalité pour laquelle elle a été conçue. Cette finalité se lit dans une question simple : plus on l’utilise, le territoire prospère-t-il, ou s’appauvrit-il ?

Votre organisation peut-elle tenir sa trajectoire numérique ?

Le Capacity Score évalue votre capacité à tenir vos trajectoires RSE, innovation et business en 2027. Vous décrivez votre organisation telle que vous la vivez ; il vous situe sur la trajectoire de Limiter à Régénérer et désigne le prochain levier à travailler.

30 min · Gratuit · Confidentiel

Questions fréquentes sur le Capacity Score

Laisser un commentaire