La dette cognitive et la nouvelle économie du discernement

Si quelqu’un m’avait dit en 2007 lorsque j’ai débuté ce blogue que je parlerais un jour du « brain rot » des machines et du « brain rot » des humains, j’aurais pensé à un film de science-fiction. Et pourtant…

J’ai parlé très en détail du « brain rot » des machines et des humains dans le billet : «De l’alarme aux larmes et peut-être aux armes », mais résumons ainsi :

Le « brain rot » (ou pourriture du cerveau) désigne la détérioration de l’état mental et cognitif résultant d’une consommation excessive et répétée de contenus numériques de faible qualité, absurdes ou peu stimulants sur les réseaux sociaux. Les IAG sont à l’image de ce que les humains lui donnent comme infos. Pas étonnant.

Ce qui m’interpelle dorénavant, ce sont les études qui se succèdent pour documenter les effets de l’utilisation de l’IAG dans le quotidien de la population. Je te préviens, ce n’est pas inquiétant, c’est alarmant. Nous parlons de « dette cognitive » rien de moins. L’humain a déjà assez de s’endetter financièrement, il s’endette dorénavant dans ses capacités cognitives « apprendre, retenir, analyser, etc. »

Qu’est-ce que la dette cognitive ?

En programmation, la « dette technique » désigne une solution rapide et bancale choisie pour régler un problème immédiat, mais qui créera une avalanche de complications futures. Nous avons des exemples de ce type de projet dans notre société illettrée numériquement qui a la fâcheuse habitude de pelleter par en avant.  

La dette cognitive suit la même logique : c’est l’accumulation de l’effort intellectuel que nous choisissons de ne pas fournir aujourd’hui, laissant nos capacités s’atrophier au profit d’un résultat immédiat fourni par une machine.

Chaque fois que nous demandons à ChatGPT de rédiger un courriel, de résumer un livre ou de coder une fonction, nous « empruntons » de l’intelligence aux technomilliardaires. Mais cet emprunt n’est pas sans frais cachés : il court-circuite le processus naturel d’apprentissage de notre cerveau.

C’est comme si un athlète consommait des stéroïdes pour toujours être le meilleur, mais l’est-il vraiment? L’IAG c’est exactement comme des stéroïdes cognitifs pour le cerveau.

Le mécanisme de l’atrophie : Quand le cerveau se met en pause

Pour comprendre le coût de cette dette, il faut regarder sous le capot.

L’apprentissage humain repose sur un cycle en trois étapes :

1. La théorie : Le cortex préfrontal et l’hippocampe encodent l’information.

2. La pratique : Le cerveau se « recâble » littéralement par l’effort de répétition.

3. La métacognition : Nous analysons nos erreurs pour affiner nos connaissances.

L’usage systématique de l’IA agit comme une béquille qui supprime l’étape 2 et 3. Une étude par électroencéphalographie (EEG) a révélé que les utilisateurs de GPT-4 voient leur connectivité cérébrale divisée par deux (ondes alpha et Thêta) par rapport à ceux qui réfléchissent seuls. Leur charge cognitive chute de 32 %.

Le résultat ? Un effet « poisson rouge » massif.

Dans une expérimentation, 83 % des utilisateurs d’IA ont été incapables de se souvenir d’un passage qu’ils venaient pourtant de « produire » avec l’outil. En déléguant notre mémoire, nous vidons notre « bibliothèque interne », privant notre cortex préfrontal de la matière première nécessaire pour générer des pensées originales.

Voir cette excellente vidéo « La fabrique à idiots »

Les créanciers : qui possède nos cerveaux ?

Nos créanciers ne sont pas des philanthropes. Ce sont les propriétaires des infrastructures massives (OpenAI, Microsoft, Google, Tesla) qui conçoivent des outils optimisés pour minimiser l’effort humain. Pourquoi ? Parce que la paresse n’est pas un défaut, c’est une fonction biologique : notre cerveau cherche naturellement à économiser de l’énergie (glucose et oxygène).

Les technomilliardaires exploitent cette faille évolutive en proposant des outils « complaisants » et « ludiques » qui nous rendent dépendants. À force de déléguer, nous risquons une « lobotomie » progressive où nous serons incapables de fonctionner sans leurs serveurs. Voir mon article « La fin du monde est à quelle heure? » pour un exposé détaillé et documenté à ce sujet.

Le coût financier futur est vertigineux : si demain l’accès à ces « prothèses cérébrales » devient payant au prix fort, ou si les critères d’accès changent, combien devrons-nous payer pour simplement retrouver une capacité de réflexion que nous avons laissé s’atrophier ? Nous risquons de devenir des locataires de notre propre intelligence. Relis. C’est exactement ça qui est déjà en cours.

L’analogie de la cuisine : chefs étoilés vs assistants de cuisine

Pour illustrer cette dégradation, utilisons l’analogie de la brigade de cuisine.

• Le développeur senior (Le chef étoilé) : Il a gravi tous les échelons. Il sait éplucher les patates, préparer les sauces et gérer le coup de feu. S’il utilise l’IA, c’est comme s’il dirigeait une équipe d’assistants. S’ils font une erreur, il le voit instantanément et corrige le tir.

• Le débutant (assistants) : Il utilise l’IA pour tout. Il obtient un plat superbe, mais il ne sait pas pourquoi il est bon. S’il est confronté à un bug que l’IA ne sait pas résoudre, il se retrouve « noyé » sous une montagne de code qu’il ne comprend pas.

C’est ici que la dette devient toxique : on peut obtenir un 17/20 à un examen sans avoir compris un seul mot de ce que l’on a rendu.

On possède le résultat, mais pas la compétence.

Le risque d’une société à deux vitesses

Le futur ne sera pas forcément une apocalypse à la Terminator, mais plutôt une fracture cognitive profonde :

1. L’élite cognitive : Ceux qui, comme les aristocrates d’autrefois, auront la volonté de « prendre l’escalier » plutôt que l’ascenseur. Ils utiliseront l’IA comme un tuteur (Sparing Partner) pour s’exercer, sans jamais lui demander la réponse finale. Ou s’ils le font, ça sera pour comparaison et « challenge ».

2. La masse dépendante : Ceux qui auront cédé à la gratification immédiate, accumulant des lacunes jusqu’à devenir incapables de pensée critique (corrélation de -0,49 entre l’usage fréquent de l’IA et le score de réflexion critique).

Voir cette étude de Ioan Roxin professeur émérite à l’université Marie et Louis Pasteur

La nouvelle économie du discernement : l’IA de sens

Parlons maintenant de la posture à adopter dorénavant face à cette intelligence qui devient une commodité aussi accessible que l’électricité. Dans toutes les poches, un cerveau bien huilé capable de faire croire n’importe quoi tant nous n’avons pas les reins (ou les neurones) assez solides pour le confronter sans investir un temps considérable à lui prouver qu’il a tort. Le coût de la vérité est très élevé, car le mensonge est instantané et la vérité doit être documentée.

L’approche IA de sens consiste donc à déplacer la question :

pas “Que peut faire l’IA ?”
mais “Que doit encore faire l’humain ?”

Je vais essayer de faire l’analogie avec des termes faciles à comprendre, comme l’électricité.

L’IAG comme électricité cognitive

Pendant des siècles, l’intelligence humaine était rare parce que penser coûtait de l’énergie :

• apprendre
• mémoriser
• analyser
• écrire
• décider

Chaque action cognitive demandait un effort.

L’IAG change une seule chose fondamentale : l’effort mental mécanique devient abondant. Le jus de cerveau infini. La fontaine de Jouvence de l’intelligence brute.

Nous venons d’industrialiser la pensée procédurale.

Ce qui disparaît (progressivement)

Pas les professions qui se transforment, mais la valeur associée à certains efforts.

Avant	Maintenant
Chercher	instantané
Résumer	automatique
Rédiger	banal (ça dépend du niveau ;) )
Traduire	universel
Structurer	assisté

Ce ne sont plus des compétences rares. Ce sont des commodités cognitives.

Comme la lumière fournie par l’électricité. Pas le soleil évidemment.

D’ailleurs, si tu veux comprendre à quel point, même l’IAG est devenue une commodité, écoute cette vidéo. Tu comprendras que ceux possèdent le pouvoir sont ceux qui possèdent les barrages hydroélectriques et/ou les clients qui paient la facture. Apple l’a compris.

Donc la valeur humaine migre

L’humain n’est plus celui qui calcule.

Il devient celui qui oriente.

Rôle ancien	Rôle émergent
Produire une réponse	Poser la bonne question
Trouver	Choisir
Savoir	Comprendre
Optimiser	Donner du sens
Exécuter	Assumer

Le paradoxe de l’abondance

Quand l’intelligence devient infinie : la confusion augmente.

Parce que la difficulté n’était pas d’obtenir des réponses, mais de savoir lesquelles méritent d’exister. Et surtout lesquelles ont la crédibilité recherchée pour aider à prendre des décisions importantes.

Nous entrons dans une économie de discernement.

Or, pour avoir du discernement, il faut avoir un bagage cognitif et émotionnel à la hauteur du problème qu’on essaie de régler. Plus les valises de l’expérience et de la connaissance seront vides, et moins le discernement sera possible.

Les 5 niveaux d’usage de l’IA de sens

Je n’ai jamais été partisane des extrêmes. Je pense que la nuance a toujours eu sa place dans tout. Personne n’a jamais complètement tort, mais personne n’a jamais complètement raison non plus. Une bonne partie tient dans le focus et le regard qu’on porte aux choses, aux événements.

Avec l’intelligence artificielle, nous sommes comme des enfants avec un nouveau jouet fascinant. La seule différence est dans l’ampleur des conséquences collectives si nous laissons la bête se creuser elle-même un chemin jusqu’à l’océan de notre naïveté. Il faut des digues, des barrages, des écluses, des bassins de rétention et j’en passe.

Voici donc un guide des cinq niveaux d’usage de l’IA et les risques associés.

Le nouveau rôle humain

Tu auras compris qu’une grande part de la responsabilité tient dans l’usage que l’humain en fait. Les niveaux 1 et 2 sont définitivement les zones du plus grand danger. Si tu donnes un fusil à une personne enragée, les chances qu’elle en fasse un usage fatal sont très grandes. Vaut mieux lui enlever les balles.

Les débats actuels sont urgents au niveau de l’apprentissage et de la délégation des tâches en entreprise. Si tu me demandes si je reviendrais à classer, résumer et structurer mes idées sans l’IAG, je serais capable, mais bien déçue. Je gagne un temps fou. Ce qui me permet de partager les réflexions nécessaires comme ici.

Un senior qui gère des juniors devient un mentor et un guide qui prépare la relève. Remplacer les juniors par l’IAG revient à ne préparer aucune relève et dépendre éternellement de la béquille que les technomilliardaires nous revendront de plus en plus cher à voir les modèles d’affaires qui s’essoufflent. Voir cette vidéo.

L’humain n’est donc plus le processeur.  Il devient le garant.

Garant de :

• pertinence
• contexte
• conséquences
• responsabilité

L’IA devrait calculer le possible.
L’humain devrait choisir le souhaitable.

La vraie fracture n’est pas technologique. Elle est philosophique :

Deux types d’utilisateurs vont émerger.

Ceux qui accélèrent : Ils feront plus, plus vite, automatiquement.

Ceux qui orientent : Ils décideront quoi mérite d’être fait.

J’adore cette idée que l’IAG ne sélectionne pas le monde que nous voulons habiter.
Elle amplifie celui que nous tolérons. Et à ceux et celles qui se disent déjà vaincus et qui abdiquent, dites-vous que c’est exactement le plan des mégalomanes et c’est nous le dernier maillon de ce plan, notre éveil collectif. NOS DÉCISIONS. L’IAG pourrait sauver le monde des stupidités, mais elle semble bien partie pour l’amplifier.

Pour faire de l’IA de sens, il ne faut pas que l’IAG remplace l’intelligence humaine. Elle doit se limiter à remplacer la partie automatique de la pensée.

Et forcer l’humain à redevenir :

• conscient
• intentionnel
• responsable

“L’intelligence n’est plus rare. Le discernement oui.”

Autrement dit : moins opérateur, plus auteur. Nous entrons dans l’ère de la responsabilité humaine augmentée. Il faut changer le regard et cesser de penser qu’on délègue notre intelligence, car elle sera plus que jamais nécessaire en format « discernement ».

Comment rembourser la dette cognitive?

Il n’est pas question d’interdire l’IA, mais de changer notre rapport de force avec les créanciers.

• L’effort volontaire : Il faut réintroduire de la friction, un peu de sueur en d’autres mots. Le papier et le crayon redeviendront des outils d’avenir pour forcer le cerveau à s’activer sans assistance. Les enseignants préconisent de plus en plus l’apprentissage en classe loin des ordinateurs.

• L’IA comme mentor, pas comme béquille : Demandez à l’IA de vous donner des exercices, des indices, mais jamais la solution.

• La cure de désintoxication : Comme l’exemple de ce jeune ingénieur à qui on a interdit l’IA pendant trois mois, il faut parfois se confronter à nouveau à la « douleur » de la théorie pour retrouver le plaisir de la maîtrise et de la fierté créative.

Ta place dans cette économie de discernement?

La question n’est pas de savoir si l’IA des technomilliardaires est intelligente, mais si nous voulons encore le rester. Chaque « prompt » est un choix : celui d’aiguiser notre esprit ou celui de creuser notre dette.

Dans un monde saturé d’IA, la véritable richesse ne sera pas l’accès à l’information, mais la capacité biologique de la transformer en connaissance sans avoir à demander la permission à un serveur en Californie.

C’est vrai qu’avant l’arrivée de l’IAG, le déficit de discernement était déjà alarmant. À voir ce que les États-Uniens ont élu, on peut comprendre cet énoncé. Mais si tu veux améliorer ton discernement, tu dois améliorer ta « métacognition ». Encore un mot compliqué (je t’entends penser 😉), mais ça aussi, je l’ai expliqué abondamment dans l’article : « La stupidité collective, un fléau sociétal ». Je te partage le tableau résumé.

Il faut réapprendre à penser. Rien de moins.

Et puis, si tu es le genre à poser une question à ChatGPT avant de réfléchir à la réponse par toi-même, fais un petit effort… juste un petit, ça sera déjà ça!

Dernière nouvelle pour moi! Je suis dorénavant dans la Brigade IA initiée par le CIQ (Centre d’innovation du Québec). Je vais en reparler dans un article plus précis. Le Québec se dote d’une équipe de bénévoles pour aider les entreprises à naviguer dans cet univers avec conscience et connaissances.

Aussi, je partage depuis 4 semaines une infolettre hebdomadaire sur les nouvelles autour de l’IA de sens ou pas de sens. Abonne-toi pour ne rien manquer!

Bonne journée!

Ah! Oui! J’oubliais! J’ai pris l’habitude de mettre un résumé vidéo illustré de mes articles. Si ça peut aider à faire passer le message même à ceux qui n’aiment pas lire… je vote oui!