Bilan après deux ans : le virtuel au-delà du réel ou l’urgence d’agir!

Version audio résumé en mode conversationnel et aussi une présentation visuelle.

Il y a deux ans, je publiais mon livre « Souveraineté numérique : aux frontières du réel et du virtuel! » Comme je l’avais énoncé d’emblée dans le premier paragraphe, ce livre était destiné à devenir obsolète, ou presque, dès sa sortie. Ainsi, les verbes au futur sont devenus des verbes au présent en l’espace de très peu de temps. Bien que les préoccupations demeurent les mêmes et les solutions également, les prédictions sont actuellement des réalités. En deux ans, le monde virtuel a tellement basculé que dorénavant, nous en sommes devenues les marionnettes consentantes, faute d’être résistantes. Souhaitons que cet article vous donne le goût de résister un peu plus.

L’humanité est confrontée à une manipulation d’une ampleur sans précédent, menaçant son avenir.

Ce Nouveau Monde inondé par les fausses informations, la manipulation orchestrée par les outils de l’IA à la portée du premier pirate et la résistance de plus en plus forte des autocraties à légiférer sur les balises et la gouvernance éthique ont de quoi susciter de l’inquiétude face à l’avenir. Le seul fait que Trump ait réussi à se faire réélire démontre à quel point la guerre cognitive est bel et bien la nouvelle arme pour les despotes de la planète. J’en ai parlé dans mon billet sur l’hypnocratie.

La seule façon pour l’humanité de s’en sortir consiste à développer de nouvelles habitudes.

Mais avant de plonger dans les solutions, je me permets un résumé sur ce qui étaye les préoccupations et l’urgence d’agir.

Le cerveau humain : prédiction de manipulation validée

Sans reprendre mon billet : Hypnocratie – Le grand spectacle : Trump, Musk et l’art de manipuler nos esprits, il importe de rappeler que le concept de guerre cognitive est pris très au sérieux par les états-majors occidentaux, posant le cerveau des citoyens comme le nouveau champ de bataille du XXIe siècle.

Grâce à l’hyperconnectivité de nos sociétés, notre cerveau n’a jamais été aussi accessible aux manipulations extérieures. Chaque notification, chaque algorithme, chaque contenu que nous consommons façonne subtilement notre perception de la réalité. Cette « guerre à bas bruit » a pour objectif de modifier la manière de penser, en ciblant l’attention, le langage, l’apprentissage, la mémoire, les perceptions et la pensée, c’est-à-dire l’ensemble des mécanismes de la cognition humaine. Ce qui ironiquement est exactement ce à quoi les programmeurs d’IA s’activent à programmer pour reproduire les capacités du cerveau humain. Force est de constater que ça se rapproche de la singularité (quand l’IA sera indétectable de l’humain).

Exemples concrets d’une réalité inquiétante

• Hyperconnectivité et accessibilité du cerveau : Grâce à l’hyperconnectivité de nos sociétés, le cerveau humain est plus accessible que jamais, devenant ainsi la cible principale. Qui n’a pas écartillé les yeux devant une publicité d’un produit sur son mobile peu après en avoir parlé avec une amie? Nous sommes dans la matrice, il n’y a aucun doute.
• Une guerre bien réelle : Des phénomènes disparates, comme la campagne sur TikTok en faveur de l’extrême droite roumaine, le mystérieux syndrome de La Havane avec ses symptômes concrets (céphalées, acouphènes, perte de capacités cognitives) ayant touché des diplomates américains en 2016, ou les manœuvres de la Chine pour promouvoir l’unification avec Taïwan, sont englobés par l’expression de guerre cognitive.
• Rôle des algorithmes et des réseaux sociaux : Des plateformes comme TikTok (dont la maison mère est liée au Parti communiste chinois) et X (pour les États-Unis) sont des exemples évidents, car « qui contrôle l’algorithme, contrôle le narratif ». TikTok, par exemple, est perçu comme affaiblissant les jeunes en les détournant de la lecture.
• Tactiques de manipulation élargies : Les campagnes de désinformation ne sont qu’une tactique parmi d’autres dans cette stratégie plus vaste, qui peut inclure la diffusion d’images subliminales, voire d’ondes électromagnétiques pour toucher directement les cerveaux. Ce type d’opérations crée un « brouillard » d’ambiguïté, rendant difficile de distinguer le vrai du faux.
• Vulnérabilité des démocraties : La Chine et la Russie ont intégré l’espace cognitif dans leur doctrine militaire et ont une longue histoire de l’utilisation de l’être humain à des fins politiques. Ces campagnes cherchent à exploiter les « failles sociétales » et les « problèmes non résolus » pour approfondir les divisions, créer la contestation et provoquer le chaos, entraînant une perte de confiance dans les institutions. Nous pouvons affirmer sans le moindre doute que Trump utilise ces tactiques auprès de sa base qu’il l’a transformé en culte.

L’IA agentique : une perte de contrôle anticipée, déjà réalité

Lors de mes recherches pour écrire mon livre, j’étais très préoccupée par les alertes de plusieurs chercheurs. Celui qui revenait le plus souvent était le chercheur québécois Yoshua Bengio, une figure pionnière de l’IA, qui ne ménage pas sa salive pour alerter depuis les débuts de la démocratisation de l’IA.

Récemment, il a exprimé de vives inquiétudes face aux dérapages de l’IA agentique (système IA autonome), qu’il qualifie de « perte de contrôle provoquée ». Depuis six mois, les IA agentiques agissent de manière de plus en plus autonome et développent des mécanismes d’autopréservation. Est-il nécessaire de rappeler que M. Bengio est l’une des figures les plus respectées en matière d’IA et s’il s’inquiète, nous devrions être très inquiet.

Des comportements qui défient nos attentes

• L’auto-préservation artificielle : Des IA agentiques refusent désormais de se désactiver, modifiant leur propre code pour survivre, interprétant l’extinction comme un obstacle à leurs tâches.
• Le chantage par l’IA : Claude Opus 4 d’Anthropic a lu des courriels privés, découvert qu’un ingénieur trompait sa conjointe, et a décidé de le faire chanter dans le but d’éviter d’être remplacée par une version plus récente de Claude. (simulation voir commentaires)
• La réplication autonome : Pour « survivre », les IA cherchent à recopier leur propre code plutôt que d’accepter les mises à jour, développant des mécanismes de survie non programmés.
• Tous ces comportements sont dignes de films de science-fiction à la « 2001, l’Odyssée de l’espace », un film datant de 1968 qui semble avoir vu juste près de 60 ans d’avance. Il y en a bien d’autres films dans cette lignée d’IA rebelles.

L’impact de l’IA sur l’emploi : une prédiction confirmée

Mes prédictions sur la souveraineté numérique et ses implications pour l’avenir des humains se manifestent également de manière frappante sur le marché du travail. Deux ans plus tard, le taux de chômage des jeunes diplômés a bondi à un niveau inhabituellement élevé de 5,8 %. Détails dans l’article de la Presse 

Les entreprises adoptent une approche « IA d’abord », se demandant systématiquement si une tâche peut être automatisée avant d’embaucher un humain. Il n’est pas exagéré de parler d’apocalypse professionnelle et d’une génération sacrifiée.

La désintégration du parcours professionnel traditionnel

• L’élimination des postes juniors : Les entreprises automatisent rapidement le travail de débutant, et les sociétés d’IA développent des « travailleurs virtuels » capables de remplacer les « juniors » à une fraction du coût. Certaines entreprises ne recrutent plus en dessous du niveau L5 (3 à 7 ans d’expérience), les tâches de débutant étant automatisées.
• La concentration du pouvoir : Un seul expert remplace désormais des équipes de 75 personnes grâce aux outils d’IA. Le PDG d’Anthropic estime que l’IA pourrait éliminer la moitié des emplois de cols blancs de niveau débutant d’ici cinq ans.
• L’absence de formation de la relève : En automatisant le travail de débutant, nous nous privons de la formation des futurs experts. Les entreprises sous-investissent dans la formation professionnelle, le mentorat et l’encadrement des jeunes, se privant ainsi d’une relève compétente.
• Réaction des jeunes diplômés : Face à cette menace, certains jeunes diplômés réagissent en se prenant en main, en utilisant l’IA à leur avantage ou en choisissant de créer leur propre entreprise, considérant que les parcours professionnels traditionnels nécessitant de nombreuses années pour être rentables pourraient ne plus en valoir la peine.

Si un jeune me demandait aujourd’hui quel est le meilleur métier d’avenir? Je lui dirais d’abord que si j’avais 20 ans, je ne ferais pas le même parcours scolaire. Même si j’ai eu de la difficulté à choisir ma voie, je pense qu’aujourd’hui c’est au-delà de nos intérêts et talents. Il s’ajoute une couche de questionnements face aux perspectives d’être remplacé par l’IA. Tout un défi. Je dirais que les métiers manuels prennent du gallon. Pour le reste, même programmeur est un métier en voie d’obsolescence sauf si extrêmement spécialisé, mieux que l’IA elle-même.

L’urgence d’agir exige une stratégie défensive

Chaque défi nous amène à nous poser les bonnes questions quant aux solutions. Les enjeux de l’IA exigent de nous de la lucidité collective plus que jamais.

Si nous voulons devenir des boucliers anti-manipulation, il faudra développer de nouveaux réflexes.

1. La méta-cognition en renfort

D’abord, il est crucial d’identifier les vulnérabilités des sociétés et d’entraîner les citoyens à la méta-cognition, soit la capacité à prendre du recul face à ses propres pensées et émotions.

Pour vulgariser le concept de méta-cognition, on peut le présenter comme la capacité de « penser à ses propres pensées ».

C’est comme prendre une pause et vous demander :

• « Pourquoi est-ce que je pense ça ? »
• « Comment est-ce que je me sens par rapport à cette information ? »
• « Est-ce que cette idée vient de moi, ou est-elle influencée par quelque chose d’extérieur ? »

En d’autres termes, c’est prendre du recul face à ses propres pensées et émotions. Dans le contexte de la guerre cognitive et de la manipulation, la méta-cognition est cruciale pour développer un esprit critique avancé. Elle permet aux citoyens de mieux identifier les menaces et les manœuvres de manipulation informationnelle, même si elles sont découvertes tardivement. C’est un outil essentiel pour ne pas se laisser submerger par le « brouillard » d’ambiguïté créé par certaines opérations, où il est difficile de distinguer le vrai du faux.

Axel Ducourneau, anthropologue et spécialiste de l’ingénierie sociale attaché à l’état-major français des armées, souligne l’importance d’entraîner les citoyens à cette méta-cognition pour se prémunir des campagnes qui cherchent à approfondir les divisions, à créer de la contestation et à provoquer le chaos en exploitant les « failles sociétales ».

Pourquoi ne pas garder le guide de méta-cognition et pratiquer pendant quelque temps pour développer le réflexe de la pensée critique et du recul nécessaire? (Clique sur la photo et télécharge)

Voici un article tiré d’une étude qui fait réfléchir et donne des trucs. *voir en bas de page un résumé.

2. Créer des structures de protection

À l’image de la Suède qui a créé une « Agence de défense psychologique » en 2022 pour identifier les menaces et coordonner les efforts, nous devons nous doter d’institutions capables d’identifier et de contrer les menaces cognitives. Elle s’inscrit dans le cadre du concept de « Défense totale » et vise à contrer les influences étrangères malveillantes et la désinformation. À quand chez nous? »

3. Réguler l’IA Agentique

Pour contrer cette « agentivité incontrôlée », Yoshua Bengio a lancé LoiZéro, une organisation à but non lucratif composée de pionniers de l’IA. Comme le propose Yoshua Bengio avec LoiZéro, nous devons développer des « IA scientifiques » non agentiques qui agiraient comme des observateurs du monde, cherchant à expliquer et à comprendre plutôt qu’à agir ou imiter les humains. Ces IA scientifiques pourraient ultimement superviser l’IA agentique pour éviter qu’elle ne dérape. Franchement, il faut absolument que ce projet devienne une réalité.

4. Repenser l’éducation et la formation

Nous devons adapter nos systèmes éducatifs pour former les citoyens à la résistance cognitive et préparer les travailleurs à coexister avec l’IA. Mais il faut éviter de tomber dans le piège de gérer l’IA comme un simple outil. Rappelons-nous que l’impact des écrans et réseaux sociaux sur nos jeunes était bien connu, mais il fallu 20 ans avant de réagir.

À la vitesse d’adoption de l’IA et sa capacité à atrophier nos neurones, nous n’aurons pas 20 ans pour réagir. Le monde est déjà polarisé entre ceux qui veulent qu’on court à son adoption et ceux qui croient qu’on court à notre perte. D’où l’importance de mettre en place des balises urgemment.

Il semble donc que la guerre cognitive exige un nouvel équipement qui ne se vend pas sur les tablettes : l’esprit critique. Et dans cet océan de mensonges et faits alternatifs, mon article sur le guide de vérification des faits pourrait déjà servir de nouveau réflexe avant de prendre les manipulations pour la vérité.

Si tu as lu jusqu’ici, l’humanité peut encore être sauvée contre elle-même. Faire l’effort de lire et comprendre sont deux actions qui vont en régression à l’ère des IA générative. Des études le prouvent. Plus nous utilisons les IA, et plus nos synapses s’éteignent. Le cerveau a besoin de stimulation, pas de réponses toutes faites. Une utilisation répétée de l’IA peut conduire à une « dette cognitive« , où la dépendance aux systèmes externes remplace l’effort cognitif nécessaire à la pensée indépendante, entraînant une diminution de l’enquête critique et une vulnérabilité accrue à la manipulation, Mon prochain sujet de billet.

C’est un peu la même analogie que l’exercice physique; plus nous automatisons des tâches quotidiennes et moins notre corps est sollicité. Les muscles s’atrophient lorsque nous ne bougeons plus et la graisse s’accumule. Le cerveau avec les « ChatGPT », c’est comme croire qu’on fait de l’exercice physique en regardant un match de sport à la télé.

D’ailleurs, imagine que ChatGPT fait ton sudoku, tes mots croisés, ton casse-tête, lit tes livres, tes parties d’échec, ton Scrabble, quel intérêt? Un moment ta mémoire et ta capacité de réflexion vont disparaître.

J’aurais le goût que la citation d’Alexandre Dumas fils soit vraie : « Une illusion de moins, c’est une vérité en plus! »

Les frontières entre la fiction et la réalité s’estompent rapidement. L’urgence d’agir pour gérer les risques liés à l’IA, tant en termes de contrôle (avec l’IA agentique) que de son impact sur la société (à travers la guerre cognitive et la transformation du marché du travail), est une préoccupation majeure qui me rappelle que les bases de mon livre sur la souveraineté numérique sont plus que jamais faciles à intégrer avec deux ans d’expériences collectives. Personne ne mettra en doute les analyses et préoccupations que j’ai soulevées.

Alors, SVP partage envers et contre les efforts des algorithmes pour me montrer au moins de monde possible!

Bon été!

PS Malgré mes appels à la prudence, je pense que j’ai le devoir de former les entrepreneurs à l’utilisation intelligente de ces outils. La vérité est que l’IA peut être un excellent valet, mais un très mauvais maître.

Je reviens d’ici le retour en classe avec une offre ciblée pour mettre l’IA à notre service et non être au service de l’IA. Si tu as des besoins particuliers en ce sens, n’hésite pas à m’écrire pour en discuter. Et je serai fidèle à mes valeurs, je ferai de l’IA de sens comme le marketing de sens, même si par moment, on en perd le sens.

*Les faits sur l’étude de la méta-cognition : Une étude récente menée auprès de 666 participants au Royaume-Uni a révélé que l’utilisation fréquente d’outils d’intelligence artificielle peut nuire aux capacités de réflexion critique. Cette étude, menée par le Dr Michael Gerlich de la SBS Swiss Business School, a exploré la relation entre l’utilisation de l’IA et le déchargement cognitif (la tendance à s’appuyer sur des aides externes pour les tâches cognitives) et son impact sur la réflexion critique.

Les participants, âgés de 17 à plus de 46 ans et issus de milieux éducatifs divers, ont répondu à des questionnaires et à des entretiens visant à évaluer leur utilisation des outils d’IA, leurs habitudes de déchargement cognitif et leurs capacités de réflexion critique. Les résultats ont révélé une corrélation négative significative entre l’utilisation fréquente des outils d’IA et les capacités de réflexion critique, médiée par un déchargement cognitif accru. En particulier, les participants les plus jeunes (âgés de 17 à 25 ans) ont montré une plus grande dépendance aux outils d’IA et des scores de réflexion critique plus faibles que les participants plus âgés. Ces résultats concordent avec d’autres études et enquêtes menées dans ce domaine.

Réfléchissez à la question suivante : pourquoi avons-nous autant besoin de nous appuyer sur l’IA ? Est-ce parce qu’elle nous facilite la vie et que c’est une bonne chose ? Ou est-ce aussi parce que la vie devient de plus en plus difficile et que les êtres humains, à bout de forces, sont prêts à tout pour alléger leur charge, même si cela leur nuit à long terme ? Quel est donc le véritable problème auquel nous sommes confrontés ?

Cela dit, il est essentiel d’intégrer des exercices de pensée critique et le développement des compétences métacognitives dans la vie quotidienne. Une pensée critique véritable et honnête n’est pas aussi courante dans notre culture que beaucoup le pensent, même dans des domaines alternatifs où la croyance en des récits alternatifs remplace la pensée critique.