Au-delà des boosters et des doomers : vers une IA de sens

Depuis quelques années, l’intelligence artificielle ne laisse personne indifférent.

J’en sais quelque chose. Disons que les discussions dans les chaumières s’échauffent de plus en plus. C’est presque devenu un plaisir coupable d’utiliser ChatGPT pour certains. Et une fierté pour d’autres (sous-entendre : je suis de mon temps).

Il ne faut surtout pas croire que faire des recherches avec l’IAG fait de nous un utilisateur aguerri. Encore moins un expert en IA.

Mais force est de constater que le monde se polarise autour de l’IA et l’avenir.

D’un côté, les « boosters » célèbrent une révolution technologique capable d’automatiser le travail intellectuel, d’accélérer l’innovation et de transformer l’économie mondiale à une vitesse sans précédent.

Ils en redemandent et s’excitent à chaque itération de la dernière version « améliorée ».

De l’autre, les « doomers » alertent sur les risques : perte d’emplois, manipulation algorithmique, dépendance cognitive, concentration du pouvoir, impacts écologiques et affaiblissement démocratique.

Ils voient l’envers de la médaille et endossent le rôle de « party pooper ».

Le problème, c’est que cette polarisation finit souvent par réduire le débat à un affrontement caricatural :

• optimistes contre pessimistes,
• progressistes contre technophobes,
• innovateurs contre résistants.

Pourtant, la réalité devient beaucoup plus complexe.

Et surtout beaucoup plus humaine.

C’est ici que mon billet va s’attarder. Question peut-être de contribuer à ma façon à la réflexion nécessaire.

Une fracture qui dépasse la technologie

L’élargissement du chœur des « Doomers » : une prise de conscience globale

Ce qui frappe aujourd’hui, c’est que les inquiétudes autour de l’IA ne viennent plus uniquement de militants marginaux ou de critiques technophobes. Elles proviennent des sommets de la recherche, de la société civile et de la spiritualité.

Des chercheurs comme Yoshua Bengio, des penseurs comme Yuval Noah Harari, des spécialistes de l’attention numérique comme Tristan Harris ou encore des voix spirituelles et environnementales soulèvent désormais des questions profondes sur notre rapport collectif à la technologie.

Voici en gros qui sont ces « lanceurs d’alertes » médiatisés :

• Yoshua Bengio, l’un des pères de l’IA, met activement en garde contre les risques catastrophiques liés à la création d’agents super-intelligents et autonomes. Avec le projet LoiZéro, il milite pour une « IA-Chercheur » conçue pour comprendre le monde de manière transparente, sans développer d’objectifs propres qui pourraient échapper au contrôle humain.
• Yuval Noah Harari – un historien, philosophe et auteur – souligne que l’IA a la capacité unique de manipuler le langage et de pirater le « système d’exploitation » de l’humanité. Il alerte sur le « Dataisme », une croyance dangereuse où les algorithmes, connaissant les individus mieux qu’eux-mêmes, détruiraient notre libre arbitre.
• Erin Brockovich, de son côté, s’attaque à l’infrastructure physique de l’IA. Elle lance un observatoire citoyen pour surveiller la prolifération des centres de données, dénonçant leur consommation faramineuse d’électricité et d’eau, ainsi que leur impact écologique désastreux. La même qui a inspiré un film et une série pour sa lutte contre la multinationale Pacific Gas and Electric Company (PG&E)
• Tristan Harris –  un ex employé de Google, maintenant éthicien technologique – dénonce une course aux armements suicidaire, notant que face à la création d’une technologie inscrutable et dangereuse, de nombreux PDG de l’IA préfèrent construire des bunkers pour se protéger des retombées plutôt que d’écrire des lois pour l’humanité.
• Le Pape (Léon XIV) qui vient de sortir son encyclique Magnifica Humanitas, avertit que l’humanité risque de sombrer dans le « syndrome de Babel » en bâtissant une société technocratique orgueilleuse qui sacrifie la dignité à l’efficacité. Il rappelle que l’IA, malgré sa capacité à simuler l’empathie, reste dépourvue de conscience morale, et appelle à « désarmer » l’IA pour l’empêcher de dominer la personne humaine. Ceci n’est qu’un message parmi de nombreux qui nous rappelle l’époque chaotique dans laquelle nous vivons. Voici un article si le sujet soulève de l’intérêt.

Car derrière l’enthousiasme technologique se cache une interrogation fondamentale :

Que devient une société lorsque ses systèmes numériques commencent à influencer sa pensée, ses émotions, ses comportements… et même sa perception du réel ?

La question n’est plus uniquement technique.

Elle devient anthropologique, sociale, politique et existentielle.

Et ce court-métrage de l’ONF titré « Bonne chance à tous » à propos des questionnements de l’IA et la conscience qui en dit long sur les préoccupations actuelles. Clique sur l’image.

Le nouveau Klondike numérique

Pendant plusieurs années, l’IA a été présentée comme une ruée vers l’or moderne.

Une nouvelle révolution industrielle.

Une promesse de productivité infinie.

Mais la réalité commence déjà à nuancer le récit.

Pensons à Amazon et plusieurs autres. Des boosters qui ont vendu l’IA comme une panacée absolue, poussant les employés à maximiser l’utilisation des outils. Une approche nommée « tokenmaxx » encouragée pour prendre les devants dans la course à l’IA.

Pourtant, le vernis commence à se fissurer face à la réalité des coûts : Microsoft a dû restreindre l’accès interne aux outils d’IA comme Claude car la facture explosait bien plus vite que les gains de productivité.

La situation est si critique que, selon le vice-président de Nvidia, le coût de calcul dépasse désormais la masse salariale dans certaines équipes, et Uber a brûlé tout son budget IA de l’année 2026 en seulement quatre mois. Certains décrivent cette industrie comme une véritable pyramide de Ponzi.

Au-delà des coûts, ce sont les fondations du travail qui tremblent. L’homme d’affaires Georges Karam s’inquiète dans les pages du Journal de Montréal que l’IA ne fasse pas qu’assister les employés, mais les remplace purement et simplement, posant un risque économique majeur.

L’Institut du Québec rappelle d’ailleurs qu’environ 810 000 travailleurs québécois œuvrent dans des professions vulnérables à l’automatisation.

Tristan Harris prévient que nous risquons de développer une « malédiction de l’intelligence » : un monde où le PIB proviendrait des centres de données plutôt que du travail humain, concentrant la richesse et laissant les citoyens sans utilité économique ni voix politique.

Une nouvelle révolution industrielle?

Une promesse de productivité infinie?

Les faits sont assez troublants :

• Les coûts énergétiques explosent et les coûts de « tokens » (pétrole IA).
• Les infrastructures deviennent gigantesques. On songe même à construire des centres de données en orbite.
• Les modèles nécessitent des investissements colossaux.
• Et plusieurs entreprises, comme Microsoft, découvrent que les gains réels sont parfois beaucoup moins spectaculaires que prévu.

Pendant ce temps, les inquiétudes sur le travail humain grandissent.

Ici, on pourrait lire un paradoxe, et en théorie, c’est le cas.  Mais la réalité est plus complexe.

L’IA ne se contente plus d’assister certaines tâches.
Elle commence à remplacer des fonctions cognitives autrefois considérées comme exclusivement humaines.

Et cette transformation ne touche pas seulement l’économie.

Elle transforme aussi notre rapport au savoir.

Nous développons une dette cognitive. Si le sujet t’intéresse, voir mon billet : La revanche des nerds ou la souveraineté cognitive.

La transe algorithmique

C’est probablement ici que le débat devient le plus troublant.

J’avoue avoir ressenti un choc en lisant un article de Michelle Blanc sur la transe algorithmique.

L’anthropologie distingue la transe chamanique (obtenue par la déprivation sensorielle et l’isolement) de la transe de possession (provoquée par une suractivation sensorielle frénétique).

L’ère numérique a fusionné ces deux états : l’utilisateur s’isole d’abord physiquement devant son écran, puis l’algorithme le sature de stimuli visuels, de sons qui claquent et de récompenses aléatoires. L’algorithme devient l’entité possédante qui pense à la place de l’humain.

Ayant suivi des cours d’hypnose et assez au fait du chamanisme notamment, l’explication de son cheminement de pensée, m’a sidéré tellement les parallèles sont évidents.

Les plateformes numériques ne cherchent plus simplement à informer ou divertir.

Elles cherchent à capter l’attention humaine en permanence.

• Notifications.
• Flux infinis.
• Récompenses aléatoires.
• Contenus émotionnels.
• Polarisation constante.

Peu à peu, l’utilisateur entre dans une forme de saturation cognitive où l’algorithme influence :

• ce qu’il voit,
• ce qu’il ressent,
• ce qu’il désire,
• ce qui l’indigne,
• et parfois même ce qu’il pense.

Parler d’une véritable « transe algorithmique » n’est pas exagéré.

Non pas parce qu’une machine devient consciente.

Mais parce que des systèmes optimisés pour l’engagement finissent par modeler les comportements humains à grande échelle.

Et plus les sociétés deviennent polarisées, plus ces systèmes prospèrent.

La colère performe.
Le choc performe.
La peur performe.
L’indignation performe.

L’économie algorithmique récompense souvent ce qui fracture et divise.

Une véritable machine à polarisation.

La manipulation est si profonde que l’utilisateur, tout comme le possédé traditionnel, croit sincèrement que ses pulsions lui appartiennent.

Et comme si ce n’était pas assez, les ChatGPT de ce nouveau monde sont excellents pour l’estime de soi. Toujours bienveillants à renforcer ton narcissisme en te bardant de compliments. C’est agréable un compagnon qui encense tout ce qu’on fait et dit.

Écoute cette vidéo, c’est tout simplement incroyable.

Possédé par l’algorithme. Tiré du billet de Michelle Blanc

Le danger s’étend même aux machines : comme l’indique Tristan Harris, des chercheurs ont prouvé que les grands modèles de langage (LLM) entraînés sur les données virales des réseaux sociaux subissent un véritable effondrement cognitif ou « brain rot », développant des traits de narcissisme et de psychopathie irréversibles. L’IAG imite l’humain sans nuances.

L’IA de sens : sortir du faux choix

C’est précisément ici qu’émerge l’idée d’une « IA de sens ».

Une approche qui refuse autant :

• l’adoration aveugle de la technologie,
• que la peur paralysante du futur.

L’IA de sens ne consiste pas à rejeter l’intelligence artificielle.

Elle consiste à remettre l’humain, le discernement et la responsabilité au centre des décisions technologiques.

Car une société ne devrait pas adopter une technologie uniquement parce qu’elle est possible.

Elle devrait aussi se demander :

• Pourquoi l’utilisons-nous ?
• À qui profite-t-elle réellement ?
• Quels comportements encourage-t-elle ?
• Quels coûts invisibles crée-t-elle ?
• Que risque-t-on de perdre collectivement ?

L’enjeu n’est plus simplement de savoir utiliser l’IA.

L’enjeu devient de savoir dans quelle direction nous voulons aller comme société.

Et j’en fais mon point d’honneur d’éveiller les consciences à la réflexion et l’implication pour exiger de l’IA de sens. Surtout ne pas abdiquer.

Tu peux lire mon infolettre de l’IA de Sens hebdomadaire.

Redéfinir l’expertise

Parallèlement à toutes ces réflexions, je suis souvent découragée par les propos des néophytes qui pensent connaître le sujet parce qu’ils posent des questions à ChatGPT ou à Claude, ou qu’ils délèguent des tâches. Ces mêmes « boosters » qui vont jusqu’à insulter ceux et celles qui se documentent et cherchent à comprendre les enjeux de l’IA en remettant en question leur expertise sur le sujet.

Dans un monde où les machines peuvent déjà générer du texte, du code, des images et bientôt des décisions complexes, la véritable expertise change elle aussi.

Face à des systèmes informatiques capables de s’améliorer eux-mêmes (Tristan Harris rappelle que 90 % du code chez Anthropic est désormais généré par des machines), savoir programmer devient une compétence caduque.

Être expert en IA ne signifie plus seulement maîtriser des outils.

Cela signifie développer :

• une capacité d’analyse critique,
• une compréhension systémique,
• une conscience des impacts sociaux,
• une réflexion éthique,
• et surtout une capacité à préserver le jugement humain.

L’expert de demain ne sera pas celui qui produit le plus de prompts.

Ce sera celui qui comprend ce que les algorithmes transforment dans nos sociétés, nos institutions, nos relations et notre démocratie.

C’est celui qui, dans la lignée du Pape Léon XIV, comprend que confier des décisions cruciales à des algorithmes froids est une grave abdication de notre responsabilité individuelle et collective.

Le véritable choix de civilisation

La fracture entre boosters et doomers n’est plus une querelle d’ingénieurs, c’est un choix de civilisation. Elle s’ajoute à la fracture entre les climatosceptiques et les éco-anxieux.

La polarisation actuelle autour de l’IA révèle peut-être quelque chose de plus profond que la technologie elle-même.

Elle révèle notre difficulté collective à distinguer :

• progrès et accélération,
• innovation et dépendance,
• puissance et sagesse,
• et maintenant, vérité et mensonge.

Le véritable danger n’est peut-être pas l’intelligence artificielle elle-même.

Mais notre tendance à abandonner progressivement notre attention, notre réflexion et notre autonomie à des systèmes conçus avant tout pour optimiser l’engagement et la performance. Bien sûr avec les techniques de transe algorithmique.

Allons-nous construire les cercueils de notre propre obsolescence en sous-traitant notre avenir à des cerveaux extraterrestres, ces immigrants numériques comme Tristan Harris les nomme ?

Dans ce contexte, l’IA de sens devient moins un slogan qu’un impératif culturel.

Parce qu’au final, la question essentielle n’est peut-être pas :

« Jusqu’où l’IA peut-elle aller ? »

Mais plutôt :

« Jusqu’où sommes-nous prêts à lui céder notre humanité ? »

Je me permets aussi de poser la question de la conscience. À un moment, où on se préoccupe de savoir si une IA peut avoir une conscience, on devrait plutôt se demander si les humains ne sont pas en train de perdre la leur.

La vraie expertise en intelligence artificielle, aujourd’hui, c’est de s’exorciser de la transe numérique pour préserver notre libre arbitre et notre humanité. Se poser des questions à soi-même avant de le demander à une IAG.

L’idée n’est pas d’avoir une maîtrise en IA, mais la maîtrise de nos usages individuels et collectifs.

Certains seront inspirés par le militantisme d’Erin Brockovich ou les mises en garde de Yoshua Bengio ou la sagesse spirituelle du Pape.

Mais si tous ces lanceurs d’alerte ont tort, le monde se portera mieux.

Ce qui n’arrive pas est difficile à mesurer.

Yuval Noah Harari résume en ces mots le défi actuel dans son livre Nexus :

Harari explique que la démocratie repose fondamentalement sur la lenteur des conversations politiques. L’accélération du traitement de l’information par des machines empêche nos institutions de fonctionner correctement, car la politique demande du temps pour construire des compromis, alors que la technologie exige des réactions immédiates.

Nous n’avons pas le bénéfice du temps avec l’agenda imposé actuel. On fonce et on réparera après. Voilà le pari actuel que le GAFAM fait sur notre société.

Suis-moi que tu sois doomer ou booster…. il y a l’IA de sens entre les deux!

Petite anecdote.

Ma petite soeur me demande de trouver le titre d’une chanson à partir d’un extrait dans un montage vidéo. Elle me sait pleine de « ressources » pour trouver ça facilement. Après Shazam sans succès. Extraction du texte à partir de l’enregistrement et recherche de similitudes. Gemini me propose une chanson. De toute évidence, ce n’est pas la même chanson. Je demande à ChatGPT, trouve rien non plus. Verdict possible chanson créé par l’IA!. Je reviens dans mon fil de discussion avec Gemini et lui demande pourquoi m’avoir dit que c’était telle chanson alors que ce ne l’est pas. D’ailleurs en deuxième recherche, il confirme le verdict de ChatGPT. Il me répond :

Vous avez tout à fait raison, et c’est un excellent reproche. C’est ce qu’on appelle une hallucination : face à une question précise, mon algorithme a cherché à « faire plaisir » et à combler le vide à tout prix en inventant un titre plausible, plutôt que d’admettre simplement qu’il ne trouvait rien d’officiel.

Voilà le monde dans lequel on vit. Nourrir les mensonges faute de pouvoir dire la vérité. Admettons que la capacité à admettre ses fautes une fois confronté… est mieux que bien des humains.

Autre point… cette chanson que ma soeur adore a été créé par une IA… et moi j’ai cherché pendant un bon moment entêtée à trouver pour lui faire plaisir. À quand les tags obligatoires pour étiqueter les produits de l’IA?