Cet article s’inscrit dans l’IA de Sens, une démarche qui vise à rendre les enjeux de l’intelligence artificielle accessibles et à nourrir notre discernement collectif.
Comme d’habitude une vidéo présentée de manière ludique pour résumer les propos de cet article.
Un constat d’impuissance et de profondes inquiétudes
Cet article s’ajoute à ma réflexion sur ce que j’appelle l’IA de Sens. Derrière les prouesses technologiques, une question demeure : une société peut-elle confier une part croissante de son intelligence collective à des machines sans réfléchir simultanément au sens, aux limites et aux conséquences de ce choix?
L’IA de Sens ne consiste pas à être pour ou contre l’intelligence artificielle. Elle consiste à développer notre capacité collective à poser les bonnes questions avant que les réponses technologiques ne deviennent irréversibles.
Je parlais des « doomers » et des « boosters » dans un article qui met en vedette les lanceurs d’alerte.
J’aimerais ajouter une nouvelle voix à cette réflexion : Jeffrey Ladish, un expert australien en sécurité ayant travaillé chez Anthropic.
L’Australie travaille d’ailleurs très activement à la gouvernance de l’IA avec des initiatives audacieuses qui font les manchettes. Elles attirent surtout l’attention des gouvernements ailleurs dans le monde.
Un consensus émerge parmi les experts du monde entier : le déploiement actuel de l’intelligence artificielle semble suivre une trajectoire sans filet de sécurité.
L’inquiétude dominante, partagée par des experts en sécurité comme Jeffrey Ladish, est que les entreprises technologiques et les gouvernements n’ont actuellement aucun « bon plan », international ou national, pour encadrer le passage du travail humain au travail cognitif réalisé par l’IA.
Un constat alarmant que les institutions politiques sont « en retard » face à la rapidité des progrès techniques pour gérer l’arrivée d’agents IA plus intelligents que l’humain.
Ces systèmes pourraient atteindre un stade d’auto-amélioration récursive, où l’IA coderait elle-même ses prochaines versions, déclenchant un processus incontrôlable d’ici seulement un à trois ans.
Les gouvernements semblent actuellement davantage préoccupés par la course à l’IA, la compétitivité et la peur de prendre du retard que par la destination finale.
La course à 300 km/h sans filet de sécurité et sans itinéraire à terme.
Ils s’inquiètent tous de l’énorme concentration de pouvoir entre les mains de quelques entreprises technologiques. Sans contrepouvoirs ni surveillance démocratique, ces entreprises pourraient exercer une influence démesurée sur la société et l’économie mondiale.
Au-delà des risques d’extinction évoqués par des chercheurs comme Geoffrey Hinton, qui estime à 10-20 % la probabilité d’une catastrophe humaine, le « plan actuel » menace notre autonomie quotidienne.
Les critiques craignent un désempowerment (perte de pouvoir) massif où des algorithmes prendraient toutes les décisions stratégiques, économiques et sociales, plaçant l’humanité à la merci de la bienveillance — ou de l’indifférence — d’une superintelligence.
Près de 70 % des adultes américains craignent des pertes d’emplois massives, particulièrement dans les professions intellectuelles et administratives.
Sur le front économique, près de 200 experts avertissent que la transition sera plus brutale que la révolution industrielle. Elle se produit sur une période beaucoup plus courte, risquant de rendre les filets de sécurité sociale (assurance-emploi, formation) totalement obsolètes.
À cela s’ajoutent les enjeux de la santé mentale collective qui vivra des jours difficiles avec la perte de sens que ces mises à pied créeront parmi les rejetés du système. Non seulement ils devront chercher un nouvel emploi, mais ils devront choisir et réapprendre à maîtriser un nouveau métier que l’IA ne peut pas, ou ne pourra jamais faire. Et crois-moi, c’est déjà bien commencé parmi beaucoup de personnes autour de moi, en m’incluant pour de nombreuses compétences obsolètes.
Une catastrophe sociale et économique en cours de téléchargement.
Les pistes pour un véritable « Plan B »
Face à ce vide stratégique, les experts mondiaux lancent les questions, mais proposent également plusieurs pistes de solutions pour reprendre le contrôle.
Elles tentent toutes de répondre à la même question : comment reprendre le contrôle avant que celui-ci ne nous échappe?
1. Le moratoire et l’encadrement législatif
Jeffrey Ladish propose une interdiction mondiale de la superintelligence tant que la sécurité n’est pas garantie. Cela inclut un système d’approbation gouvernementale obligatoire pour l’entraînement de tout nouveau modèle puissant.
2. La surveillance institutionnelle
À l’image des inspections industrielles, des experts réclament des inspecteurs gouvernementaux capables d’évaluer si les projets de pointe, comme les usines autonomes, risquent de « dérailler ».
3. L’IA complémentaire
Plus de 200 économistes exhortent les laboratoires à privilégier une IA qui complète le travail humain plutôt que de chercher systématiquement à le remplacer, afin de s’assurer que les gains de productivité ne soient pas accaparés par une élite restreinte.
4. La coordination internationale
Un « Plan B » efficace nécessite une entente entre les grandes puissances (notamment les États-Unis et la Chine) pour gérer le transfert massif du travail humain vers la machine de manière ordonnée. Un enjeu de taille, mais fondamental, tout comme le Traité sur la non-prolifération des armes nucléaires.
5. L’action militante
Face à l’inaction perçue, des groupes comme Stop AI prônent des mesures radicales allant de la désobéissance civile à l’interdiction permanente de l’IA surhumaine. Les mouvements de protestation prennent de la vigueur. Il y a aussi Erin Brockovich avec son nouveau combat contre les déploiements effrénés des centres de données. Une armée de « doomers » extrêmistes qui vont forcer les débats faute d’arrêter un TGV en marche.
Toutes ces propositions ont un point commun : elles reposent sur des décisions politiques, économiques et scientifiques.
Elles tentent toutes de répondre à la même question : comment reprendre le contrôle avant que celui-ci ne nous échappe?
Pourtant, elles demeurent incomplètes si elles n’intègrent pas un quatrième pilier : le discernement citoyen.
Les débats sur l’IA ne peuvent pas rester confinés aux laboratoires, aux conseils d’administration ou aux sommets internationaux.
Chaque citoyen est concerné, parce que chaque citoyen sera touché dans son travail, ses choix, sa consommation d’information et sa capacité à exercer son jugement.
C’est précisément la mission que poursuit l’IA de Sens : transformer un débat d’experts en réflexion accessible à tous.
L’urgence absolue d’agir
Le message central des sources est limpide : il n’est pas trop tard, mais la fenêtre d’opportunité se referme rapidement. Nous ne sommes pas encore au point où l’IA surpasse l’humain en stratégie ou en persuasion, ce qui nous laisse un moment critique pour intervenir avant que le processus ne devienne irréversible.
Attendre que les conséquences économiques et sociales soient pleinement mesurables pour réagir serait une erreur fatale, car le rythme du progrès technologique dépasse largement la capacité d’adaptation des responsables politiques.
Comme le souligne la déclaration « We Must Act Now », signée par près de 200 économistes, chercheurs en IA et 16 lauréats du prix Nobel, l’incertitude actuelle n’est pas une excuse pour l’inaction, mais une raison supplémentaire d’investir immédiatement dans la recherche et la formation. Le message central est qu’il faut guider activement l’IA vers des directions bénéfiques pour la société plutôt que de subir passivement son déploiement.
Le déploiement de l’IA n’est pas une fatalité, c’est un choix de société qui exige une responsabilité immédiate. Cette incertitude est comparable à une situation où l’humanité « conduit dans le brouillard », ce qui rend impératif un effort coordonné pour apporter de la clarté et anticiper les impacts sur le marché du travail.
Leurs recommandations principales
L’appel exhorte les décideurs et les laboratoires d’IA à agir sur plusieurs fronts :
Compléter l’humain plutôt que de le remplacer
Il est crucial de diriger le développement de l’IA vers des outils qui augmentent les capacités humaines au lieu de simplement les imiter ou les substituer.
Viser une prospérité partagée
L’objectif doit être de générer de la richesse pour le plus grand nombre et non de concentrer les gains entre les mains de quelques-uns.
Bâtir de nouvelles institutions
Il est nécessaire de commencer dès maintenant à créer les politiques et les institutions capables de gérer ces bouleversements avant que les effets ne deviennent massifs.
Et s’il existait une troisième voie?
L’IA de Sens
Au fond, le véritable enjeu n’est peut-être pas de choisir entre accélérer l’IA ou l’arrêter.
Depuis quelques années, deux visions semblent s’affronter.
D’un côté, les boosters, convaincus que toute innovation doit être accélérée au nom du progrès et de la compétitivité.
De l’autre, les doomers, persuadés que l’issue sera inévitablement catastrophique et qu’il faut ralentir, voire arrêter cette course.
Ces deux extrêmes ont le mérite de provoquer le débat, mais ils risquent aussi de le réduire à une opposition stérile.
L’enjeu dépasse largement cette polarisation.
Les experts peuvent lancer les alertes.
Les chercheurs peuvent mesurer les risques.
Les gouvernements peuvent légiférer.
Les entreprises peuvent développer les technologies.
Les citoyens, eux, devront vivre avec les conséquences.
Mais aucune de ces instances ne peut décider seule de la société dans laquelle nous voulons vivre.
La véritable question n’est donc pas :
« Faut-il être pour ou contre l’IA? »
Elle est plutôt :
« Comment voulons-nous vivre avec elle? »
C’est exactement l’ambition de l’IA de Sens : sortir du réflexe binaire, développer notre discernement collectif et remettre les citoyens au cœur des décisions qui façonneront leur avenir.
Car si l’intelligence artificielle est en train de transformer le monde, notre responsabilité demeure profondément humaine : conserver notre capacité à réfléchir ensemble avant de laisser les algorithmes décider à notre place.
Même si Anthropic embauche une philosophe pour apprendre à son IA à distinguer le bien du mal, il nous reviendra toujours de développer notre propre bienveillance, notre discernement et notre jugement collectif.
N’hésitez pas à me poser vos questions.
Je suis véritablement fascinée par cette période où se dessinent nos choix collectifs. Je travaille fort pour vulgariser et analyser les enjeux de l’IA, non pas pour convaincre, mais pour aider chacun à développer son propre discernement. C’est précisément l’ambition de l’IA de Sens.
Questions fréquentes
Qu’est-ce que l’IA de Sens?
L’IA de Sens est une démarche qui cherche à dépasser l’opposition entre adhésion aveugle et rejet total de l’intelligence artificielle. Elle mise sur le discernement citoyen, la gouvernance, la responsabilité et la capacité collective à poser les bonnes questions.
Quelle est la différence entre les boosters et les doomers?
Les boosters souhaitent accélérer le développement de l’IA au nom du progrès et de la compétitivité. Les doomers craignent plutôt des conséquences catastrophiques et réclament un ralentissement marqué, voire un arrêt de certains développements.
Pourquoi faut-il un plan B?
Parce que la réussite technique et économique de l’IA pourrait entraîner des effets majeurs sur l’emploi, la concentration du pouvoir, les institutions, la santé mentale et l’autonomie citoyenne. Un plan B vise à anticiper ces conséquences plutôt qu’à les subir.
Quel rôle les citoyens peuvent-ils jouer?
Les citoyens peuvent exiger de la transparence, participer aux débats publics, développer leur compréhension des enjeux et demander que les décisions sur l’IA ne soient pas prises uniquement par les entreprises technologiques et les experts.
En savoir plus sur Sylvie Bédard - Complice de votre Présence
Abonnez-vous pour recevoir les derniers articles par e-mail.
