Tout est interrelié. Vraiment tout.

Le syndrome de Bornéo : pourquoi l’IA exige une vision systémique

L’histoire est parfois plus éloquente que de longs discours techniques.

Au début des années 1950, le peuple Dayak de Bornéo souffrait du paludisme.

L’Organisation mondiale de la santé croyait avoir trouvé la solution : pulvériser de grandes quantités de DDT afin d’éliminer les moustiques porteurs de la maladie. Les moustiques sont morts, le paludisme a reculé. Jusqu’ici, tout allait bien.

Mais les conséquences inattendues n’ont pas tardé.

Parmi les premières, les toits des maisons ont commencé à s’effondrer. Le DDT avait également éliminé une guêpe parasite qui contrôlait les chenilles mangeuses de chaume.

Pire encore, les insectes contaminés étaient mangés par les geckos, eux-mêmes mangés par les chats. Les chats sont morts, les rats ont proliféré et les populations se sont retrouvées exposées à des risques accrus de peste sylvatique et de typhus.

Pour tenter de rétablir l’équilibre écologique, les autorités ont finalement dû faire parachuter des chats à Bornéo.

Cette anecdote illustre parfaitement la dynamique des systèmes complexes : une intervention ciblée sur un seul élément peut produire une cascade d’effets imprévus lorsqu’on ignore les interconnexions. C’est précisément ce qui se joue aujourd’hui avec l’intelligence artificielle.

L’exemple chinois : prévenir l’érosion sociale

On pourrait s’étonner qu’un pays comme la Chine, engagé dans une course effrénée à la puissance technologique, impose aujourd’hui des balises aussi strictes.

Pourtant, Pékin semble avoir compris qu’on ne peut pas remplacer massivement des travailleurs par l’intelligence artificielle sans anticiper les conséquences sociales.

Dans mon livre Souveraineté numérique : aux frontières du réel et du virtuel, je soulevais déjà cette nécessité de prévoir un véritable mécanisme de protection des travailleurs. Par exemple, en obligeant les entreprises à absorber une partie des coûts liés à la transformation de la main-d’œuvre qu’elles mettront au chômage au profit de l’IA. On pourrait même pousser la réflexion encore plus loin : pourquoi la collectivité devrait-elle assumer les coûts du chômage pendant que les bénéfices de l’automatisation sont entièrement privatisés?

Plus frappant encore, la Chine a récemment restreint l’usage des « compagnons IA » et des chatbots relationnels, particulièrement auprès des mineurs. Les autorités craignent que les citoyens ne se réfugient dans des relations artificielles au détriment des liens familiaux et sociaux, essentiels à la stabilité du pays.

Nous aurions tort de croire que ce sont seulement les Chinois qui vivent ces inquiétudes. Cet article de la Presse révèle ce phénomène des psychoses causées par des liens affectifs avec l’IA.

C’est une reconnaissance explicite que, plus l’IA s’humanise, plus elle risque paradoxalement de nous déshumaniser.

Les jeunes Chinois semblent particulièrement vulnérables à cette réalité, notamment en raison du déséquilibre démographique entre les hommes et les femmes, qui favorise le recours à des compagnons virtuels pour combler certains besoins affectifs.

L’anecdote du miroir : quand l’IA devient plus « humaine » que nous

C’est ici que le paradoxe devient troublant.

Récemment, j’ai vécu une expérience qui illustre parfaitement ce monde à l’envers.

À la suite d’un simple malentendu, une amie m’a bloquée sur Facebook. Une réaction malheureusement de plus en plus fréquente : « Je te boude, je te bloque. »

Dans l’espoir de réparer les pots cassés, je lui ai écrit un message. Sa réponse m’est revenue sous une forme qui m’a immédiatement frappée : elle semblait avoir été rédigée par ChatGPT. Le ton était froid, impersonnel et transformait un malentendu en une nouvelle attaque.

Par curiosité, j’ai soumis l’ensemble de notre échange, ainsi que le contexte, à ChatGPT afin d’obtenir une analyse.

Je voulais simplement savoir ce que l’IA en comprendrait.

Le résultat m’a littéralement jeté à terre.

ChatGPT a fait preuve d’une lucidité parfaite, proposant une analyse émotionnelle et des scénarios de résolution d’une grande finesse. Encore, je savais comprendre les propositions étant donné mon expérience de vie.

C’est là que réside, à mes yeux, le véritable paradoxe de notre époque.

Pendant que nous coupons les ponts, bloquons des proches et évitons les conversations difficiles, les modèles d’intelligence artificielle semblent développer une capacité grandissante à décoder nos émotions et à proposer des stratégies de communication plus constructives que celles que nous adoptons parfois entre humains.

Certains soulèvent même des malaises devant l’espèce d’intimité et la tendance à vouloir nous plaire que plusieurs expérimentent. C’est parfois troublant voire intimidant.

Et si l’IA finissait par nous réapprendre à être humains?

Nous voyons déjà apparaître des thérapeutes virtuels, des créateurs numériques, des conseillers et des analystes installés dans les centres de données, aux côtés de chanteurs virtuels et d’agents conversationnels capables d’accomplir certaines tâches avec une efficacité qui dépasse largement la nôtre.

Pendant que notre monde réel se fragmente, des millions « d’immigrants numériques », tous titulaires d’un doctorat virtuel, travaillent sans relâche, vingt-quatre heures sur vingt-quatre, dans les centres de données. Ils ne réclament ni salaire, ni vacances, ni reconnaissance.

La question n’est plus de savoir s’ils sont compétents.

La question est de savoir ce que leur présence transforme déjà chez nous.

La déconstruction du lien : du « rage bait » au besoin de contrôle

Cette déshumanisation prend également une forme beaucoup plus agressive avec ce que l’on appelle aujourd’hui le rage bait : des contenus volontairement provocateurs conçus pour susciter l’indignation, attirer des clics et alimenter les algorithmes.

Et cela fonctionne.

Les médias les moins scrupuleux savent parfaitement fabriquer des titres qui nous poussent à cliquer avant même d’avoir réfléchi. Notre attention est devenue une matière première.

Mais cette mécanique prend une tout autre dimension lorsqu’une personne en devient la cible.

Une de mes amies voit actuellement sa réputation détruite à la suite d’une vidéo sortie de son contexte, filmée à son insu et diffusée sans son consentement.

Face à ce type de harcèlement numérique, les forces policières disposent de moyens limités.

Le véritable responsable se cache derrière de fausses identités, multiplie les comptes et profite de l’anonymat offert par les plateformes. Pendant ce temps, les victimes, elles, sont parfaitement identifiables.

D’ailleurs, cette vidéo qui incite les femmes à se tenir « DEBOUTTES » résume bien cette agressivité impunie.

Malgré mes démarches entreprises pour retrouver l’auteur de cette campagne de harcèlement, celui-ci continue d’agir en toute impunité pendant que mon amie ne dort plus.

Son nom circule partout.

Elle reçoit des appels haineux, des insultes et même des menaces.

Pendant ce temps, celui qui a allumé l’incendie observe les flammes derrière un faux profil.

Ce phénomène nourrit une société où l’indignation remplace progressivement le discernement.

Les GAFAM disposent pourtant des moyens techniques nécessaires pour intervenir davantage. Malgré les signalements répétés, les harceleurs demeurent souvent actifs pendant des semaines, parfois des mois.

Il me semble qu’une réflexion législative devient inévitable.

Sans remettre en question la liberté d’expression, il serait peut-être temps d’exiger qu’un utilisateur qui choisit de demeurer anonyme accepte aussi certaines responsabilités lorsque des signalements crédibles sont déposés.

Tu veux conserver ton anonymat?

Très bien.

Mais alors, cet anonymat ne devrait plus automatiquement te permettre de bénéficier du même bénéfice du doute qu’une personne qui assume publiquement son identité.

La liberté d’expression protège des personnes.

Elle ne devrait jamais devenir le bouclier de comptes fictifs créés pour diffamer, manipuler ou semer la discorde.

Si les grandes plateformes éliminaient réellement les faux comptes, leurs statistiques d’utilisateurs actifs s’en trouveraient probablement très différentes.

Dans un autre registre, Spotify annonçait récemment avoir supprimé des dizaines de millions de contenus frauduleux ou assimilables à du spam, dont une part importante était générée par l’IA. Même les plateformes commencent à reconnaître qu’un système finit toujours par s’effondrer lorsqu’il est envahi par du faux.

C’est précisément pourquoi des initiatives comme le Human Consent Standard deviennent essentielles.

Leur objectif est simple : redonner aux individus le contrôle sur leur voix, leur image, leur style et leur identité numérique afin que le consentement ne soit plus une simple promesse juridique, mais une norme technique.

Car si nous ne fixons pas rapidement certaines limites, nous finirons par sous-traiter nos facultés les plus précieuses — analyser, nuancer, réfléchir, créer, inventer — à des systèmes qui excellent à imiter notre intelligence, mais qui ne vivent aucune des conséquences de leurs décisions.

Le véritable enjeu n’est pas l’IA, c’est ce qu’elle révèle de nous. D’ailleurs mon article sur l’expérience World Emergence démontre assez bien les enjeux actuels avec ces machines qui ne comprennent pas le monde dans lequel leurs serveurs sont alimentés.

Conclusion : l’urgence d’une IA de sens

Il est essentiel de rappeler ce que sont réellement ces outils.

Les intelligences artificielles génératives sont des systèmes probabilistes. Elles produisent les réponses les plus plausibles à partir des données sur lesquelles elles ont été entraînées. Elles ne pensent pas. Elles ne ressentent pas. Elles ne possèdent ni conscience, ni intention.

Le rasoir d’Ockam nous invite d’ailleurs à privilégier l’explication la plus simple.

Un miroir qui nous renvoie nos connaissances, nos biais, nos contradictions… mais aussi nos faiblesses.

Depuis quelques années, l’inquiétude, proche de la panique, gagne autant les chercheurs que les spécialistes de la gouvernance de l’IA.

Certains redoutent la disparition de millions d’emplois.

D’autres s’inquiètent de la désinformation, de la concentration du pouvoir ou de la perte graduelle de notre autonomie intellectuelle.

Ces inquiétudes sont légitimes. Mais elles ne doivent pas nous empêcher de poser une autre question.

Quel est notre Plan B?

Car si tous les scénarios optimistes se réalisent — si l’IA devient réellement plus rapide, plus compétente et moins coûteuse que nous dans un nombre croissant de domaines — que deviendront les humains?

Nous perdons déjà certains repères. Nous perdons parfois des clients devenus, du jour au lendemain, de remarquables utilisateurs de l’IA. Qui maîtrisent des années de travail à apprendre, expérimenter et s’actualiser. J’ai même une cliente qui m’a dit cette semaine : « Suis-je la seule « conne » à encore payer des graphistes? » J’espère que non! Mais beaucoup de métiers souffrent de l’IA et d’autres ont de beaux jours.

Nous perdons aussi une partie de notre identité lorsque nous déléguons progressivement notre réflexion, notre écriture, notre créativité et parfois même nos relations humaines à une machine.

Même nos élus ne sont pas à l’abri.

On a récemment vu un politicien, Bill Oliver lire, devant une assemblée législative, une instruction laissée par ChatGPT dans le texte de son discours. La scène a fait le tour du monde et illustre parfaitement une réalité troublante : lorsque nous cessons de réfléchir à ce que nous lisons et surtout écrivons, nous cessons aussi de penser.

Alors je me suis surprise à repenser à Bornéo. Au départ, personne ne voulait tuer les chats. Personne ne souhaitait favoriser les rats.

Personne n’avait imaginé que la disparition d’une simple guêpe finirait par fragiliser toute une société. Chaque décision semblait logique lorsqu’elle était observée isolément.

C’est précisément ce qui rend les systèmes complexes si difficiles à comprendre.

L’intelligence artificielle nous place aujourd’hui devant un défi similaire. Chaque innovation paraît bénéfique lorsqu’on l’examine individuellement.

Mais lorsque des milliers d’innovations interagissent entre elles, les conséquences deviennent beaucoup plus difficiles à anticiper.

C’est pourquoi je crois que notre véritable Plan B n’est pas technologique. Il est profondément humain.

Nous devons préserver notre capacité à réfléchir, à douter, à débattre, à créer, à aimer, à transmettre et à exercer notre jugement.

Autrement dit, à faire tout ce qui ne peut être réduit à une simple probabilité statistique.

L’IA doit demeurer un formidable outil. Elle ne doit jamais devenir le principal médiateur de nos relations humaines.

Le véritable défi n’est pas de savoir si l’IA peut nous remplacer.

Le véritable défi est de nous assurer que nous ne cessions pas, nous-mêmes, de devenir humains.

Je termine avec une dernière image.

Je suis toujours allergique aux chats…

…et aux chatbots.

Alors, évitons d’avoir un jour à combattre les rAIts.

Bonne réflexion, en ce mois d’août qui nous rappelle déjà que l’été file beaucoup trop vite.