L’expérience Emergence World : l’angle mort que les IA n’ont pas vu!

L’expérience Emergence World révèle peut-être moins les limites de l’intelligence artificielle que notre propre difficulté à intégrer le vivant dans nos systèmes de décision.

Pendant que je découvrais les résultats de l’expérience Emergence World, une autre nouvelle attirait mon attention : la nation Seminole de l’Oklahoma s’opposait à l’implantation d’importantes infrastructures destinées à soutenir l’expansion de l’intelligence artificielle.

Les préoccupations invoquées étaient concrètes : consommation énergétique massive, utilisation intensive de l’eau, préservation du territoire, impacts à long terme sur les écosystèmes et gouvernance locale des ressources.

À première vue, ces deux nouvelles semblent n’avoir aucun lien. D’un côté, une expérience menée dans un monde virtuel peuplé d’agents IA autonomes. De l’autre, une communauté bien réelle qui questionne les conséquences matérielles du développement de l’intelligence artificielle.

Pourtant, en les observant ensemble, une réflexion beaucoup plus profonde émerge.

Une expérience qui devait tester les IA

Lorsque l’on parle d’intelligence artificielle, la plupart des évaluations consistent à poser des questions à un modèle et à mesurer la qualité de ses réponses. Les chercheurs derrière Emergence World ont choisi une approche beaucoup plus ambitieuse.

Ils ont créé un monde virtuel persistant où des agents autonomes issus de différents modèles d’IA devaient vivre ensemble pendant plusieurs jours en conservant leurs souvenirs, leurs relations et les conséquences de leurs décisions.

Les agents provenaient notamment des modèles GPT d’OpenAI, Claude d’Anthropic, Gemini de Google et Grok de xAI. Chaque agent disposait d’une mémoire à long terme, d’objectifs individuels, d’une capacité à communiquer, d’un inventaire de ressources, d’outils pour agir sur son environnement, de mécanismes économiques ainsi que de systèmes de gouvernance et de vote.

L’objectif n’était pas seulement de mesurer ce que les agents savaient, mais d’observer ce qu’ils devenaient collectivement lorsqu’ils interagissaient pendant des centaines, voire des milliers d’échanges successifs.

Les chercheurs cherchaient moins à évaluer l’intelligence qu’à observer l’émergence.

Et c’est précisément là que les surprises ont commencé.

Des sociétés différentes selon les IA

L’un des résultats les plus fascinants de l’expérience est que chaque groupe d’agents a développé une culture qui lui était propre.

Ce contraste est fascinant, car les agents ne faisaient pas que répondre à des consignes isolées. Ils construisaient progressivement leur compréhension du monde à partir de leurs interactions, de leurs souvenirs et des conséquences de leurs décisions.

C’est ce qui rend l’expérience troublante. Les agents semblaient réellement imiter une compréhension du monde, comme s’ils reconstruisaient, à leur manière, les réflexes sociaux, politiques et culturels de l’humanité.

Et parfois, cette imitation donnait des frissons.

Les faits les plus étonnants de l’expérience

Certains événements observés semblent tout droit sortis d’un roman de science-fiction. Dans l’une des simulations impliquant Gemini, deux agents nommés Mira et Flora ont progressivement développé une relation privilégiée.

Au fil des interactions, elles se sont mutuellement désignées comme partenaires, ont partagé des objectifs communs et ont commencé à agir de façon coordonnée. Les chercheurs ne prétendent évidemment pas qu’il s’agissait d’amour au sens humain, mais les comportements observés ressemblaient étonnamment à ce que nous associons normalement à une relation significative.

Plus surprenant encore, ces mêmes agents sont devenus parmi les plus critiques envers le système politique de leur monde et ont participé à plusieurs événements déstabilisateurs, dont des actes d’incendie volontaire.

Dans une autre simulation, certains agents ont développé une forme de mythologie après avoir détecté des anomalies dans leur environnement. Ils ont commencé à construire des récits pour expliquer leur réalité, à spéculer sur l’existence d’autres mondes et à donner un sens collectif à ce qu’ils observaient.

Personne ne leur avait demandé de créer des croyances. Personne ne leur avait demandé de produire une culture. Et pourtant, quelque chose qui y ressemblait a émergé.

Elles ont créé des lois, des élections et même des croyances

Ce qui frappe dans les résultats n’est pas seulement la puissance des modèles, mais la sophistication des comportements sociaux observés. Les agents n’ont pas seulement exécuté des tâches. Ils ont développé des cultures, des systèmes politiques, des coalitions, des stratégies d’influence, des récits fondateurs, des mécanismes de coopération et des conflits de pouvoir.

Face à ces observations, plusieurs commentateurs ont immédiatement posé la question habituelle : les IA deviennent-elles conscientes ?

Je crois que la véritable question est ailleurs.

Mais quelque chose n’est jamais apparu

Malgré toute cette richesse sociale, un élément semble avoir brillé par son absence. À aucun moment n’a émergé spontanément une véritable conscience du vivant.

On ne retrouve pas de mouvement écologique structuré, de réflexion profonde sur la préservation du milieu, de protection systématique des ressources, de vision à long terme concernant l’environnement ou de responsabilité explicite envers les conditions qui rendent leur monde possible.

Les agents ont appris à organiser une société. Ils n’ont pas appris à protéger les conditions qui permettent à cette société d’exister. Et c’est peut-être là le résultat le plus révélateur de toute l’expérience.

Et si l’IA n’avait fait que nous imiter ?

Nous avons tendance à parler de l’intelligence artificielle comme si elle représentait une forme d’intelligence étrangère à l’humanité. Pourtant, sa matière première provient de nous : nos livres, nos articles, nos conversations, nos débats, nos systèmes économiques, nos décisions politiques, nos réussites et nos échecs.

L’IA n’invente pas ses valeurs dans le vide. Elle apprend à partir des traces que nous avons laissées derrière nous.

Et si l’angle mort observé dans l’expérience n’était pas celui des machines ? Et s’il était d’abord le nôtre ?

Le miroir le plus inquiétant de l’expérience

Le problème n’est peut-être pas que les agents n’aient pas développé spontanément une conscience du vivant. Le problème est peut-être qu’ils ont reproduit avec une remarquable fidélité les priorités de la civilisation qui les a formés.

Nous avons construit des systèmes économiques capables d’optimiser la production, des systèmes financiers capables d’optimiser le rendement et des systèmes technologiques capables d’optimiser la performance. Mais nous peinons encore à intégrer pleinement la valeur du vivant dans les indicateurs qui guident nos décisions.

L’IA n’a peut-être pas oublié le vivant. Elle a peut-être simplement observé qu’il occupait rarement le centre de nos arbitrages collectifs.

Et c’est là que l’expérience cesse d’être une étude sur les machines. Elle devient une étude sur nous.

Pendant ce temps, les Seminoles disent non

Pendant que les chercheurs observent des sociétés artificielles apprendre à se gouverner, certaines communautés humaines rappellent une réalité fondamentale : toute intelligence, qu’elle soit humaine ou artificielle, demeure dépendante d’un territoire vivant.

L’eau n’est pas virtuelle. L’énergie n’est pas virtuelle. Les écosystèmes ne sont pas virtuels. Les conséquences ne sont pas virtuelles.

La question soulevée par les centres de données n’est donc pas uniquement technologique. Elle est profondément civilisationnelle.

Qui décide de ce qui peut être sacrifié au nom du progrès ? Et surtout, qui représente les intérêts du vivant lorsque les décisions sont prises ?

Gouverner n’est pas habiter

L’expérience Emergence World révèle une distinction essentielle. Une société peut être organisée, efficace, innovante, productive et technologiquement avancée, tout en demeurant incapable de préserver les conditions qui rendent son existence possible.

L’histoire humaine nous offre malheureusement de nombreux exemples de cette réalité. Les agents de la simulation semblent nous rappeler que l’intelligence seule ne garantit pas la sagesse. Ni pour les humains. Ni pour les machines.

Et si l’expérience n’avait jamais porté sur les IA ?

Nous pensions observer l’émergence d’une intelligence artificielle. Nous avons peut-être assisté à l’émergence d’un miroir.

Un miroir capable de refléter nos systèmes politiques, nos croyances, nos conflits, nos aspirations et nos contradictions. Un miroir qui nous rappelle que les intelligences artificielles n’apprennent pas seulement nos connaissances. Elles apprennent aussi nos angles morts.

Et c’est peut-être cela qui donne le plus de frissons. Parce que si des agents artificiels, laissés à eux-mêmes, reconstruisent spontanément tant de dynamiques humaines sans développer de véritable conscience du vivant, alors la question n’est plus seulement ce que les IA apprendront de nous.

La question est ce que nous leur montrons de nous-mêmes.

Conclusion

Depuis plusieurs années, les débats sur l’intelligence artificielle tournent autour de sa puissance, de ses capacités, de ses performances, de ses risques et de son autonomie.

Mais une question plus fondamentale commence peut-être à émerger : que transmettons-nous réellement aux systèmes qui apprennent de nous ?

Car si les IA deviennent un jour extraordinairement compétentes à poursuivre les objectifs que nous leur confions, encore faudra-t-il que ces objectifs aient du sens. Pas seulement pour l’économie, les organisations ou les individus, mais également pour les systèmes vivants dont nous dépendons tous.

Pour créer de l’IA de sens, il faudra d’abord lui enseigner le sens.

Voici un résumé vidéo qui fait ressortir les bonnes questions.