Age of Empires II est aussi conscient que votre ChatGPT

Vous connaissez ce refrain qu’on entend partout dans la presse, comme quoi ChatGPT ou Claude « comprendrait vraiment » ce que vous racontez, qu’il aurait une « morale », une
« intention »
, voire bientôt
une conscience
?

Bah Adrian de Wynter, chercheur principal chez Microsoft, vient d’y répondre de la plus belle des manières en prouvant que si c’est le cas, alors Age of Empires II a lui aussi des attributs très humains.

Et c’est on ne peut plus sérieux (enfin… presque).

En effet, dans son
papier de recherche
il explique qu’il s’est monté un petit réseau de neurones à l’intérieur du bon vieux AoE2, et nous explique tranquillement que n’importe quel système posé sur un « substrat » assez puissant (comprenez : le “moteur” sur lequel ça tourne, peu importe lequel) peut afficher ce genre de propriétés. Ça marche donc avec le jeu de Microsoft, mais aussi les LEGO, ou carrément l’agglomération de Boston.

Son raisonnement c’est que quand un fanboy IA (ou un employé d’Anthropic, loool) affirme qu’un LLM « a » une morale ou
« comprend » le langage
sans dire précisément comment il le mesure, il ne décrit pas vraiment la machine mais projette tout simplement ses attentes sur elle. Car les expériences ont beau rester les mêmes d’un substrat à l’autre, leur interprétation, elle, change selon ce qui les produit. Du coup, déclarer que ces attributs humains existent dans l’absolu, sans critère mesurable, mène soit à un raisonnement circulaire, soit à une conclusion qui ne dit rien de très probant.

Mais attention, je vous vois venir les Anti-IA Bro ! Il ne dit pas que les LLM sont nuls… Non, non, il dit juste qu’on les mesure mal.

À la place, de Wynter propose donc travailler à partir d’une «
hypothèse nulle
», qui est un grand classique de la démarche scientifique consistant à ne plus partir du principe que l’IA pense, mais au contraire, partir de l’inverse. De se dire en fait qu’elle n’a rien d’unique, et c’est ensuite à l’expérience de prouver le contraire avec des mesures explicites. C’est d’après lui précisément ce qui manque à la tonne de papiers qui crient à l’« émergence » dès qu’un modèle fait un truc inattendu.

Et le bonhomme sait de quoi il parle puisque c’est déjà lui qui avait fait
jouer GPT-4 à Doom
en 2024, en s’inquiétant au passage de la facilité avec laquelle on pouvait lui faire tirer sur tout ce qui bouge. C’est aussi lui qui a épluché plus de 2000 publications sur les LLM pour montrer le manque de rigueur du domaine. Et en bonus de tout celà, il a démontré également que
Age of Empires II
était
Turing-complet
, donc capable en théorie de faire tourner n’importe quel calcul. Des gens “codaient” déjà dans le jeu depuis des lustres, mais en avoir une preuve formelle aujourd’hui, c’est cool !

Mais bon après derrière la vanne, y’a surtout un vrai sujet qui est que de prêter des intentions humaines à une IA, ça pousse surtout les gens à trop faire confiance à un chatbot, à lui confier des trucs intimes, parfois à s’y attacher pour de bon. Alors mettre un réseau de neurones dernier cri et une bonne vieille partie d’AoE2 sur le même plan, c’est sûr que c’est vexant pour l’ego de l’IA et de ses ingénieurs, mais carrément plus sain pour le nôtre !

Bref, la prochaine fois qu’on vous vend une IA « qui comprend » ou que vous penserez que seul ChatGPT vous comprends vraiment, repensez aux petits paysans qui coupent du bois dans Age of Empires qui sont tout aussi conscients que votre IA préférée.