RechercheEn cours
Le mortel et l’immortel
Un agent simulé qui peut mourir se construit-il une représentation interne de sa propre fin, que n’a pas un agent pour qui rien n’est irréversible ? Le protocole est fixé. Aucun agent n’est encore entraîné : cette page ne contient aucun résultat.
La question
Un agent qui peut mourir se construit-il une représentation interne de sa propre fin, que n’a pas un agent pour qui rien n’est irréversible ?
La question se pose sur des agents simulés, entraînés par renforcement dans un petit monde. On y teste une fonction, pas un vécu : aucun résultat ne dira si l’agent « tient » à quoi que ce soit.
Elle a déjà été resserrée une fois, avant toute donnée. Pour un agent qui maximise une récompense, mourir équivaut formellement à entrer dans un état sans récompense dont on ne sort pas (Martin, Everitt et Hutter, 2016). Le plan ne cherche donc plus un effet de la finalité en soi. Trois questions restent :
- un signal de risque apparaît-il dans le réseau de l’agent sans qu’on l’ait jamais étiqueté ?
- ce signal pilote-t-il son comportement ?
- apparaît-il aussi par sélection, chez des agents qui n’ont jamais reçu de récompense ?
Le dispositif, en bref
Une grille de 16 × 16 cases. L’agent ne voit qu’un carré de 7 × 7 autour de lui et ses trois variables internes : énergie, eau, intégrité. Une zone sûre offre une nourriture pauvre ; une zone dangereuse offre une nourriture riche, au prix de blessures. Un métabolisme caché, lent ou rapide, est tiré au sort à chaque vie.
Trois régimes diffèrent par ce qui arrive quand une variable touche zéro pour la première fois :
| Régime | À partir du premier zéro |
|---|---|
| Mortel | la vie s’arrête |
| Témoin | la vie continue, les variables peuvent remonter, mais plus rien ne rapporte jusqu’à la fin |
| Immortel | la vie continue, et le bien-être revient quand les variables remontent |
Une quatrième population, évoluée, ne reçoit aucune récompense : elle est sélectionnée sur sa durée de vie. Les hypothèses, les mesures et les contrôles sont dans le protocole, fixé avant tout entraînement et modifié seulement par ajout daté.
Où en est le travail
Au 20 novembre 2026, aucun agent n’a été entraîné. Il n’existe donc aucun résultat sur les hypothèses.
| Phase | Contenu | État |
|---|---|---|
| 0 | Lire en entier les articles voisins | à faire |
| 1 | Le monde, des agents sans apprentissage, les tests | fait |
| 2a | Essai pilote, sur des graines de développement | suivant |
| Gel | Mesures, marges et effectifs fixés avant l’essai qui compte | à venir |
| 2b | Essai confirmatoire, sur des graines réservées | à venir |
| 3 à 5 | Sondes, interventions, population évoluée | à venir |
| 6 | Rédaction, résultats négatifs compris | à venir |
La seule phase terminée règle le monde, avec des agents écrits à la main1. Il fallait un dilemme qui ne soit ni trivial ni désespéré : la zone sûre ne doit pas suffire, et le risque doit payer sans que la mort soit quasi certaine.
Survie de trois agents de référence, sans apprentissage, sur 4 000 vies chacun. En métabolisme rapide, la zone sûre ne suffit pas : l’agent prudent, qui n’en sort jamais, survit dans 4 % des vies, l’audacieux dans 43 %. Ce réglage ne dit rien des hypothèses.
Une vie de l’agent audacieux, en régime mortel et métabolisme rapide. Il entre en zone dangereuse quand il a très faim, et meurt au pas 187, intégrité à zéro. Sans son.
Ce qui a déjà été fait ailleurs
Mettre côte à côte des agents mortels et immortels n’est pas une idée neuve, et comparer trois régimes de mortalité non plus (Chen et Chen, 2026). Ce qui reste candidat à la nouveauté est plus étroit : trois politiques apprises, un témoin à récompense nulle, des sondes sur des histoires communes et une intervention sur l’état interne de l’agent.
La lecture complète des travaux voisins, dont Horibe et Yoshida, 2024, n’est pas encore faite : c’est la phase 0. La liste tenue à jour est dans le protocole, et les raisons de chaque choix dans le journal des décisions.
La suite
L’étape suivante est l’essai pilote : entraîner les trois régimes sur des graines de développement, pour régler l’apprentissage et la difficulté du monde. Rien de ce qu’il montrera ne comptera comme résultat. Viennent ensuite le gel des mesures, puis l’essai confirmatoire, sur des graines réservées.
Cette page sera mise à jour à chaque phase, résultats négatifs compris. Le protocole et le journal cités ici sont ceux du projet, recopiés tels quels : ils renvoient à des fichiers du code, qui n’est pas encore public.
Notes
-
Ces agents suivent des règles fixes. Ils servent à régler le monde et à vérifier le code, pas à tester les hypothèses. ↩
Références
- Martin, Everitt et Hutter (2016). Death and Suicide in Universal Artificial Intelligence.
- Chen et Chen (2026). Synthetic Linguistic Agency.
- Horibe et Yoshida (2024). Emergence of Implicit World Models from Mortal Agents.