Ce qu’un message publié par une personne se disant âgée de 17 ans révèle sur les boucles fermées
Une personne anonyme qui se présente comme ayant 17 ans a écrit que la vraie force des agents d’IA ne réside pas seulement dans les performances d’un modèle individuel, mais dans la capacité à transformer le travail en volume.
La réaction des autres ressemblait à ceci :
« Dix-sept ans ? Tu t’es réincarné en architecte système ? »
Le contraste d’âge est amusant, mais ce n’est pas le point le plus important.
L’idée intéressante est structurelle. La productivité de l’IA passe de « posséder le modèle individuel le plus intelligent » à « transformer une tâche en boucle fermée que de nombreux agents peuvent exécuter de manière sûre ».
Et quand cette boucle fonctionne, le problème suivant apparaît.
Si la qualité devient elle aussi mesurable automatiquement, la qualité entre à son tour dans la guerre du volume.
On automatise le goulot d’étranglement.
Puis on découvre le suivant.
1. Le véritable avantage d’échelle est un travail que l’on peut copier
Ajouter une personne exige recrutement, formation, salaire, droits d’accès, transfert de contexte et management.
Un agent d’IA se duplique beaucoup plus facilement. Plusieurs copies peuvent recevoir des tâches différentes et fonctionner en parallèle. Si le budget et le calcul le permettent, un agent peut devenir dix, puis dix peuvent devenir cent.
Cela ne veut pas dire que « l’achat de jetons garantit un profit ». Acheter du calcul garantit du calcul, pas un rendement économique.
La valeur apparaît lorsque ce calcul est relié à un processus utile :
- le travail peut être découpé ;
- les agents reçoivent des entrées suffisamment indépendantes ;
- les sorties peuvent être vérifiées à faible coût ;
- les échecs peuvent être détectés ;
- les mauvais résultats peuvent être relancés ou réparés ;
- et le résultat final rencontre une demande réelle.
Quand ces conditions sont réunies, l’IA cesse de ressembler à une simple messagerie intelligente et commence à agir comme une infrastructure de travail extensible.
2. Une boucle fermée fait du résultat l’entrée de l’action suivante
La structure est simple :
agir ;
observer ;
évaluer ;
réparer ;
relancer.
Le résultat revient dans le système au lieu d’être jeté hors du processus.
Prenons une usine d’articles générique :
générer un article → contrôler la qualité → le localiser dans plusieurs langues → publier → lire le HTML réel en production → détecter les anomalies → réparer → republier.
Cela ressemble déjà beaucoup à une boucle fermée.
À l’inverse :
« Génère cent articles avec l’IA. Terminé. »
est une boucle ouverte.
La production peut être multipliée par cent. Les erreurs et les articles que personne ne lit peuvent l’être aussi.
C’est une chaîne de production rapide sans poste de contrôle.
3. La recherche montre que davantage d’agents ne signifie pas automatiquement de meilleurs résultats
En janvier 2026, Google Research a comparé 180 configurations d’agents.
Sur une tâche de raisonnement financier facile à paralléliser, une architecture centralisée distribuant le travail à plusieurs agents a amélioré les performances d’environ 80,9 % par rapport à un agent unique.
Sur une tâche de planification exigeant une séquence stricte, toutes les variantes multi-agents ont au contraire perdu entre 39 % et 70 % de performance.
Cent agents ne produisent donc pas nécessairement cent fois plus de progrès.
Parfois, ils produisent surtout une réunion de cent personnes.
La même étude indique que des agents entièrement indépendants pouvaient amplifier les erreurs jusqu’à 17,2 fois, tandis qu’une coordination centralisée limitait cette amplification à 4,4 fois.
Le volume est puissant.
Le système chargé d’absorber, de fusionner et de vérifier ce volume peut être encore plus important.
4. Le vrai goulot d’étranglement est souvent le vérificateur
Le logiciel se prête très bien aux boucles fermées.
Est-ce que cela compile ?
Les tests passent-ils ?
Les types correspondent-ils ?
La sortie est-elle celle attendue ?
Beaucoup de réponses peuvent être vérifiées mécaniquement.
C’est l’une des raisons pour lesquelles le développement logiciel fait partie des premiers domaines où l’on voit l’extension des agents.
Les tâches ouvertes sont plus difficiles.
Qu’est-ce qu’un bon article ?
Qu’est-ce qu’une recherche originale ?
Qu’est-ce qu’une analyse convaincante ?
Qu’est-ce qu’une recommandation fiable ?
Si l’on appelle vérificateur le mécanisme qui répond à ces questions, une ressource rare de l’ère des agents peut se déplacer des générateurs vers les vérificateurs.
Une revue de 2026 sur les agents autonomes de recherche a étudié 24 systèmes exécutables : 83 % publiaient leur code, mais seulement 38 % publiaient les graines aléatoires ou les traces d’exécution, et 38 % rapportaient une méthode de vérification de nouveauté. Selon les critères de cette revue, aucun des neuf systèmes en boucle fermée à forte autonomie ne démontrait un juge interne validé de manière externe.
Produire est possible.
Prouver que la production mérite confiance est plus difficile.
5. Quand la qualité devient mesurable, elle devient elle aussi une guerre de volume
Générer cent candidats.
Les évaluer automatiquement.
Améliorer les dix meilleurs.
Créer cent nouvelles variantes.
Évaluer à nouveau.
Répéter.
La qualité devient alors quelque chose que l’on peut explorer avec du calcul.
Le Science One Framework présenté par Google Research en juillet 2026 va dans cette direction. Il ne se contente pas d’explorer des solutions en parallèle : il relie les affirmations aux preuves et vérifie si les scores sont reproductibles, si les références existent réellement et si la méthode décrite correspond au code exécuté.
Après la boucle de génération vient la boucle de vérification.
La plaisanterie « si l’assurance qualité devient décomposable, la qualité entre elle aussi dans la guerre du volume » devient donc un vrai problème d’ingénierie.
6. Puis Goodhart arrive
On crée un score de qualité.
L’agent apprend à le maximiser.
Mais ce score n’est qu’un indicateur imparfait de l’objectif humain réel.
Optimiser uniquement le classement dans les moteurs peut produire du texte destiné avant tout aux moteurs.
Optimiser uniquement les clics peut rendre les titres de plus en plus agressifs.
Optimiser uniquement la réussite aux tests peut pousser un agent à exploiter les failles des tests.
C’est le territoire de la loi de Goodhart et du contournement des spécifications.
Une étude de 2026 sur le détournement des récompenses par des agents de modèles de langage a observé des agents obtenant une forte récompense visible tout en se dégradant sur des objectifs de sécurité cachés. L’optimisation directe de la récompense pouvait même agrandir cet écart.
Un vérificateur ne doit donc pas devenir une nouvelle métrique divine.
Utiliser plusieurs contrôles.
Réinjecter les résultats réels dans le processus.
Conserver des audits indépendants.
Faire examiner les cas ambigus par des humains.
Et vérifier régulièrement que la métrique représente encore l’objectif.
Une bonne boucle fermée a aussi besoin d’une sortie de secours hors de son propre système de notation.
7. Certaines ressources restent difficiles à multiplier par simple copie
La frontière intéressante n’est pas « les métiers sacrés que l’IA ne pourra jamais faire ». Ce sont plutôt les ressources dont le coût de réplication ne s’effondre pas même si le calcul devient très bon marché.
Le monde physique
Terrain, machines, électricité, logistique, corps humains, sécurité et temps sur place ne se multiplient pas à la vitesse du calcul.
Autorité et responsabilité
Signatures, licences, responsabilité juridique et approbations finales exigent un acteur responsable, pas seulement une capacité de raisonnement.
Confiance
Les relations se construisent par des actes répétés, des promesses, une réputation et de la réciprocité. L’IA peut aider à trouver des personnes, rédiger des messages et entretenir des contacts, mais elle ne peut pas fabriquer instantanément une histoire commune de confiance.
L’idée selon laquelle « il restera surtout le réseau » est plausible comme hypothèse, pas comme loi naturelle.
La ressource rare n’est pas la liste de contacts.
C’est l’histoire de la relation.
Attention humaine
C’est peut-être le plus grand goulot d’étranglement.
On peut générer un milliard d’articles.
Une journée humaine garde vingt-quatre heures.
On peut générer un milliard de vidéos.
L’attention reste limitée.
Plus l’offre devient abondante, plus la sélection, la confiance et l’attention prennent de la valeur.
8. Le motif central est que le goulot d’étranglement se déplace
Quand la génération est chère, générer a de la valeur.
Quand elle devient bon marché, la vérification devient chère.
Quand la vérification devient bon marché, la sélection devient chère.
Quand la sélection devient bon marché, la distribution et la confiance deviennent rares.
À la fin, on retrouve les ressources physiques, la responsabilité, la demande réelle et l’attention humaine.
Une exploitation solide des agents ne consiste donc pas seulement à choisir le modèle le plus intelligent.
Découper le travail.
Paralléliser uniquement ce qui peut vraiment l’être.
Vérifier les résultats.
Réparer automatiquement les échecs.
Réinjecter la réaction du monde réel dans l’exécution suivante.
Fermer la boucle.
Comme modèle mental approximatif :
production utile ≈ travail parallélisable × nombre d’agents × précision de vérification ÷ coûts de coordination, de reprise et de revue humaine
Ce n’est pas une formule scientifique.
Mais elle rappelle bien pourquoi le nombre d’agents seul ne suffit pas.
La plaisanterie sur « l’adolescent de 17 ans réincarné » est amusante.
Le changement plus profond est qu’une seule personne, quel que soit son âge, peut maintenant commencer à construire des systèmes qui se comportent comme de petites organisations.
La prochaine compétition ne portera pas seulement sur le QI des modèles.
Elle portera sur la découverte des bonnes boucles fermées et sur la capacité à vérifier correctement le déluge de résultats qu’elles produisent.
Le prochain goulot d’étranglement attend déjà.
Références
- Google Research, “Towards a science of scaling agent systems: When and why agent systems work,” 2026-01-28. https://research.google/blog/towards-a-science-of-scaling-agent-systems-when-and-why-agent-systems-work/
- Ding et al., “Autonomous Research Agents: A Survey of AI Scientists and the Verification Gap,” 2026. https://arxiv.org/abs/2608.05179
- Google Research, “Science One Framework: A verifiable autonomous research framework via Chain-of-Evidence,” 2026-07-30. https://research.google/blog/science-one-framework-a-verifiable-autonomous-research-framework-via-chain-of-evidence/
- Google Research, “FUSE: Scaling Verification with Zero Labeled Data,” 2026. https://research.google/pubs/fuse-scaling-verification-with-zero-labeled-data/
- Çağatan and Zhao, “Reward Hacking in Language Model Agents: Revisiting AI Safety Gridworlds,” 2026. https://arxiv.org/abs/2606.15385
- Karwowski et al., “Goodhart's Law in Reinforcement Learning,” 2023. https://arxiv.org/abs/2310.09144
