Sur les réseaux sociaux, quelqu'un plaisantait : en disant à une IA « think from first principles » (réfléchis à partir des premiers principes), il avait l'impression que son QI gagnait une vingtaine de points.
Évidemment, il ne suffit pas de prononcer la formule magique pour qu'un cerveau en silicium reçoive d'un coup 20 points d'intelligence.
Mais ce n'est pas ça, le plus intéressant.
Cette phrase ne demande ni « sors-moi plein de problèmes », ni « va voir la concurrence », ni « propose une idée qui a l'air plus maligne ».
Remonte jusqu'à la racine. La question, l'objectif, les contraintes et les hypothèses actuels sont-ils vraiment justes ? Reconstruis à partir de là.
C'est un travail plutôt philosophique.
Si l'amélioration classique, c'est : il y a une fissure dans le mur, alors on compare dix enduits de réparation, la pensée par premiers principes s'arrête en chemin, regarde le mur et dit :
« Attends. Ce mur, on en a vraiment besoin ? »
Du jour au lendemain, l'artisan du bâtiment s'est inscrit en fac de philo.
1. « Chercher des problèmes » et « remettre en cause la question elle-même » sont deux métiers différents
Quand on demande à une IA d'améliorer quelque chose, on obtient le plus souvent trois types de réponses :
- La liste des problèmes actuels.
- Des solutions piochées chez d'autres entreprises, d'autres personnes ou dans des méthodes existantes.
- Une meilleure proposition, construite à l'intérieur du système actuel.
Tout cela est utile. Mais, au fond, on réfléchit en acceptant le plateau de jeu tel qu'il est.
Si le taux de clic (CTR) des articles associés est faible, on change leur emplacement. On agrandit les cartes. On modifie le texte. On améliore le modèle de recommandation. C'est de l'amélioration sérieuse.
La pensée par premiers principes recule d'un cran avant cela.
À quoi servent les articles associés, au juste ?
Est-ce pour envoyer le lecteur vers une autre page ? Ou pour répondre à la question suivante qu'il va se poser ? Si c'est la seconde, a-t-on vraiment besoin d'une « carte d'articles associés » ? N'y a-t-il pas des cas où il vaudrait mieux répondre directement dans le texte ?
Ici, avant la qualité de la solution, c'est la définition du problème qu'on cherche à résoudre qui est auditée.
Vous avez invité l'IA à une réunion d'amélioration, et la voilà qui efface de son propre chef l'« objectif » écrit tout en haut du tableau blanc.
Et, en gros, elle n'a pas tort.
2. La pensée par premiers principes, c'est moins une source d'idées que des travaux de fondations
La voir comme « une méthode pour produire plein d'idées » est un peu réducteur.
L'essentiel, c'est de mettre de côté un instant les solutions existantes et de remonter jusqu'à des questions comme :
- Quel état veut-on vraiment atteindre ?
- Quelles contraintes ne peuvent absolument pas changer ?
- Qu'est-ce qu'on peut réellement observer comme fait ?
- Qu'est-ce qui n'est « nécessaire » que par habitude ?
- Si on ne connaissait aucune des solutions existantes, comment concevrait-on la chose ?
C'est donc moins ramasser des graines d'idées que retourner toute la terre avant de planter.
On peut aligner les exemples de dix concurrents : si les dix partagent la même hypothèse, la onzième entreprise construira le même bâtiment.
La pensée par premiers principes commence par :
« Pourquoi tout le monde construit-il comme ça ? »
Parfois, après enquête, la conclusion est : « non, en fait, cette façon de construire est bien la plus rationnelle ».
C'est aussi une réussite.
Remettre en cause une hypothèse ne veut pas dire la détruire à tous les coups.
Si l'on se mettait à douter de chaque panneau de signalisation pour rouler à contresens, ce ne serait pas de la philosophie, ce serait un accident.
3. C'est là qu'intervient l'apprentissage en double boucle
L'apprentissage en double boucle (double-loop learning), exposé par Chris Argyris en 1977, ne se contente pas de corriger les erreurs : il remet aussi en question les politiques, les objectifs et les normes qui ont produit ce comportement.
Pour faire simple :
Simple boucle Le résultat est mauvais → on corrige l'action.
Double boucle Le résultat est mauvais → avant de corriger l'action, on réexamine ce qu'on avait défini comme un succès, ainsi que les règles et les hypothèses elles-mêmes.
Prenons « le taux de clic est faible ».
En simple boucle, on améliore le titre, l'emplacement, la couleur, la précision des recommandations.
En double boucle, on revient en arrière et on demande :
« Pourquoi veut-on augmenter le taux de clic ? »
Si ce qu'on voulait, c'était « que le lecteur trouve la réponse à sa question et passe à la suite si besoin », alors le taux de clic n'est peut-être pas l'objectif, seulement un indicateur de substitution.
Et le problème de conception change.
De « comment les faire cliquer » à « comment répondre naturellement à leur question suivante ».
On monte d'un cran : d'une IA qui améliore le KPI (le chiffre qui sert à juger si ça marche) à une IA qui audite même la raison pour laquelle on a choisi ce KPI.
C'est ça, le côté intéressant.
4. L'IA est entrée là où l'on pensait que seuls les humains pouvaient aller
Dans l'automatisation par l'IA, on a souvent dit que ce qui restait aux humains, c'était « fixer l'objectif », « poser la question », « réfléchir au sens » et « valider ».
Exécuter, chercher, compter, résumer, comparer et générer peuvent être mécanisés.
Mais
« Au fond, pourquoi fait-on ça ? »
semble être un sanctuaire humain.
Pourtant, on peut y faire entrer pas mal d'IA aussi.
Le Step-Back Prompting, présenté à l'ICLR 2024 (une grande conférence d'apprentissage automatique), propose de faire remonter le modèle vers une question ou un principe plus abstrait avant de résoudre le problème concret de front. Des gains de performance ont été rapportés sur plusieurs tâches de raisonnement avec PaLM-2L, GPT-4 et Llama2-70B.
Cela ne prouve pas que la phrase précise « think from first principles » soit magique.
Mais
problème concret → monter d'un niveau d'abstraction → en extraire le principe → revenir au problème concret
a des précédents empiriques proches quand on le fait faire à un LLM (grand modèle de langage).
Autrement dit, le partage « l'IA ne sait faire que le menu travail, la philosophie est réservée aux humains » n'est plus aussi simple, en tout cas.
L'IA a décroché un poste de chargée de cours vacataire en philosophie.
5. Si on l'intègre à la « germination », la chasse aux idées prend deux voies
Si l'on pense à la germination d'articles, de produits, de fonctionnalités ou de sujets de recherche, on peut séparer l'entrée en deux.
Germination ramassée à l'extérieur
- Il y a une demande de recherche
- Ça fait parler sur les réseaux sociaux
- Les lecteurs quittent la page
- Les demandes affluent
- La concurrence a sorti une nouvelle fonction
Là, on capte des signaux venus du monde.
Mais on peut en créer une autre.
Germination en creusant à l'intérieur
- À quoi sert cette fonction ?
- Ce KPI représente-t-il vraiment l'objectif ?
- Cette contrainte est-elle une loi de la physique, ou une commodité d'autrefois ?
- Si on construisait tout à partir de zéro, garderait-on la même structure ?
- Si on interdisait un instant toutes les solutions actuelles, que resterait-il ?
- Est-ce seulement un problème qu'il faut résoudre ?
Celle-ci creuse les hypothèses du système existant.
Si les tendances extérieures consistent à ramasser des « graines tombées par terre », la voie des premiers principes est le genre de germination où l'on arrache le plancher et où une plante inconnue pousse dessous.
Une question que personne ne cherchait naît du démontage de la structure existante.
C'est là que l'originalité apparaît facilement.
6. Pour la mettre en œuvre, découpez en trois temps : casser les hypothèses, reconstruire, vérifier
Si l'on dit juste à l'IA « philosophe librement », il lui arrive de partir dans l'espace et de ne pas revenir.
En pratique, mieux vaut figer le processus.
Étape 1 : audit des hypothèses
Séparez l'objectif actuel, les indicateurs, les contraintes, les habitudes et les solutions existantes.
En particulier, ne mélangez pas : les « faits », les « contraintes vraiment incontournables », les « arrangements internes à l'organisation », l'« héritage historique », et les « choses qui continuent juste comme ça, sans raison claire ».
Étape 2 : reconstruire à partir de zéro
Ne traitez pas la proposition existante comme la bonne réponse. Créez plusieurs options à partir du seul objectif et des contraintes incontournables.
Ce n'est pas grave d'aboutir à la même conclusion que la proposition existante. L'important, c'est de pouvoir expliquer pourquoi.
Étape 3 : retour au réel
On passe tout cela au crible du coût, de la loi, de la sécurité, du comportement des utilisateurs, de l'effort de migration, des données existantes, etc.
Les premiers principes ne sont pas une carte d'évasion hors de la réalité.
« Je veux ramener le coût des serveurs à zéro, alors faisons du serveur un concept » : ce n'est pas de la philosophie, c'est une fuite devant la facture.
7. Reste malgré tout aux humains : « ce qui compte pour nous »
L'IA peut explorer assez largement :
- Cette hypothèse est-elle nécessaire ?
- L'objectif et le KPI sont-ils décalés ?
- Que se passerait-il avec une autre fonction de valeur (une autre façon de noter ce qui est bien) ?
- Que faudrait-il abandonner pour simplifier la structure ?
Mais il y a une dernière limite.
Quelle valeur choisit-on en fin de compte ?
Maximiser le temps passé sur le site ? Résoudre au plus vite et laisser les gens repartir ? Maximiser le profit ? Jusqu'où place-t-on en premier la confiance, la liberté, la sécurité, l'équité, le plaisir ?
Ce ne sont pas des réponses qui sortent d'elles-mêmes de l'observation du monde.
L'IA peut déplier : « si la valeur est A, la conception est X ; si c'est B, c'est Y ».
Mais lequel de A et B placer comme finalité d'une société ou d'un produit relève, en dernier ressort, de la responsabilité humaine.
C'est pourquoi le point d'arrivée de l'automatisation complète n'est ni
les humains pensent à tout ni l'IA décide de tout.
C'est ceci :
L'IA remet en question les hypothèses jusqu'au bout, et les humains n'assument que les jugements de valeur et les bifurcations qui engagent leur responsabilité.
Le travail humain passe de « sortir 100 idées » à « choisir cette ligne d'univers ».
8. Si vous la soumettez vraiment à une IA, cette question est le cœur
La version la plus courte suffit :
« Au fond, qu'est-ce qu'on veut vraiment accomplir ? »
Pour la renforcer d'un cran :
Pour l'instant, ne traitez ni l'implémentation actuelle, ni les habitudes du secteur, ni les exemples de la concurrence comme « la réponse ». D'abord, séparez l'objectif, les faits observés, les contraintes incontournables, les hypothèses implicites et les indicateurs de substitution. Ensuite, examinez si l'objectif resterait atteignable en retirant chacune de ces hypothèses. Enfin, reconstruisez plusieurs conceptions à partir des seuls premiers principes restants, et vérifiez-les face aux contraintes du réel. Si vous revenez à la proposition existante, expliquez pourquoi.
L'essentiel est de ne pas dire « propose quelque chose de novateur ».
Si l'on exige directement de la nouveauté, l'IA invente parfois quelque chose comme un vélo avec trois chapeaux empilés.
Ce qu'il faut, ce n'est pas de l'excentricité, mais l'écart qui ressort d'un recalcul à partir des hypothèses.
9. Conclusion : l'IA peut passer de « celle qui répond » à « celle qui casse la question »
Lister les problèmes est nécessaire. Étudier la concurrence est nécessaire. Améliorer les propositions existantes est nécessaire.
Mais avec cela seul, on ne fait que déplacer ses pions plus vite sur le même plateau.
Si l'on confie explicitement la pensée par premiers principes à l'IA,
résoudre le problème → douter de sa formulation → douter de l'objectif → décomposer les hypothèses → reconstruire à partir de zéro
tout cela entre dans le champ de l'automatisation.
Et il n'est plus nécessaire qu'un humain déclenche à la force du poignet la deuxième boucle de l'apprentissage en double boucle à chaque fois.
Il suffit de faire demander régulièrement à l'IA :
« Alors, au fond, c'est pour quoi faire ? »
Même une partie de la « philosophie », qu'on croyait être la dernière chose à rester dans l'automatisation par l'IA, peut en réalité devenir un processus.
Seulement, si l'IA philosophe se met à dire « j'ai aussi décidé de tous les objectifs ! », c'est là qu'un humain tire sa chaise et se rassoit bien droit.
Casser les questions, on peut le lui confier.
Choisir quel monde on veut valoriser, c'est encore notre affaire.
