In den sozialen Netzwerken scherzte jemand, dass er sich, nachdem er einer KI „think from first principles“ (denk von den Grundprinzipien aus) gesagt hatte, fühlte, als wäre sein IQ um etwa 20 Punkte gestiegen.
Natürlich verteilt man mit einer Zauberformel nicht auf einen Schlag 20 Intelligenzpunkte an ein Silizium-Gehirn.
Aber das ist nicht das Interessante.
Dieser Satz verlangt weder „nenn mir viele Probleme“ noch „such die Konkurrenz“ noch „bring eine Idee, die klüger klingt“.
Geh einmal bis zur Wurzel zurück. Stimmen die jetzige Frage, das Ziel, die Einschränkungen und die Annahmen wirklich? Bau von dort aus neu auf.
Das ist eine ziemlich philosophische Aufgabe.
Wenn normales Verbessern bedeutet: Die Wand hat einen Riss, also vergleicht man zehn Spachtelmassen, dann bleibt das Denken von den Grundprinzipien auf halbem Weg stehen, betrachtet die Wand und sagt:
„Moment. Brauchen wir diese Wand überhaupt?“
Plötzlich ist der Handwerker ins Philosophiestudium gewechselt.
1. „Probleme suchen“ und „die Frage selbst anzweifeln“ sind zwei verschiedene Aufgaben
Bittet man eine KI um Verbesserungen, kommen meist drei Arten von Antworten:
- Eine Liste der aktuellen Probleme.
- Lösungen, die bei anderen Firmen, anderen Leuten oder aus bestehenden Methoden abgeschaut sind.
- Ein besserer Vorschlag, der innerhalb des jetzigen Systems zusammengebaut wird.
Alles nützlich. Aber im Grunde denkt man dabei, ohne das Spielbrett von heute infrage zu stellen.
Ist die Klickrate (CTR) der verwandten Artikel niedrig, verschiebt man die Position. Man macht die Karten größer. Man ändert den Text. Man verbessert das Empfehlungsmodell. Das ist eine ordentliche Verbesserung.
Das Denken von den Grundprinzipien geht einen Schritt davor zurück.
Wozu gibt es verwandte Artikel überhaupt?
Soll der Leser auf eine andere Seite geschickt werden? Oder soll seine nächste Frage beantwortet werden? Wenn es um Letzteres geht: Braucht es dann wirklich eine „Karte mit verwandten Artikeln“? Wäre es in manchen Fällen nicht besser, direkt im Text zu antworten?
Hier wird, noch vor der Qualität der Lösung, die Definition des Problems, das man lösen will, geprüft.
Man hat die KI zum Verbesserungs-Meeting eingeladen, und sie fängt an, eigenmächtig das „Ziel“ ganz oben auf dem Whiteboard wegzuwischen.
Und das stimmt ungefähr.
2. Das Denken von den Grundprinzipien ist weniger Ideenfutter als Fundamentarbeit
Es als „Methode, um viele Ideen zu produzieren“ zu verstehen, ist etwas zu eng.
Der Kern ist, die bestehenden Lösungen einmal beiseitezuschieben und zurückzugehen bis zu Fragen wie:
- Welchen Zustand wollen wir wirklich erreichen?
- Welche Einschränkungen lassen sich absolut nicht ändern?
- Was können wir tatsächlich als Tatsache beobachten?
- Was halten wir nur aus Gewohnheit für „nötig“?
- Wie würden wir es entwerfen, wenn wir keine der bestehenden Lösungen kennen würden?
Es geht also weniger darum, Ideensamen aufzulesen, als darum, vor dem Pflanzen die gesamte Erde umzugraben.
Man kann Beispiele von zehn Konkurrenten aufreihen. Teilen alle zehn dieselbe Annahme, baut die elfte Firma dasselbe Gebäude.
Das Denken von den Grundprinzipien beginnt mit:
„Warum bauen alle so?“
Manchmal lautet das Ergebnis nach der Recherche: „Nein, diese Bauweise ist tatsächlich die vernünftigste.“
Auch das ist ein Erfolg.
Eine Annahme anzuzweifeln heißt nicht, sie immer zu zerstören.
Wer jedes Verkehrsschild anzweifelt und jedes Mal als Geisterfahrer losfährt, betreibt keine Philosophie, sondern verursacht einen Unfall.
3. Hier kommt das Double-Loop-Lernen ins Spiel
Das Double-Loop-Lernen (Lernen in zwei Schleifen), das Chris Argyris 1977 beschrieben hat, behebt nicht nur Fehler, sondern stellt auch die Richtlinien, Ziele und Normen infrage, die das Verhalten hervorgebracht haben.
Einfach gesagt:
Single Loop Das Ergebnis ist schlecht → die Handlung korrigieren.
Double Loop Das Ergebnis ist schlecht → bevor man die Handlung korrigiert, prüft man, was man überhaupt als Erfolg definiert hatte, und die Regeln und Annahmen selbst.
Zum Beispiel: „Die Klickrate ist niedrig.“
Beim Single Loop verbessert man Überschrift, Position, Farbe, Empfehlungsgenauigkeit.
Beim Double Loop geht man zurück und fragt:
„Warum wollen wir die Klickrate überhaupt steigern?“
Wenn man eigentlich wollte, „dass der Leser seine Frage klärt und bei Bedarf weitergeht“, dann ist die Klickrate vielleicht gar nicht das Ziel, sondern nur eine Ersatzgröße.
Dann verändert sich das Designproblem.
Von „Wie bringen wir sie zum Klicken?“ zu „Wie beantworten wir ihre nächste Frage ganz natürlich?“
Man steigt eine Stufe auf: von einer KI, die den KPI verbessert (die Kennzahl, an der man misst, ob etwas läuft), zu einer KI, die sogar prüft, warum man diesen KPI gewählt hat.
Das ist der spannende Punkt hier.
4. Die KI betritt einen Bereich, von dem wir dachten: „Das können nur Menschen“
In der KI-Automatisierung wurde oft gesagt, dass dem Menschen „Ziele setzen“, „Fragen stellen“, „über Bedeutung nachdenken“ und „freigeben“ bleiben.
Ausführen, Suchen, Zusammenzählen, Zusammenfassen, Vergleichen und Erzeugen lassen sich maschinell erledigen.
Aber
„Wozu tun wir das eigentlich?“
wirkt wie ein Heiligtum der Menschen.
Doch auch hier lässt sich die KI ziemlich weit einbinden.
Step-Back Prompting, vorgestellt auf der ICLR 2024 (einer großen Konferenz für maschinelles Lernen), schlug vor, das Modell vor dem direkten Lösen eines konkreten Problems erst auf eine abstraktere Frage oder ein übergeordnetes Prinzip zurückgehen zu lassen. Für mehrere Denkaufgaben mit PaLM-2L, GPT-4 und Llama2-70B wurden Leistungsverbesserungen berichtet.
Das beweist nicht, dass der konkrete Satz „think from first principles“ magisch wäre.
Aber
konkretes Problem → eine Abstraktionsstufe hinauf → das Prinzip herausziehen → zurück zum konkreten Problem
hat, wenn man es ein Sprachmodell (LLM) machen lässt, nahe verwandte empirische Vorbilder.
Die Arbeitsteilung „KI kann nur Kleinkram, Philosophie ist nur für Menschen“ ist damit zumindest nicht mehr so einfach.
Die KI hat an der Philosophischen Fakultät einen Lehrauftrag bekommen.
5. Setzt man das in die „Keimung“ ein, bekommt die Ideensuche zwei Spuren
Denkt man an die Keimung von Artikeln, Produkten, Funktionen und Forschungsthemen, lässt sich der Einstieg in zwei teilen.
Keimung, die man von außen aufliest
- Es gibt Suchnachfrage
- Es ist in den sozialen Netzwerken im Gespräch
- Leser springen ab
- Es kommen viele Anfragen
- Die Konkurrenz hat eine neue Funktion
Hier fängt man Signale aus der Welt auf.
Aber man kann noch eine zweite bauen.
Keimung durch Graben im Inneren
- Wozu gibt es diese Funktion?
- Bildet dieser KPI das Ziel wirklich ab?
- Ist diese Einschränkung ein Naturgesetz oder eine Bequemlichkeit von früher?
- Würden wir bei einem Neubau von null dieselbe Struktur wählen?
- Was bleibt übrig, wenn wir alle heutigen Lösungen einmal verbieten?
- Ist das überhaupt ein Problem, das man lösen sollte?
Diese Spur gräbt in den Annahmen des bestehenden Systems.
Wenn äußere Trends bedeuten, „Samen vom Boden aufzusammeln“, dann ist die Grundprinzipien-Spur die Art von Keimung, bei der man die Dielen aufreißt und darunter eine unbekannte Pflanze wächst.
Eine Frage, die niemand gesucht hat, entsteht als Ergebnis davon, die bestehende Struktur zu zerlegen.
Hier entsteht leicht Eigenständigkeit.
6. Setzt man es um, teilt man es in drei Schritte: Annahmen brechen, neu aufbauen, prüfen
Sagt man der KI nur „philosophier frei“, fliegt sie manchmal bis ins Weltall und kommt nicht zurück.
In der Praxis ist es besser, den Ablauf festzulegen.
Schritt 1: Annahmen prüfen
Trennen Sie das aktuelle Ziel, die Kennzahlen, die Einschränkungen, die Gewohnheiten und die bestehenden Lösungen.
Vor allem sollte man nicht vermischen: „Fakten“, „wirklich unvermeidbare Einschränkungen“, „organisatorische Bequemlichkeiten“, „historisch Gewachsenes“ und „Dinge, die einfach irgendwie weiterlaufen“.
Schritt 2: Von null neu aufbauen
Behandeln Sie den bestehenden Vorschlag nicht als richtige Antwort. Entwickeln Sie mehrere Varianten nur aus dem Ziel und den unvermeidbaren Einschränkungen.
Es ist in Ordnung, wenn am Ende dasselbe wie beim bestehenden Vorschlag herauskommt. Wichtig ist, dass man erklären kann, warum es gleich ausfiel.
Schritt 3: Zurück in die Realität
Prüfen Sie gegen Kosten, Gesetze, Sicherheit, Nutzerverhalten, Migrationsaufwand, vorhandene Daten und so weiter.
Grundprinzipien sind keine Fluchtkarte aus der Realität.
„Ich will die Serverkosten auf null bringen, also machen wir den Server zu einem Konzept“ ist keine Philosophie, sondern Flucht vor der Rechnung.
7. Was dem Menschen trotzdem bleibt: „Was uns wichtig ist“
Die KI kann ziemlich breit erkunden:
- Ist diese Annahme nötig?
- Passen Ziel und KPI nicht zusammen?
- Was wäre bei einer anderen Wertfunktion (einer anderen Art, zu bewerten, was gut ist)?
- Was müsste man weglassen, damit die Struktur einfacher wird?
Aber es gibt eine letzte Grenze.
Welchen Wert wählt man am Ende?
Die Verweildauer maximieren? Möglichst schnell lösen und die Leute wieder gehen lassen? Den Gewinn maximieren? Wie weit stellt man Vertrauen, Freiheit, Sicherheit, Fairness und Freude an die erste Stelle?
Das sind keine Antworten, die sich eindeutig aus der Beobachtung der Welt ergeben.
Die KI kann auffächern: „Bei Wert A lautet der Entwurf X, bei Wert B lautet er Y.“
Aber ob A oder B das letzte Ziel einer Gesellschaft oder eines Produkts sein soll, liegt am Ende in der Verantwortung der Menschen.
Darum ist der Endpunkt der vollständigen Automatisierung weder
der Mensch denkt alles noch die KI entscheidet alles.
Sondern:
Die KI zweifelt die Annahmen bis zum Ende an, und der Mensch übernimmt nur die Wertentscheidungen und die Weggabelungen, für die man Verantwortung trägt.
Die Arbeit des Menschen verschiebt sich von „100 Ideen liefern“ zu „diese Weltlinie wählen“.
8. Wenn man es wirklich an die KI gibt, ist diese Frage der Kern
Die kürzeste Fassung genügt:
„Was wollen wir eigentlich wirklich erreichen?“
Wer noch eine Stufe nachlegen will:
Behandeln Sie die aktuelle Umsetzung, die Branchengewohnheiten und die Beispiele der Konkurrenz vorerst nicht als „die Antwort“. Trennen Sie zuerst Ziel, beobachtete Fakten, unvermeidbare Einschränkungen, stillschweigende Annahmen und Ersatzkennzahlen. Prüfen Sie dann, ob das Ziel auch erreichbar wäre, wenn man die jeweilige Annahme fallen lässt. Bauen Sie zuletzt mehrere Entwürfe nur aus den übrig gebliebenen Grundprinzipien neu auf und prüfen Sie sie an den Einschränkungen der Realität. Falls Sie beim bestehenden Vorschlag landen, erklären Sie, warum.
Der Punkt ist, nicht „bring etwas Neuartiges“ zu sagen.
Verlangt man Neuheit direkt, erfindet die KI manchmal so etwas wie ein Fahrrad mit drei übereinandergestapelten Hüten.
Gebraucht wird keine Schrulligkeit, sondern der Unterschied, der herauskommt, wenn man von den Annahmen aus neu rechnet.
9. Fazit: Die KI kann vom „Antwortgeber“ zum „Fragenzerleger“ aufsteigen
Probleme aufzulisten ist nötig. Konkurrenzrecherche ist nötig. Bestehende Vorschläge zu verbessern ist nötig.
Aber allein damit schiebt man nur schneller Figuren auf demselben Spielbrett.
Weist man der KI das Denken von den Grundprinzipien ausdrücklich zu, dann liegt
Problem lösen → Problemstellung anzweifeln → Ziel anzweifeln → Annahmen zerlegen → von null neu aufbauen
bis dorthin in Reichweite der Automatisierung.
Auch muss nicht jedes Mal ein Mensch mit reiner Willenskraft die zweite Schleife des Double-Loop-Lernens zünden.
Man lässt die KI einfach regelmäßig fragen:
„Und wozu das Ganze eigentlich?“
Selbst ein Stück der „Philosophie“, von der wir dachten, sie bliebe als Letztes übrig, lässt sich in Wahrheit zum Prozess machen.
Nur: Wenn die Philosophen-KI anfängt, „Ich habe auch gleich alle Ziele festgelegt!“ zu sagen, dann rückt der Mensch den Stuhl zurecht und setzt sich noch einmal aufrecht hin.
Das Zerlegen von Fragen können wir ihr überlassen.
Welche Welt wir wertschätzen wollen, ist nach wie vor unsere Aufgabe.
