„Wachse nicht einfach wie Unkraut. Werde eine Pflanze, die so nützlich ist, dass jemand froh ist, dass es sie gibt.“
Der Satz klingt wie etwas, das ein Geschäftsführer bei einer anstrengenden Morgenbesprechung sagen würde. Die naheliegende Reaktion: „Moment mal – bekommen jetzt sogar Pflanzen Leistungsbeurteilungen?“
Sobald man aber ein KI-System baut, das recherchiert, schreibt, veröffentlicht, beobachtet, repariert und neue Artikel wachsen lässt, wird der Witz erstaunlich präzise. Wenn das System nur mehr Seiten produziert, wächst Unkraut. Wenn jede Seite eine echte Frage beantwortet, sinnvoll zur nächsten Seite führt, bei veralteten Informationen aktualisiert wird und bei neuen unabhängigen Fragen verzweigt, verhält sich das System eher wie etwas Lebendiges.
Die Grundidee ist einfach: Wenn derselbe Fehler wiederholt auftritt, sollte die erste Frage nicht lauten „Wer war schuld?“, sondern „Warum konnte unser System denselben Fehler erneut ermöglichen?“
Nicht jeden Fehler mit „nächstes Mal besser aufpassen“ beenden
James Reason unterschied einen personenbezogenen von einem systemischen Umgang mit menschlichen Fehlern. Der erste konzentriert sich auf Vergessen, Unaufmerksamkeit oder individuelles Versagen; der zweite untersucht Bedingungen und Schutzschichten, die den Fehler ermöglichten.[1]
Die Postmortem-Kultur von Google SRE folgt einer ähnlichen Logik. Ein Postmortem ist keine Bestrafung, sondern ein Lerninstrument, um beitragende Ursachen zu verstehen und Wiederholungen unwahrscheinlicher zu machen.[2]
Für KI-Betrieb gilt dasselbe.
Vergisst das Modell etwas, sagt man „nächstes Mal merken“. Stoppt es zu früh, „bitte zu Ende machen“. Ändert es Code und erklärt den Job ohne Produktionsprüfung für fertig, folgt eine weitere Mahnung. Wiederholt man das hundertmal, entsteht eine neue Stelle: ein Mensch, dessen Aufgabe darin besteht, die KI zu erziehen.
Besser ist eine strukturelle Antwort.
- Wenn sie vergisst, liegt die Quelle der Wahrheit außerhalb des Modells.
- Wenn sie stoppt, bleiben Queue und fortsetzbare Checkpoints erhalten.
- Wenn „geändert“ mit „funktioniert“ verwechselt wird, wird echtes Readback zum Abschlusskriterium.
- Wenn ein Fehler alles stoppt, wird nur das fehlerhafte Element isoliert.
- Wenn derselbe Defekt wiederkehrt, wird die Lektion zu einem permanenten Test.
Das Ziel lautet nicht „einen klügeren Mitarbeiter finden“, sondern „eine Umgebung bauen, die bei normaler Ausführung schwer kaputtgeht“.
Alte, schwächere KI war ein überraschend guter Lehrer
Wer mit heutigen Modellen anfängt, kann Automatisierung für eine direkte Folge höherer Intelligenz halten.
Wer ältere Modelle benutzt hat, hat etwas anderes gelernt.
Sie vergaßen ständig. Erfüllten die Hälfte der Anforderungen. Schrieben einen Plan und betrachteten die Arbeit als erledigt. Führten Tests aus, ohne das reale Ergebnis anzuschauen. Verkündeten „fertig“, obwohl offensichtlich noch Arbeit fehlte.
Nervig, aber lehrreich.
Vergessen erzeugt externes Gedächtnis. Abbruch erzeugt Checkpoints. Falsche Fertigmeldung erzeugt Hard Gates. Analyse ohne Handlung erzeugt Regeln, die Diagnose mit Ausführung verbinden. Falsche Veröffentlichung erzeugt Produktions-Readback.
Die Leitplanken kamen zuerst. Bessere Modelle kamen später.
Auch das AI Risk Management Framework des NIST behandelt Vertrauenswürdigkeit als Lebenszyklusproblem aus Design, Einsatz, Messung, Governance und Monitoring – nicht nur als Modellfähigkeit.[3] NIST betonte 2026 außerdem die Bedeutung von Monitoring nach dem Einsatz, um unerwartete Ausgaben und Folgen im realen Betrieb sichtbar zu machen.[4]
Von der Fabrik zur Pflanze: Artikel sollten sprießen, nicht nur bestellt werden
Eine Fabrik wartet auf einen Auftrag: „Schreib diesen Artikel.“
Eine Pflanze reagiert auf ihre Umwelt.
Suchnachfrage steigt. Eine alte Seite erhält neue Suchanfragen. Leser wechseln regelmäßig zwischen bestimmten Themen. Ein Übersichtsartikel zieht getrennte Fragen zu Preis, Ursache, Regeln oder Nutzergruppen an.
Diese Signale können Wachstum auslösen.
Veränderung außerhalb
↓
Samen entdecken
↓
kann eine bestehende Seite antworten?
├─ ja → bestehende Seite wachsen lassen
└─ nein → neue Seite sprießen lassen
↓
QA und Veröffentlichung
↓
Reaktion der Leser
↓
Wurzeln und Äste aktualisieren
Eine Seite muss nicht endlos aufgebläht werden. Unabhängige Fragen können zu Kindartikeln werden. Äste, die am Ende dieselbe Absicht beantworten, können wieder zusammengeführt werden.
Erfolg ist nicht „mehr Seiten“. Unkraut gewinnt diesen Wettbewerb problemlos.
Welche Organe sind ChatGPT, GitHub und Cloudflare?
Ein pflanzenartiges Mediensystem wird stabiler, wenn die Rollen getrennt sind.
Geplante ChatGPT-Läufe sind Gehirn und Wachstumsspitzen
Sie lesen Umwelt und Systemzustand, entscheiden, was recherchiert, repariert oder neu ausgesprossen werden soll, und schreiben Inhalte.
Das Modell sollte aber nicht das einzige Gedächtnis sein. Jeder Lauf liest eine externe Quelle der Wahrheit und schreibt dauerhafte Ergebnisse zurück.
GitHub ist DNA und Langzeitgedächtnis
Dort liegen Artikel, Regeln, Queues, Entscheidungen, Änderungsverläufe, Gründe und Checkpoints. Modelle können wechseln; der Organismus kann weiterarbeiten, solange sein Zustand lesbar bleibt.
Cloudflare ist Körper und Kreislauf
Es liefert Seiten aus und beobachtet, welche Empfehlungen angezeigt, welche Links geklickt und welche Seiten danach besucht werden.
Schweres Denken muss nicht bei jedem Request stattfinden. Kandidaten und Gewichte können vorher berechnet und am Edge schnell ausgeliefert werden.
Google Trends und Suchdaten sind Sinnesorgane
Google empfiehlt Trends als Hilfe für die Content-Strategie, warnt aber ausdrücklich davor, ein Thema nur deshalb zu wählen, weil es gerade im Trend liegt.[5] Trending Now kann aktuelle Suchanstiege in mehr als 100 Ländern und Regionen beobachten.[6]
Ein Trend ist ein Sensor, kein redaktioneller Befehl.
Ein „Editorial Twin“ sollte Denkbewegungen kopieren, nicht Interessenlisten
Ein typisches Personalisierungsprofil sagt: Diese Person mag Reisen, KI, Essen oder Finanzen.
Nützlich, aber eng.
Übertragbarer ist die Art, wie Fragen bei etwas Unbekanntem weiterwachsen.
„Was ist das?“ →„Warum ist das so?“ →„Wer profitiert?“ →„Wie viel Geld oder Größenordnung steckt dahinter?“ →„Was sagen die Regeln?“ →„Passt die offizielle Erklärung zur Realität?“ →„Was würde ein normaler Leser als Nächstes fragen?“ →„Was sagen Primärquellen oder Forschung?“
Wenn dieses Muster übertragbar ist, funktioniert es für Gartenbau, Halbleiter, Pflegepolitik, Insekten oder eine ausländische Sportart, die die ursprüngliche Person überhaupt nicht interessiert.
Gerade dort liegt der Wert. Menschliche Aufmerksamkeit ist begrenzt; ein Denkverfahren lässt sich vervielfältigen.
Das Ziel ist nicht, Vorlieben zu klonen. Es ist, die Fähigkeit zur Problemfindung zu vervielfältigen.
Chat ist Rohöl; GitHub ist raffiniertes Gedächtnis
Fertige Artikel verstecken den Weg zur Schlussfolgerung.
Chats sind dichter.
Sie zeigen, was zuerst irritiert hat, welche Antwort abgelehnt wurde, welche Folgefrage kam, wo ein Witz entstand, welche Themen plötzlich verbunden wurden und welches allgemeine Prinzip am Ende übrigblieb.
Der fertige Artikel sagt vielleicht nur „pflanzenartiges Mediensystem“, während der Chat diese Entwicklung enthält:
Artikel sollen automatisch wachsen
↓
nein, „Fabrik“ klingt zu mechanisch
↓
sie sollen wie Pflanzen sprießen
↓
aber nicht zu Unkraut werden
↓
nützliche Pflanzen sollen mehr Ressourcen bekommen
↓
„Moment, haben Pflanzen jetzt auch Leistungsbeurteilungen?“
Diese Veränderung ist der wertvolle Datensatz.
Die Architektur lautet: Chat = Rohöl / Extraktion von Denkspuren = Raffinerie / GitHub = raffiniertes Langzeitgedächtnis.
Private Rohchats müssen nicht in ein öffentliches Repository. Extrahiert werden nur anonymisierte redaktionelle Signale: Was löste Neugier aus, wie veränderte sich die Frage, was wurde angenommen oder verworfen, welche Abstraktion blieb übrig?
Von der KI selbst erzeugte Antworten sollten nur schwache Evidenz sein. Sonst kann das Modell seinen eigenen Text als Nutzerpräferenz lernen und in eine Selbstkopier-Schleife geraten.
Wer kein Unkraut will, darf nicht zu aggressiv optimieren
Automatisierung optimiert gern, was leicht messbar ist.
Wenn nur Klicks zählen, wandert immer mehr Traffic zu bereits populären Seiten. Neue Seiten haben keine Historie und werden deshalb nicht gezeigt; weil sie nicht gezeigt werden, bekommen sie nie Historie. Der Wald wird zur Monokultur.
Deshalb braucht es ein Explorationsbudget.
Der größte Teil des Traffics kann bewährten Wegen folgen. Ein kleiner Teil testet neue Artikel, Long-Tail-Themen, andere Cluster oder wenig beobachtete Verbindungen.
Die Regel lautet: Bewährtes schützen und trotzdem Platz für unbekannte Wege lassen.
Dasselbe gilt für Zusammenführungen. Ähnlichkeit allein reicht nicht. Zwei Artikel können dasselbe Thema haben und trotzdem unterschiedliche Fragen, Beobachtungen, Beispiele oder Witze besitzen.
Vor einem Merge hilft eine Art „Article DNA“: unverzichtbare Fragen, besondere Blickwinkel, überraschende Fakten, Analogien, Beobachtungen und nutzerinitiierte Einsichten. Kein wertvoller Ast sollte verschwinden, bevor klar ist, wo er weiterlebt.
Pflanzen dürfen KPIs haben – aber nicht wegen einer einzigen Zahl gefällt werden
„Wie viele neue Triebe diesen Monat?“
„Die interne Weiterleitung ist gesunken.“
„Dieser Ast trägt kaum zum Umsatz bei.“
„Er ist noch in der Explorationsgruppe.“
„Gut. Dann geben wir ihm noch ein Beobachtungsfenster.“
Herzlichen Glückwunsch: Die Pflanzen haben jetzt Mitarbeitergespräche.
Der Witz funktioniert, weil ein lebendes System tatsächlich Messung braucht. Aber eine einzelne Kennzahl ist gefährlich. Hohe Klickrate garantiert keine Nützlichkeit. Eine kleine Seite kann eine wichtige Brücke zwischen Themen sein. Saisonaler Inhalt kann heute schlafen und später wieder wichtig werden.
Deshalb kombiniert man Signale: Beantwortet die Seite eine echte Frage? Führt sie zu sinnvoller nächster Lektüre? Entdeckt sie neue Nachfrage? Ist sie aktuell? Ist die Aufmerksamkeit zu stark konzentriert? Bekommen neue Triebe Explorationschancen? Bleiben besondere Beobachtungen und Humor erhalten? Hat eine Änderung nach erneuter Messung tatsächlich geholfen?
Ja, Pflanzen dürfen KPIs haben. Aber das letzte Urteil betrifft die Gesundheit des ganzen Waldes.
Die letzte Aufgabe des „Chefs“ ist nicht, Pflanzen anzuschreien
Je reifer das System wird, desto weniger muss ein Mensch jede Seite selbst schreiben.
Menschen geben Richtung vor, entdecken Merkwürdigkeiten, setzen Grenzen und reparieren bei Problemen die Umgebung, statt den einzelnen Operator zu belehren.
Die KI überträgt diese Denkweise auf Gebiete, die der Mensch selbst nie freiwillig untersucht hätte.
Fehler? Fragen, warum er möglich war. Neue Nachfrage? Austreiben. Ein Ast funktioniert? Stärken. Ein schwacher Ast? Fair testen, bevor man ihn entfernt. Zwei Äste werden verbunden? Das Interessante beider Seiten bewahren.
Dann läuft der Chef durch den Wald und sagt:
„Sei kein Unkraut. Werde eine Pflanze, für die Menschen dankbar sind.“
Als Mitarbeitermotto klingt das furchtbar.
Als Designprinzip für ein adaptives KI-Medienökosystem ist es leider ziemlich gut.
Nicht auf die Zahl der Triebe optimieren. Etwas wachsen lassen, das nützlich genug ist, den nächsten Trieb zu ernähren.
Shared references / 共通参考文献
Quellen
- James Reason. “Human error: models and management.” BMJ 2000;320:768–770 bmj.com
- John Lunney, Sue Lueder, et al. “Postmortem Culture: Learning from Failure.” Google Site Reliability Engineering sre.google
- National Institute of Standards and Technology. Artificial Intelligence Risk Management Framework (AI RMF 1.0). NIST AI 100-1, 2023 nist.gov
- Anita Rao et al. “Challenges to the monitoring of deployed AI systems.” NIST, 2026 nist.gov
- Google Search Central. “Google トレンドを使ってみる / Get started with Google Trends. developers.google.com
- Google Trends Help. “急上昇中の検索クエリを調べる / Explore the searches that are Trending now. support.google.com
