Wenn Feuer gefährlich ist und deshalb keiner in die Küche darf, wagt auch keiner etwas Neues
Generative KI im Unternehmen zu nutzen, birgt tatsächlich Risiken.
Vertrauliche Informationen gelangen nach außen. Personenbezogene Daten werden eingegeben. Falsche Informationen schleichen sich ein. KI-Ausgaben werden eins zu eins übernommen. Die Denkfähigkeit lässt nach. Man verlässt sich zu sehr auf die KI.
Bis hierhin finde ich das durchaus berechtigte Bedenken.
Aber wenn man von da aus direkt zu
Generative KI ist verboten.
springt, ändert sich die Geschichte.
Das ist kein Risikomanagement, sondern nur der Verzicht darauf, Regeln zu entwerfen.
Es ist ungefähr so:
Feuer ist gefährlich, also darf niemand in die Küche. Messer sind auch gefährlich, also wird nicht gekocht. Aber erfüllt bitte die Wünsche des Kunden. Es soll lecker werden. Es soll pünktlich auf dem Tisch stehen. Und übrigens, so wie jetzt geht es nicht weiter. Wir müssen Neues wagen.
Völlig absurd.
Wenn Feuer gefährlich ist, bringt man bei, wie man damit umgeht. Wenn Messer gefährlich sind, bringt man bei, wie man sie hält und weglegt. Wenn man eine Lebensmittelvergiftung fürchtet, legt man Händewaschen, Temperaturkontrolle und getrennte Schneidebretter fest. Wenn man einen Brand fürchtet, lüftet man, prüft den Herd und stellt einen Feuerlöscher bereit.
So macht man es normalerweise.
Mit „Gefährlich, also Küche verboten“ wird niemand besser im Kochen. Schlimmer noch: Es wachsen nicht einmal Leute heran, die kochen können.
Bei generativer KI ist es genauso.
Das Risiko ist echt. Aber alles zu verbieten ist zu grob
Das Risiko generativer KI ist an sich echt.
Die IPA (die japanische Agentur zur Förderung der Informationstechnologie) fasst zusammen, dass KI Probleme wie Datendiebstahl und Datenabfluss, manipulierte Trainingsdaten, den Abfluss personenbezogener Daten und von Geschäftsgeheimnissen sowie Falsch- und Fehlinformationen mit sich bringt. Außerdem müsse man für eine vertrauenswürdige KI-Nutzung auch Leistung, Erklärbarkeit, Regelkonformität und Ethik prüfen.[^ipa-ai-security]
Auch die japanische Digitalagentur hat Unterlagen in dieselbe Richtung veröffentlicht: „Risiken und nötige Gegenmaßnahmen erkennen und erst dann eine angemessene Nutzung prüfen“.[^digital-ai-guidebook]
Das Risiko ist also da. Das heißt aber nicht, dass man nichts tun müsste.
Wichtig ist jedoch dieser Punkt:
Dass es ein Risiko gibt und dass ein komplettes Verbot richtig ist sind zwei verschiedene Dinge.
Autos bergen ein Unfallrisiko. Trotzdem verbietet man Autos nicht komplett.
Stattdessen gibt es Führerschein, Verkehrsregeln, Ampeln, Tempolimits, TÜV, Versicherung, Sicherheitsgurte und das Verbot, betrunken zu fahren.
Kochen birgt das Risiko von Verbrennungen, Bränden und Lebensmittelvergiftungen. Trotzdem verbietet man das Kochen nicht komplett.
Stattdessen prüft man den Herd, achtet auf Hygiene, lüftet, hält eine Kochreihenfolge ein und schult Anfänger.
Bei generativer KI ist es genauso.
Gebraucht wird kein Verbot, sondern eine Einteilung.
Was man eigentlich tun sollte: Regeln nach Verwendungszweck und Vertraulichkeitsstufe
Die Nutzung generativer KI verbietet man nicht pauschal. Man sollte sie nach der Gefährlichkeit der eingegebenen Informationen und nach der Gefährlichkeit des Einsatzzwecks unterteilen.
Zum Beispiel so:
| Kategorie | Beispiele | Umgang |
|---|---|---|
| Eingabe verboten | Personenbezogene Daten, Kundendaten, unveröffentlichte Personalinformationen, Vertragsinformationen, Zeichnungen, Produktgeheimnisse, Geschäftsgeheimnisse | Eingabe verboten |
| Hohes Risiko | Dokumente für Externe, Verträge, Antworten an Kunden, rechtliche und personelle Entscheidungen | Freigabe nötig, menschliche Prüfung zwingend |
| Unter Bedingungen erlaubt | Entwürfe für Arbeitsstandards, Protokolle aufbereiten, Entwürfe für Schulungsunterlagen, interne Texte umformulieren | Anonymisiert, mit Prüfer |
| Geringes Risiko | Allgemeine Textkorrektur, E-Mails höflicher formulieren, die Logik von Excel-Formeln verstehen, Checklisten erstellen | Grundsätzlich erlaubt |
| Empfohlene Umgebung | KI mit Unternehmensvertrag, lokales LLM (ein KI-Modell, das auf den eigenen Geräten läuft), Nutzung der Daten fürs Training abgeschaltet, Rechteverwaltung, Protokollierung | Vom Unternehmen bereitgestellt |
Das ist Governance, also Steuerung durch klare Regeln.
Die „Leitlinien für KI-Unternehmen“ des japanischen Ministeriums für Wirtschaft, Handel und Industrie (METI) veröffentlichen in der neuesten Fassung nicht nur den Hauptteil, sondern auch Checklisten und Arbeitsblätter. Das ist Material, das KI vom „Wir haben Angst, also verbieten wir es“ weg und hin zur praktischen Frage führt, wie man damit umgeht.[^meti-ai-guideline]
Die Richtung der Welt ist also
nicht Verbot, sondern Regeln, Schulung, Checklisten und ein durchdachter Betrieb.
Auch das Argument vom „Fähigkeitsverlust“ muss man auseinandernehmen
Die Sorge, dass man durch generative KI Fähigkeiten verliert, kann ich nachvollziehen.
Aber auch das muss man aufgliedern, sonst wird es schief.
Es gibt Fähigkeiten, die ruhig nachlassen dürfen, und solche, die man erhalten muss.
Fähigkeiten, deren Verlust kaum wehtut, sind zum Beispiel:
- Jedes Mal eine höfliche E-Mail von null an zu schreiben
- Excel-Formeln auswendig zu lernen
- Den ersten Entwurf eines Arbeitsstandards mit reiner Willenskraft zu stemmen
- 30 Minuten über einer Umformulierung zu grübeln
- Aus einem leeren Blatt einen schönen Text zu machen
Umgekehrt werden künftig diese Fähigkeiten wichtig:
- Beurteilen zu können, was man eingeben darf
- Informationen zu erkennen, die man nicht eingeben darf
- Zu prüfen, ob die KI-Ausgabe komisch ist
- Sie an die Regeln vor Ort anzupassen
- Ziel, Bedingungen und Einschränkungen in Worte zu fassen
- Die Endverantwortung nicht an die KI abzuschieben
- Mit KI zu standardisieren, zu schulen und Checklisten zu erstellen
Wer also die Fähigkeiten, die das KI-Zeitalter braucht, nicht fördert, nur um Fähigkeiten zu schützen, die durch KI schwinden könnten, stellt die Prioritäten auf den Kopf.
Das ist ungefähr wie zu sagen:
Taschenrechner verbieten, weil die Rechenfähigkeit nachlässt. Fotografieren verbieten, weil es einem angeblich die Seele raubt. Autofahren verbieten, weil es ungesund ist. Kochen verbieten, weil Feuer gefährlich ist.
Manche Fähigkeiten werden durch ein Werkzeug überflüssig. Dafür werden andere wichtig.
Im Zeitalter des Taschenrechners reichte Kopfrechnen nicht. Man brauchte die Fähigkeit, den Rechenweg aufzustellen, das Ergebnis zu überprüfen und die Bedeutung der Zahlen zu lesen.
Im Zeitalter generativer KI ist es dasselbe.
Wichtiger als jemand, der ohne KI alles per Hand schreiben kann, ist jemand, der KI sicher nutzt, ihre Ausgaben hinterfragt und sie an die Praxis anpasst.
Wenn vor Ort ständig Fragen zu Excel und PC fliegen, ist ein KI-Verbot erst recht ein Fehler
Wenn bei Ihnen vor Ort ständig Fragen zu hören sind wie
Wie geht das in Excel? Wie mache ich das am PC? Wie schreibe ich diese E-Mail? Wie bringe ich den Arbeitsstandard in Form? Wie korrigiere ich diesen Satz?
dann sind Stützräder wie die generative KI ein ziemlich starkes Hilfsmittel.
KI trifft nicht anstelle der Vorgesetzten die Endentscheidung. Aber für einen ersten Entwurf, das Umformulieren, das Zerlegen von Abläufen, das Erstellen von Checklisten und das Erklären der Logik einer Excel-Formel taugt sie ziemlich gut.
Gerade wenn PC- und Schreibkenntnisse im Betrieb von Person zu Person stark schwanken, hilft generative KI dabei, dass Schulung nicht an einzelnen Personen hängt.
Zum Beispiel:
- Einen Arbeitsstandard für Neue in einfachen Worten umschreiben
- Arbeitsschritte in eine Checkliste umwandeln
- E-Mail-Texte höflich ausformulieren
- Kandidaten für Excel-Formeln vorschlagen
- Besprechungsnotizen in Protokollform bringen
- Den Ablauf von QC-Aktivitäten (Qualitätssicherungsarbeit) in ein Lückenblatt verwandeln
All das geht, ohne vertrauliche Informationen einzugeben.
Verbietet man sogar das, werden vor Ort weiter dieselben Fragen an andere gerichtet. Der Aufwand für die, die erklären, sinkt nicht. Die Standardisierung kommt nicht voran. Und Wissen, das nur einzelne haben, bleibt bei einzelnen.
Und dann sagt das Unternehmen:
Wir müssen Neues wagen. So wie jetzt geht es nicht weiter.
Moment mal, sperrt man da nicht gerade die Werkzeuge weg, die man dafür braucht?
Ein Totalverbot bringt keine „Sicherheit“, sondern Schatten-KI
Es gibt noch ein weiteres Problem.
Ein Totalverbot wirkt auf den ersten Blick sicher. In Wirklichkeit kann es aber gefährlicher sein.
Denn wer den Komfort kennt, nutzt die KI womöglich heimlich mit einem privaten Konto.
Der Work Trend Index 2024 von Microsoft und LinkedIn berichtet, dass 75 % der Wissensarbeitenden bei der Arbeit KI nutzen und 78 % dieser Nutzer ihre eigenen KI-Tools mit an den Arbeitsplatz bringen. Außerdem halten 79 % der Führungskräfte die Einführung von KI für unverzichtbar, um wettbewerbsfähig zu bleiben, während 60 % befürchten, dass ihr Unternehmen keine Vision und keinen Plan für die KI-Einführung hat.[^ms-wti-2024]
Das ist ziemlich wichtig.
Wenn das Unternehmen keine Regeln aufstellt, steht die Arbeit vor Ort nicht still. Man nutzt die KI inoffiziell.
Es läuft also so ab:
Offiziell verboten Vor Ort hat man Probleme Weil es praktisch ist, nutzt man ein privates Konto Das Unternehmen kennt die Realität nicht Keine Eingaberegeln, keine Schulung, keine Protokolle Am Ende steigt das Risiko eines Datenabflusses wirklich
Das ist keine Sicherheit. Das ist „Schatten-KI“ (Shadow AI), also KI, die im Verborgenen genutzt wird.
Ein Verbot garantiert nicht, dass sie nicht genutzt wird. Es macht die Nutzung nur unsichtbar.
Die Welt geht nicht in Richtung „Verbot“, sondern in Richtung „Arbeit mit KI als Grundlage gestalten“
Draußen baut man die Arbeit bereits mit KI als Voraussetzung um.
In der McKinsey-Umfrage von 2025 gaben 78 % der Befragten an, dass ihre Organisation KI in mindestens einer Geschäftsfunktion einsetzt, und 71 % berichteten, generative KI regelmäßig in mindestens einer Geschäftsfunktion zu nutzen.[^mckinsey-2025-ai]
Auch im Work Trend Index 2025 von Microsoft sagten 82 % der Führungskräfte weltweit, dies sei ein Wendepunkt, um wichtige Teile von Strategie und Betrieb neu zu denken, und 81 % erwarten, in den nächsten 12 bis 18 Monaten KI-Agenten (KI, die Aufgaben selbstständig erledigt) mäßig bis stark in die KI-Strategie ihres Unternehmens einzubinden.[^ms-wti-2025]
Die Welt fragt also nicht mehr
ob man KI nutzt,
sondern
wie man KI sicher nutzt, wie man KI in die Arbeit einbaut, welche Aufgaben man mit KI standardisiert, an welcher Stelle der Mensch die Entscheidungsverantwortung trägt.
Wenn ein Unternehmen da bei „generative KI komplett verboten“ stehen bleibt, wird es abgehängt.
Besonders widersprüchlich ist es, wenn ein Unternehmen, das sich „Wagemut“ auf die Fahne schreibt, KI komplett verbietet.
Etwas zu wagen heißt nicht, ein neues Werkzeug bedingungslos zu verehren. Aber es heißt auch nicht, ein neues Werkzeug zu versiegeln, ohne es sich überhaupt anzusehen.
Wenn man schon von Wagemut redet, sollte man wenigstens so etwas sagen:
Die Eingabe vertraulicher Informationen und personenbezogener Daten ist verboten. Aber man probiert sicher aus, beginnend mit risikoarmen Einsätzen. Textkorrektur, E-Mail-Formulierungen, allgemeine Excel-Fragen, Gliederungen für Arbeitsstandards und Checklisten sind innerhalb der vorgegebenen Umgebung und der Prüfregeln erlaubt. Ausgaben müssen immer von Menschen geprüft werden, und für Externes und Entscheidungsaufgaben ist eine Freigabe nötig.
So kann ich es nachvollziehen.
Das ist die Vereinbarkeit von Sicherheit und Wagemut.
Das Fazit von Mendoi-chan: Verbiete nicht das Feuer, bring bei, die Flamme zu regulieren
Man darf die Risiken generativer KI nicht auf die leichte Schulter nehmen.
Verrat vertraulicher Informationen, Fehlinformationen, Abhängigkeit: All das ist wirklich gefährlich. Deshalb braucht es Regeln.
Aber ein Totalverbot ist keine Regel.
Es ist dieser Widerspruch:
Feuer ist gefährlich, geh nicht in die Küche. Aber erfülle die Wünsche des Kunden. Mach es lecker. Servier es pünktlich. Wir müssen Neues wagen. So wie jetzt geht es nicht weiter.
Wenn es gefährlich ist, bringt man bei, die Flamme zu regulieren. Man bringt bei, wie man ein Messer benutzt. Man beginnt mit einem Menü für Anfänger. Man trennt die Bretter für rohes Fleisch und für Gemüse. Man standardisiert die Herdkontrolle. Man stellt einen Feuerlöscher hin. Man erstellt eine Checkliste.
Bei generativer KI ist es genauso.
Gefährliche Nutzung wird verboten. Sichere Nutzung wird erlaubt. Die Verantwortung für die Prüfung wird festgelegt. Eine nutzbare Umgebung wird bereitgestellt. Man beginnt mit risikoarmen Aufgaben. Man schult. Man erstellt Checklisten.
Das ist echtes Risikomanagement.
Ein Totalverbot ist keine Governance. Es ist Denkverweigerung: Weil man es nicht steuern kann, wird es versiegelt.
Im Stil von Mendoi-chan gesagt, ist das
schwarze Magie, die sich Wagemut auf die Fahne schreibt und zugleich die Werkzeuge versiegelt, die man dafür braucht.
Und die Verteidigung dagegen ist einfach:
Es geht nicht darum, ob man KI nutzt oder nicht, sondern man denkt bis ins Detail: was man nicht eingeben darf, wofür man sie nutzen darf, wer prüft und in welcher Umgebung sie genutzt wird.
Verbiete nicht das Feuer. Bring bei, die Flamme zu regulieren.
Quellen
[^ipa-ai-security]: IPA (Japanische Agentur zur Förderung der Informationstechnologie), „KI-Sicherheit“ https://www.ipa.go.jp/digital/ai/security/index.html
[^digital-ai-guidebook]: Japanische Digitalagentur, „Leitfaden zu Risikomaßnahmen bei der Nutzung textgenerierender KI (Alpha-Version)“ https://www.digital.go.jp/resources/generalitve-ai-guidebook
[^meti-ai-guideline]: Japanisches Ministerium für Wirtschaft, Handel und Industrie (METI), „Leitlinien für KI-Unternehmen“ https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/20260331_report.html
[^ms-wti-2024]: Microsoft Japan / LinkedIn, „Work Trend Index 2024 zum Stand der KI bei der Arbeit“ https://news.microsoft.com/ja-jp/2024/05/09/240509-microsoft-and-linkedin-release-the-2024-work-trend-index-on-the-state-of-ai-at-work/
[^mckinsey-2025-ai]: McKinsey & Company “The State of AI: Global Survey” https://www.mckinsey.com/capabilities/quantumblack/our-insights/the-state-of-ai-how-organizations-are-rewiring-to-capture-value
[^ms-wti-2025]: Microsoft “2025 Work Trend Index: The year the Frontier Firm is born” https://www.microsoft.com/en-us/worklab/work-trend-index/2025-the-year-the-frontier-firm-is-born
