Warum menschliche Urteilskraft zur kritischen Infrastruktur des KI-Zeitalters wird
Das Stromnetz ist online, die Leitwarte auch. Kein Server wurde kompromittiert. Trotzdem verliert der Betreiber die Kontrolle. Während einer regionalen Störung treffen Tausende Warnungen, Lageberichte und Lieferantenmeldungen ein. Manche sind dringend. Andere doppelt. Einige wurden gezielt erzeugt. Fast alle wirken glaubwürdig genug, dass sie geprüft werden müssen.
Dasselbe kann in einem Krankenhaus passieren oder bei einem Telekommunikationsanbieter, der mit Störungsmeldungen geflutet wird. Oder in einer Behörde, die mehr plausible Eingaben erhält, als ihre Fachleute bearbeiten können.
Das ist Denial of Service auf Layer 8 und 9: auf der menschlichen und organisatorischen Ebene. Dafür muss niemand einen Server kompromittieren, eine Datenbank verschlüsseln oder Schadsoftware einschleusen. Es reicht, glaubwürdiges Material schneller zu erzeugen, als Menschen es, selbst unter Verwendung von AI-Tools, beurteilen können.
Die neue Asymmetrie ist sehr einfach. Generative KI hat die Kosten für Texte, Code, Analysen und Berichte beinahe auf 0 gesenkt. Die Kosten des Prüfens und Entscheidens sind kaum gefallen. Mithilfe von LLMs formuliert ein:e Angreifer:in in Sekunden eine überzeugende Störungsbeschreibung, deren Validierung beispielsweise eine Netztechnikerin, eine Ärztin oder einen Security-Analysten benötigt. Institutionen hatten lange eine unsichtbare Mengenbegrenzung. Ein ernsthaft wirkender Bericht setzte meist menschlichen Aufwand voraus. Wer Stunden in das Verfassen von Dokumenten investierte, konnte diese Zeit nicht in hundert weitere stecken. Diese Verbindung zwischen Menge und Einsatz bricht weg.
Die Gefahr ist also nicht, dass Maschinen schlechte Inhalte produzieren. Gefährlich wird es, wenn sie ausreichend gute Inhalte schneller ausstoßen, als Menschen sie prüfen können. Sie müssen nicht wahr sein. Sie müssen nur ausreichend plausibel sein, damit die gewohnten Filter versagen.
Wir schützen Kraftwerke, Netze, Rechenzentren, Verkehrswege und Lieferketten gegen Sabotage und Unterbrechung durch technische und organisatorische Sicherheitsmechanismen, beachten dabei noch nicht Angriffe auf Layer 8 und 9. Jedes dieser Systeme hängt von Organisationen ab, die unter Druck vernünftig entscheiden müssen.
Bei kritischer Infrastruktur bleibt diese Lähmung nicht in einer Organisation. Eine Telekommunikationsstörung belastet Rettungsdienste. Ein kompromittierter Lieferant schafft Arbeit bei Dutzenden Kunden. Widersprüchliche Meldungen während eines Stromausfalls treffen Verkehr, Krankenhäuser und öffentliche Kommunikation zugleich.
Layer-8/9-Angriffe können Organisationsgrenzen überschreiten, ohne dass Schadsoftware von einem System zum nächsten wandert. Die Ansteckung ist „kognitiv“.
Eine weitere Gefahr ist, dass Fairness von offenen Prozessen gefährdet wird. Gut ausgestattete Akteure dominieren mit KI und koordinierten Kampagnen die Entscheidungskanäle fluten. Kleine Zulieferer, Gemeinden und Bürgerinnen sprechen mit einer Stimme; LLM-gestützte Verstärkung produziert Tausende plausibel wirkende Eingaben.
Was tun Institutionen heute? Oft das Naheliegende.
Sie verlangen Identifikation. Doch Identität beweist keine Aufmerksamkeit. Ein verifizierter Mensch kann Hunderte Anfragen automatisieren oder koordiniert handeln. Gleichzeitig gefährdet Identitätszwang legitime Anonymität: beim Whistleblowing, bei Sicherheitsmeldungen oder im politischen Widerspruch.
Sie setzen starre Quoten. Die lassen sich über Partner umgehen. Je höher der Druck, desto mehr wird vorsortiert. Menschen und Maschinen passen ihre Eingaben an die Filter an. Alles klingt ähnlicher. Wichtige Signale verschwinden. Am Ende erzeugen Maschinen die Anfragen, andere priorisieren sie, und ein Mensch bleibt als Name unter der verantworteten Entscheidung.
Wir brauchen deshalb einen anderen Blick auf Sicherheit.
Das Industriezeitalter lernte, Energie, Verkehr und Produktion zu schützen. Das digitale Zeitalter nahm Netze, Software und Daten hinzu. Im KI-Zeitalter gehört menschliche Urteilskraft auf diese Liste.
Mehr Rechenleistung erzeugt kein verantwortliches Urteil. Fachliche Bewertung braucht Zeit, Kontext, Erfahrung und jemanden, der für eine Entscheidung einsteht. Sind diese Ressourcen aufgebraucht, ist eine Institution nicht wirklich verfügbar.
Ein sinnvolles Sicherheitsversprechen wäre „humane Verfügbarkeit“: Ein legitimer, angenommener Vorgang erhält innerhalb vertretbarer Zeit ein Mindestmaß ernsthafter menschlicher Aufmerksamkeit.
Betreiber wesentlicher Dienste müssen ihre Aufmerksamkeitsbudgets sichtbar machen. Abgeschlossene Tickets verraten nicht, ob Fälle geprüft oder bloß entfernt wurden. Eingangslast, Prüfaufwand und Expertenstunden gehören zusammen betrachtet. Menschliche Entscheidungskapazität gehört in Risikoregister, Notfallpläne und Lieferkettenprüfungen.
Auch Reserven brauchen wir. Für Server ist Redundanz selbstverständlich, für menschliche Urteilskraft kaum. Übungen sollten testen, ob eine Organisation noch entscheiden kann, wenn glaubwürdige Informationen mit Maschinengeschwindigkeit eintreffen.
Zugangsmechanismen sollten nicht fragen: „Mensch oder Maschine?“ Sinnvoller ist: Gibt es Anzeichen ernsthafter Auseinandersetzung? Datenschutzfreundliche Nachweise könnten zeigen, dass eine berechtigte Person Zeit mit einem bestimmten Gegenstand verbracht hat. Das darf keine Identität offenlegen oder Verständnis vortäuschen. Es könnte aber die Verbindung zwischen einem Vorgang und knappem menschlichem Einsatz teilweise wiederherstellen.
Und der Schutz darf nicht selbst zur Überwachungsinfrastruktur werden. Lückenlose Verhaltensbeobachtung, biometrische Identifikation und detaillierte Aktivitätsprofile mögen eine Warteschlange absichern, beschädigen aber womöglich die Gesellschaft dahinter. Datensparsamkeit, anonyme Berechtigungsnachweise, grobe Zeitangaben, klare Löschregeln und unabhängige Kontrolle müssen von Anfang an eingebaut sein.
Die entscheidende Wahl ist am Ende keine kryptografische.
Führungskräfte müssen akzeptieren, dass ein Eingabekanal weit offen sein kann, während das Verfahren dahinter längst nicht mehr zugänglich ist. Ein System, das alles annimmt und nichts mehr angemessen würdigen kann, simuliert Beteiligung.
Vorstände, Behördenleitungen und Krisenstäbe sollten unangenehme Fragen stellen: Wie viel menschliche Aufmerksamkeit verspricht dieser Dienst? Was fällt zuerst aus, wenn Urteilskraft überlastet wird? Wessen Signale unterdrücken unsere Filter? Was dürfen Maschinen vorbereiten, was müssen Menschen verantworten? Wie abhängig sind wir von einem Anbieter oder Modell?
Auch Lieferkettensicherheit muss breiter werden. Kann ein Anbieter alle nachgelagerten Organisationen mit ungeprüften Behauptungen fluten? Kognitive Last ist ein Lieferkettenrisiko. Heute steht das in kaum einem Audit.
KI aus kritischen Infrastrukturen zu verbannen wäre trotzdem die falsche Antwort. Sie kann Muster erkennen, Fachwissen übersetzen, Personal unterstützen und Institutionen zugänglicher machen. Gerade deshalb darf ihre Skalierbarkeit nicht jene Räume zerstören, in denen Belege geprüft, Alternativen abgewogen und Verantwortung übernommen werden.