Seit der EU-AI-Act den Risikobegriff zum regulatorischen Dreh- und Angelpunkt gemacht hat, wird „Risiko“ zur öffentlichen Leitvokabel: in Ministerien, Unternehmen, Behörden, Ethikkommissionen. Wer von KI spricht, spricht sofort von Risikoklassen, Prüfpfaden, Kontrollpflichten. Die Technik wirkt wie ein Magnet, der alles anzieht, was nach Steuerung aussieht.

In dieses Klima passt der Springer-Sammelband „Risikoanalyse Künstliche Intelligenz“ (Hrsg. Maximilian Wanderwitz, 2026) als Inventur auf 424 Seiten: Theorie, Ethik, Technologie, Regulierung, Anwendungen in einzelnen Sektoren. Schon das Vorwort setzt den Rahmen: technische Fortschritte und der AI-Act verschärfen die Debatte, zugleich wächst KI in immer mehr Lebensbereiche hinein.

Das Buch liefert Material und Ordnung. Sein eigentlicher Reiz entsteht dort, wo es unbeabsichtigt zum Seismographen wird: Zwei Kapitel zeigen, wie schnell aus einem technischen Instrument eine politische Form wird. Christian Hummert führt ein Wort ein, das die Sicherheitskultur neu sortiert: Vigilanz. Wirth, Maftei, Hilpert, Goltz und Merget zeigen, wie diese Logik in Sicherheitsbehörden als Pre-Crime und als generative Ermittlungsassistenz Gestalt annimmt.

Vigilanz als Erstschlag der Verteidigung

Hummerts Kapitel beginnt mit einer Zeitdiagnose: Immer mehr Aufgaben werden an statistische Verfahren delegiert, von Tumorerkennung über Cyberabwehr bis Gesichtserkennung. Damit rücken Felder in den Vordergrund, in denen Grundrechte berührt werden, während der Verteidigungssektor in der EU-Regulierung weitgehend ausgespart bleibt.

Dann setzt er das begriffliche Messer an: Resilienz wird im Diskurs oft als Fähigkeit beschrieben, Angriffe zu überstehen und Systeme wiederherzustellen. Hummert rekonstruiert den Resilienzbegriff über die klassischen Phasen Resistenz, Regeneration, Rekonfiguration, samt Baum-im-Sturm-Analogie und den Verwandten Antifragilität und Prosilienz.

Der Bruch folgt mit dem vierstufigen Modell, in dem Vigilanz vor Resilienz steht. Vigilanz wird zur ersten Schicht: erkennen, vorhersagen, vorbereiten, vermeiden. Hummert überträgt das in den Cyber- und Informationsraum und fragt, ob daraus eine cybervigilante Gesellschaft werden kann.

Hier wirkt „Vigilanz“ wie eine begriffliche Aufrüstung. Man verteidigt nicht mehr nur Systeme, man verteidigt Zeit. Wer früher erkennt, wer früher antizipiert, wer früher vorbereitet, verschiebt den Konflikt in ein Vorfeld, in dem der Angreifer Aufwand treiben muss.

Delegation macht Systeme wach, Menschen schläfrig

Die entscheidende Verschärfung kommt dort, wo Hummert die operative Realität beschreibt: Menschen können Cyberangriffe im Netzwerkstrom nicht erkennen, auch ausgebildete Fachleute nicht. Detektion ist für sie „nicht realisierbar“, Verantwortung wandert an Maschinen. Der Vergleich mit Brandmeldern erklärt die Differenz: Feuer bleibt prinzipiell sinnlich wahrnehmbar, Cyberangriffe entziehen sich der menschlichen Wahrnehmung.

Damit öffnet sich ein Verantwortungsloch. Hummert referiert die verbreitete Position, dass unbelebte Objekte keine Verantwortung übernehmen können. Daraus folgt eine Forderung: Maschinen sollen Menschen unterstützen, selbst vigilant zu bleiben. Und dann stellt er die Frage, die man in vielen KI-Debatten umgeht, weil sie den Fortschrittsoptimismus stört: Passiert das wirklich?

Die Antwort kommt mit empirischer Schärfe. Studien zeigten, dass die Übertragung von Vigilanz auf Maschinen die menschliche Vigilanz schwächt: Vertrauen wächst, eigene Wachsamkeit lässt nach. In hochkritischen Anwendungen wie Reaktorsicherheit bleibt daher aktive menschliche Beteiligung erforderlich, um Vigilanz zu erhalten.

Hummert führt dieses Muster in den Informationsraum. Auch das Erkennen von Fake News und Propaganda wird an Maschinen delegiert; immer mehr Texte entstehen durch große Sprachmodelle. Der Leser ahnt, was folgt: Eine Gesellschaft, die maschinell erzeugte Überzeugung mit maschineller Detektion bekämpft, gewöhnt sich daran, Wahrheit als Ausgabewert zu konsumieren.

Pre-Crime als Verwaltungsform der Zukunft

Kapitel 16 setzt an einem kulturellen Bild an: „Minority Report“ als Folie. Der Text behauptet, unsere Gegenwart sei diesem Szenario näher gerückt, als es der Film 2002 erwarten ließ. Dann folgen die Leitfragen: Wie gerecht ist Strafe vor der Tat? Welche Fehlbarkeit wird toleriert? Wie viel Freiheit wird zugunsten von Sicherheit aufgegeben?

Die technische Übersetzung trägt den Titel „Pre-Crime durch KI“. KI-basierte Polizeitools berechnen Wahrscheinlichkeiten künftiger krimineller Aktivitäten. Sie sollen Entscheidungen unterstützen: wo patrouilliert wird, welche Kontexte überwacht werden, welche Personen in den Blick geraten. Die Datenbasis liest sich wie ein Katalog der modernen Verwaltung: Verhaftungs- und Vorfallprotokolle, geokodierte Anzeigen, Notrufprotokolle, Verurteilungsdaten, teils Social-Media-Aktivitäten; ergänzt um Geographie, Wetter, Ereignisse, sozioökonomische Indikatoren, dazu Echtzeitsensorik wie CCTV oder Kennzeichenleser.

Die Autoren mahnen, dass es sich um Wahrscheinlichkeiten handelt. Zugleich benennen sie, wohin die Logik führt: Menschen werden anhand statistischer Korrelationen kategorisiert, ein Schritt in Richtung „aktuarischer Justiz“. Hier wird Technik zur Staatslogik: Der Bürger erscheint als Risikofigur, die Verwaltung als Maschine der Wahrscheinlichkeiten.

Chat-All-Crime: Der Ermittler als Prompt-Schreiber

Besonders zeitgenössisch wirkt das Szenario „Chat-All-Crime“. Der Text entwirft einen ChatGPT-ähnlichen Assistenten, trainiert auf multimodalen Daten: Polizeiberichte, Statistiken, Medienberichte, Social Media, abgefangene Gespräche in Dialekten. Er soll OSINT- und SOCMINT-Analysen liefern, Risikowerte und Ranglisten ausgeben, Patrouillen-Routen vorschlagen, Berichte generieren, Szenarien simulieren.

Die Attraktion liegt auf der Hand: Geschwindigkeit, Überblick, scheinbare Objektivität. Das Risiko ebenfalls. Der Text nennt Halluzinationen als Hauptrisiko, weil sie Inkriminierung und falsche Verhaftung beschleunigen können: erfundene Gang-Zugehörigkeiten durch missverstandenen Slang, falsch identifizierte Komplizen, „abgerufene“ Beweise, die nie existierten.

An dieser Stelle treffen sich Kapitel 3 und 16 wie zwei Zahnräder. Hummert zeigt, wie Delegation menschliche Wachsamkeit reduziert. Kapitel 16 zeigt, wie generative Systeme Fehler produzieren, die durch ihre Plausibilität sozialen und juristischen Schaden anrichten können. Vertrauen wird zur Angriffsfläche.

Safe by Design als Parlamentsarbeit

Das Kapitel endet mit einer politischen Setzung, die im Sammelband selten so klar formuliert wird: Eine vertrauenswürdige KI-Zukunft „safe by design“ sei eine Aufgabe der Politik. Sicherheitsbehörden entwickelten kaum eigene Rahmen, sie arbeiten in vorgegebenen. Daraus leitet der Text klare gesetzliche Vorgaben und Richtlinien ab, die Qualität und Sicherheit verbindlich regeln.

In einem weiteren Abschnitt stellt das Kapitel zwei Zukunftsbilder gegenüber: ein maximal überwachtes Stadtquartier mit Risikoprofilen und proprietären Algorithmen, gegenüber einem Szenario mit Transparenz, Prüfungen und begrenzter Datenerfassung. Die Frage nach Freiheit und Sicherheit wird als Gestaltungsfrage präsentiert, nicht als Naturgesetz.

Was dieser Band aus Versehen verrät

Wanderwitz’ Sammelband will Risiken kartieren. In den Kapiteln von Hummert und von Wirth et al. wird sichtbar, dass sich das Risikodenken selbst in eine Form von Politik verwandelt. Vigilanz ist das Wort dafür: Vorzeichen lesen, Angriffe antizipieren, Zeit gewinnen. Pre-Crime ist die administrative Umsetzung: Rohdaten werden zu Risikowerten, Risikowerte werden zu Maßnahmen.

Die Lektüre hinterlässt eine Frage, die in der deutschen Debatte oft als Randthema behandelt wird, obwohl sie in die Verfassung hineinragt: Wer kontrolliert eine Ordnung, die Zukunft berechnet, bevor sie geschieht?