KI im Stromnetz, Wasserwerk
und Verkehrssystem
Anhang III Nr. 2 des EU AI Act stuft KI-Systeme, die kritische Infrastruktur steuern oder überwachen, als Hochrisiko ein. Ein Ausfall kann Millionen Menschen betreffen.
Was ist kritische Infrastruktur?
Kritische Infrastruktur umfasst alle Systeme und Einrichtungen, deren Ausfall oder Beeinträchtigung erhebliche Auswirkungen auf die öffentliche Sicherheit, die Gesundheit oder die Grundversorgung der Bevölkerung hätte. Der EU AI Act orientiert sich dabei an der EU-Richtlinie über kritische Einrichtungen (CER-Richtlinie 2022/2557).
„KI-Systeme, die als Sicherheitskomponenten bei der Verwaltung und dem Betrieb kritischer digitaler Infrastruktur, des Straßenverkehrs oder bei der Wasser-, Gas-, Wärme- und Stromversorgung verwendet werden sollen."
Entscheidend: Das System muss als Sicherheitskomponente eingesetzt werden – nicht jede KI in der Infrastruktur ist automatisch Hochrisiko.
Welche KI-Systeme sind Hochrisiko in der Infrastruktur?
| Sektor | KI-System | Hochrisiko? |
|---|---|---|
| Energie | KI zur automatischen Netzstabilisierung (Strom) | Ja |
| Energie | KI zur Verbrauchsprognose (ohne Sicherheitsfunktion) | Nein |
| Wasser | KI zur automatischen Steuerung der Wasseraufbereitung | Ja |
| Verkehr | KI zur Steuerung von Ampeln und Verkehrsfluss | Ja |
| Verkehr | KI zur Routenoptimierung in Navigations-Apps | Nein |
| Digital | KI zur Erkennung von Cyberangriffen auf kritische IT | Ja |
| Gesundheit | KI zur automatischen Triage in Notaufnahmen | Ja |
| Gesundheit | KI-Chatbot für allgemeine Gesundheitsfragen | Nein |
Sicherheitskomponente: Der entscheidende Begriff
Nicht jede KI in einem Infrastruktursektor ist Hochrisiko-KI. Entscheidend ist, ob das System als Sicherheitskomponente eingesetzt wird – also ob ein Ausfall oder eine Fehlfunktion direkt die Sicherheit von Menschen gefährden würde.
- KI steuert automatisch kritische Prozesse
- Ausfall gefährdet direkt Menschen oder Versorgung
- Keine oder nur eingeschränkte menschliche Überprüfung möglich
- KI unterstützt nur – Mensch entscheidet
- Ausfall hat keine unmittelbaren Sicherheitsfolgen
- Rein analytische oder prognostische Funktion
Besondere Anforderungen für Infrastruktur-KI
Hochrisiko-KI in kritischer Infrastruktur muss besonders robust sein. Sie muss auch bei Fehlfunktionen, Angriffen oder unerwarteten Eingaben sicher bleiben – mit automatischen Fail-Safe-Mechanismen.
Alle Entscheidungen und Aktionen des KI-Systems müssen automatisch protokolliert werden. Bei Vorfällen muss eine vollständige Rekonstruktion möglich sein.
Auch in automatisierten Systemen muss ein qualifizierter Mensch jederzeit eingreifen und das System übersteuern können. Vollständige Autonomie ohne menschliche Kontrolle ist verboten.
Anbieter von Hochrisiko-KI müssen schwerwiegende Vorfälle und Fehlfunktionen innerhalb von 15 Tagen an die zuständige Marktüberwachungsbehörde melden.
Betreiber kritischer Infrastruktur unterliegen zusätzlich der NIS2-Richtlinie (Cybersicherheit). EU AI Act und NIS2 gelten gleichzeitig – Sicherheitsmaßnahmen müssen beide Anforderungen erfüllen.