Wer kontrolliert den
EU AI Act in der Praxis?
Der EU AI Act schafft ein zweistufiges Aufsichtssystem: Das EU AI Office überwacht GPAI-Modelle auf EU-Ebene. Nationale Behörden überwachen KI-Systeme in den Mitgliedstaaten. In Deutschland ist die Zuständigkeit noch nicht abschließend geregelt.
Das EU AI Office (KI-Büro)
„Das KI-Büro ist für die Förderung der einheitlichen und wirksamen Anwendung dieser Verordnung in der gesamten Union zuständig."
Das EU AI Office ist die einzige Behörde, die GPAI-Modelle (Art. 51–56) überwacht. Kein einzelner Mitgliedstaat kann GPAI-Anbieter wie OpenAI oder Google direkt sanktionieren.
Entwicklung von Leitlinien und Standards, Koordination nationaler Behörden, Entwicklung des GPAI Code of Practice, Durchführung von Evaluierungen, Verhängung von Bußgeldern gegen GPAI-Anbieter.
Das Europäische KI-Board (Art. 65) koordiniert die nationalen Behörden und berät die EU-Kommission. Es besteht aus Vertretern aller Mitgliedstaaten.
Nationale Marktüberwachungsbehörden
| Zuständigkeit | Behörde | Grundlage |
|---|---|---|
| GPAI-Modelle (EU-weit) | EU AI Office | Art. 64 EU AI Act |
| Hochrisiko-KI-Systeme | Nationale Marktüberwachungsbehörde | Art. 70 EU AI Act |
| Verbotene KI-Praktiken | Nationale Behörde | Art. 70 EU AI Act |
| Transparenzpflichten (Art. 50) | Nationale Behörde | Art. 70 EU AI Act |
| KI in Strafverfolgung | Spezialbehörde (national) | Art. 70 Abs. 3 |
Zuständigkeit in Deutschland
- Bereits zuständig für Digitalmärkte (DSA, DMA)
- Erfahrung mit Marktüberwachung
- Kandidat für allgemeine KI-Aufsicht
- Technische Expertise bei KI-Sicherheit
- Bereits in NIS2-Umsetzung eingebunden
- Kandidat für sicherheitskritische KI
Weitere relevante Behörden in Deutschland: Datenschutzbehörden (für KI + DSGVO), Bundesarbeitsgericht (für KI am Arbeitsplatz), Bundesamt für Arzneimittel (für Medizin-KI).
Vergleich: Wer ist in anderen Ländern zuständig?
| Land | Geplante/bestätigte Behörde |
|---|---|
| Frankreich | CNIL (Datenschutz) + ARCOM (Medien) + neue KI-Behörde |
| Spanien | AESIA – Agencia Española de Supervisión de la IA (neu gegründet) |
| Niederlande | Autoriteit Persoonsgegevens + neue KI-Aufsicht |
| Österreich | Datenschutzbehörde + Regulierungsbehörde RTR |
| Irland | Digital Regulator (neue Behörde geplant) |