Lektion 4 von 7 ca. 5 Min.
Systemisches Risiko

Die 10²⁵ FLOPs-Schwelle:
Was bedeutet das?

Für die leistungsstärksten KI-Modelle der Welt gelten besondere Regeln. Der EU AI Act definiert eine objektive Schwelle: Wer sein Modell mit mehr als 10²⁵ FLOPs trainiert, hat ein GPAI-Modell mit systemischem Risiko – mit deutlich strengeren Pflichten.

Was sind FLOPs?

FLOPs einfach erklärt

FLOPs (Floating Point Operations) messen die Rechenleistung, die beim Training eines KI-Modells eingesetzt wird. Je mehr FLOPs, desto größer und leistungsfähiger das Modell – und desto höher das potenzielle Risiko.

Modell (Schätzung)Trainings-FLOPsSystemisches Risiko?
GPT-3 (2020)~3,1 × 10²³ Nein
GPT-4 (2023)~2,1 × 10²⁵ Ja (über Schwelle)
Gemini Ultra (2024)>10²⁵ Ja
Llama 3 70B~6 × 10²³ Nein
Mistral Large<10²⁵ Nein

Schätzwerte – genaue FLOPs-Zahlen werden von Anbietern meist nicht veröffentlicht. Die EU-Kommission kann die Schwelle per Delegiertem Rechtsakt anpassen (Art. 51 Abs. 2).

Kerninhalt – Art. 55

Zusätzliche Pflichten bei systemischem Risiko

Art. 55 Abs. 1 EU AI Act
Pflichten bei systemischem Risiko
„Anbieter von GPAI-Modellen mit systemischem Risiko: a) führen Modell-Evaluierungen gemäß standardisierten Protokollen und Instrumenten durch [...]; b) führen Bewertungen und Abminderungsmaßnahmen für systemische Risiken [...] durch; c) verfolgen, dokumentieren und melden dem KI-Büro und gegebenenfalls den zuständigen nationalen Behörden schwerwiegende Vorfälle [...]; d) gewährleisten ein angemessenes Maß an Cybersicherheitsschutz."
1
Modell-Evaluierungen (Art. 55 lit. a)

Vor und nach dem Deployment müssen standardisierte Tests durchgeführt werden. Das EU AI Office entwickelt dafür gemeinsam mit Anbietern Protokolle im Rahmen des Code of Practice.

2
Adversarial Testing / Red-Teaming (Art. 55 lit. b)

Anbieter müssen ihr Modell aktiv auf Missbrauchsmöglichkeiten testen – durch interne Teams oder externe Experten. Ziel: Schwachstellen finden, bevor sie ausgenutzt werden.

Red-Teaming = strukturiertes Angreifen des eigenen Systems durch ein dediziertes Team, das versucht, das Modell zu unerwünschtem Verhalten zu bringen (z.B. gefährliche Anleitungen, Desinformation, Diskriminierung).
3
Meldung schwerwiegender Vorfälle (Art. 55 lit. c)

Schwerwiegende Vorfälle – z.B. wenn das Modell zur Erstellung von Biowaffen-Anleitungen missbraucht wurde oder massenhafte Fehlinformationen verbreitet hat – müssen unverzüglich dem EU AI Office gemeldet werden.

4
Cybersicherheit (Art. 55 lit. d)

Angemessene Cybersicherheitsmaßnahmen für das Modell und seine Infrastruktur. Dazu gehört der Schutz vor Modell-Diebstahl, Manipulation der Gewichte und Angriffe auf die Trainingsinfrastruktur.

Das EU AI Office

Wer überwacht GPAI-Modelle?

Für GPAI-Modelle ist nicht eine nationale Behörde zuständig, sondern das EU AI Office (KI-Büro) – eine neue EU-Behörde, die direkt bei der EU-Kommission angesiedelt ist.

EU AI Office (für GPAI)
  • Überwacht alle GPAI-Anbieter in der EU
  • Entwickelt Code of Practice
  • Kann Evaluierungen anordnen
  • Zuständig für systemisches Risiko
  • Kann Bußgelder verhängen
Nationale Behörden (für KI-Systeme)
  • Überwachen KI-Systeme im jeweiligen Land
  • Zuständig für Hochrisiko-KI-Betreiber
  • Marktüberwachung vor Ort
  • In Deutschland: Bundesnetzagentur (geplant)
Merksatz: GPAI-Modelle mit mehr als 10²⁵ Trainings-FLOPs haben systemisches Risiko (Art. 51). Zusätzliche Pflichten: Modell-Evaluierungen, Red-Teaming, Vorfallsmeldung und Cybersicherheit (Art. 55). Zuständige Behörde: das EU AI Office – nicht nationale Behörden.
← Zurück: Pflichten Weiter: Praxischeck →
Ihr Fortschritt in Modul 6
4 von 7 Lektionen