Klotzkette GPAI-Modelle mit systemischem Risiko — Art. 51 bis 55 KI-VO
Schwellenwert — 10e25 FLOP (Art. 51 Abs. 1 lit. a KI-VO)
Ein GPAI-Modell gilt als Modell mit systemischem Risiko, wenn die kumulierte Trainingsrechenleistung 10e25 FLOP (Floating Point Operations) übersteigt.
Was ist FLOP? FLOP ist eine Maßeinheit für Rechenoperationen. 10e25 FLOP entspricht zehn hoch 25 Rechenoperationen — eine sehr hohe Schwelle, die zum Zeitpunkt der Verabschiedung der KI-VO nur von den größten bekannten Grundmodellen überschritten wurde.
Prüffragen:
- Kennt Ihr Unternehmen die kumulierte Trainingsrechenleistung des Modells?
- Überschreitet diese Rechenleistung 10e25 FLOP?
Wenn unklar: Die Berechnung der FLOP-Trainingsrechenleistung hängt von Architektur, Datenmenge und Trainingszeit ab. Im Zweifelsfall sind technische Experten und das Europäische KI-Büro zu konsultieren.
Systemisches Risiko durch Kommissionsbeschluss (Art. 51 Abs. 1 lit. b KI-VO)
Unabhängig von der FLOP-Schwelle kann die Kommission ein GPAI-Modell durch Beschluss als Modell mit systemischem Risiko einstufen, wenn es auf der Grundlage bestimmter Kriterien ein systemisches Risiko darstellt. Solche Beschlüsse können auch für Modelle unterhalb der FLOP-Schwelle gelten.
Kriterien für einen Kommissionsbeschluss:
- Anzahl der Nutzer (Erreichung kritischer Masse)
- Einsatz in Hochrisikobereichen
- Marktmacht des Anbieters
- Potenzielle Auswirkungen auf demokratische Prozesse
Notifikationspflicht (Art. 52 Abs. 1 KI-VO)
Anbieter von GPAI-Modellen, die die FLOP-Schwelle überschreiten, müssen dies der Kommission vor dem Inverkehrbringen des Modells mitteilen.
Inhalt der Notifikation:
- Identität des Anbieters
- Trainingsrechenleistung
- Datum des Inverkehrbringens oder der Bereitstellung
Anbieter können auch freiwillig eine Selbsteinstufung vornehmen, wenn sie meinen, dass ihr Modell systemisches Risiko aufweist.
Zusätzliche Pflichten für Modelle mit systemischem Risiko (Art. 55 KI-VO)
Pflicht 1 — Modellbewertung (Art. 55 Abs. 1 lit. a KI-VO)
Anbieter müssen:
- Das Modell auf der Grundlage standardisierter Protokolle und Tools evaluieren
- Systemische Risiken identifizieren und bewerten
- Red-Teaming-Übungen durchführen, um Adversarial-Risiken zu erkennen
Pflicht 2 — Gegenmaßnahmen (Art. 55 Abs. 1 lit. b KI-VO)
Anbieter müssen angemessene Maßnahmen ergreifen, um festgestellte systemische Risiken zu mindern:
- Technische Schutzmaßnahmen
- Informations- und Sicherheitsrichtlinien
- Kooperation mit anderen Anbietern (gemeinsame Risikobewertung)
Pflicht 3 — Vorfallmeldung (Art. 55 Abs. 1 lit. c KI-VO)
Anbieter von Modellen mit systemischem Risiko müssen schwerwiegende Vorfälle und mögliche Korrektivmaßnahmen unverzüglich der Kommission und der nationalen Behörde melden. Fristen werden durch Durchführungsrechtsakte konkretisiert.
Pflicht 4 — Cybersicherheit (Art. 55 Abs. 1 lit. d KI-VO)
Anbieter müssen ein angemessenes Niveau an Cybersicherheitsschutz sicherstellen — sowohl für das Modell selbst als auch für die physische Infrastruktur.
Verhältnis zu Codes of Practice (Art. 56 KI-VO)
Anbieter von GPAI-Modellen (mit und ohne systemisches Risiko) sollen an der Ausarbeitung von Verhaltenskodizes mitwirken. Für Modelle mit systemischem Risiko können Verhaltenskodizes als Konkretisierung der Pflichten aus Art. 55 KI-VO dienen. → code-of-practice-und-harmonisierte-normen
Hinweis: Keine Rechtsberatung. Mechanische Prüfung anhand vom Nutzer behaupteter Tatsachen. Die KI-VO ist in Auslegung und Konkretisierung dynamisch; Leitlinien der Kommission und Durchführungsrechtsakte sind laufend zu beobachten.
Zentrale Normen (Paragrafenkette)
- Art. 3 Nr. 3/4 KI-VO — Anbieter / Betreiber-Definition
- Art. 5 KI-VO — verbotene Praktiken (absolut ab 02.02.2025)
- Art. 6 i.V.m. Anhang III KI-VO — Hochrisiko-Klassifikation
- Art. 26 KI-VO — Betreiberpflichten
- Art. 99 KI-VO — Bussgelder bis 35 Mio. EUR / 7 % Jahresumsatz
Triage zu Beginn
- Welche Rolle hat das Unternehmen im KI-Lieferkette (Art. 3 KI-VO — Anbieter, Betreiber, Importeur)?
- Liegt ein Hochrisiko-System vor (Art. 6 i.V.m. Anhang III Nr. 1-8 KI-VO)?
- Sind verbotene Praktiken nach Art. 5 KI-VO ausgeschlossen?
- Welche konkreten Pflichten aus dem aktuellen Skill-Kontext sind einschlaegig?
- Ist die Maßnahme nach aktuellem Art. 113- und Digital-Omnibus-Zeitstrahl fristgerecht umgesetzt?
Output-Template — Prüfergebnis
Adressat: Prüfer / Rechtsberater — Tonfall: strukturiert-rechtlich
PRUEFERGEBNIS — GPAI SYSTEMISCHES RISIKO SCHWELLE 10E25 FLOP
[DATUM] — System: [SYSTEMNAME] — Mandant: [NAME MANDANT]
[AKTENZEICHEN]
Gepruefte Norm(en): [Art. 51 Abs. 1 lit. b Rn. 8]
Ergebnis:
[ ] Anforderung erfuellt
[ ] Anforderung nicht erfuellt — Massnahmen erforderlich:
1. [MASSNAHME — Verantwortlicher: NAME — Frist: DATUM]
[ ] Nicht einschlaegig — Begruendung: [BEGRUENDUNG]
Sanktionsrisiko: [NIEDRIG / MITTEL / HOCH — bis [BETRAG] nach Art. 99 KI-VO]
Naechster Skill: [FOLGE-SKILL]
Geprueft: [NAME], [DATUM]
Quellenregel: Entscheidungen nur nach Prüfung einer amtlichen oder frei zugänglichen Quelle mit Gericht, Entscheidungsform, Datum, Aktenzeichen und tragender Aussage ausgeben.