Klotzkette Marktüberwachung und Vorfallmeldung — Art. 72 bis 79 KI-VO
Teil 1 — Post-Market-Monitoring (Art. 72 KI-VO)
Pflicht des Anbieters
Anbieter von Hochrisiko-KI-Systemen müssen ein System für die Überwachung nach dem Inverkehrbringen einrichten, in Betrieb nehmen und aktiv betreiben. Dieses System muss:
- Aktiv und systematisch relevante Daten über die Systemleistung erheben und analysieren
- Bekannte oder neue Risiken und Fehlfunktionen identifizieren
- Die Ergebnisse dokumentieren
Post-Market-Monitoring-Plan
Der Plan ist Bestandteil der technischen Dokumentation nach Anhang IV. Er muss mindestens enthalten:
- Beschreibung der Überwachungsmethodik
- Art und Umfang der zu erhebenden Daten (unter Beachtung von DSGVO)
- Verfahren zur Auswertung und Rückmeldung
- Kriterien für die Einleitung korrektiver Maßnahmen
Pflicht des Betreibers
Betreiber müssen den Anbieter mit relevanten Daten über die Systemperformance im Betrieb versorgen, soweit dies vertraglich vereinbart oder gesetzlich vorgeschrieben ist.
Prüffragen:
- Gibt es einen dokumentierten Post-Market-Monitoring-Plan?
- Werden Daten systematisch erhoben und ausgewertet?
- Gibt es einen Prozess zur Meldung relevanter Befunde an den Anbieter?
Teil 2 — Meldung schwerwiegender Vorfälle (Art. 73 KI-VO)
Was ist ein schwerwiegender Vorfall?
Ein schwerwiegender Vorfall (serious incident) liegt vor, wenn ein Hochrisiko-KI-System:
- Den Tod einer Person verursacht hat oder verursacht haben kann
- Zu einer schwerwiegenden Beeinträchtigung der Gesundheit oder Sicherheit geführt hat
- Die Verletzung von Grundrechten zur Folge hatte
- Erheblichen Sachschaden verursacht hat
Prüffragen:
- Gab es Berichte über Systemfehler mit Auswirkungen auf Gesundheit, Sicherheit oder Grundrechte?
- Gibt es ein Verfahren zur Identifikation und Eskalation solcher Vorfälle?
Meldefristen
Anbieter müssen schwerwiegende Vorfälle der nationalen Marktüberwachungsbehörde des Mitgliedstaats melden, in dem der Vorfall aufgetreten ist:
- Unmittelbar nach Kenntnisnahme, wenn der Vorfall lebensbedrohlich oder tödlich war
- Innerhalb von 15 Tagen nach Kenntnisnahme in anderen Fällen
- Innerhalb von 72 Stunden bei Vorfällen, die eine unmittelbare Reaktion erfordern
Betreiber müssen schwerwiegende Vorfälle unverzüglich dem Anbieter melden.
Inhalt der Meldung
- Identifikation des Systems und des Anbieters
- Beschreibung des Vorfalls (Zeitpunkt, Ort, Art)
- Betroffene Personen und Schäden
- Umgehend eingeleitete Maßnahmen
- Ursachenanalyse (soweit bereits verfügbar)
Teil 3 — Marktüberwachungsmaßnahmen (Art. 74 bis 79 KI-VO)
Befugnisse der nationalen Behörden
Nationale Marktüberwachungsbehörden können:
- Informationen anfordern und Vor-Ort-Prüfungen durchführen (Art. 74 KI-VO)
- Korrekturmaßnahmen anordnen (Nachbesserung, Rückruf, Marktrücknahme)
- Den Betrieb eines Systems aussetzen oder untersagen
- Im Notfall unverzügliche Schutzmaßnahmen ergreifen (Art. 80 KI-VO)
Schutzklausel-Verfahren (Art. 76 und 77 KI-VO)
Wenn eine nationale Behörde ein System als Risiko einstuft und Maßnahmen ergreift, informiert sie die Kommission und andere Mitgliedstaaten. Dies kann zu einem EU-weiten Verfahren führen.
Hinweis: Keine Rechtsberatung. Mechanische Prüfung anhand vom Nutzer behaupteter Tatsachen. Die KI-VO ist in Auslegung und Konkretisierung dynamisch; Leitlinien der Kommission und Durchführungsrechtsakte sind laufend zu beobachten.
Zentrale Normen (Paragrafenkette)
- Art. 3 Nr. 3/4 KI-VO — Anbieter / Betreiber-Definition
- Art. 5 KI-VO — verbotene Praktiken (absolut ab 02.02.2025)
- Art. 6 i.V.m. Anhang III KI-VO — Hochrisiko-Klassifikation
- Art. 26 KI-VO — Betreiberpflichten
- Art. 99 KI-VO — Bussgelder bis 35 Mio. EUR / 7 % Jahresumsatz
Triage zu Beginn
- Welche Rolle hat das Unternehmen im KI-Lieferkette (Art. 3 KI-VO — Anbieter, Betreiber, Importeur)?
- Liegt ein Hochrisiko-System vor (Art. 6 i.V.m. Anhang III Nr. 1-8 KI-VO)?
- Sind verbotene Praktiken nach Art. 5 KI-VO ausgeschlossen?
- Welche konkreten Pflichten aus dem aktuellen Skill-Kontext sind einschlaegig?
- Ist die Maßnahme nach aktuellem Art. 113- und Digital-Omnibus-Zeitstrahl fristgerecht umgesetzt?
Output-Template — Prüfergebnis
Adressat: Prüfer / Rechtsberater — Tonfall: strukturiert-rechtlich
PRUEFERGEBNIS — MARKTUEBERWACHUNG MELDUNG VORFAELLE ART 72 BIS 79
[DATUM] — System: [SYSTEMNAME] — Mandant: [NAME MANDANT]
[AKTENZEICHEN]
Gepruefte Norm(en): [Art. 72 Rn. 3]
Ergebnis:
[ ] Anforderung erfuellt
[ ] Anforderung nicht erfuellt — Massnahmen erforderlich:
1. [MASSNAHME — Verantwortlicher: NAME — Frist: DATUM]
[ ] Nicht einschlaegig — Begruendung: [BEGRUENDUNG]
Sanktionsrisiko: [NIEDRIG / MITTEL / HOCH — bis [BETRAG] nach Art. 99 KI-VO]
Naechster Skill: [FOLGE-SKILL]
Geprueft: [NAME], [DATUM]
Quellenregel: Entscheidungen nur nach Prüfung einer amtlichen oder frei zugänglichen Quelle mit Gericht, Entscheidungsform, Datum, Aktenzeichen und tragender Aussage ausgeben.