# Ki Risikoassessment > Strukturierte KI-Risikobewertung pro KI-System – Identifikation, Risikoklassifizierung (KI-VO-Trigger + interner Risk-Score), Schadensanalyse (CIA, Fairness/Bias, Sicherheit, Rechtskonformität), Risk-Treatment und Wiedervorlage nach ISO/IEC 23894 und NIST AI RMF. Use when ein KI-System neu eingeführt, wesentlich geändert oder periodisch reassessiert werden soll. - Skill: `borghei/ki-risikoassessment` (Agent Skill, multi-file: 2 files) - Install (CLI): `npx skillmds@latest add borghei/ki-risikoassessment` - Raw SKILL.md: https://api.skillmd.com/api/skills/borghei/ki-risikoassessment/raw - Safety review: pending - Works with: Claude Code, Claude.ai, OpenAI Codex - Category: Coding & Dev Tools - Author: borghei (https://skillmd.com/u/borghei) - Updated: 2026-09-17 - Page: https://skillmd.com/skills/borghei/ki-risikoassessment --- # /ki-governance:ki-risikoassessment ## Zweck Der Skill liefert eine **strukturierte, auditierbare Risikobewertung** für ein konkretes KI-System – als Eingang in das interne KI-Asset-Register und als Entscheidungsgrundlage für Freigabe, Auflagen oder Ablehnung. Methodisch lehnt er sich an **ISO/IEC 23894:2023** (KI-Risikomanagement) und **NIST AI RMF 1.0** (Funktionen GOVERN / MAP / MEASURE / MANAGE) an; die **KI-VO-Risikoklassifizierung** wird als Pflicht-Trigger eingespeist, ohne den dortigen Pflichtenkatalog hier auszubuchstabieren (Querverweis auf `ki-vo-compliance`). ## Eingaben - KI-System-Beschreibung: Zweck, Nutzergruppen, Datenkategorien, Modelltyp (Regel-/ML-/LLM-basiert), Lieferkette (Eigenentwicklung / Closed-Source-SaaS / Open-Source) - Einsatzkontext: Rolle der Organisation (Anbieter / Betreiber / Einführer / Händler), Branche, Bezug zu besonders sensiblen Bereichen (Beschäftigung, Kreditwürdigkeit, Strafverfolgung, Gesundheit, Bildung) - Datenfluss: Trainingsdaten, Input, Output, Speicherorte, Drittlandtransfer - Bisherige Bewertungen (Vorabprüfungen, DSFA, Sicherheitsanalysen) ## Sub-Agent-Architektur Researcher liefert KI-VO-Anker (Art. 5, 6, Anhang III; Art. 26 als Bezugspunkt), DSGVO-Anker (Art. 22, 25, 35), berufsrechtliche Belege und Standards (ISO/IEC 23894, NIST AI RMF, BSI AIC4). Drafter erstellt das Risk-Assessment-Dokument mit Risk-Register, Heatmap-Tabelle und Risk-Treatment-Plan. Reviewer prüft Vollständigkeit der KI-VO-Triggerprüfung, AVV-Abdeckung, DSFA-Auslöser und Wiedervorlage. ## Ablauf ### 1. Systemidentifikation (NIST AI RMF: MAP 1) Pflichtfelder im Risk-Register: | Feld | Inhalt | |---|---| | System-ID | Eindeutige Kennung im KI-Inventar | | Zweck | Konkrete Aufgabe, Nutzergruppen | | Modelltyp / Anbieter | Regel-/ML-/LLM-basiert; Eigen / SaaS / Open Source | | Rolle der Organisation | Anbieter / Betreiber / Einführer / Händler iSv Art. 3 KI-VO | | Datenkategorien | Personenbezug, besondere Kategorien Art. 9 DSGVO, Berufsgeheimnis § 203 StGB | | Lieferkette | Trainingsdaten-Herkunft, Sub-Provider, Drittland | | Lebenszyklusphase | Konzept / Pilot / Produktion / EOL | ### 2. Risikoklassifizierung – zwei Achsen #### a) KI-VO-Risikoklasse (gesetzlicher Trigger) Klassifikation entlang Art. 5, 6 und Anhang III KI-VO als **Pflichten-Trigger**, nicht als interne Risk-Score: - **Verbotene Praxis** (Art. 5 KI-VO) → Einsatz untersagt - **Hochrisiko-System** (Art. 6 KI-VO + Anhang III bzw. Anhang I) → Pflichtkaskade nach KI-VO - **Begrenztes Risiko / Transparenzpflichten** (Art. 50 KI-VO) → Kennzeichnung - **Minimales Risiko** → keine spezifischen KI-VO-Pflichten, aber Art. 4 KI-VO (Schulung) bleibt > Detailprüfung der Pflichten: Skill `/ki-vo-compliance:hochrisiko-klassifizierung`. Hier nur die **Auslösung** dokumentieren. #### b) Interner Risk-Score (ISO/IEC 23894-Logik) Eigene Bewertungsmatrix entlang **Eintrittswahrscheinlichkeit × Schadenshöhe**, je 1–5. Schadensdimensionen: - **Vertraulichkeit** (CIA): Geheimnisbruch, § 203 StGB, Geschäftsgeheimnisse - **Integrität**: Manipulation der Outputs, Prompt-Injection, Datenvergiftung - **Verfügbarkeit**: Ausfall, Anbieter-Lock-in, Modellabkündigung - **Fairness / Bias**: Diskriminierung iSv AGG, mittelbare Benachteiligung - **Sicherheit (Safety)**: physische / wirtschaftliche Schäden - **Rechtskonformität**: KI-VO, DSGVO, Berufsrecht, Wettbewerbsrecht - **Reputation**: Vertrauensschaden, Aufsichtsverfahren ### 3. Schadensszenarien und Bias-Analyse Pro Szenario: Ursache → Ereignis → Schaden → Eintrittswahrscheinlichkeit → Schadenshöhe → Risk-Score. Fairness-Analyse nach Schutzkategorien (§ 1 AGG: Rasse, ethnische Herkunft, Geschlecht, Religion, Behinderung, Alter, sexuelle Identität); zusätzlich Schutz-Proxys (Postleitzahl, Name etc.). ### 4. Datenschutz-Trigger - **DSFA-Pflicht** (Art. 35 DSGVO): DSK-Blacklist, Anhang III KI-VO als Indiz, automatisierte Entscheidung iSv Art. 22 DSGVO - **AVV** (Art. 28 DSGVO) mit jedem externen Anbieter - **Drittlandtransfer** (Art. 44 ff. DSGVO): Angemessenheitsbeschluss / SCC / TIA ### 5. Berufsrechts-Trigger (falls einschlägig) - **§ 43e BRAO**: Auslagerung anwaltlicher Tätigkeiten – Schriftform, Verpflichtung zur Verschwiegenheit - **§ 203 StGB**: Mitwirkende Personen (Abs. 4); ggf. ärztliche / steuerberatende / wirtschaftsprüfende Schweigepflicht ### 6. Risk-Treatment (ISO/IEC 23894, Kapitel 6) Pro identifiziertem Risiko eine der vier Optionen: | Option | Beispiel | |---|---| | **Vermeiden** | System nicht einsetzen, Alternative wählen | | **Mitigieren** | TOMs, menschliche Aufsicht, Bias-Mitigation, Logging | | **Übertragen** | Vertragliche Risikoallokation, Versicherung (KI-Haftpflicht) | | **Akzeptieren** | Restrisiko dokumentieren, Freigabeentscheidung der Geschäftsleitung | ### 7. Wiedervorlage Mindestens **jährlich**; bei Hochrisiko-Systemen iSd KI-VO **halbjährlich**; bei wesentlicher Änderung (Modellupdate, neue Datenquelle, neue Nutzergruppe) **sofort**. ## Quellen und Zitierweise Verbindlich: [`../../../references/zitierweise.md`](../../../references/zitierweise.md). ### Unions- und nationales Recht - [VO (EU) 2024/1689 (KI-VO)](https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:32024R1689) – insb. Art. 3 (Begriffe), Art. 4 (Schulung), Art. 5 (verbotene Praktiken), Art. 6 + Anhang III (Hochrisiko), Art. 50 (Transparenz). **Pflichtenprüfung erfolgt im Plugin [`ki-vo-compliance`](../../../ki-vo-compliance/README.md).** - [Art. 22 DSGVO](https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:32016R0679#d1e2839-1-1) (automatisierte Entscheidung im Einzelfall) - [Art. 25 DSGVO](https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:32016R0679#d1e2992-1-1) (Datenschutz durch Technikgestaltung) - [Art. 28 DSGVO](https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:32016R0679#d1e3104-1-1) (Auftragsverarbeitung) - [Art. 35 DSGVO](https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:32016R0679#d1e3478-1-1) (DSFA) - [§ 1 AGG](https://www.gesetze-im-internet.de/agg/__1.html) - [§ 43e BRAO](https://www.gesetze-im-internet.de/brao/__43e.html) (Auslagerung) - [§ 203 StGB](https://www.gesetze-im-internet.de/stgb/__203.html) (Schweigepflicht) ### Industrie-Standards - **ISO/IEC 23894:2023** – Information technology — Artificial intelligence — Guidance on risk management ([iso.org](https://www.iso.org/standard/77304.html)) - **ISO/IEC 22989:2022** – AI concepts and terminology - **ISO/IEC 42001:2023** – AI Management System (für Einbettung des Assessments) - **NIST AI RMF 1.0** (Januar 2023) inkl. GenAI Profile (Juli 2024) – [nist.gov/itl/ai-risk-management-framework](https://www.nist.gov/itl/ai-risk-management-framework) - **BSI AIC4** (Stand 2021) – Artificial Intelligence Cloud Service Compliance Criteria Catalogue ### Kommentare - Keller, in: Keller/Kapoor, KI-VO, 1. Aufl. 2025, Art. 6 Rn. 1 ff. `[unverifiziert – prüfen]` - Martini, in: Hartmann/Hilgendorf, KI-Recht, 2024, Kap. zu Risikoklassifizierung `[unverifiziert – prüfen]` - Buchner/Petri, in: Kühling/Buchner, DSGVO/BDSG, 4. Aufl. 2024, Art. 22 Rn. 1 ff. - Bertermann, in: Ehmann/Selmayr, DSGVO, 3. Aufl. 2024, Art. 35 Rn. 1 ff. `[unverifiziert – prüfen]` ### Rechtsprechung (`[unverifiziert – prüfen in Beck-Online / juris / curia.europa.eu]`) 1. EuGH, Urt. v. 07.12.2023 – C-634/21, ECLI:EU:C:2023:957 (SCHUFA / Scoring iSv Art. 22 DSGVO) 2. BAG zur Mitbestimmung bei IT-Systemen, § 87 I Nr. 6 BetrVG (Kammer- und Senatsentscheidungen, jeweils einzelfallbezogen) ## Ausgabeformat ``` KI-RISIKOASSESSMENT System: | Stand: | Assessor: I. Systemidentifikation - Zweck / Nutzergruppen - Modelltyp / Anbieter / Lieferkette - Rolle der Organisation (Art. 3 KI-VO) - Datenkategorien (inkl. Art. 9 DSGVO / § 203 StGB) II. Risikoklassifizierung a) KI-VO-Trigger: [verboten / Hochrisiko / begrenzt / minimal] → Pflichtprüfung in /ki-vo-compliance b) Interner Risk-Score (1–25 je Dimension) Vertraulichkeit / Integrität / Verfügbarkeit / Fairness / Sicherheit / Rechtskonformität / Reputation III. Schadensszenarien IV. Datenschutz-Trigger - DSFA-Pflicht Art. 35 DSGVO: ja/nein – Begründung - AVV Art. 28 DSGVO: vorhanden/fehlt - Drittlandtransfer: Mechanismus V. Berufsrechts-Trigger (falls einschlägig) - § 43e BRAO / § 203 StGB / Spezialgesetz VI. Risk-Treatment VII. Restrisiko und Freigabeempfehlung 🟢 / 🟡 / 🔴 mit Begründung VIII. Wiedervorlage Datum: IX. Quellenverzeichnis ``` ## Risiken / typische Fehler - **KI-VO-Pflichten inhaltlich doppeln** statt querzuverweisen – Pflege-Aufwand und Widersprüche. - **Risk-Score ohne nachvollziehbare Skala** (5×5-Matrix dokumentieren). - **Bias-Analyse auf § 1 AGG verkürzen** – Proxy-Variablen (z. B. Postleitzahl, Name) werden übersehen. - **AVV vergessen**, weil das KI-Tool als „nur Software" wahrgenommen wird – LLM-as-a-Service ist idR Auftragsverarbeitung. - **§ 43e BRAO / § 203 StGB nicht adressiert** bei anwaltlicher / ärztlicher Mandantin. - **Wiedervorlage unbestimmt** ("nach Bedarf") – konkrete Frist setzen. - **Standards als „Pflicht" framen**, obwohl sie freiwillig sind (Ausnahme: harmonisierte Normen Art. 40 KI-VO – Vermutungswirkung, nicht Verbindlichkeit).