/ki-folgenabschätzung – KI-Folgenabschätzung
Arbeitsweg
- Rolle, Ziel und gewünschtes Arbeitsprodukt klären: Wer handelt, welche Entscheidung steht an, welche Frist läuft und welcher Output wird gebraucht?
- Fristen und Eilrisiken zuerst markieren: KI-VO Geltungsbeginn gestaffelt (02.02.2025 Verbote, 02.08.2025 GPAI, 02.08.2026 Hochrisiko Anhang III), schwerwiegender Vorfall 15 Tage, DSGVO DPIA vorab.
- Tragende Normen verifizieren: EU KI-VO 2024/1689 Art. 9, 10, 14, 22, 27, 50, ISO/IEC 42001, NIST AI RMF 1.0, OECD AI Principles, DSGVO Art. 22, 35, Produkthaftungs-RL 2024/2853 — Fundstellen über gesetze-im-internet.de, dejure.org, openJur, BVerfG-/BGH-/EuGH-Datenbank live prüfen; keine Modellwissen-Zitate.
- Zuständige Stelle bestimmen und Adressaten richtig wählen: Geschäftsleitung, KI-Officer, Datenschutzbeauftragter, Compliance, Aufsichtsrat, Marktüberwachung, externer Auditor, betroffene Personen.
- Dokumente und Beweismittel sammeln und auf Lücken prüfen: KI-Inventar, Risikoanalyse, FRIA (Fundamental Rights Impact Assessment), AI Governance Policy, Modellkarten, Audit-Bericht, DSGVO-DPIA, Schulungsnachweis — fehlende Belege durch Akteneinsicht oder Rückfrage beim Mandanten beschaffen, Live-Check für tagesaktuelle Normänderungen und Verwaltungspraxis.
Eingaben
- Konfiguration aus
~/.claude/plugins/config/claude-fuer-deutsches-recht/ki-governance/CLAUDE.md
(Hausformat Folgenabschätzung, Use-Case-Register, regulatorischer Fußabdruck)
- Systembeschreibung oder Triage-Ergebnis
- Seed-Folgenabschätzung (sofern im Setup übergeben)
Rechtlicher Rahmen
Kernvorschriften
- Art. 27 KI-VO (VO 2024/1689) — Folgenabschätzung für Grundrechte (FRIA): Betreiber hochriskanter KI-Systeme, insbesondere öffentliche Stellen sowie private Stellen, die öffentlich finanzierte Dienste erbringen oder Kreditwürdigkeitsbewertungen vornehmen, sind zur Durchführung verpflichtet.
- Art. 35 DSGVO — Datenschutz-Folgenabschätzung (DSFA): Pflicht bei hohem Risiko für Rechte und Freiheiten natürlicher Personen, insbesondere bei automatisierten Entscheidungen (Art. 22 DSGVO), Profiling oder Verarbeitung besonderer Datenkategorien (Art. 9 DSGVO).
- Art. 22 DSGVO — Automatisierte Einzelentscheidungen mit Rechtswirkung oder erheblicher Beeinträchtigung; nur bei Vorliegen einer Rechtsgrundlage nach Abs. 2 lit. a–c zulässig.
- Art. 26, Art. 6 i.V.m. Anhang III KI-VO — Betreiberpflichten bei Hochrisiko-KI; Klassifikation nach Anhang III bestimmt Pflichtumfang.
- § 26 BDSG — Beschäftigtendatenschutz; bei KI-Systemen zur Mitarbeiterüberwachung oder -bewertung einschlägig.
- § 44b UrhG, Art. 4 DSM-RL — Text- und Data-Mining-Schranke; Opt-out-Mechanismus bei Trainingsdaten.
- § 203 StGB — Berufsgeheimnis; KI-Einsatz in der Kanzlei muss mit Mandantenvertraulichkeit vereinbar sein.
Kommentare
- Keine Kommentar-, Handbuch- oder Aufsatzfundstellen aus Modellwissen zitieren. Literatur nur nutzen, wenn der Nutzer die Quelle bereitstellt oder ein lizenzierter Live-Zugriff sie verifiziert.
- Wendehorst/Grinzinger, in: Wendehorst/Grinzinger, AI Act, 1. Aufl. 2024, Art. 27 Rn. 3 (FRIA-Anforderungen für Betreiber).
Ablauf
- Praxisprofil lesen; Hausformat Folgenabschätzung bestätigen.
- Risikotrack bestimmen (vereinfacht oder vollständig) anhand Governance-Stufe und
Systemeigenschaften.
- Aufnahme führen – gesprächig, kein Formular.
- Regulierungsklassifizierung für jeden einschlägigen Rechtsakt im Fußabdruck – Risikoklasse,
Verbots-Exposition, anwendbare Pflichten; Primärquellen zitieren.
- Abschätzung im Hausformat schreiben.
- Richtlinien-Diff gegen KI-Governance-Commitments in CLAUDE.md.
- Ausgabe: Abschätzungsdokument + Bedingungsliste + Übergabe-Flags (Datenschutz DSFA,
Vendor-Review bei Bedarf).
Mandate-Kontext
Mandate-Workspaces-Einstellung aus CLAUDE.md prüfen. Bei aktivierten Workspaces und fehlendem
aktivem Mandat fragen: "Für welches Mandat? Oder Praxisebene?" Ausgaben in den Mandatsordner
schreiben.
Schritt 0: Ist eine Folgenabschätzung erforderlich?
Auslöserkriterien aus CLAUDE.md prüfen.
Unabhängig davon stets prüfen:
- Trifft die KI eine oder beeinflusst sie wesentlich eine Entscheidung, die eine Person
betrifft (Beschäftigung, Kredit, Zugang, Preisgestaltung, Content-Moderation)?
- Verarbeitet die KI personenbezogene Daten von Personen?
- Handelt es sich um ein kundenseitiges KI-System und nicht rein intern?
- Nutzt die KI ein Drittanbieter-Modell, bei dem das Unternehmen Betreiber ist?
- Liegt der Anwendungsfall in der Erhöhten oder Hohen Governance-Stufe?
- Ist das System nach Art. 6 KI-VO i.V.m. Anhang III als hochriskant eingestuft?
Wenn nichts zutrifft und der Hausauslöser nicht greift:
"Eine vollständige Folgenabschätzung scheint nicht erforderlich. Hier ein Absatz für die
Akte, der erklärt warum – für den Fall, dass jemand fragt."
Schritt 1: Risikotrack
Vor der Aufnahme Track bestimmen. Tier-Definitionen aus CLAUDE.md (## Use-Case-Register
und ## Governance-Stufen), nicht aus einem fest codierten Rahmen.
Vereinfachter Track – Standard-Governance-Stufe, kein EU-Nexus, keine Hochrisiko-Klasse,
kein Art. 35 DSGVO-Auslöser.
Vollständige Abschätzung – Erhöhte oder Hohe Governance-Stufe, EU-Nexus, Hochrisiko-Klasse
nach KI-VO oder Art. 35-Auslöser.
Im Zweifel vollständige Abschätzung. Ein vereinfachter Track, der sich als falsch erweist,
ist schlechter als eine gründliche Abschätzung für etwas mit niedrigem Risiko.
Schritt 2: Aufnahme
Vor dem Schreiben Antworten auf folgende Fragen einholen. Gesprächig – kein Formular.
Das System
- Was tut die KI? In Alltagssprache, nicht Marketingtext.
- Welches Modell oder welcher Anbieter treibt es an? Fine-tuned oder off-the-shelf?
- Wo sitzt es im Arbeitsablauf – assistierend (Mensch prüft Ausgabe), augmentierend (Mensch kann
übersteuern, tut es aber meist nicht) oder automatisiert (kein Mensch im Ablauf)?
- Was ist die Ausgabe – generierter Text, ein Score, eine Klassifizierung, eine Empfehlung,
eine Aktion?
Betroffene Personen
- Wen betreffen die Ausgaben der KI – Mitarbeiter, Kunden, Dritte?
- Wenn die KI einen Fehler macht (False Positive, False Negative, Halluzination), wen
trifft der Schaden und was ist der schlimmste realistische Fall?
- Sind schutzbedürftige Gruppen unverhältnismäßig betroffen – Minderjährige, Bewerber,
Personen in finanzieller Not, Patienten?
Eingaben und Daten
- Welche Daten verarbeitet die KI?
- Verarbeitet sie personenbezogene Daten? Von wem? (Art. 4 Nr. 1 DSGVO)
- Wurde das Modell auf Unternehmensdaten trainiert oder ist es ein Foundation Model ohne
unternehmensspezifisches Training?
- Wohin gehen Eingabedaten – verlassen sie den Perimeter an eine Drittanbieter-Modell-API?
(Auftragsverarbeitung Art. 28 DSGVO prüfen)
- Trainingsdaten-Transparenz: Falls eigene Daten zum Training verwendet wurden, UrhG-Prüfung
(§ 44b UrhG, Art. 4 DSM-RL Text- und Data-Mining-Schranke) und GeschGehG-Prüfung.
Entscheidungsfindung und Aufsicht
- Löst die KI-Ausgabe automatisch eine Aktion aus, oder entscheidet ein Mensch?
(Automatisierte Entscheidungsfindung Art. 22 DSGVO prüfen)
- Falls menschliche Prüfung: Wie oft ändert der Mensch tatsächlich die Ausgabe der KI?
(Wenn "selten" – der Mensch prüft nicht wirklich; er stempelt ab.)
- Gibt es ein Widerspruchs- oder Korrekturverfahren für betroffene Personen? (Art. 22 Abs. 3
DSGVO; Art. 26 Abs. 6 KI-VO)
- Wer ist für die Ausgaben des KI-Systems verantwortlich – gibt es einen benannten Eigentümer?
Genauigkeit und Fehler
- Was ist die bekannte oder geschätzte Fehlerrate? Welche Tests wurden durchgeführt?
- Was passiert, wenn die KI falsch liegt – wird der Fehler angezeigt, protokolliert, korrigiert?
- Wurden Bias-Tests durchgeführt? Gegenüber welchen demografischen Gruppen?
Einsatzstufe und Umfang
- Stufe: Geplant und noch nicht gebaut / Pilotbetrieb / Live in Produktion / Live und skaliert?
- Umfang: Wie viele Personen sind ca. pro Monat/Jahr betroffen?
- Verlauf: Wurde es bereits bewertet? Gab es Entscheidungen, die angefochten oder
aufgehoben wurden?
Schritt 3: Regulierungsklassifizierung
Schritt 3 Vorprüfung – Fußabdruckaktualität. Betroffene Bevölkerungsgruppe und Entscheidungstyp
aus Schritt 2 gegen erfassten regulatorischen Fußabdruck prüfen. Falls der Anwendungsfall eine
neue betroffene Gruppe oder einen neuen Entscheidungstyp einführt, Regime neu ableiten statt
veralteten Fußabdruck zu iterieren.
Für jeden einschlägigen Rechtsakt im Fußabdruck:
KI-VO (VO 2024/1689):
- Risikoklasse nach Art. 6 KI-VO i.V.m. Anhang III
[prüfen]
- Verbotene Praktiken Art. 5 KI-VO
[prüfen]
- Betreiberpflichten Art. 26 KI-VO (technische Dokumentation, Protokollierung, menschliche
Aufsicht, Unterrichtung von Arbeitnehmern)
[prüfen]
- FRIA Art. 27 KI-VO – erforderlich? (Öffentliche Stellen oder öffentlich finanzierte private
Dienste; Kreditwürdigkeit; Lebens-/Krankenversicherungs-Risikobewertung)
[prüfen]
- Transparenzpflichten Art. 50 KI-VO (Chatbot-Offenlegung, Deepfake-Kennzeichnung)
[prüfen]
DSGVO / BDSG:
- DSFA-Pflicht Art. 35 DSGVO – bei hohem Risiko für Rechte und Freiheiten, insbesondere bei
automatisierten Entscheidungen (Art. 22), Profiling, Verarbeitung besonderer Kategorien
(Art. 9)
[prüfen]
- Auftragsverarbeitung Art. 28 DSGVO bei Drittanbietern
[prüfen]
- Automatisierte Entscheidungsfindung Art. 22 DSGVO
[prüfen]
- Beschäftigtendatenschutz § 26 BDSG bei Mitarbeiter-KI
[prüfen]
ProdHaftG / Produktsicherheitsrecht:
- KI-System als Produkt i.S.d. ProdHaftG – Herstellerhaftung für fehlerhafte KI-Ausgaben
bei körperlichen Schäden prüfen
[Modellwissen – prüfen]
§ 203 StGB:
- Bei Kanzleieinsatz: Mandantengeheimnis und KI-Einsatz vereinbar? Welche Schutzmechanismen
(On-Premise, Verarbeitung ohne Training) sind vorhanden?
[prüfen]
UrhG / GeschGehG:
- Trainings- oder Input-Daten: § 44b UrhG-Schranke, Art. 4 DSM-RL Opt-out-Mechanismus,
GeschGehG-Schutz für Modellarchitektur und proprietäre Daten
[prüfen]
Schritt 4: Abschätzung schreiben
Seed-Struktur aus CLAUDE.md verwenden. Falls keine erfasst, diese Grundstruktur:
[ARBEITSPRODUKT-HEADER – gemäß Plugin-Konfiguration]
### KI-Folgenabschätzung: [System-/Funktionsname]
**Erstellt von:** [Name] | **Datum:** [Datum] | **Status:** ENTWURF / GENEHMIGT
**Systemeigentümer:** [Name] | **KI-Governance-Prüfer:** [Name]
**Governance-Stufe:** [Standard / Erhöht / Hoch]
**Track:** [Vereinfacht / Vollständig]
**Instrument:** [FRIA nach Art. 27 KI-VO / DSFA nach Art. 35 DSGVO / Beide]
---
## Zusammenfassung
[Zwei Sätze: Was tut diese KI und ist der Einsatz vertretbar? Z. B. "Dieses System nutzt
ein Drittanbieter-KI-System, um Erstentwürfe für Kundensupport-Antworten vor menschlicher Prüfung
zu erstellen. Die Verarbeitung ist mit der KI-Richtlinie des Unternehmens vereinbar;
drei Bedingungen vor dem Produktiveinsatz erforderlich."]
**Gesamtrisiko:** 🟢 Niedrig / 🟡 Mittel / 🟠 Hoch / 🔴 Sehr hoch
---
## 1. Systembeschreibung
**Funktion:** [Alltagssprache – kein Marketing]
**Modell / Anbieter:** [Wer liefert die KI]
**Einsatzmodus:** [Assistierend / Augmentierend / Automatisiert]
**Ausgabetyp:** [Text / Score / Klassifizierung / Empfehlung / Aktion]
**Status:** [Nicht gestartet / Pilotbetrieb / Produktion]
---
## 2. Betroffene Personen
**Wen es betrifft:** [Mitarbeiter / Kunden / Dritte]
**Umfang:** [Wie viele Personen, wie oft]
**Schaden bei Fehler:** [Realistischster Worst Case – konkret, nicht generisch]
**Schutzbedürftige Gruppen betroffen:** [Ja – [wer] / Nein]
---
## 3. Dateneingaben (DSGVO-relevant)
**Datenkategorien:** [Konkrete Felder, nicht "Nutzerdaten"]
**Personenbezogene Daten:** [Ja – [von wem] / Nein]
**Daten verlassen Perimeter?** [Ja – an [Anbieter] / Nein]
**Auftragsverarbeitung Art. 28 DSGVO:** [Vereinbarung vorhanden / Erforderlich / Entfällt]
**Modell-Training:** [Unternehmensdaten verwendet / Foundation Model / Fine-tuned auf [Datensatz]]
**UrhG § 44b / Art. 4 DSM-RL:** [Opt-out erklärt / Prüfung erforderlich / Entfällt] `[prüfen]`
**GeschGehG:** [Schutz proprietärer Daten sichergestellt / Prüfung erforderlich] `[prüfen]`
---
## 4. Entscheidungsfindung und Aufsicht
**Mensch im Ablauf:** [Immer / Nominell (Stempel-Risiko) / Nein]
**Übersteuerungsmechanismus:** [Wie ein Mensch eingreifen oder korrigieren kann]
**Art. 22 DSGVO anwendbar?** [Ja – vollautomatisierte Entscheidung / Nein] `[prüfen]`
**Widerspruchs-/Korrekturverfahren:** [Ja – [wie] / Nein]
**Benannter Eigentümer:** [Name oder Rolle]
---
## 5. Genauigkeit und Verzerrungen
**Fehlerrate:** [Bekannt / Geschätzt / Nicht getestet]
**Fehlermodus:** [Was passiert, wenn die KI falsch liegt – angezeigt? protokolliert? korrigiert?]
**Bias-Test:** [Durchgeführt – [Ergebnisse] / Nicht durchgeführt / Nicht zutreffend]
---
## 6. Regulierungsklassifizierung
### 6.1 KI-VO (VO 2024/1689)
**Klassifizierung:** [Klasse + Pinpoint-Zitat der maßgeblichen Bestimmung] `[prüfen]`
**Verbotene Praktiken ausgelöst?** [Keine erkannt / [konkrete Bestimmung und warum]] `[prüfen]`
**Anwendbare Betreiberpflichten:** [Art. 26 KI-VO – Liste mit Zitaten] `[prüfen]`
**FRIA Art. 27 KI-VO erforderlich?** [Ja – separate Lieferung / Nein / Prüfung erforderlich] `[prüfen]`
**Art. 50 Transparenzpflichten:** [Offenlegung erforderlich / Entfällt] `[prüfen]`
**Inkrafttreten/Durchsetzungsdatum:** [Datum(en)] `[prüfen]`
**Offene Auslegungsfragen:** [Markierungen]
### 6.2 DSGVO / BDSG
**DSFA Art. 35 DSGVO erforderlich?** [Ja – gesonderte Durchführung / Nein] `[prüfen]`
**Art. 22 DSGVO (automatisierte Entscheidung):** [Greift / Greift nicht / Prüfung erforderlich] `[prüfen]`
**Art. 28 DSGVO (Auftragsverarbeitung):** [AVV abgeschlossen / Erforderlich / Entfällt] `[prüfen]`
**§ 26 BDSG (Beschäftigtendatenschutz):** [Einschlägig / Nicht einschlägig] `[prüfen]`
### 6.3 Sonstige einschlägige Rechtsakte
**ProdHaftG:** [Haftungsanalyse erforderlich / Entfällt] `[prüfen]`
**§ 203 StGB:** [Mandantengeheimnis gewahrt / Schutzmaßnahmen erforderlich] `[prüfen]`
**UrhG § 44b / GeschGehG:** [Trainingsdaten-Compliance sichergestellt / Prüfung erforderlich] `[prüfen]`
---
## 7. Richtlinien-Konsistenz
| Richtlinien-Commitment | Konsistent? | Hinweise |
|---|---|---|
| [Commitment aus CLAUDE.md KI-Richtlinien-Verpflichtungen] | 🟢 / 🟡 / 🟠 / 🔴 | |
[Falls ein Punkt 🟡 oder schlechter: Richtlinienaktualisierung vor dem Einsatz oder Design-
Änderung erforderlich. Einer von beiden muss sich ändern – nicht beides markiert lassen.]
---
## 8. Risiken und Mitigationen
| # | Risiko | Eintrittswahrscheinlichkeit | Auswirkung | Mitigation | Status | Eigentümer |
|---|---|---|---|---|---|---|
| 1 | [Konkretes Risiko, das an diesem Design haftet – nicht generisch "KI-Halluzination"] | N/M/H | N/M/H | [Konkrete Maßnahme] | Erledigt / Geplant / Lücke | [Name] |
**Restrisiko nach Mitigationen:** [Bewertung]
---
## 9. Empfehlung
**[GENEHMIGT / GENEHMIGT MIT BEDINGUNGEN / ÄNDERUNGEN ERFORDERLICH / NICHT GENEHMIGT]**
**Bedingungen (sofern vorhanden):**
- [ ] [Konkrete Maßnahme vor dem Einsatz – Eigentümer, Frist]
**DSFA Art. 35 DSGVO erforderlich?** [Ja – Datenschutzrecht-Plugin ausführen / Nein]
**FRIA Art. 27 KI-VO als separate Lieferung?** [Ja / Nein]
**Vendor-AI-Review erforderlich?** [Ja – `/ki-governance:ki-anbieter-prüfung` / Nein]
**Freigabe:** [Name, Datum]
---
## Zitatprüfung
Regulierungszitate in Abschnitt 6 wurden von einem KI-Modell generiert und nicht gegen
Primärquellen verifiziert. Vor Zertifizierung oder Nutzung der Abschätzung jeden zitierten
Artikel gegen EUR-Lex oder Gesetze im Internet prüfen: Pinpoint, Aktualität, Durchführungsakte.
`[Modellwissen – prüfen]`-Markierungen tragen das höchste Fabrikationsrisiko und sollten
zuerst geprüft werden.
Beispiel
Anfrage: "Wir wollen einen Chatbot für die Erstberatung von Mandanten einsetzen — was müssen wir prüfen?"
Ablauf:
- Risikotrack: Vollständig (erhöhte Governance-Stufe; Drittanbieter-KI-System; Mandantendaten).
- Art. 6 Abs. 2 KI-VO i. V. m. Anhang III: Typischer Mandanten-Erstberatungs-Chatbot ist nicht schon deshalb Hochrisiko, weil er ein allgemeines KI-System nutzt. Entscheidend ist die Zweckbestimmung: Hochrisiko erst bei Einsatz für einen Anhang-III-Zweck, etwa Justiz-/Rechtsdurchsetzungsentscheidung, Beschäftigung, Kreditwürdigkeit oder Zugang zu wesentlichen Diensten.
- DSFA Art. 35 DSGVO: Prüfung erforderlich — Verarbeitung von Mandantendaten durch Drittanbieter-API (Art. 28 DSGVO); mögliche automatisierte Empfehlungen.
- Art. 50 KI-VO: Chatbot-Offenlegungspflicht gegenüber Mandanten.
- § 203 StGB: Mandantengeheimnis — Auftragsverarbeitungsvertrag mit KI-Anbieter erforderlich, Verarbeitung ohne Training sicherstellen.
Ergebnis: GENEHMIGT MIT BEDINGUNGEN — Art. 28 DSGVO AVV abschließen; Chatbot-Offenlegung implementieren; DSFA durchführen; Mandanteneinwilligung einholen.
Quellenpflicht
Verbindliche Zitierweise gemäß ../references/zitierweise.md.
Leitende Normen:
- Art. 27 KI-VO (VO 2024/1689) – FRIA
[Primärquelle – EUR-Lex]
- Art. 35 DSGVO – DSFA
[Primärquelle – EUR-Lex]
- Art. 5, 6, 14, 26, 50 KI-VO
[Primärquelle – EUR-Lex]
- Art. 22, 28 DSGVO – Automatisierte Entscheidungen, Auftragsverarbeitung
[Primärquelle – EUR-Lex]
- § 26 BDSG – Beschäftigtendatenschutz
[Primärquelle – gesetze-im-internet.de]
- § 44b UrhG – Text- und Data-Mining-Schranke
[Primärquelle – gesetze-im-internet.de]
- Art. 4 Richtlinie (EU) 2019/790 (DSM-RL) – Text- und Data-Mining
[Primärquelle – EUR-Lex]
- § 203 StGB – Mandantengeheimnis
[Primärquelle – gesetze-im-internet.de]
Leitentscheidungen:
- Keine Kommentar-, Handbuch- oder Aufsatzfundstellen aus Modellwissen zitieren. Literatur nur nutzen, wenn der Nutzer die Quelle bereitstellt oder ein lizenzierter Live-Zugriff sie verifiziert.
- Frenzel, in: Paal/Pauly, DSGVO BDSG, 3. Aufl. 2021, Art. 22 Rn. 12
- Wendehorst/Grinzinger, AI Act, 1. Aufl. 2024, Art. 27 Rn. 3 (FRIA-Anforderungen)
Risiken / typische Fehler
- FRIA und DSFA verwechseln. Beide Instrumente explizit kennzeichnen und als getrennte
Lieferungen behandeln, wenn beide erforderlich sind.
- Art. 22 DSGVO ignorieren. Bei automatisierten Entscheidungen immer auf vollständige
Automatisierung prüfen – auch bei nominell menschlicher Prüfung (Stempel-Risiko).
- Pinpoint-Zitate ohne Prüfung. Artikel-Nummern der KI-VO haben sich während der
Konsolidierung verschoben; jeden Pinpoint gegen den Amtsblatttext prüfen.
- Zu viele generische Risiken. Ziel: 2–5 echte, am Design haftende Risiken, nicht 12
aufgeblähte.
- Zertifizierung ohne Anwalt (bei Nicht-Juristen). Vor Genehmigungsstempel auf
Anwaltsprüfung bestehen.
Triage zu Beginn
- Liegt ein Hochrisiko-KI-System nach Art. 6 KI-VO i.V.m. Anhang III vor (Nr. 1-8)?
- Ist eine DSFA nach Art. 35 DSGVO erforderlich — automatisierte Entscheidung, Profiling, Art. 9-Daten?
- Sind personenbezogene Daten betroffen — verlassen sie den Perimeter an Drittanbieter-API?
- Handelt es sich um eine öffentliche Stelle oder einen öffentlich finanzierten Dienst (FRIA Art. 27 KI-VO)?
- Ist der Einsatz assistierend oder vollautomatisiert — Stempel-Risiko beim nominellen Human-Review?
Output-Template — Folgenabschaetzungs-Zusammenfassung
Adressat: Systemeigentuemer / Governance-Team — Tonfall: strukturiert-berichtend
KI-FOLGENABSCHAETZUNG — ZUSAMMENFASSUNG
[DATUM] — System: [SYSTEMNAME] — Status: ENTWURF / GENEHMIGT
Governance-Stufe: [Standard / Erhoeht / Hoch]
Instrument: [FRIA Art. 27 KI-VO / DSFA Art. 35 DSGVO / Beide]
GESAMTRISIKO: [NIEDRIG / MITTEL / HOCH / SEHR HOCH]
KLASSIFIZIERUNG:
- KI-VO: [Risikoklass + Art./Anhang-III-Nr.]
- DSGVO Art. 22: [Einschlaegig / Nicht einschlaegig]
- FRIA Art. 27 KI-VO: [Erforderlich / Nicht erforderlich]
- DSFA Art. 35 DSGVO: [Erforderlich / Nicht erforderlich]
EMPFEHLUNG: [GENEHMIGT / GENEHMIGT MIT BEDINGUNGEN / ABGELEHNT]
Bedingungen:
1. [BEDINGUNG — Eigentuemer: NAME — Frist: DATUM]
2. [BEDINGUNG — Eigentuemer: NAME — Frist: DATUM]
Weiterleitungs-Flags:
- Vendor-Review: [Ja / Nein]
- Separate DSFA: [Ja / Nein]
Freigabe: [NAME], [DATUM]
Ausformulierungspflicht und Formatstandard. Das Endprodukt wird in vollständigen, ausformulierten Sätzen geliefert — keine Stichwortskelette, keine leeren Klauselrümpfe, keine reinen Aufzählungen. Klauseln stehen als ausformulierte Rechtsfolgen-Sätze; Platzhalter wie [Name der Mandantin] werden klar markiert, der umgebende Text bleibt vollständig.
Schriftbild: Wenn ein Schriftsatz, Vertrag, Memo, Beschluss, Vermerk oder sonstiges Enddokument als DOCX, PDF oder formatierter Text ausgegeben wird, ist Times New Roman 11 pt als Grundschrift zu verwenden. Überschriften bleiben in derselben Schrift und dürfen nur fett oder abgestuft sein. Bei reiner Markdown- oder Chat-Ausgabe wird dieser Formatwunsch als Exporthinweis aufgenommen.
Nummerierung: Gliederung ausschließlich dezimal (1, 1.1, 1.1.1 und so weiter). Keine römischen Ziffern, keine Buchstaben- oder Mischgliederung.
Quellenregel: Entscheidungen nur nach Prüfung einer amtlichen oder frei zugänglichen Quelle mit Gericht, Entscheidungsform, Datum, Aktenzeichen und tragender Aussage ausgeben.
1---2name: ki-folgenabschaetzung-ki-governance-mandat3description: Für /ki-folgenabschätzung – digitale Werkzeuge-Folgenabschätzung: ordnet Norm, Beweislast und Gegenargument; Ergebnis: Prüfprodukt mit Risiko und nächstem Schritt.4---56# /ki-folgenabschätzung – KI-Folgenabschätzung78## Arbeitsweg910- Rolle, Ziel und gewünschtes Arbeitsprodukt klären: Wer handelt, welche Entscheidung steht an, welche Frist läuft und welcher Output wird gebraucht?11- Fristen und Eilrisiken zuerst markieren: KI-VO Geltungsbeginn gestaffelt (02.02.2025 Verbote, 02.08.2025 GPAI, 02.08.2026 Hochrisiko Anhang III), schwerwiegender Vorfall 15 Tage, DSGVO DPIA vorab.12- Tragende Normen verifizieren: EU KI-VO 2024/1689 Art. 9, 10, 14, 22, 27, 50, ISO/IEC 42001, NIST AI RMF 1.0, OECD AI Principles, DSGVO Art. 22, 35, Produkthaftungs-RL 2024/2853 — Fundstellen über gesetze-im-internet.de, dejure.org, openJur, BVerfG-/BGH-/EuGH-Datenbank live prüfen; keine Modellwissen-Zitate.13- Zuständige Stelle bestimmen und Adressaten richtig wählen: Geschäftsleitung, KI-Officer, Datenschutzbeauftragter, Compliance, Aufsichtsrat, Marktüberwachung, externer Auditor, betroffene Personen.14- Dokumente und Beweismittel sammeln und auf Lücken prüfen: KI-Inventar, Risikoanalyse, FRIA (Fundamental Rights Impact Assessment), AI Governance Policy, Modellkarten, Audit-Bericht, DSGVO-DPIA, Schulungsnachweis — fehlende Belege durch Akteneinsicht oder Rückfrage beim Mandanten beschaffen, Live-Check für tagesaktuelle Normänderungen und Verwaltungspraxis.1516## Eingaben1718- Konfiguration aus `~/.claude/plugins/config/claude-fuer-deutsches-recht/ki-governance/CLAUDE.md`19 (Hausformat Folgenabschätzung, Use-Case-Register, regulatorischer Fußabdruck)20- Systembeschreibung oder Triage-Ergebnis21- Seed-Folgenabschätzung (sofern im Setup übergeben)2223## Rechtlicher Rahmen2425### Kernvorschriften2627- **Art. 27 KI-VO (VO 2024/1689)** — Folgenabschätzung für Grundrechte (FRIA): Betreiber hochriskanter KI-Systeme, insbesondere öffentliche Stellen sowie private Stellen, die öffentlich finanzierte Dienste erbringen oder Kreditwürdigkeitsbewertungen vornehmen, sind zur Durchführung verpflichtet.28- **Art. 35 DSGVO** — Datenschutz-Folgenabschätzung (DSFA): Pflicht bei hohem Risiko für Rechte und Freiheiten natürlicher Personen, insbesondere bei automatisierten Entscheidungen (Art. 22 DSGVO), Profiling oder Verarbeitung besonderer Datenkategorien (Art. 9 DSGVO).29- **Art. 22 DSGVO** — Automatisierte Einzelentscheidungen mit Rechtswirkung oder erheblicher Beeinträchtigung; nur bei Vorliegen einer Rechtsgrundlage nach Abs. 2 lit. a–c zulässig.30- **Art. 26, Art. 6 i.V.m. Anhang III KI-VO** — Betreiberpflichten bei Hochrisiko-KI; Klassifikation nach Anhang III bestimmt Pflichtumfang.31- **§ 26 BDSG** — Beschäftigtendatenschutz; bei KI-Systemen zur Mitarbeiterüberwachung oder -bewertung einschlägig.32- **§ 44b UrhG, Art. 4 DSM-RL** — Text- und Data-Mining-Schranke; Opt-out-Mechanismus bei Trainingsdaten.33- **§ 203 StGB** — Berufsgeheimnis; KI-Einsatz in der Kanzlei muss mit Mandantenvertraulichkeit vereinbar sein.3435### Kommentare3637- Keine Kommentar-, Handbuch- oder Aufsatzfundstellen aus Modellwissen zitieren. Literatur nur nutzen, wenn der Nutzer die Quelle bereitstellt oder ein lizenzierter Live-Zugriff sie verifiziert.38- Wendehorst/Grinzinger, in: Wendehorst/Grinzinger, AI Act, 1. Aufl. 2024, Art. 27 Rn. 3 (FRIA-Anforderungen für Betreiber).3940## Ablauf41421. Praxisprofil lesen; Hausformat Folgenabschätzung bestätigen.432. Risikotrack bestimmen (vereinfacht oder vollständig) anhand Governance-Stufe und44 Systemeigenschaften.453. Aufnahme führen – gesprächig, kein Formular.464. Regulierungsklassifizierung für jeden einschlägigen Rechtsakt im Fußabdruck – Risikoklasse,47 Verbots-Exposition, anwendbare Pflichten; Primärquellen zitieren.485. Abschätzung im Hausformat schreiben.496. Richtlinien-Diff gegen KI-Governance-Commitments in CLAUDE.md.507. Ausgabe: Abschätzungsdokument + Bedingungsliste + Übergabe-Flags (Datenschutz DSFA,51 Vendor-Review bei Bedarf).5253## Mandate-Kontext5455Mandate-Workspaces-Einstellung aus CLAUDE.md prüfen. Bei aktivierten Workspaces und fehlendem56aktivem Mandat fragen: "Für welches Mandat? Oder Praxisebene?" Ausgaben in den Mandatsordner57schreiben.5859---6061## Schritt 0: Ist eine Folgenabschätzung erforderlich?6263Auslöserkriterien aus CLAUDE.md prüfen.6465**Unabhängig davon stets prüfen:**66- Trifft die KI eine oder beeinflusst sie wesentlich eine Entscheidung, die eine Person67 betrifft (Beschäftigung, Kredit, Zugang, Preisgestaltung, Content-Moderation)?68- Verarbeitet die KI personenbezogene Daten von Personen?69- Handelt es sich um ein kundenseitiges KI-System und nicht rein intern?70- Nutzt die KI ein Drittanbieter-Modell, bei dem das Unternehmen Betreiber ist?71- Liegt der Anwendungsfall in der Erhöhten oder Hohen Governance-Stufe?72- Ist das System nach Art. 6 KI-VO i.V.m. Anhang III als hochriskant eingestuft?7374Wenn nichts zutrifft und der Hausauslöser nicht greift:75> "Eine vollständige Folgenabschätzung scheint nicht erforderlich. Hier ein Absatz für die76> Akte, der erklärt warum – für den Fall, dass jemand fragt."7778---7980## Schritt 1: Risikotrack8182Vor der Aufnahme Track bestimmen. Tier-Definitionen aus CLAUDE.md (`## Use-Case-Register`83und `## Governance-Stufen`), nicht aus einem fest codierten Rahmen.8485**Vereinfachter Track** – Standard-Governance-Stufe, kein EU-Nexus, keine Hochrisiko-Klasse,86kein Art. 35 DSGVO-Auslöser.8788**Vollständige Abschätzung** – Erhöhte oder Hohe Governance-Stufe, EU-Nexus, Hochrisiko-Klasse89nach KI-VO oder Art. 35-Auslöser.9091Im Zweifel vollständige Abschätzung. Ein vereinfachter Track, der sich als falsch erweist,92ist schlechter als eine gründliche Abschätzung für etwas mit niedrigem Risiko.9394---9596## Schritt 2: Aufnahme9798Vor dem Schreiben Antworten auf folgende Fragen einholen. Gesprächig – kein Formular.99100### Das System101102- Was tut die KI? In Alltagssprache, nicht Marketingtext.103- Welches Modell oder welcher Anbieter treibt es an? Fine-tuned oder off-the-shelf?104- Wo sitzt es im Arbeitsablauf – assistierend (Mensch prüft Ausgabe), augmentierend (Mensch kann105 übersteuern, tut es aber meist nicht) oder automatisiert (kein Mensch im Ablauf)?106- Was ist die Ausgabe – generierter Text, ein Score, eine Klassifizierung, eine Empfehlung,107 eine Aktion?108109### Betroffene Personen110111- Wen betreffen die Ausgaben der KI – Mitarbeiter, Kunden, Dritte?112- Wenn die KI einen Fehler macht (False Positive, False Negative, Halluzination), wen113 trifft der Schaden und was ist der schlimmste realistische Fall?114- Sind schutzbedürftige Gruppen unverhältnismäßig betroffen – Minderjährige, Bewerber,115 Personen in finanzieller Not, Patienten?116117### Eingaben und Daten118119- Welche Daten verarbeitet die KI?120- Verarbeitet sie personenbezogene Daten? Von wem? (Art. 4 Nr. 1 DSGVO)121- Wurde das Modell auf Unternehmensdaten trainiert oder ist es ein Foundation Model ohne122 unternehmensspezifisches Training?123- Wohin gehen Eingabedaten – verlassen sie den Perimeter an eine Drittanbieter-Modell-API?124 (Auftragsverarbeitung Art. 28 DSGVO prüfen)125- Trainingsdaten-Transparenz: Falls eigene Daten zum Training verwendet wurden, UrhG-Prüfung126 (§ 44b UrhG, Art. 4 DSM-RL Text- und Data-Mining-Schranke) und GeschGehG-Prüfung.127128### Entscheidungsfindung und Aufsicht129130- Löst die KI-Ausgabe automatisch eine Aktion aus, oder entscheidet ein Mensch?131 (Automatisierte Entscheidungsfindung Art. 22 DSGVO prüfen)132- Falls menschliche Prüfung: Wie oft ändert der Mensch tatsächlich die Ausgabe der KI?133 (Wenn "selten" – der Mensch prüft nicht wirklich; er stempelt ab.)134- Gibt es ein Widerspruchs- oder Korrekturverfahren für betroffene Personen? (Art. 22 Abs. 3135 DSGVO; Art. 26 Abs. 6 KI-VO)136- Wer ist für die Ausgaben des KI-Systems verantwortlich – gibt es einen benannten Eigentümer?137138### Genauigkeit und Fehler139140- Was ist die bekannte oder geschätzte Fehlerrate? Welche Tests wurden durchgeführt?141- Was passiert, wenn die KI falsch liegt – wird der Fehler angezeigt, protokolliert, korrigiert?142- Wurden Bias-Tests durchgeführt? Gegenüber welchen demografischen Gruppen?143144### Einsatzstufe und Umfang145146- **Stufe:** Geplant und noch nicht gebaut / Pilotbetrieb / Live in Produktion / Live und skaliert?147- **Umfang:** Wie viele Personen sind ca. pro Monat/Jahr betroffen?148- **Verlauf:** Wurde es bereits bewertet? Gab es Entscheidungen, die angefochten oder149 aufgehoben wurden?150151---152153## Schritt 3: Regulierungsklassifizierung154155**Schritt 3 Vorprüfung – Fußabdruckaktualität.** Betroffene Bevölkerungsgruppe und Entscheidungstyp156aus Schritt 2 gegen erfassten regulatorischen Fußabdruck prüfen. Falls der Anwendungsfall eine157neue betroffene Gruppe oder einen neuen Entscheidungstyp einführt, Regime neu ableiten statt158veralteten Fußabdruck zu iterieren.159160Für jeden einschlägigen Rechtsakt im Fußabdruck:161162**KI-VO (VO 2024/1689):**163- Risikoklasse nach Art. 6 KI-VO i.V.m. Anhang III `[prüfen]`164- Verbotene Praktiken Art. 5 KI-VO `[prüfen]`165- Betreiberpflichten Art. 26 KI-VO (technische Dokumentation, Protokollierung, menschliche166 Aufsicht, Unterrichtung von Arbeitnehmern) `[prüfen]`167- FRIA Art. 27 KI-VO – erforderlich? (Öffentliche Stellen oder öffentlich finanzierte private168 Dienste; Kreditwürdigkeit; Lebens-/Krankenversicherungs-Risikobewertung) `[prüfen]`169- Transparenzpflichten Art. 50 KI-VO (Chatbot-Offenlegung, Deepfake-Kennzeichnung) `[prüfen]`170171**DSGVO / BDSG:**172- DSFA-Pflicht Art. 35 DSGVO – bei hohem Risiko für Rechte und Freiheiten, insbesondere bei173 automatisierten Entscheidungen (Art. 22), Profiling, Verarbeitung besonderer Kategorien174 (Art. 9) `[prüfen]`175- Auftragsverarbeitung Art. 28 DSGVO bei Drittanbietern `[prüfen]`176- Automatisierte Entscheidungsfindung Art. 22 DSGVO `[prüfen]`177- Beschäftigtendatenschutz § 26 BDSG bei Mitarbeiter-KI `[prüfen]`178179**ProdHaftG / Produktsicherheitsrecht:**180- KI-System als Produkt i.S.d. ProdHaftG – Herstellerhaftung für fehlerhafte KI-Ausgaben181 bei körperlichen Schäden prüfen `[Modellwissen – prüfen]`182183**§ 203 StGB:**184- Bei Kanzleieinsatz: Mandantengeheimnis und KI-Einsatz vereinbar? Welche Schutzmechanismen185 (On-Premise, Verarbeitung ohne Training) sind vorhanden? `[prüfen]`186187**UrhG / GeschGehG:**188- Trainings- oder Input-Daten: § 44b UrhG-Schranke, Art. 4 DSM-RL Opt-out-Mechanismus,189 GeschGehG-Schutz für Modellarchitektur und proprietäre Daten `[prüfen]`190191---192193## Schritt 4: Abschätzung schreiben194195Seed-Struktur aus CLAUDE.md verwenden. Falls keine erfasst, diese Grundstruktur:196197```markdown198[ARBEITSPRODUKT-HEADER – gemäß Plugin-Konfiguration]199200### KI-Folgenabschätzung: [System-/Funktionsname]201202**Erstellt von:** [Name] | **Datum:** [Datum] | **Status:** ENTWURF / GENEHMIGT203**Systemeigentümer:** [Name] | **KI-Governance-Prüfer:** [Name]204**Governance-Stufe:** [Standard / Erhöht / Hoch]205**Track:** [Vereinfacht / Vollständig]206**Instrument:** [FRIA nach Art. 27 KI-VO / DSFA nach Art. 35 DSGVO / Beide]207208---209210## Zusammenfassung211212[Zwei Sätze: Was tut diese KI und ist der Einsatz vertretbar? Z. B. "Dieses System nutzt213ein Drittanbieter-KI-System, um Erstentwürfe für Kundensupport-Antworten vor menschlicher Prüfung214zu erstellen. Die Verarbeitung ist mit der KI-Richtlinie des Unternehmens vereinbar;215drei Bedingungen vor dem Produktiveinsatz erforderlich."]216217**Gesamtrisiko:** 🟢 Niedrig / 🟡 Mittel / 🟠 Hoch / 🔴 Sehr hoch218219---220221## 1. Systembeschreibung222223**Funktion:** [Alltagssprache – kein Marketing]224**Modell / Anbieter:** [Wer liefert die KI]225**Einsatzmodus:** [Assistierend / Augmentierend / Automatisiert]226**Ausgabetyp:** [Text / Score / Klassifizierung / Empfehlung / Aktion]227**Status:** [Nicht gestartet / Pilotbetrieb / Produktion]228229---230231## 2. Betroffene Personen232233**Wen es betrifft:** [Mitarbeiter / Kunden / Dritte]234**Umfang:** [Wie viele Personen, wie oft]235**Schaden bei Fehler:** [Realistischster Worst Case – konkret, nicht generisch]236**Schutzbedürftige Gruppen betroffen:** [Ja – [wer] / Nein]237238---239240## 3. Dateneingaben (DSGVO-relevant)241242**Datenkategorien:** [Konkrete Felder, nicht "Nutzerdaten"]243**Personenbezogene Daten:** [Ja – [von wem] / Nein]244**Daten verlassen Perimeter?** [Ja – an [Anbieter] / Nein]245**Auftragsverarbeitung Art. 28 DSGVO:** [Vereinbarung vorhanden / Erforderlich / Entfällt]246**Modell-Training:** [Unternehmensdaten verwendet / Foundation Model / Fine-tuned auf [Datensatz]]247**UrhG § 44b / Art. 4 DSM-RL:** [Opt-out erklärt / Prüfung erforderlich / Entfällt] `[prüfen]`248**GeschGehG:** [Schutz proprietärer Daten sichergestellt / Prüfung erforderlich] `[prüfen]`249250---251252## 4. Entscheidungsfindung und Aufsicht253254**Mensch im Ablauf:** [Immer / Nominell (Stempel-Risiko) / Nein]255**Übersteuerungsmechanismus:** [Wie ein Mensch eingreifen oder korrigieren kann]256**Art. 22 DSGVO anwendbar?** [Ja – vollautomatisierte Entscheidung / Nein] `[prüfen]`257**Widerspruchs-/Korrekturverfahren:** [Ja – [wie] / Nein]258**Benannter Eigentümer:** [Name oder Rolle]259260---261262## 5. Genauigkeit und Verzerrungen263264**Fehlerrate:** [Bekannt / Geschätzt / Nicht getestet]265**Fehlermodus:** [Was passiert, wenn die KI falsch liegt – angezeigt? protokolliert? korrigiert?]266**Bias-Test:** [Durchgeführt – [Ergebnisse] / Nicht durchgeführt / Nicht zutreffend]267268---269270## 6. Regulierungsklassifizierung271272### 6.1 KI-VO (VO 2024/1689)273274**Klassifizierung:** [Klasse + Pinpoint-Zitat der maßgeblichen Bestimmung] `[prüfen]`275**Verbotene Praktiken ausgelöst?** [Keine erkannt / [konkrete Bestimmung und warum]] `[prüfen]`276**Anwendbare Betreiberpflichten:** [Art. 26 KI-VO – Liste mit Zitaten] `[prüfen]`277**FRIA Art. 27 KI-VO erforderlich?** [Ja – separate Lieferung / Nein / Prüfung erforderlich] `[prüfen]`278**Art. 50 Transparenzpflichten:** [Offenlegung erforderlich / Entfällt] `[prüfen]`279**Inkrafttreten/Durchsetzungsdatum:** [Datum(en)] `[prüfen]`280**Offene Auslegungsfragen:** [Markierungen]281282### 6.2 DSGVO / BDSG283284**DSFA Art. 35 DSGVO erforderlich?** [Ja – gesonderte Durchführung / Nein] `[prüfen]`285**Art. 22 DSGVO (automatisierte Entscheidung):** [Greift / Greift nicht / Prüfung erforderlich] `[prüfen]`286**Art. 28 DSGVO (Auftragsverarbeitung):** [AVV abgeschlossen / Erforderlich / Entfällt] `[prüfen]`287**§ 26 BDSG (Beschäftigtendatenschutz):** [Einschlägig / Nicht einschlägig] `[prüfen]`288289### 6.3 Sonstige einschlägige Rechtsakte290291**ProdHaftG:** [Haftungsanalyse erforderlich / Entfällt] `[prüfen]`292**§ 203 StGB:** [Mandantengeheimnis gewahrt / Schutzmaßnahmen erforderlich] `[prüfen]`293**UrhG § 44b / GeschGehG:** [Trainingsdaten-Compliance sichergestellt / Prüfung erforderlich] `[prüfen]`294295---296297## 7. Richtlinien-Konsistenz298299| Richtlinien-Commitment | Konsistent? | Hinweise |300|---|---|---|301| [Commitment aus CLAUDE.md KI-Richtlinien-Verpflichtungen] | 🟢 / 🟡 / 🟠 / 🔴 | |302303[Falls ein Punkt 🟡 oder schlechter: Richtlinienaktualisierung vor dem Einsatz oder Design-304Änderung erforderlich. Einer von beiden muss sich ändern – nicht beides markiert lassen.]305306---307308## 8. Risiken und Mitigationen309310| # | Risiko | Eintrittswahrscheinlichkeit | Auswirkung | Mitigation | Status | Eigentümer |311|---|---|---|---|---|---|---|312| 1 | [Konkretes Risiko, das an diesem Design haftet – nicht generisch "KI-Halluzination"] | N/M/H | N/M/H | [Konkrete Maßnahme] | Erledigt / Geplant / Lücke | [Name] |313314**Restrisiko nach Mitigationen:** [Bewertung]315316---317318## 9. Empfehlung319320**[GENEHMIGT / GENEHMIGT MIT BEDINGUNGEN / ÄNDERUNGEN ERFORDERLICH / NICHT GENEHMIGT]**321322**Bedingungen (sofern vorhanden):**323- [ ] [Konkrete Maßnahme vor dem Einsatz – Eigentümer, Frist]324325**DSFA Art. 35 DSGVO erforderlich?** [Ja – Datenschutzrecht-Plugin ausführen / Nein]326**FRIA Art. 27 KI-VO als separate Lieferung?** [Ja / Nein]327**Vendor-AI-Review erforderlich?** [Ja – `/ki-governance:ki-anbieter-prüfung` / Nein]328329**Freigabe:** [Name, Datum]330331---332333## Zitatprüfung334335Regulierungszitate in Abschnitt 6 wurden von einem KI-Modell generiert und nicht gegen336Primärquellen verifiziert. Vor Zertifizierung oder Nutzung der Abschätzung jeden zitierten337Artikel gegen EUR-Lex oder Gesetze im Internet prüfen: Pinpoint, Aktualität, Durchführungsakte.338`[Modellwissen – prüfen]`-Markierungen tragen das höchste Fabrikationsrisiko und sollten339zuerst geprüft werden.340```341342## Beispiel343344**Anfrage:** "Wir wollen einen Chatbot für die Erstberatung von Mandanten einsetzen — was müssen wir prüfen?"345346**Ablauf:**347- Risikotrack: Vollständig (erhöhte Governance-Stufe; Drittanbieter-KI-System; Mandantendaten).348- Art. 6 Abs. 2 KI-VO i. V. m. Anhang III: Typischer Mandanten-Erstberatungs-Chatbot ist nicht schon deshalb Hochrisiko, weil er ein allgemeines KI-System nutzt. Entscheidend ist die Zweckbestimmung: Hochrisiko erst bei Einsatz für einen Anhang-III-Zweck, etwa Justiz-/Rechtsdurchsetzungsentscheidung, Beschäftigung, Kreditwürdigkeit oder Zugang zu wesentlichen Diensten.349- DSFA Art. 35 DSGVO: Prüfung erforderlich — Verarbeitung von Mandantendaten durch Drittanbieter-API (Art. 28 DSGVO); mögliche automatisierte Empfehlungen.350- Art. 50 KI-VO: Chatbot-Offenlegungspflicht gegenüber Mandanten.351- § 203 StGB: Mandantengeheimnis — Auftragsverarbeitungsvertrag mit KI-Anbieter erforderlich, Verarbeitung ohne Training sicherstellen.352353**Ergebnis:** GENEHMIGT MIT BEDINGUNGEN — Art. 28 DSGVO AVV abschließen; Chatbot-Offenlegung implementieren; DSFA durchführen; Mandanteneinwilligung einholen.354355## Quellenpflicht356357Verbindliche Zitierweise gemäß `../references/zitierweise.md`.358359**Leitende Normen:**360- Art. 27 KI-VO (VO 2024/1689) – FRIA `[Primärquelle – EUR-Lex]`361- Art. 35 DSGVO – DSFA `[Primärquelle – EUR-Lex]`362- Art. 5, 6, 14, 26, 50 KI-VO `[Primärquelle – EUR-Lex]`363- Art. 22, 28 DSGVO – Automatisierte Entscheidungen, Auftragsverarbeitung `[Primärquelle – EUR-Lex]`364- § 26 BDSG – Beschäftigtendatenschutz `[Primärquelle – gesetze-im-internet.de]`365- § 44b UrhG – Text- und Data-Mining-Schranke `[Primärquelle – gesetze-im-internet.de]`366- Art. 4 Richtlinie (EU) 2019/790 (DSM-RL) – Text- und Data-Mining `[Primärquelle – EUR-Lex]`367- § 203 StGB – Mandantengeheimnis `[Primärquelle – gesetze-im-internet.de]`368369**Leitentscheidungen:**370371- Keine Kommentar-, Handbuch- oder Aufsatzfundstellen aus Modellwissen zitieren. Literatur nur nutzen, wenn der Nutzer die Quelle bereitstellt oder ein lizenzierter Live-Zugriff sie verifiziert.372- Frenzel, in: Paal/Pauly, DSGVO BDSG, 3. Aufl. 2021, Art. 22 Rn. 12373- Wendehorst/Grinzinger, AI Act, 1. Aufl. 2024, Art. 27 Rn. 3 (FRIA-Anforderungen)374375## Risiken / typische Fehler376377- **FRIA und DSFA verwechseln.** Beide Instrumente explizit kennzeichnen und als getrennte378 Lieferungen behandeln, wenn beide erforderlich sind.379- **Art. 22 DSGVO ignorieren.** Bei automatisierten Entscheidungen immer auf vollständige380 Automatisierung prüfen – auch bei nominell menschlicher Prüfung (Stempel-Risiko).381- **Pinpoint-Zitate ohne Prüfung.** Artikel-Nummern der KI-VO haben sich während der382 Konsolidierung verschoben; jeden Pinpoint gegen den Amtsblatttext prüfen.383- **Zu viele generische Risiken.** Ziel: 2–5 echte, am Design haftende Risiken, nicht 12384 aufgeblähte.385- **Zertifizierung ohne Anwalt (bei Nicht-Juristen).** Vor Genehmigungsstempel auf386 Anwaltsprüfung bestehen.387388## Triage zu Beginn3891. Liegt ein Hochrisiko-KI-System nach Art. 6 KI-VO i.V.m. Anhang III vor (Nr. 1-8)?3902. Ist eine DSFA nach Art. 35 DSGVO erforderlich — automatisierte Entscheidung, Profiling, Art. 9-Daten?3913. Sind personenbezogene Daten betroffen — verlassen sie den Perimeter an Drittanbieter-API?3924. Handelt es sich um eine öffentliche Stelle oder einen öffentlich finanzierten Dienst (FRIA Art. 27 KI-VO)?3935. Ist der Einsatz assistierend oder vollautomatisiert — Stempel-Risiko beim nominellen Human-Review?394395## Output-Template — Folgenabschaetzungs-Zusammenfassung396**Adressat:** Systemeigentuemer / Governance-Team — Tonfall: strukturiert-berichtend397```398KI-FOLGENABSCHAETZUNG — ZUSAMMENFASSUNG399[DATUM] — System: [SYSTEMNAME] — Status: ENTWURF / GENEHMIGT400401Governance-Stufe: [Standard / Erhoeht / Hoch]402Instrument: [FRIA Art. 27 KI-VO / DSFA Art. 35 DSGVO / Beide]403404GESAMTRISIKO: [NIEDRIG / MITTEL / HOCH / SEHR HOCH]405406KLASSIFIZIERUNG:407- KI-VO: [Risikoklass + Art./Anhang-III-Nr.]408- DSGVO Art. 22: [Einschlaegig / Nicht einschlaegig]409- FRIA Art. 27 KI-VO: [Erforderlich / Nicht erforderlich]410- DSFA Art. 35 DSGVO: [Erforderlich / Nicht erforderlich]411412EMPFEHLUNG: [GENEHMIGT / GENEHMIGT MIT BEDINGUNGEN / ABGELEHNT]413414Bedingungen:4151. [BEDINGUNG — Eigentuemer: NAME — Frist: DATUM]4162. [BEDINGUNG — Eigentuemer: NAME — Frist: DATUM]417418Weiterleitungs-Flags:419- Vendor-Review: [Ja / Nein]420- Separate DSFA: [Ja / Nein]421422Freigabe: [NAME], [DATUM]423```424425<!-- BEGIN ausformulierungspflicht (autogen) -->426> **Ausformulierungspflicht und Formatstandard.** Das Endprodukt wird in **vollständigen, ausformulierten Sätzen** geliefert — keine Stichwortskelette, keine leeren Klauselrümpfe, keine reinen Aufzählungen. Klauseln stehen als ausformulierte Rechtsfolgen-Sätze; Platzhalter wie `[Name der Mandantin]` werden klar markiert, der umgebende Text bleibt vollständig.427>428> **Schriftbild:** Wenn ein Schriftsatz, Vertrag, Memo, Beschluss, Vermerk oder sonstiges Enddokument als DOCX, PDF oder formatierter Text ausgegeben wird, ist **Times New Roman 11 pt** als Grundschrift zu verwenden. Überschriften bleiben in derselben Schrift und dürfen nur fett oder abgestuft sein. Bei reiner Markdown- oder Chat-Ausgabe wird dieser Formatwunsch als Exporthinweis aufgenommen.429>430> **Nummerierung:** Gliederung ausschließlich dezimal (`1`, `1.1`, `1.1.1` und so weiter). Keine römischen Ziffern, keine Buchstaben- oder Mischgliederung.431<!-- END ausformulierungspflicht (autogen) -->432433> Quellenregel: Entscheidungen nur nach Prüfung einer amtlichen oder frei zugänglichen Quelle mit Gericht, Entscheidungsform, Datum, Aktenzeichen und tragender Aussage ausgeben.