Klotzkette Polizeiliche KI: Vertrauenswürdigkeit und Auditierbarkeit
Arbeitsweg
- Rolle, Ziel und gewünschtes Arbeitsprodukt klären: Wer handelt, welche Entscheidung steht an, welche Frist läuft und welcher Output wird gebraucht?
- Fristen und Eilrisiken zuerst markieren: KI-VO Art. 5 Verbote ab 02.02.2025, Art. 51-55 GPAI ab 02.08.2025, Art. 50 Transparenz ab 02.08.2026, Hochrisiko Anhang III nach Digital-Omnibus-Zeitstrahl spätestens ab 02.12.2027, Anhang I spätestens ab 02.08.2028; vor Außenverwendung amtlichen Stand prüfen.
- Tragende Normen verifizieren: KI-VO (EU 2024/1689) Art. 3, 5 (Verbote), 6 (Hochrisiko), 8-15 (Anforderungen), 16, 26 (Pflichten Anbieter/Betreiber), 50 (Transparenz), 51-55 (GPAI), 73, 99 (Sanktionen) — Fundstellen über gesetze-im-internet.de, dejure.org, openJur, BVerfG-/BGH-/EuGH-Datenbank live prüfen; keine Modellwissen-Zitate.
- Zuständige Stelle bestimmen und Adressaten richtig wählen: Anbieter, Betreiber, Importeur, Händler, Marktüberwachungsbehörde (BNetzA/BMDV), benannte Stelle, EU-AI-Office, AI Board.
- Dokumente und Beweismittel sammeln und auf Lücken prüfen: Konformitätserklärung Art. 47, technische Dokumentation Anhang IV, Risikomanagement-System Art. 9, Datengovernance Art. 10, FRIA (Fundamental Rights Impact Assessment) Art. 27, EU-Datenbank-Registrierung Art. 49 — fehlende Belege durch Akteneinsicht oder Rückfrage beim Mandanten beschaffen, Live-Check für tagesaktuelle Normänderungen und Verwaltungspraxis.
Einsatzfälle
- Bild- oder Videoanalyse.
- Lagebild- und Einsatzpriorisierung.
- Ermittlungsassistenz.
- Mustererkennung in Massendaten.
- Übersetzung, Transkription, Kommunikationsanalyse.
- Prognose- oder Risikomodelle.
Prüffragen
- Rechtsgrundlage und Zweck: Gefahrenabwehr, Strafverfolgung, Verwaltung?
- KI-VO: Anhang III Strafverfolgung oder Biometrie betroffen?
- Daten: Herkunft, Qualität, Bias, Aktualität, Löschung.
- Menschliche Kontrolle: Wer darf übersteuern und wie wird das dokumentiert?
- Audit: Logs, Modellversion, Trainings-/Testdaten, Fehlerraten.
- Grundrechte: Einschüchterung, Diskriminierung, Versammlungsfreiheit, Datenschutz.
- Beschaffung: Anforderungen in Leistungsbeschreibung und Vertrag.
Mindestanforderungen
- Zweckbindung statt Datenstaubsauger.
- dokumentierte Fehlerraten und Grenzen.
- unabhängige Überprüfung kritischer Treffer.
- klare Nichtnutzungsszenarien.
- Betroffenen- und Rechtsschutzperspektive.
Warnung
Bei Polizei-KI ist "Treffer" nur ein Hinweis. Er darf nicht unbemerkt zum Beweis, zur Verdachtsbegründung oder zur Einsatzentscheidung mutieren.