Ki Einsatz Verwaltungsverfahren Pruefung

Dieser Skill ersetzt keine rechtliche, datenschutzrechtliche oder IT-sicherheitsrechtliche Einzelfallpruefung durch die zustaendige Fachstelle (z. B. Rechtsamt/Justiziariat, Datenschutzbeauftragte, IT-Sicherheitsbeauftragte) und keine verbindliche Entscheidung der zustaendigen Behoerde. Die Ausgabe ist eine Arbeitshilfe ohne Gewaehr. Im Einzelfall ist die zustaendige Fachaufsicht, die bzw. der Datenschutzbeauftragte oder die Rechtsabteilung zu konsultieren.

Pruefung des KI-Einsatzes in einem Verwaltungsverfahren

Zweck / Anwendungsfall

Pruefung, welche Anforderungen nach der EU-Verordnung ueber Kuenstliche Intelligenz (KI-Verordnung, AI Act) an den Einsatz eines konkreten KI-Systems in einem Verwaltungsverfahren gestellt werden. Der Skill wird genutzt, wenn eine Behoerde ein KI-gestuetztes System (z. B. zur Antragsvorpruefung, Texterkennung, automatisierten Entscheidungsunterstuetzung) einfuehren oder einen laufenden Einsatz pruefen moechte.

Eingaben

• Beschreibung des KI-Systems und seines Einsatzzwecks im Verwaltungsverfahren (z. B. Vorpruefung, Klassifizierung, Texterstellung, Entscheidungsunterstuetzung).
• Angabe, ob das System eine eigenstaendige Entscheidung trifft oder ausschliesslich eine menschliche Entscheidung vorbereitet.
• Angabe, ob besonders schutzbeduerftige Betroffene oder Grundrechte beruehrt sind (z. B. Sozialleistungen, Strafverfolgung, Migration, Bildung).
• Informationen zum Einsatzkontext (oeffentliche Stelle, Verwendung als Hochrisiko-Anwendung im Sinne der KI-Verordnung moeglich).
• Vorhandene Dokumentation des Anbieters (technische Dokumentation, Konformitaetserklaerung, falls vorhanden).

Ablauf / Checkliste

1. Sachverhalt aufbereiten: KI-System, Einsatzzweck und Rolle der Behoerde (Anbieter, Betreiber/Nutzer) erfassen.
2. Risikoeinstufung nach der KI-Verordnung pruefen: verbotene Praktik, Hochrisiko-System, System mit Transparenzpflichten, oder minimal-risikobehaftetes System.
3. Bei Einstufung als Hochrisiko-System pruefen, welche Pflichten fuer Betreiber oeffentlicher Stellen einschlaegig sind (u. a. Registrierung, Grundrechte-Folgenabschaetzung, menschliche Aufsicht).
4. Transparenzpflichten pruefen (Informationspflicht gegenueber Betroffenen, Kennzeichnung von KI-generierten Inhalten, soweit einschlaegig).
5. Dokumentations- und Protokollierungspflichten pruefen (Nachvollziehbarkeit der Entscheidungsfindung, Aufbewahrung von Protokollen).
6. Aufsichts- und Kontrollmechanismen pruefen (Zustaendigkeit der Marktueberwachungsbehoerde, interne Kontrollprozesse, Beschwerdewege fuer Betroffene).
7. Schnittstelle zu Datenschutzanforderungen benennen (Verhaeltnis zur datenschutzrechtlichen Pruefung, ggf. zusaetzliche Datenschutz-Folgenabschaetzung).
8. Ergebnis mit Risikoklasse und offenen Pflichten ausformulieren.

Quellenpflicht

Verbindlich: ../../../references/zitierweise-verwaltung.md. Keine Blindzitate zu Beschlussnummern, Versionsstaenden oder Paragrafen — diese sind vom Nutzer zu verifizieren oder als pruefungsbeduerftig zu kennzeichnen.

Ausgabeformat

• Vollstaendig ausformulierte Pruefung im Pruefberichtsstil, kein reines Stichpunkt-Endergebnis.
• Stand-Datum angeben.
• Klar abgegrenztes Ergebnis am Ende ("Ergebnis: ...").
• Hinweis auf verbleibende Unsicherheiten.

Beispiele

Beispiel (FIKTIV): Eine fiktive Behoerde plant den Einsatz eines KI-Systems zur automatisierten Vorpruefung von Antraegen auf eine Sozialleistung, dessen Ergebnis als alleinige Entscheidungsgrundlage ohne weitere menschliche Pruefung dienen soll. Die Pruefung ergibt eine voraussichtliche Einordnung als Hochrisiko-System im Sinne der KI-Verordnung wegen der Betroffenheit von Sozialleistungsanspruechen. Empfohlen werden eine Grundrechte-Folgenabschaetzung, die Einrichtung einer wirksamen menschlichen Aufsicht vor der Bescheiderteilung und eine gesonderte datenschutzrechtliche Pruefung.

Normen und Standards

• Verordnung (EU) 2024/1689 (KI-Verordnung/AI Act), Versionsstand und Anwendbarkeitsdatum der jeweiligen Vorschrift vor Verwendung verifizieren.
• Allgemeine Datenschutz-Grundverordnung (DSGVO), insbesondere Vorschriften zur automatisierten Entscheidungsfindung.
• Nationales Durchfuehrungs-/Aufsichtsgesetz zur KI-Verordnung, soweit vorhanden (Fundstelle vor Verwendung verifizieren).
• Verwaltungsverfahrensgesetz (VwVfG) hinsichtlich Begruendungspflichten bei automatisiert unterstuetzten Entscheidungen.