Klotzkette Bildung und Prüfungsrecht nach Anhang III
Einsatzfälle
Prüft KI-Systeme in:
- Hochschulzulassung und Studienplatzvergabe.
- Prüfungsaufsicht, Proctoring, Täuschungs- und Plagiatserkennung.
- Bewertung von Prüfungen, Essays, Portfolios oder mündlichen Leistungen.
- Lernstandsdiagnostik, Kurszuweisung, Förderbedarfsprognose.
- Auswahlentscheidungen für Stipendien, Austauschprogramme oder Masterzulassungen.
Hochrisiko-Logik
Prüfe nicht nach Produktnamen, sondern nach Wirkung:
- Beeinflusst das System Zugang, Bewertung, Fortkommen oder Ausschluss?
- Wird eine Person individuell gerankt, bewertet oder prognostiziert?
- Ist die KI nur Hilfsmittel oder praktisch entscheidungsleitend?
- Gibt es menschliche Kontrolle, die echte Abweichung erlaubt?
- Ist die Zweckbestimmung des Anbieters bildungsbezogen oder wird das System off-label verwendet?
Risikopunkte
- Diskriminierung durch Trainingsdaten oder Sprachmuster.
- Falsche Täuschungsverdächtigungen.
- Intransparente Score-Werte.
- Überautomatisierte Zulassungsentscheidungen.
- Fehlende Akteneinsicht oder unzureichende Begründung.
Output
Erzeuge:
- Hochrisiko-Vermerk nach Art. 6 Abs. 2 i.V.m. Anhang III.
- Betreiberpflichtenliste nach Art. 26 KI-VO.
- Grundrechte- und Datenschutz-Check.
- Entscheidungsbausteine für Prüfungsamt oder Rechtsbehelf.