aibot88 Verbotene Praktiken — Art. 5 KI-VO (Entscheidungsbaum)
Zweck
Art. 5 KI-VO enthält einen abschließenden Katalog von acht verbotenen KI-Praktiken. Diese Verbote sind seit dem 2. Februar 2025 anwendbar und mit den höchsten Sanktionen bewehrt (bis zu 35 Mio EUR oder sieben Prozent des weltweiten Jahresumsatzes). Dieser Skill prüft alle acht Verbotstatbestände systematisch.
Verbotene Praktik 1 — Subliminale und manipulative Techniken (Art. 5 Abs. 1 lit. a KI-VO)
Tatbestand: KI-Systeme, die subliminale Techniken einsetzen, die einer Person nicht bewusst sind, oder täuschende Techniken, um die Autonomie, Entscheidungsfindung oder freie Meinungsbildung einer Person durch das Verzerren der Wahrnehmung zu unterlaufen.
Prüffragen:
- Beeinflusst das System Verhalten oder Wahrnehmung unterhalb der bewussten Wahrnehmungsschwelle?
- Nutzt es psychologische Manipulationstechniken, die auf Verzerrung oder Täuschung ausgerichtet sind?
- Führt die Manipulation zu einer dem Interesse der Person oder Dritter abträglichen Handlung?
Auslegungshinweis: Der Tatbestand setzt sowohl eine subliminale oder täuschende Technik als auch einen (potenzialem) Schaden voraus. Übliche Empfehlungssysteme fallen nicht darunter, solange sie keine manipulativen Verzerrungen einsetzen.
Ergebnis: Wenn alle Merkmale erfüllt → verboten; kein Rechtfertigungsgrund möglich.
Verbotene Praktik 2 — Ausnutzung von Schwächezuständen (Art. 5 Abs. 1 lit. b KI-VO)
Tatbestand: KI-Systeme, die Schwächezustände oder besondere Schutzbedürftigkeit bestimmter natürlicher Personen oder Gruppen (Alter, Behinderung, soziale oder wirtschaftliche Situation) ausnutzen, um deren Verhalten auf eine Weise zu beeinflussen, die ihren Interessen abträglich ist.
Prüffragen:
- Richtet sich das System an besonders schutzbedürftige Gruppen (Kinder, ältere Menschen, Personen mit Behinderung, wirtschaftlich Schwache)?
- Nutzt es diese Schutzbedürftigkeit gezielt aus?
- Ist das resultierende Verhalten den Interessen der Zielpersonen abträglich?
Verbotene Praktik 3 — Social Scoring (Art. 5 Abs. 1 lit. c KI-VO)
Tatbestand: Bewertungssysteme, die öffentliche Behörden oder in ihrem Auftrag handelnde Stellen einsetzen, um das soziale Verhalten natürlicher Personen auf der Grundlage von KI-generierter Einstufung zu klassifizieren und zu bewerten, wenn diese Einstufung zu einer Benachteiligung führt, die außer Verhältnis zum Verhalten steht oder in einem anderen Lebensbereich erfolgt.
Prüffragen:
- Handelt es sich um eine öffentliche Behörde oder ein im öffentlichen Auftrag handelndes Unternehmen?
- Klassifiziert das System Personen auf der Basis sozialen Verhaltens?
- Führt die Klassifikation zu Benachteiligungen in anderen als dem ursprünglichen Kontext?
Verbotene Praktik 4 — Predictive Policing (Art. 5 Abs. 1 lit. d KI-VO)
Tatbestand: Risikoabschätzungssysteme in der Strafverfolgung, die ausschließlich auf der Grundlage von Profiling oder der Bewertung von Persönlichkeitsmerkmalen und -zügen ohne individuelle Hinweise auf eine Beteiligung an einer Straftat Vorhersagen über das Begehen zukünftiger Straftaten treffen.
Prüffragen:
- Wird das System von Strafverfolgungsbehörden zur Vorhersage von Straftaten eingesetzt?
- Basiert die Vorhersage ausschließlich auf Profiling oder Persönlichkeitsbewertung?
- Gibt es keine individuellen Hinweise auf tatsächliche Beteiligung?
Auslegungshinweis: Systeme, die konkrete Hinweise auf eine Person verarbeiten, sind nicht automatisch verboten; die Grenze liegt beim reinen Persönlichkeitsprofiling ohne individuelle Anhaltspunkte.
Verbotene Praktik 5 — Untargeted Facial Image Scraping (Art. 5 Abs. 1 lit. e KI-VO)
Tatbestand: Erstellung oder Erweiterung von Gesichtserkennungsdatenbanken durch ungezielte Auslese von Gesichtsbildern aus dem Internet oder aus Videoüberwachungsaufnahmen.
Prüffragen:
- Werden Gesichtsbilder aus dem Internet oder aus Überwachungskameras ungezielt gesammelt?
- Dient dies dem Aufbau oder der Erweiterung einer Datenbank zur Gesichtserkennung?
Verbotene Praktik 6 — Emotionserkennung an Arbeitsplatz und Bildungseinrichtungen (Art. 5 Abs. 1 lit. f KI-VO)
Tatbestand: Emotionserkennungssysteme am Arbeitsplatz oder in Bildungseinrichtungen.
Prüffragen:
- Erkennt das System Emotionen natürlicher Personen?
- Wird es am Arbeitsplatz oder in Schulen, Universitäten oder anderen Bildungseinrichtungen eingesetzt?
Ausnahmen: Systeme, die aus medizinischen oder sicherheitsbezogenen Gründen eingesetzt werden, können unter engen Voraussetzungen ausgenommen sein.
Verbotene Praktik 7 — Biometrische Kategorisierung nach sensiblen Merkmalen (Art. 5 Abs. 1 lit. g KI-VO)
Tatbestand: Biometrische Systeme, die natürliche Personen anhand biometrischer Daten nach ihrer Rasse, politischen Meinung, Gewerkschaftszugehörigkeit, Religionszugehörigkeit, sexuellen Orientierung oder anderen in Art. 9 Abs. 1 DSGVO genannten Merkmalen kategorisieren.
Verbotene Praktik 8 — Echtzeit-Biometrische Fernidentifikation im öffentlichen Raum (Art. 5 Abs. 1 lit. h KI-VO)
Tatbestand: Einsatz biometrischer Echtzeit-Fernidentifikationssysteme in öffentlich zugänglichen Bereichen durch Strafverfolgungsbehörden, außer in den eng begrenzten Ausnahmefällen nach Art. 5 Abs. 2 KI-VO (z.B. Suche nach vermissten Personen, Terrorismusprävention bei konkreter Gefahr, Fahndung nach bestimmten Tätern).
Prüffragen:
- Ist der Betreiber eine Strafverfolgungsbehörde?
- Wird die biometrische Identifikation in Echtzeit in öffentlich zugänglichen Räumen durchgeführt?
- Liegt keine der Ausnahmen nach Art. 5 Abs. 2 KI-VO vor?
Rechtsfolgen bei Verstoß
- Bußgeld bis zu 35 Mio EUR oder — sofern der Täter ein Unternehmen ist — bis zu sieben Prozent des gesamten weltweiten Jahresumsatzes des vorausgegangenen Geschäftsjahres, je nachdem welcher Betrag höher ist.
- Keine Heilungs- oder Anpassungsmöglichkeit: verbotene Praktiken sind komplett einzustellen.
- Strafbarkeit nach nationalem Recht nicht ausgeschlossen.
Hinweis: Keine Rechtsberatung. Mechanische Prüfung anhand vom Nutzer behaupteter Tatsachen. Die KI-VO ist in Auslegung und Konkretisierung dynamisch; Leitlinien der Kommission und Durchführungsrechtsakte sind laufend zu beobachten.