Verbotene Praktiken Art 5

Verbotene Praktiken — Art. 5 KI-VO (Entscheidungsbaum)

Verbotene Praktik 1 — Subliminale und manipulative Techniken (Art. 5 Abs. 1 lit. a KI-VO)

Tatbestand: KI-Systeme, die subliminale Techniken einsetzen, die einer Person nicht bewusst sind, oder täuschende Techniken, um die Autonomie, Entscheidungsfindung oder freie Meinungsbildung einer Person durch das Verzerren der Wahrnehmung zu unterlaufen.

Prüffragen:

• Beeinflusst das System Verhalten oder Wahrnehmung unterhalb der bewussten Wahrnehmungsschwelle?
• Nutzt es psychologische Manipulationstechniken, die auf Verzerrung oder Täuschung ausgerichtet sind?
• Führt die Manipulation zu einer dem Interesse der Person oder Dritter abträglichen Handlung?

Auslegungshinweis: Der Tatbestand setzt sowohl eine subliminale oder täuschende Technik als auch einen (potenzialem) Schaden voraus. Übliche Empfehlungssysteme fallen nicht darunter, solange sie keine manipulativen Verzerrungen einsetzen.

Ergebnis: Wenn alle Merkmale erfüllt → verboten; kein Rechtfertigungsgrund möglich.

Verbotene Praktik 2 — Ausnutzung von Schwächezuständen (Art. 5 Abs. 1 lit. b KI-VO)

Tatbestand: KI-Systeme, die Schwächezustände oder besondere Schutzbedürftigkeit bestimmter natürlicher Personen oder Gruppen (Alter, Behinderung, soziale oder wirtschaftliche Situation) ausnutzen, um deren Verhalten auf eine Weise zu beeinflussen, die ihren Interessen abträglich ist.

Prüffragen:

• Richtet sich das System an besonders schutzbedürftige Gruppen (Kinder, ältere Menschen, Personen mit Behinderung, wirtschaftlich Schwache)?
• Nutzt es diese Schutzbedürftigkeit gezielt aus?
• Ist das resultierende Verhalten den Interessen der Zielpersonen abträglich?

Verbotene Praktik 3 — Social Scoring (Art. 5 Abs. 1 lit. c KI-VO)

Tatbestand: Bewertungssysteme, die öffentliche Behörden oder in ihrem Auftrag handelnde Stellen einsetzen, um das soziale Verhalten natürlicher Personen auf der Grundlage von KI-generierter Einstufung zu klassifizieren und zu bewerten, wenn diese Einstufung zu einer Benachteiligung führt, die außer Verhältnis zum Verhalten steht oder in einem anderen Lebensbereich erfolgt.

Prüffragen:

• Handelt es sich um eine öffentliche Behörde oder ein im öffentlichen Auftrag handelndes Unternehmen?
• Klassifiziert das System Personen auf der Basis sozialen Verhaltens?
• Führt die Klassifikation zu Benachteiligungen in anderen als dem ursprünglichen Kontext?

Verbotene Praktik 4 — Predictive Policing (Art. 5 Abs. 1 lit. d KI-VO)

Tatbestand: Risikoabschätzungssysteme in der Strafverfolgung, die ausschließlich auf der Grundlage von Profiling oder der Bewertung von Persönlichkeitsmerkmalen und -zügen ohne individuelle Hinweise auf eine Beteiligung an einer Straftat Vorhersagen über das Begehen zukünftiger Straftaten treffen.

Prüffragen:

• Wird das System von Strafverfolgungsbehörden zur Vorhersage von Straftaten eingesetzt?
• Basiert die Vorhersage ausschließlich auf Profiling oder Persönlichkeitsbewertung?
• Gibt es keine individuellen Hinweise auf tatsächliche Beteiligung?

Auslegungshinweis: Systeme, die konkrete Hinweise auf eine Person verarbeiten, sind nicht automatisch verboten; die Grenze liegt beim reinen Persönlichkeitsprofiling ohne individuelle Anhaltspunkte.

Verbotene Praktik 5 — Untargeted Facial Image automatisiertes Auslesen (Art. 5 Abs. 1 lit. e KI-VO)

Tatbestand: Erstellung oder Erweiterung von Gesichtserkennungsdatenbanken durch ungezielte Auslese von Gesichtsbildern aus dem Internet oder aus Videoüberwachungsaufnahmen.

Prüffragen:

• Werden Gesichtsbilder aus dem Internet oder aus Überwachungskameras ungezielt gesammelt?
• Dient dies dem Aufbau oder der Erweiterung einer Datenbank zur Gesichtserkennung?

Verbotene Praktik 6 — Emotionserkennung an Arbeitsplatz und Bildungseinrichtungen (Art. 5 Abs. 1 lit. f KI-VO)

Tatbestand: Emotionserkennungssysteme am Arbeitsplatz oder in Bildungseinrichtungen.

Prüffragen:

• Erkennt das System Emotionen natürlicher Personen?
• Wird es am Arbeitsplatz oder in Schulen, Universitäten oder anderen Bildungseinrichtungen eingesetzt?

Ausnahmen: Systeme, die aus medizinischen oder sicherheitsbezogenen Gründen eingesetzt werden, können unter engen Voraussetzungen ausgenommen sein.

Verbotene Praktik 7 — Biometrische Kategorisierung nach sensiblen Merkmalen (Art. 5 Abs. 1 lit. g KI-VO)

Tatbestand: Biometrische Systeme, die natürliche Personen anhand biometrischer Daten nach ihrer Rasse, politischen Meinung, Gewerkschaftszugehörigkeit, Religionszugehörigkeit, sexuellen Orientierung oder anderen in Art. 9 Abs. 1 DSGVO genannten Merkmalen kategorisieren.

Verbotene Praktik 8 — Echtzeit-Biometrische Fernidentifikation im öffentlichen Raum (Art. 5 Abs. 1 lit. h KI-VO)

Tatbestand: Einsatz biometrischer Echtzeit-Fernidentifikationssysteme in öffentlich zugänglichen Bereichen durch Strafverfolgungsbehörden, außer in den eng begrenzten Ausnahmefällen nach Art. 5 Abs. 2 KI-VO (z.B. Suche nach vermissten Personen, Terrorismusprävention bei konkreter Gefahr, Fahndung nach bestimmten Tätern).

Prüffragen:

• Ist der Betreiber eine Strafverfolgungsbehörde?
• Wird die biometrische Identifikation in Echtzeit in öffentlich zugänglichen Räumen durchgeführt?
• Liegt keine der Ausnahmen nach Art. 5 Abs. 2 KI-VO vor?

Rechtsfolgen bei Verstoß

• Bußgeld bis zu 35 Mio EUR oder — sofern der Täter ein Unternehmen ist — bis zu sieben Prozent des gesamten weltweiten Jahresumsatzes des vorausgegangenen Geschäftsjahres, je nachdem welcher Betrag höher ist (Art. 99 Abs. 3 KI-VO).
• Keine Heilungs- oder Anpassungsmöglichkeit: verbotene Praktiken sind komplett einzustellen.
• Strafbarkeit nach nationalem Recht nicht ausgeschlossen.

Faktische Updates (Stand 07/2026)

• 02.02.2025 — Anwendung Art. 5 KI-VO: Die acht verbotenen Praktiken sind seit dem 02.02.2025 verbindlich. Quelle: VO (EU) 2024/1689, Art. 113 lit. a — eur-lex.europa.eu/eli/reg/2024/1689/oj.
• Kommissions-Leitlinien zu Art. 5: Die EU-Kommission hat Anfang 2025 Leitlinien zu Art. 5 KI-VO veroeffentlicht, die die Tatbestandsmerkmale für Anwender konkretisieren (u.a. Begriff "subliminale Technik", "Vulnerabilitaetsausnutzung", Abgrenzung zu zulaessigem Profiling). Stand und aktuelle Fassung live prüfen über digital-strategy.ec.europa.eu/en/policies/ai-act.
• 02.08.2025 — Sanktionen wirksam: Art. 99 KI-VO ist seit dem 02.08.2025 vollumfaenglich anwendbar; Marktueberwachungsbehoerden in den Mitgliedstaaten können Bussgeldverfahren einleiten.

Hinweis: Keine Rechtsberatung. Mechanische Prüfung anhand vom Nutzer behaupteter Tatsachen. Die KI-VO ist in Auslegung und Konkretisierung dynamisch; Leitlinien der Kommission und Durchführungsrechtsakte sind laufend zu beobachten.

Zentrale Normen (Paragrafenkette)

• Art. 5 Abs. 1 lit. a KI-VO — subliminale und manipulative Techniken
• Art. 5 Abs. 1 lit. b KI-VO — Ausnutzung von Vulnerabilitaeten
• Art. 5 Abs. 1 lit. c KI-VO — Social Scoring
• Art. 5 Abs. 1 lit. d KI-VO — Predictive Policing
• Art. 5 Abs. 1 lit. e KI-VO — ungerichtetes Einsammeln biometrischer Daten
• Art. 5 Abs. 1 lit. f KI-VO — Emotionserkennung am Arbeitsplatz / Bildung
• Art. 5 Abs. 1 lit. g KI-VO — biometrische Kategorisierung nach geschuetzten Merkmalen
• Art. 5 Abs. 1 lit. h KI-VO — Echtzeit-Biometrie-Fernidentifizierung öffentlicher Raum
• Art. 99 Abs. 3 KI-VO — Bussgelder bis 35 Mio. EUR / 7 % weltweiter Jahresumsatz

Triage zu Beginn

1. Welche der acht verbotenen Praktiken (lit. a-h) koennte potentiell einschlaegig sein?
2. Sind staatliche oder private Akteure beteiligt (Social Scoring lit. c gilt für beide)?
3. Richten sich Techniken an besonders schutzbeduertige Personen (Vulnerabilitaet lit. b)?
4. Sind biometrische Daten oder Emotionserkennung beteiligt (lit. f, g, h)?
5. Gibt es Ausnahmen nach Art. 5 Abs. 2-8 KI-VO (Echtzeit-RBI in Ausnahmefaellen)?

Output-Template — Verbotene-Praktiken-Prüfung

Adressat: Prüfer / Rechtsberater — Tonfall: entscheidungsbaum-strukturiert

VERBOTENE-PRAKTIKEN-PRUEFUNG ART. 5 KI-VO
[DATUM] — System: [SYSTEMNAME]

Geprueft (lit. a-h):
☑/☐ lit. a — subliminale / manipulative Technik: [JA — VERBOTEN / NEIN]
☑/☐ lit. b — Vulnerabilitaetsausnutzung: [JA — VERBOTEN / NEIN]
☑/☐ lit. c — Social Scoring: [JA — VERBOTEN / NEIN]
☑/☐ lit. d — Predictive Policing: [JA — VERBOTEN / NEIN]
☑/☐ lit. e — ungerichtetes Einsammeln Biometrie: [JA — VERBOTEN / NEIN]
☑/☐ lit. f — Emotionserkennung Arbeitsplatz/Bildung: [JA — VERBOTEN / NEIN]
☑/☐ lit. g — biometrische Kategorisierung: [JA — VERBOTEN / NEIN]
☑/☐ lit. h — Echtzeit-RBI öffentlicher Raum: [JA — VERBOTEN / Ausnahme: BESCHREIBUNG]

Ergebnis: [KEIN VERBOT / VERBOT: lit. X — Sanktion bis 35 Mio. EUR Art. 99 Abs. 3 KI-VO]
Naechster Schritt: [EINSTELLUNG DES BETRIEBS / sachlicher-ausschluss-art-2 / Weiter-Pruefung]
Geprueft: [NAME], [DATUM]

Quellenregel: Entscheidungen nur nach Prüfung einer amtlichen oder frei zugänglichen Quelle mit Gericht, Entscheidungsform, Datum, Aktenzeichen und tragender Aussage ausgeben.