Verbotene Ki Praktiken

/ki-vo-compliance:verbotene-ki-praktiken

Zweck

Art. 5 KI-VO (VO (EU) 2024/1689) listet die KI-Praktiken, die als mit den europäischen Grundrechten unvereinbar vollständig verboten sind. Diese Verbote gelten seit dem 2. Februar 2025. Verstöße bilden die höchste Bußgeldstufe der Verordnung. Dieser Skill prüft, ob ein System einen Verbotstatbestand erfüllt und ob eine eng auszulegende Ausnahme greift.

⚠️ Aktualität (Stand 2026-07): Zwei neue Verbotstatbestände ab 02.12.2026. Der Digital Omnibus on AI (Europäisches Parlament 16.06.2026, Rat 29.06.2026) hat den Katalog des Art. 5 KI-VO um zwei Praktiken erweitert, die ab dem 02.12.2026 verboten sind:

Neuer Verbotstatbestand	Geltung
Nicht einvernehmliche intime Bildaufnahmen (NCII) — KI-gestützte Erzeugung/Verbreitung intimer Darstellungen ohne Einwilligung der abgebildeten Person	02.12.2026
Darstellungen sexuellen Kindesmissbrauchs (CSAM)	02.12.2026

Die bestehenden Verbote des Art. 5 gelten unverändert seit dem 02.02.2025 und werden durch den Digital Omnibus weder verschoben noch inhaltlich geändert. Die Neuerungen treten neben den bisherigen Katalog; die Buchstabenzuordnung der bestehenden Tatbestände bleibt bestehen. Amtsblatt-Fundstelle der Änderungsverordnung [unverifiziert - prüfen].

Aufsicht erweitert: Die Zuständigkeit des KI-Büros erstreckt sich nunmehr auch auf KI-Systeme, die auf GPAI-Modellen aufsetzen, welche innerhalb desselben Unternehmens wie der Modellanbieter entwickelt wurden. Konzernintern gebaute Anwendungen fallen damit nicht mehr allein in die nationale Marktüberwachung.

Nationale Zuständigkeit in Deutschland: Marktüberwachungsbehörde ist die Bundesnetzagentur (Auffangzuständigkeit nach dem KI-MIG), nicht die Datenschutzaufsicht oder die/der BfDI. Für biometrische Systeme in Strafverfolgung, Grenzkontrolle, Justiz und demokratischen Prozessen ist die unabhängige KI-Marktüberwachungskammer (UKIM) zuständig. Das KI-MIG hat den Bundestag am 11.06.2026 und den Bundesrat am 10.07.2026 passiert, war zum 21.07.2026 aber noch nicht im BGBl. verkündet — eine BGBl.-Fundstelle existiert daher nicht und darf nicht zitiert werden. [unverifiziert - prüfen]

Eingaben

• Funktion und Zweck des KI-Systems
• Adressatenkreis (allgemeine Öffentlichkeit, Beschäftigte, vulnerable Gruppen)
• Einsatzkontext (öffentlich zugänglicher Raum, Strafverfolgung, privat, behördlich)
• Verwendete Techniken (Manipulation, biometrische Erfassung, Bewertung von Sozialverhalten)
• Rolle des Mandanten (Anbieter, Betreiber)

Sub-Agent-Architektur

Drei gedankliche Rollen prüfen das System. Ein Tatbestands-Prüfer ordnet die Funktion den acht Verbotskategorien des Art. 5 KI-VO zu und arbeitet die jeweiligen Tatbestandsmerkmale heraus. Ein Ausnahme-Analyst prüft spiegelbildlich die eng gefassten Ausnahmen, insbesondere bei der biometrischen Echtzeit-Fernidentifizierung zu Strafverfolgungszwecken. Ein Sanktions-Bewerter beziffert das Bußgeldrisiko nach Art. 99 KI-VO und grenzt zur Hochrisiko-Einstufung ab. Der Tatbestands-Prüfer übergibt jeden bejahten Verbotstatbestand an den Ausnahme-Analysten, bevor das Endergebnis steht.

Ablauf

1. Verbotskategorien (Art. 5 Abs. 1 KI-VO)

a) Unterschwellige/manipulative Beeinflussung, die das Verhalten wesentlich verändert und Schaden verursacht b) Ausnutzung von Vulnerabilität (Alter, Behinderung, soziale/wirtschaftliche Lage) mit Schadensfolge c) Social Scoring — Bewertung/Klassifizierung anhand sozialen Verhaltens oder persönlicher Merkmale mit ungerechtfertigter Schlechterstellung in nicht zusammenhängenden Kontexten d) Prädiktive Strafverfolgung allein auf Profiling/Persönlichkeitsmerkmalen e) Ungezieltes Scraping von Gesichtsbildern zum Aufbau von Gesichtserkennungsdatenbanken f) Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen (außer medizinisch/sicherheitsbezogen) g) Biometrische Kategorisierung zur Ableitung sensibler Merkmale (z. B. ethnische Herkunft, politische Meinung, sexuelle Orientierung) h) Biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken

Die Tatbestände a) bis h) gelten seit dem 02.02.2025 und sind unverändert.

1a. Neue Verbotstatbestände ab 02.12.2026 (Digital Omnibus on AI)

Ergänzend — und erst ab dem 02.12.2026 — verboten:

• Nicht einvernehmliche intime Bildaufnahmen (NCII). Erfasst sind KI-Systeme, die intime oder sexualisierte Darstellungen realer Personen ohne deren Einwilligung erzeugen oder manipulieren („Nudify"-Anwendungen, Deepfake-Pornografie). Betroffen sind Anbieter generativer Bild- und Videomodelle mit entsprechender Funktionalität ebenso wie Betreiber, die solche Systeme bereitstellen.
• Darstellungen sexuellen Kindesmissbrauchs (CSAM). KI-gestützte Erzeugung entsprechender Inhalte ist unabhängig davon verboten, ob reale Personen abgebildet sind.

Prüfhinweise:

1. Zeitliche Anwendung beachten. Vor dem 02.12.2026 sind diese Praktiken nicht nach Art. 5 KI-VO verboten. Sie sind jedoch bereits jetzt regelmäßig nach nationalem Straf- und Persönlichkeitsrecht unzulässig (u. a. §§ 184b, 201a StGB, allgemeines Persönlichkeitsrecht, DSGVO) — die Aussage „derzeit noch erlaubt" ist im Mandat falsch.
2. Vorlaufpflicht der Anbieter. Generative Modelle sind bis zum Stichtag durch Filter, Prompt- und Ausgabekontrollen sowie Missbrauchsmeldewege abzusichern; die Umstellung ist nicht kurzfristig leistbar.
3. Abgrenzung zu Art. 50. Die Kennzeichnungspflicht für Deepfakes (Art. 50 Abs. 4, ab 02.08.2026) macht einen verbotenen Inhalt nicht zulässig — eine gekennzeichnete NCII-Darstellung bleibt ab 02.12.2026 verboten.

Fundstelle der Änderungsverordnung im Amtsblatt [unverifiziert - prüfen].

2. Ausnahmen bei biometrischer Echtzeit-Fernidentifizierung (Art. 5 Abs. 1 lit. h KI-VO)

Nur drei eng begrenzte Zwecke kommen in Betracht:

• gezielte Suche nach Opfern von Entführung, Menschenhandel, sexueller Ausbeutung sowie vermissten Personen
• Abwendung einer konkreten, erheblichen und unmittelbaren Gefahr für Leib/Leben oder eines Terroranschlags
• Lokalisierung/Identifizierung eines einer schweren Straftat Verdächtigen

Voraussetzung: vorherige richterliche oder behördliche Genehmigung (Art. 5 Abs. 3 KI-VO), Verhältnismäßigkeit, nationale Ermächtigungsgrundlage.

3. Abgrenzung zur Hochrisiko-Einstufung

Greift kein Verbot, ist die Hochrisiko-Prüfung nach Art. 6 i.V.m. Anhang III KI-VO der nächste Schritt — ein System kann zulässig, aber hochreguliert sein.

4. Sanktionen (Art. 99 KI-VO)

Verstöße gegen die Verbote nach Art. 5 KI-VO werden mit Geldbußen bis 35 Mio. EUR oder 7 % des weltweiten Jahresumsatzes geahndet — die höchste Stufe.

Risiken

• Manipulation — vermeintlich harmlose Personalisierung kann als unterschwellige Beeinflussung nach Art. 5 KI-VO verboten sein.
• Social Scoring durch die Hintertür — übergreifende Reputations- oder Bonitätssysteme können den Verbotstatbestand erfüllen.
• Scheinausnahme — die Ausnahmen zur biometrischen Echtzeit-Fernidentifizierung sind eng; eine fehlende Genehmigung nach Art. 5 Abs. 3 KI-VO macht den Einsatz verboten.
• Bußgeldrisiko — bis 35 Mio. EUR / 7 % nach Art. 99 KI-VO; Verbote gelten bereits seit Februar 2025.
• Neue Verbote NCII und CSAM übersehen — der Katalog des Art. 5 ist durch den Digital Omnibus on AI erweitert worden; die beiden Tatbestände greifen ab 02.12.2026. Prüfungen, die nur die acht Tatbestände von 2025 abarbeiten, sind unvollständig. Betroffen sind insbesondere Anbieter generativer Bild- und Videomodelle.
• „Bis 02.12.2026 erlaubt" als Freibrief missverstanden — NCII- und CSAM-Erzeugung ist bereits heute nach nationalem Straf- und Persönlichkeitsrecht sanktionsbewehrt. Die KI-VO ergänzt nur eine weitere, besonders scharfe Sanktionsebene.
• Nationale Zuständigkeit falsch adressiert — Marktüberwachungsbehörde ist die Bundesnetzagentur (Auffangzuständigkeit, KI-MIG), nicht die Datenschutzaufsicht oder die/der BfDI; für Biometrie in Strafverfolgung, Grenzkontrolle, Justiz und demokratischen Prozessen die unabhängige KI-Marktüberwachungskammer (UKIM). Das KI-MIG war zum 21.07.2026 noch nicht im BGBl. verkündet; eine BGBl.-Fundstelle darf nicht angegeben werden. [unverifiziert - prüfen]
• Konzerninterne GPAI-Anwendungen falsch zugeordnet — setzt ein KI-System auf einem GPAI-Modell desselben Unternehmens auf, ist die Aufsicht des KI-Büros eröffnet; die Annahme rein nationaler Zuständigkeit trägt nicht.

Ausgabeformat

VERBOTENE KI-PRAKTIKEN — PRÜFUNG — <System> — <Datum>

I.   Funktion / Zweck                          [Beschreibung]
II.  Einschlägige Kategorie (Art. 5 KI-VO)     [lit. a–h / NCII / CSAM / keine]
     Tatbestandsmerkmale                       [erfüllt? <…>]
     Geltung ab                                [02.02.2025 / 02.12.2026]
III. Ausnahme (Art. 5 Abs. 1 lit. h / Abs. 3 KI-VO)  [greift? / Genehmigung?]
IV.  Ergebnis                                  [VERBOTEN / nicht verboten]
V.   Falls nicht verboten: Hochrisiko-Check (Art. 6, Anhang III)  [erforderlich?]
VI.  Bußgeldrisiko (Art. 99 KI-VO)             [bis 35 Mio. EUR / 7 %]

Empfehlung: <…>
Nächste Schritte: <…>

Quellen

Statute

• VO (EU) 2024/1689 (KI-VO / EU AI Act) — Volltext mit Anhängen
• Art. 5 KI-VO (verbotene Praktiken), Art. 6 KI-VO und Anhang III (Hochrisiko), Art. 99 KI-VO (Sanktionen)
• Digital Omnibus on AI — Änderungsverordnung zur KI-VO (EP 16.06.2026, Rat 29.06.2026); neue Verbote NCII und CSAM ab 02.12.2026. Amtsblatt-Fundstelle [unverifiziert - prüfen]
• KI-MIG (KI-Marktüberwachungs- und Innovationsförderungsgesetz) — Bundestag 11.06.2026, Bundesrat 10.07.2026, zum 21.07.2026 nicht im BGBl. verkündet; Zuständigkeit BNetzA / UKIM [unverifiziert - prüfen]

Leitlinien

• EU-Kommission, Leitlinien zur Anwendung der Verbote gemäß Art. 5 KI-VO (Februar 2025) — erfassen die Tatbestände NCII und CSAM noch nicht

Sekundärliteratur

• Hilgendorf/Roth-Isigkeit, KI-VO, 1. Aufl. 2024
• BeckOK KI-VO (Online)