GPAI, allgemeiner Chatbot und Hochrisiko-Abgrenzung
Zweck
Kläre, ob ein Modell oder Dienst ein General-Purpose-AI-Modell (GPAI-Modell) oder ein GPAI-System ist und wie dies zur Hochrisiko-Einstufung nach Art. 6 KI-VO steht.
Der wichtigste praktische Punkt: Ein allgemeines Sprachmodell oder ein ChatGPT-ähnlicher Chatbot ist nicht automatisch Hochrisiko-KI. Hochrisiko hängt an der konkreten Zweckbestimmung und dem Einsatz als KI-System in einem regulierten Kontext, insbesondere Art. 6 Abs. 2 i.V.m. Anhang III.
Begriffe trennen
| Begriff |
Prüfgegenstand |
Typische Pflichten |
| GPAI-Modell |
trainiertes Basismodell / Foundation Model |
Art. 51 bis 55 KI-VO, ggf. systemisches Risiko |
| GPAI-System |
Anwendung auf Basis eines GPAI-Modells, die vielfältige Zwecke erfüllen kann |
ggf. Art. 50, Rollen- und Risikoprüfung |
| Hochrisiko-KI-System |
konkrete Anwendung mit Anhang-I- oder Anhang-III-Zweck |
Art. 9 bis 15, 26, 27, 43 bis 49 |
| Allgemeiner Chatbot |
Benutzeroberfläche für breite Text-/Multimodalaufgaben |
nicht automatisch Hochrisiko; Einsatz prüfen |
GPAI-Modell nach Art. 3 Nr. 63 KI-VO
Prüfe:
- Wurde das Modell mit großen Datenmengen und erheblichem Rechenaufwand trainiert?
- Nutzt es typischerweise selbstüberwachtes, unüberwachtes oder vergleichbares großskaliges Training?
- Generalisiert es über eine breite Vielzahl verschiedener Aufgaben?
- Kann es in viele nachgelagerte Systeme oder Anwendungen integriert werden?
- Ist es nicht nur ein eng spezialisiertes Modell für eine einzelne Aufgabe?
Beispiele:
- große Sprachmodelle
- multimodale Foundation Models
- breite Bild-, Audio-, Video- oder Code-Modelle
- Modelle, die als API oder Model Weight für viele Anwendungen bereitgestellt werden
Nicht automatisch GPAI:
- kleines Fachmodell für genau eine Klassifikationsaufgabe
- klassische Fachsoftware ohne generische Modellfähigkeiten
- rein regelbasiertes Expertensystem
GPAI-System nach Art. 3 Nr. 66 KI-VO
Ein GPAI-System ist ein KI-System auf Basis eines GPAI-Modells, das für eine Vielzahl von Zwecken eingesetzt werden kann, auch wenn es direkt mit Nutzern interagiert oder Inhalte erzeugt.
Prüffragen:
- Gibt es eine Chat-, Agenten-, API- oder Tool-Oberfläche für Nutzer?
- Kann das System Texte, Bilder, Code, Empfehlungen oder andere Inhalte für viele Zwecke erzeugen?
- Ist das System in einen konkreten Facheingebettet oder bleibt es allgemeiner Assistent?
Hochrisiko-Abgrenzung
Allgemeiner Chatbot
Ein allgemeiner Assistent für Entwurf, Zusammenfassung, Übersetzung oder Recherche ist regelmäßig nicht schon wegen seiner abstrakten Einsatzmöglichkeiten Hochrisiko. Prüfe aber:
- Art. 50 Transparenzpflichten bei Interaktion mit natürlichen Personen oder KI-generierten Inhalten
- GPAI-Pflichten des Modellanbieters
- Datenschutz, Berufsrecht, Geheimnisschutz, Urheberrecht
Konkrete Hochrisiko-Integration
Wird das GPAI-System in einen Anhang-III-Prozess integriert, kann die konkrete Anwendung Hochrisiko sein.
Beispiele:
- Bewerberranking oder Eignungsbewertung
- Beschäftigtenüberwachung oder Leistungsbewertung
- Kreditwürdigkeitsprüfung natürlicher Personen
- Bewertung von Sozialleistungsansprüchen
- Notrufpriorisierung
- justizielle Rechtsanwendung auf konkrete Fälle durch oder für ein Gericht
- Asyl-/Visa-/Grenzrisikobewertung
Dann weiter zu hochrisiko-art-6-abs-2-anhang-iii.
Mitarbeiter nutzen Chatbot entgegen Zweckbestimmung
Wenn Mitarbeiter ein allgemeines Tool zweckwidrig für Hochrisiko-Fragen nutzen:
- Isolierter Regelverstoß trotz klarer Richtlinie und Kontrollen: als Compliance-Vorfall behandeln; nicht automatisch Hochrisiko-Einstufung des gesamten Tools.
- Systematische oder geduldete Praxis: tatsächlicher Betreiberzweck kann Hochrisiko-Einsatz begründen.
- Vorhersehbarer Fehlgebrauch ohne Schutzmaßnahmen: Governance verschärfen; Art. 4 KI-Kompetenz, Richtlinien, Rollenrechte, Logging, technische Sperren, Prompt-Blockaden und Re-Evaluation dokumentieren.
- Zweckänderung oder wesentliche Änderung:
anbieter-werden-art-25 prüfen.
Prüffragen für die Dokumentation
- Handelt es sich um ein Modell, ein System oder eine konkrete Fachanwendung?
- Wer ist Modellanbieter, Systemanbieter und Betreiber?
- Ist der Zweck breit-allgemein oder fachlich auf einen Anhang-III-Kontext zugeschnitten?
- Gibt es Use-Case-Beschränkungen in Terms, Policy, Systemprompt, UI, Rollenrechten oder Schulungen?
- Werden Hochrisiko-Einsätze technisch verhindert, nur organisatorisch untersagt oder faktisch geduldet?
- Erzeugt das System nur allgemeine Inhalte oder bewertet es natürliche Personen, Rechte, Risiken oder Zugang?
Routing
- GPAI-Modell bestätigt:
gpai-modelle-art-51-bis-55; ggf. gpai-systemisches-risiko-schwelle-10e25-flop.
- Allgemeiner Chatbot/GPAI-System:
begrenztes-risiko-art-50-transparenzpflichten, zusätzlich Datenschutz/Geheimnisschutz prüfen.
- Einsatz in Anhang-III-Kontext:
hochrisiko-art-6-abs-2-anhang-iii, danach rueckausnahme-art-6-abs-3.
- Zweckwidrige Mitarbeitern-Nutzung:
betreiber-deployer-pflichten-art-26, anbieter-werden-art-25, output-pruefdokument-ki-vo-mit-warnhinweisen.
Output-Template — GPAI-/Chatbot-Einordnung
GPAI- UND CHATBOT-EINORDNUNG NACH KI-VO
Datum: [DATUM]
System / Modell / Dienst: [NAME]
1. Technischer Zuschnitt
[Modell / GPAI-System / allgemeiner Chatbot / Fachanwendung / API-Integration]
2. GPAI-Modell
[Ja/Nein/Unklar] — [Begründung]
3. GPAI-System / allgemeiner Assistent
[Ja/Nein/Unklar] — [Begründung]
4. Zweckbestimmung
- Anbieter-Zweck: [...]
- Betreiber-Zweck: [...]
- Verbotene/ausgeschlossene Nutzungen: [...]
- Bekannte tatsächliche Nutzung: [...]
5. Hochrisiko-Relevanz
[Nicht automatisch Hochrisiko / Anhang-III-Prüfung erforderlich / Hochrisiko naheliegend]
[Begründung mit konkretem Zweck]
6. Off-label-/Mitarbeitern-Nutzung
[Risiko, Kontrollen, Governance-Maßnahmen, Re-Evaluation]
7. Folge-Skills
[gpai-modelle-art-51-bis-55 / begrenztes-risiko-art-50-transparenzpflichten / hochrisiko-art-6-abs-2-anhang-iii / betreiber-deployer-pflichten-art-26]
Ausformulierungspflicht und Formatstandard. Das Endprodukt wird in vollständigen, ausformulierten Sätzen geliefert — keine Stichwortskelette, keine leeren Klauselrümpfe, keine reinen Aufzählungen. Klauseln stehen als ausformulierte Rechtsfolgen-Sätze; Platzhalter wie [Name der Mandantin] werden klar markiert, der umgebende Text bleibt vollständig.
Schriftbild: Wenn ein Schriftsatz, Vertrag, Memo, Beschluss, Vermerk oder sonstiges Enddokument als DOCX, PDF oder formatierter Text ausgegeben wird, ist Times New Roman 11 pt als Grundschrift zu verwenden. Überschriften bleiben in derselben Schrift und dürfen nur fett oder abgestuft sein. Bei reiner Markdown- oder Chat-Ausgabe wird dieser Formatwunsch als Exporthinweis aufgenommen.
Nummerierung: Gliederung ausschließlich dezimal (1, 1.1, 1.1.1 und so weiter). Keine römischen Ziffern, keine Buchstaben- oder Mischgliederung.
Quellen- und Aktualitätshinweis
Stand: 07/2026. Maßgeblich sind Art. 3 Nr. 1, Nr. 12, Nr. 13, Nr. 63 und Nr. 66, Art. 50 sowie Art. 51 bis 55 KI-VO. Keine Rechtsberatung.
1---2name: gpai-vorliegen-art-3-nr-633description: Für GPAI, allgemeiner Chatbot und Hochrisiko-Abgrenzung: ordnet Norm, Beweislast und Gegenargument; Ergebnis: Prüfprodukt mit Risiko und nächstem Schritt.4---56# GPAI, allgemeiner Chatbot und Hochrisiko-Abgrenzung78## Zweck910Kläre, ob ein Modell oder Dienst ein General-Purpose-AI-Modell (GPAI-Modell) oder ein GPAI-System ist und wie dies zur Hochrisiko-Einstufung nach Art. 6 KI-VO steht.1112Der wichtigste praktische Punkt: Ein allgemeines Sprachmodell oder ein ChatGPT-ähnlicher Chatbot ist nicht automatisch Hochrisiko-KI. Hochrisiko hängt an der konkreten Zweckbestimmung und dem Einsatz als KI-System in einem regulierten Kontext, insbesondere Art. 6 Abs. 2 i.V.m. Anhang III.1314## Begriffe trennen1516| Begriff | Prüfgegenstand | Typische Pflichten |17|---|---|---|18| GPAI-Modell | trainiertes Basismodell / Foundation Model | Art. 51 bis 55 KI-VO, ggf. systemisches Risiko |19| GPAI-System | Anwendung auf Basis eines GPAI-Modells, die vielfältige Zwecke erfüllen kann | ggf. Art. 50, Rollen- und Risikoprüfung |20| Hochrisiko-KI-System | konkrete Anwendung mit Anhang-I- oder Anhang-III-Zweck | Art. 9 bis 15, 26, 27, 43 bis 49 |21| Allgemeiner Chatbot | Benutzeroberfläche für breite Text-/Multimodalaufgaben | nicht automatisch Hochrisiko; Einsatz prüfen |2223## GPAI-Modell nach Art. 3 Nr. 63 KI-VO2425Prüfe:26- Wurde das Modell mit großen Datenmengen und erheblichem Rechenaufwand trainiert?27- Nutzt es typischerweise selbstüberwachtes, unüberwachtes oder vergleichbares großskaliges Training?28- Generalisiert es über eine breite Vielzahl verschiedener Aufgaben?29- Kann es in viele nachgelagerte Systeme oder Anwendungen integriert werden?30- Ist es nicht nur ein eng spezialisiertes Modell für eine einzelne Aufgabe?3132Beispiele:33- große Sprachmodelle34- multimodale Foundation Models35- breite Bild-, Audio-, Video- oder Code-Modelle36- Modelle, die als API oder Model Weight für viele Anwendungen bereitgestellt werden3738Nicht automatisch GPAI:39- kleines Fachmodell für genau eine Klassifikationsaufgabe40- klassische Fachsoftware ohne generische Modellfähigkeiten41- rein regelbasiertes Expertensystem4243## GPAI-System nach Art. 3 Nr. 66 KI-VO4445Ein GPAI-System ist ein KI-System auf Basis eines GPAI-Modells, das für eine Vielzahl von Zwecken eingesetzt werden kann, auch wenn es direkt mit Nutzern interagiert oder Inhalte erzeugt.4647Prüffragen:48- Gibt es eine Chat-, Agenten-, API- oder Tool-Oberfläche für Nutzer?49- Kann das System Texte, Bilder, Code, Empfehlungen oder andere Inhalte für viele Zwecke erzeugen?50- Ist das System in einen konkreten Facheingebettet oder bleibt es allgemeiner Assistent?5152## Hochrisiko-Abgrenzung5354### Allgemeiner Chatbot5556Ein allgemeiner Assistent für Entwurf, Zusammenfassung, Übersetzung oder Recherche ist regelmäßig nicht schon wegen seiner abstrakten Einsatzmöglichkeiten Hochrisiko. Prüfe aber:57- Art. 50 Transparenzpflichten bei Interaktion mit natürlichen Personen oder KI-generierten Inhalten58- GPAI-Pflichten des Modellanbieters59- Datenschutz, Berufsrecht, Geheimnisschutz, Urheberrecht6061### Konkrete Hochrisiko-Integration6263Wird das GPAI-System in einen Anhang-III-Prozess integriert, kann die konkrete Anwendung Hochrisiko sein.6465Beispiele:66- Bewerberranking oder Eignungsbewertung67- Beschäftigtenüberwachung oder Leistungsbewertung68- Kreditwürdigkeitsprüfung natürlicher Personen69- Bewertung von Sozialleistungsansprüchen70- Notrufpriorisierung71- justizielle Rechtsanwendung auf konkrete Fälle durch oder für ein Gericht72- Asyl-/Visa-/Grenzrisikobewertung7374Dann weiter zu `hochrisiko-art-6-abs-2-anhang-iii`.7576### Mitarbeiter nutzen Chatbot entgegen Zweckbestimmung7778Wenn Mitarbeiter ein allgemeines Tool zweckwidrig für Hochrisiko-Fragen nutzen:7980- **Isolierter Regelverstoß trotz klarer Richtlinie und Kontrollen:** als Compliance-Vorfall behandeln; nicht automatisch Hochrisiko-Einstufung des gesamten Tools.81- **Systematische oder geduldete Praxis:** tatsächlicher Betreiberzweck kann Hochrisiko-Einsatz begründen.82- **Vorhersehbarer Fehlgebrauch ohne Schutzmaßnahmen:** Governance verschärfen; Art. 4 KI-Kompetenz, Richtlinien, Rollenrechte, Logging, technische Sperren, Prompt-Blockaden und Re-Evaluation dokumentieren.83- **Zweckänderung oder wesentliche Änderung:** `anbieter-werden-art-25` prüfen.8485## Prüffragen für die Dokumentation86871. Handelt es sich um ein Modell, ein System oder eine konkrete Fachanwendung?882. Wer ist Modellanbieter, Systemanbieter und Betreiber?893. Ist der Zweck breit-allgemein oder fachlich auf einen Anhang-III-Kontext zugeschnitten?904. Gibt es Use-Case-Beschränkungen in Terms, Policy, Systemprompt, UI, Rollenrechten oder Schulungen?915. Werden Hochrisiko-Einsätze technisch verhindert, nur organisatorisch untersagt oder faktisch geduldet?926. Erzeugt das System nur allgemeine Inhalte oder bewertet es natürliche Personen, Rechte, Risiken oder Zugang?9394## Routing9596- **GPAI-Modell bestätigt:** `gpai-modelle-art-51-bis-55`; ggf. `gpai-systemisches-risiko-schwelle-10e25-flop`.97- **Allgemeiner Chatbot/GPAI-System:** `begrenztes-risiko-art-50-transparenzpflichten`, zusätzlich Datenschutz/Geheimnisschutz prüfen.98- **Einsatz in Anhang-III-Kontext:** `hochrisiko-art-6-abs-2-anhang-iii`, danach `rueckausnahme-art-6-abs-3`.99- **Zweckwidrige Mitarbeitern-Nutzung:** `betreiber-deployer-pflichten-art-26`, `anbieter-werden-art-25`, `output-pruefdokument-ki-vo-mit-warnhinweisen`.100101## Output-Template — GPAI-/Chatbot-Einordnung102103```text104GPAI- UND CHATBOT-EINORDNUNG NACH KI-VO105Datum: [DATUM]106System / Modell / Dienst: [NAME]1071081. Technischer Zuschnitt109[Modell / GPAI-System / allgemeiner Chatbot / Fachanwendung / API-Integration]1101112. GPAI-Modell112[Ja/Nein/Unklar] — [Begründung]1131143. GPAI-System / allgemeiner Assistent115[Ja/Nein/Unklar] — [Begründung]1161174. Zweckbestimmung118- Anbieter-Zweck: [...]119- Betreiber-Zweck: [...]120- Verbotene/ausgeschlossene Nutzungen: [...]121- Bekannte tatsächliche Nutzung: [...]1221235. Hochrisiko-Relevanz124[Nicht automatisch Hochrisiko / Anhang-III-Prüfung erforderlich / Hochrisiko naheliegend]125[Begründung mit konkretem Zweck]1261276. Off-label-/Mitarbeitern-Nutzung128[Risiko, Kontrollen, Governance-Maßnahmen, Re-Evaluation]1291307. Folge-Skills131[gpai-modelle-art-51-bis-55 / begrenztes-risiko-art-50-transparenzpflichten / hochrisiko-art-6-abs-2-anhang-iii / betreiber-deployer-pflichten-art-26]132```133134<!-- BEGIN ausformulierungspflicht (autogen) -->135> **Ausformulierungspflicht und Formatstandard.** Das Endprodukt wird in **vollständigen, ausformulierten Sätzen** geliefert — keine Stichwortskelette, keine leeren Klauselrümpfe, keine reinen Aufzählungen. Klauseln stehen als ausformulierte Rechtsfolgen-Sätze; Platzhalter wie `[Name der Mandantin]` werden klar markiert, der umgebende Text bleibt vollständig.136>137> **Schriftbild:** Wenn ein Schriftsatz, Vertrag, Memo, Beschluss, Vermerk oder sonstiges Enddokument als DOCX, PDF oder formatierter Text ausgegeben wird, ist **Times New Roman 11 pt** als Grundschrift zu verwenden. Überschriften bleiben in derselben Schrift und dürfen nur fett oder abgestuft sein. Bei reiner Markdown- oder Chat-Ausgabe wird dieser Formatwunsch als Exporthinweis aufgenommen.138>139> **Nummerierung:** Gliederung ausschließlich dezimal (`1`, `1.1`, `1.1.1` und so weiter). Keine römischen Ziffern, keine Buchstaben- oder Mischgliederung.140<!-- END ausformulierungspflicht (autogen) -->141142## Quellen- und Aktualitätshinweis143144Stand: 07/2026. Maßgeblich sind Art. 3 Nr. 1, Nr. 12, Nr. 13, Nr. 63 und Nr. 66, Art. 50 sowie Art. 51 bis 55 KI-VO. Keine Rechtsberatung.
Klotzkette