Abgrenzung: Konventionelle Software versus KI-System
Arbeitsweg
- Rolle, Ziel und gewünschtes Arbeitsprodukt klären: Wer handelt, welche Entscheidung steht an, welche Frist läuft und welcher Output wird gebraucht?
- Fristen und Eilrisiken zuerst markieren: KI-VO Art. 5 Verbote ab 02.02.2025, Art. 51-55 GPAI ab 02.08.2025, Art. 50 Transparenz ab 02.08.2026, Hochrisiko Anhang III nach Digital-Omnibus-Zeitstrahl spätestens ab 02.12.2027, Anhang I spätestens ab 02.08.2028; vor Außenverwendung amtlichen Stand prüfen.
- Tragende Normen verifizieren: KI-VO (EU 2024/1689) Art. 3, 5 (Verbote), 6 (Hochrisiko), 8-15 (Anforderungen), 16, 26 (Pflichten Anbieter/Betreiber), 50 (Transparenz), 51-55 (GPAI), 73, 99 (Sanktionen) — Fundstellen über gesetze-im-internet.de, dejure.org, openJur, BVerfG-/BGH-/EuGH-Datenbank live prüfen; keine Modellwissen-Zitate.
- Zuständige Stelle bestimmen und Adressaten richtig wählen: Anbieter, Betreiber, Importeur, Händler, Marktüberwachungsbehörde (BNetzA/BMDV), benannte Stelle, EU-AI-Office, AI Board.
- Dokumente und Beweismittel sammeln und auf Lücken prüfen: Konformitätserklärung Art. 47, technische Dokumentation Anhang IV, Risikomanagement-System Art. 9, Datengovernance Art. 10, FRIA (Fundamental Rights Impact Assessment) Art. 27, EU-Datenbank-Registrierung Art. 49 — fehlende Belege durch Akteneinsicht oder Rückfrage beim Mandanten beschaffen, Live-Check für tagesaktuelle Normänderungen und Verwaltungspraxis.
Leitgedanke
Automation ist ein starkes Warnsignal, aber kein alleiniger Test. Entscheidend ist, ob das System aus Eingaben ableitet, wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugt werden. Autonomie muss vorhanden sein, darf aber nicht überhöht werden: Auch ein Mensch-in-der-Schleife-System kann KI sein, wenn die Ausgabe inferenzbasiert entsteht.
Abgrenzungsmatrix
Regelmäßig konventionelle Software
| Systemtyp |
Warum regelmäßig kein KI-System |
| SQL-Abfrage |
Suche/Filter nach festen Kriterien, keine inferenzbasierte Ausgabe |
| Makro/Skript |
starrer Ablauf, keine Ableitung aus Daten |
| Fristenrechner |
mathematische oder juristische Regeln vollständig vorgegeben |
| Formularvalidierung |
prüft Pflichtfelder oder Format, bewertet nicht |
| Dashboard mit Summen/Mittelwerten |
deskriptive Statistik ohne Vorhersage/Empfehlung |
| Hartcodierter Entscheidungsbaum |
Regeln und Schwellen komplett menschlich festgelegt |
Grenzfälle
| Systemtyp |
Entscheidend |
| Expertensystem |
Nur Wissensbasis oder zusätzlich gelernte/inferenzbasierte Bewertung? |
| Scoring-Excel |
Manuelle Gewichtung oder aus Daten gelernte Parameter? |
| Workflow-Automation |
Nur Routing nach Regeln oder KI-Komponente mit Bewertung? |
| Suchmaschine |
Reine Volltextsuche oder lernbasiertes Ranking/Personalisierung? |
| Fraud-Detection |
Feste Schwellen oder Anomalie-/Klassifikationsmodell? |
| Chatbot |
Skriptbaum oder generatives/LLM-basiertes System? |
| Rechts-/HR-Assistent |
Nur Textentwurf oder Bewertung natürlicher Personen/Rechtsanwendung? |
Regelmäßig KI-System oder KI-Komponente
| Systemtyp |
Typisches KI-Merkmal |
| LLM, Transformer, generativer Chatbot |
Inhalte/Empfehlungen durch Inferenz |
| Klassifikator, Random Forest, XGBoost, SVM |
gelernte Muster und Zuordnung |
| Regression mit Prognosezweck |
Vorhersage aus Eingaben |
| Clustering / Embeddings |
Musterbildung oder Ähnlichkeit aus Daten |
| Bild-, Sprach- oder Emotionserkennung |
inferenzbasierte Erkennung/Kategorisierung |
| Recommendation Engine |
Empfehlung aus Nutzungs- oder Kontextdaten |
| RAG-System mit LLM-Auswertung |
Retrieval plus generative/inferenzbasierte Antwort |
Prüffragen
- Werden Trainingsdaten, Modellgewichte, Embeddings, gelernte Parameter oder ein externes Modell genutzt?
- Erzeugt das System aus variablen Eingaben eigenständig eine Ausgabe?
- Ist die Ausgabe Vorhersage, Inhalt, Empfehlung, Score, Ranking, Klassifikation oder Entscheidung?
- Kann ein Mensch die Ausgabe nur noch prüfen, übernehmen oder verwerfen?
- Ist die Automation bloß Ablaufsteuerung oder trägt sie die inhaltliche Bewertung?
- Ist eine KI-API oder ein GPAI-System eingebunden, auch wenn die eigene Software drumherum konventionell ist?
- Wird das System in sensiblen Kontexten wie Beschäftigung, Bildung, Kredit, Justiz oder Verwaltung genutzt?
Typische Fehlannahmen
"Es lernt nicht im Betrieb, also keine KI."
Falsch. Adaptivität nach Deployment ist optional; ein eingefrorenes trainiertes Modell kann KI-System sein.
"Der Mensch entscheidet am Ende, also keine KI."
Falsch. Menschliche Freigabe beseitigt die KI-Eigenschaft nicht, wenn die inhaltliche Ausgabe inferenzbasiert generiert wird.
"Es ist nur eine API."
Die API kann KI-System oder Bestandteil eines KI-Systems sein. Für den Betreiber zählt der konkrete Einsatz.
"Es ist nur ein Chatbot."
Ein skriptbasierter FAQ-Bot kann konventionell sein. Ein LLM-basierter Chatbot ist regelmäßig KI-System; Hochrisiko hängt aber erst vom Zweck ab.
"Es ist nur Statistik."
Deskriptive Statistik bleibt häufig draußen. Prognose, Klassifikation, Ranking oder individuelle Bewertung sprechen deutlich für KI.
Ergebnislogik
- KI-System wahrscheinlich:
liegt-ki-system-vor-art-3-nr-1 dokumentierend abschließen, danach Risikoklasse prüfen.
- Konventionelle Software wahrscheinlich: Negativvermerk erstellen; Re-Evaluation bei neuer KI-Komponente oder Zweckänderung.
- KI-Komponente in konventionellem System: Gesamtarchitektur trennen und KI-Komponente separat durch die KI-VO-Prüfung führen.
- GPAI/Chatbot betroffen:
gpai-vorliegen-art-3-nr-63 und begrenztes-risiko-art-50-transparenzpflichten.
- Sensible Zwecknähe: zusätzlich
hochrisiko-art-6-abs-2-anhang-iii.
Output-Template — Abgrenzungsmatrix
ABGRENZUNG KONVENTIONELLE SOFTWARE / KI-SYSTEM
Datum: [DATUM]
System / Komponente: [NAME]
1. Technischer Befund
[Regelwerk / / Statistik / ML-Modell / LLM / API / RAG / Hybrid]
2. Automation und Autonomie
[Was läuft automatisch? Wo greift ein Mensch ein? Ist die Ausgabe menschlich vorbestimmt?]
3. Inferenz
[Keine / möglich / wahrscheinlich / bestätigt]
[Begründung: Trainingsdaten, Modell, Gewichtung, Ranking, Generierung]
4. Output
[Vorhersage / Inhalt / Empfehlung / Entscheidung / nur Datenweitergabe]
5. Ergebnis
[konventionelle Software / KI-System / KI-Komponente im Gesamtsystem / Grenzfall]
6. Folgeprüfung
[liegt-ki-system-vor-art-3-nr-1 / gpai-vorliegen-art-3-nr-63 / hochrisiko-art-6-abs-2-anhang-iii / keine KI-VO]
Quellen- und Aktualitätshinweis
Stand: 07/2026. Maßgeblich sind Art. 3 Nr. 1 KI-VO, Erwägungsgrund 12 und die Kommissionsleitlinien zur Definition des KI-Systems. Keine Rechtsberatung.
1---2name: abgrenzung-konventionelle-software-vs-ki-system3description: Für Abgrenzung: Konventionelle Software versus digitale Werkzeuge-System: ordnet Norm, Beweislast und Gegenargument; Ergebnis: Prüfprodukt mit Risiko und nächstem Schritt. Fachgebiet: europäischem Technikregulierungsrecht. Route: abgrenzung-konventionelle-software-vs-ki-system.4---56# Abgrenzung: Konventionelle Software versus KI-System78## Arbeitsweg910- Rolle, Ziel und gewünschtes Arbeitsprodukt klären: Wer handelt, welche Entscheidung steht an, welche Frist läuft und welcher Output wird gebraucht?11- Fristen und Eilrisiken zuerst markieren: KI-VO Art. 5 Verbote ab 02.02.2025, Art. 51-55 GPAI ab 02.08.2025, Art. 50 Transparenz ab 02.08.2026, Hochrisiko Anhang III nach Digital-Omnibus-Zeitstrahl spätestens ab 02.12.2027, Anhang I spätestens ab 02.08.2028; vor Außenverwendung amtlichen Stand prüfen.12- Tragende Normen verifizieren: KI-VO (EU 2024/1689) Art. 3, 5 (Verbote), 6 (Hochrisiko), 8-15 (Anforderungen), 16, 26 (Pflichten Anbieter/Betreiber), 50 (Transparenz), 51-55 (GPAI), 73, 99 (Sanktionen) — Fundstellen über gesetze-im-internet.de, dejure.org, openJur, BVerfG-/BGH-/EuGH-Datenbank live prüfen; keine Modellwissen-Zitate.13- Zuständige Stelle bestimmen und Adressaten richtig wählen: Anbieter, Betreiber, Importeur, Händler, Marktüberwachungsbehörde (BNetzA/BMDV), benannte Stelle, EU-AI-Office, AI Board.14- Dokumente und Beweismittel sammeln und auf Lücken prüfen: Konformitätserklärung Art. 47, technische Dokumentation Anhang IV, Risikomanagement-System Art. 9, Datengovernance Art. 10, FRIA (Fundamental Rights Impact Assessment) Art. 27, EU-Datenbank-Registrierung Art. 49 — fehlende Belege durch Akteneinsicht oder Rückfrage beim Mandanten beschaffen, Live-Check für tagesaktuelle Normänderungen und Verwaltungspraxis.1516## Leitgedanke1718Automation ist ein starkes Warnsignal, aber kein alleiniger Test. Entscheidend ist, ob das System aus Eingaben ableitet, wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugt werden. Autonomie muss vorhanden sein, darf aber nicht überhöht werden: Auch ein Mensch-in-der-Schleife-System kann KI sein, wenn die Ausgabe inferenzbasiert entsteht.1920## Abgrenzungsmatrix2122### Regelmäßig konventionelle Software2324| Systemtyp | Warum regelmäßig kein KI-System |25|---|---|26| SQL-Abfrage | Suche/Filter nach festen Kriterien, keine inferenzbasierte Ausgabe |27| Makro/Skript | starrer Ablauf, keine Ableitung aus Daten |28| Fristenrechner | mathematische oder juristische Regeln vollständig vorgegeben |29| Formularvalidierung | prüft Pflichtfelder oder Format, bewertet nicht |30| Dashboard mit Summen/Mittelwerten | deskriptive Statistik ohne Vorhersage/Empfehlung |31| Hartcodierter Entscheidungsbaum | Regeln und Schwellen komplett menschlich festgelegt |3233### Grenzfälle3435| Systemtyp | Entscheidend |36|---|---|37| Expertensystem | Nur Wissensbasis oder zusätzlich gelernte/inferenzbasierte Bewertung? |38| Scoring-Excel | Manuelle Gewichtung oder aus Daten gelernte Parameter? |39| Workflow-Automation | Nur Routing nach Regeln oder KI-Komponente mit Bewertung? |40| Suchmaschine | Reine Volltextsuche oder lernbasiertes Ranking/Personalisierung? |41| Fraud-Detection | Feste Schwellen oder Anomalie-/Klassifikationsmodell? |42| Chatbot | Skriptbaum oder generatives/LLM-basiertes System? |43| Rechts-/HR-Assistent | Nur Textentwurf oder Bewertung natürlicher Personen/Rechtsanwendung? |4445### Regelmäßig KI-System oder KI-Komponente4647| Systemtyp | Typisches KI-Merkmal |48|---|---|49| LLM, Transformer, generativer Chatbot | Inhalte/Empfehlungen durch Inferenz |50| Klassifikator, Random Forest, XGBoost, SVM | gelernte Muster und Zuordnung |51| Regression mit Prognosezweck | Vorhersage aus Eingaben |52| Clustering / Embeddings | Musterbildung oder Ähnlichkeit aus Daten |53| Bild-, Sprach- oder Emotionserkennung | inferenzbasierte Erkennung/Kategorisierung |54| Recommendation Engine | Empfehlung aus Nutzungs- oder Kontextdaten |55| RAG-System mit LLM-Auswertung | Retrieval plus generative/inferenzbasierte Antwort |5657## Prüffragen58591. Werden Trainingsdaten, Modellgewichte, Embeddings, gelernte Parameter oder ein externes Modell genutzt?602. Erzeugt das System aus variablen Eingaben eigenständig eine Ausgabe?613. Ist die Ausgabe Vorhersage, Inhalt, Empfehlung, Score, Ranking, Klassifikation oder Entscheidung?624. Kann ein Mensch die Ausgabe nur noch prüfen, übernehmen oder verwerfen?635. Ist die Automation bloß Ablaufsteuerung oder trägt sie die inhaltliche Bewertung?646. Ist eine KI-API oder ein GPAI-System eingebunden, auch wenn die eigene Software drumherum konventionell ist?657. Wird das System in sensiblen Kontexten wie Beschäftigung, Bildung, Kredit, Justiz oder Verwaltung genutzt?6667## Typische Fehlannahmen6869**"Es lernt nicht im Betrieb, also keine KI."**70Falsch. Adaptivität nach Deployment ist optional; ein eingefrorenes trainiertes Modell kann KI-System sein.7172**"Der Mensch entscheidet am Ende, also keine KI."**73Falsch. Menschliche Freigabe beseitigt die KI-Eigenschaft nicht, wenn die inhaltliche Ausgabe inferenzbasiert generiert wird.7475**"Es ist nur eine API."**76Die API kann KI-System oder Bestandteil eines KI-Systems sein. Für den Betreiber zählt der konkrete Einsatz.7778**"Es ist nur ein Chatbot."**79Ein skriptbasierter FAQ-Bot kann konventionell sein. Ein LLM-basierter Chatbot ist regelmäßig KI-System; Hochrisiko hängt aber erst vom Zweck ab.8081**"Es ist nur Statistik."**82Deskriptive Statistik bleibt häufig draußen. Prognose, Klassifikation, Ranking oder individuelle Bewertung sprechen deutlich für KI.8384## Ergebnislogik8586- **KI-System wahrscheinlich:** `liegt-ki-system-vor-art-3-nr-1` dokumentierend abschließen, danach Risikoklasse prüfen.87- **Konventionelle Software wahrscheinlich:** Negativvermerk erstellen; Re-Evaluation bei neuer KI-Komponente oder Zweckänderung.88- **KI-Komponente in konventionellem System:** Gesamtarchitektur trennen und KI-Komponente separat durch die KI-VO-Prüfung führen.89- **GPAI/Chatbot betroffen:** `gpai-vorliegen-art-3-nr-63` und `begrenztes-risiko-art-50-transparenzpflichten`.90- **Sensible Zwecknähe:** zusätzlich `hochrisiko-art-6-abs-2-anhang-iii`.9192## Output-Template — Abgrenzungsmatrix9394```text95ABGRENZUNG KONVENTIONELLE SOFTWARE / KI-SYSTEM96Datum: [DATUM]97System / Komponente: [NAME]98991. Technischer Befund100[Regelwerk / / Statistik / ML-Modell / LLM / API / RAG / Hybrid]1011022. Automation und Autonomie103[Was läuft automatisch? Wo greift ein Mensch ein? Ist die Ausgabe menschlich vorbestimmt?]1041053. Inferenz106[Keine / möglich / wahrscheinlich / bestätigt]107[Begründung: Trainingsdaten, Modell, Gewichtung, Ranking, Generierung]1081094. Output110[Vorhersage / Inhalt / Empfehlung / Entscheidung / nur Datenweitergabe]1111125. Ergebnis113[konventionelle Software / KI-System / KI-Komponente im Gesamtsystem / Grenzfall]1141156. Folgeprüfung116[liegt-ki-system-vor-art-3-nr-1 / gpai-vorliegen-art-3-nr-63 / hochrisiko-art-6-abs-2-anhang-iii / keine KI-VO]117```118119## Quellen- und Aktualitätshinweis120121Stand: 07/2026. Maßgeblich sind Art. 3 Nr. 1 KI-VO, Erwägungsgrund 12 und die Kommissionsleitlinien zur Definition des KI-Systems. Keine Rechtsberatung.
Klotzkette