Klotzkette Abgrenzung: Konventionelle Software versus KI-System
Leitgedanke
Automation ist ein starkes Warnsignal, aber kein alleiniger Test. Entscheidend ist, ob das System aus Eingaben ableitet, wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugt werden. Autonomie muss vorhanden sein, darf aber nicht überhöht werden: Auch ein Mensch-in-der-Schleife-System kann KI sein, wenn die Ausgabe inferenzbasiert entsteht.
Abgrenzungsmatrix
Regelmäßig konventionelle Software
| Systemtyp | Warum regelmäßig kein KI-System |
|---|---|
| SQL-Abfrage | Suche/Filter nach festen Kriterien, keine inferenzbasierte Ausgabe |
| Makro/Skript | starrer Ablauf, keine Ableitung aus Daten |
| Fristenrechner | mathematische oder juristische Regeln vollständig vorgegeben |
| Formularvalidierung | prüft Pflichtfelder oder Format, bewertet nicht |
| Dashboard mit Summen/Mittelwerten | deskriptive Statistik ohne Vorhersage/Empfehlung |
| Hartcodierter Entscheidungsbaum | Regeln und Schwellen komplett menschlich festgelegt |
Grenzfälle
| Systemtyp | Entscheidend |
|---|---|
| Expertensystem | Nur Wissensbasis oder zusätzlich gelernte/inferenzbasierte Bewertung? |
| Scoring-Excel | Manuelle Gewichtung oder aus Daten gelernte Parameter? |
| Workflow-Automation | Nur Routing nach Regeln oder KI-Komponente mit Bewertung? |
| Suchmaschine | Reine Volltextsuche oder lernbasiertes Ranking/Personalisierung? |
| Fraud-Detection | Feste Schwellen oder Anomalie-/Klassifikationsmodell? |
| Chatbot | Skriptbaum oder generatives/LLM-basiertes System? |
| Rechts-/HR-Assistent | Nur Textentwurf oder Bewertung natürlicher Personen/Rechtsanwendung? |
Regelmäßig KI-System oder KI-Komponente
| Systemtyp | Typisches KI-Merkmal |
|---|---|
| LLM, Transformer, generativer Chatbot | Inhalte/Empfehlungen durch Inferenz |
| Klassifikator, Random Forest, XGBoost, SVM | gelernte Muster und Zuordnung |
| Regression mit Prognosezweck | Vorhersage aus Eingaben |
| Clustering / Embeddings | Musterbildung oder Ähnlichkeit aus Daten |
| Bild-, Sprach- oder Emotionserkennung | inferenzbasierte Erkennung/Kategorisierung |
| Recommendation Engine | Empfehlung aus Nutzungs- oder Kontextdaten |
| RAG-System mit LLM-Auswertung | Retrieval plus generative/inferenzbasierte Antwort |
Prüffragen
- Werden Trainingsdaten, Modellgewichte, Embeddings, gelernte Parameter oder ein externes Modell genutzt?
- Erzeugt das System aus variablen Eingaben eigenständig eine Ausgabe?
- Ist die Ausgabe Vorhersage, Inhalt, Empfehlung, Score, Ranking, Klassifikation oder Entscheidung?
- Kann ein Mensch die Ausgabe nur noch prüfen, übernehmen oder verwerfen?
- Ist die Automation bloß Ablaufsteuerung oder trägt sie die inhaltliche Bewertung?
- Ist eine KI-API oder ein GPAI-System eingebunden, auch wenn die eigene Software drumherum konventionell ist?
- Wird das System in sensiblen Kontexten wie Beschäftigung, Bildung, Kredit, Justiz oder Verwaltung genutzt?
Typische Fehlannahmen
"Es lernt nicht im Betrieb, also keine KI." Falsch. Adaptivität nach Deployment ist optional; ein eingefrorenes trainiertes Modell kann KI-System sein.
"Der Mensch entscheidet am Ende, also keine KI." Falsch. Menschliche Freigabe beseitigt die KI-Eigenschaft nicht, wenn die inhaltliche Ausgabe inferenzbasiert generiert wird.
"Es ist nur eine API." Die API kann KI-System oder Bestandteil eines KI-Systems sein. Für den Betreiber zählt der konkrete Einsatz.
"Es ist nur ein Chatbot." Ein skriptbasierter FAQ-Bot kann konventionell sein. Ein LLM-basierter Chatbot ist regelmäßig KI-System; Hochrisiko hängt aber erst vom Zweck ab.
"Es ist nur Statistik." Deskriptive Statistik bleibt häufig draußen. Prognose, Klassifikation, Ranking oder individuelle Bewertung sprechen deutlich für KI.
Ergebnislogik
- KI-System wahrscheinlich:
liegt-ki-system-vor-art-3-nr-1dokumentierend abschließen, danach Risikoklasse prüfen. - Konventionelle Software wahrscheinlich: Negativvermerk erstellen; Re-Evaluation bei neuer KI-Komponente oder Zweckänderung.
- KI-Komponente in konventionellem System: Gesamtarchitektur trennen und KI-Komponente separat durch die KI-VO-Prüfung führen.
- GPAI/Chatbot betroffen:
gpai-vorliegen-art-3-nr-63undbegrenztes-risiko-art-50-transparenzpflichten. - Sensible Zwecknähe: zusätzlich
hochrisiko-art-6-abs-2-anhang-iii.
Output-Template — Abgrenzungsmatrix
ABGRENZUNG KONVENTIONELLE SOFTWARE / KI-SYSTEM
Datum: [DATUM]
System / Komponente: [NAME]
1. Technischer Befund
[Regelwerk / / Statistik / ML-Modell / LLM / API / RAG / Hybrid]
2. Automation und Autonomie
[Was läuft automatisch? Wo greift ein Mensch ein? Ist die Ausgabe menschlich vorbestimmt?]
3. Inferenz
[Keine / möglich / wahrscheinlich / bestätigt]
[Begründung: Trainingsdaten, Modell, Gewichtung, Ranking, Generierung]
4. Output
[Vorhersage / Inhalt / Empfehlung / Entscheidung / nur Datenweitergabe]
5. Ergebnis
[konventionelle Software / KI-System / KI-Komponente im Gesamtsystem / Grenzfall]
6. Folgeprüfung
[liegt-ki-system-vor-art-3-nr-1 / gpai-vorliegen-art-3-nr-63 / hochrisiko-art-6-abs-2-anhang-iii / keine KI-VO]
Quellen- und Aktualitätshinweis
Stand: 07/2026. Maßgeblich sind Art. 3 Nr. 1 KI-VO, Erwägungsgrund 12 und die Kommissionsleitlinien zur Definition des KI-Systems. Keine Rechtsberatung.