ThomasMoreAI Halluzinations-Handhabung
Das sogenannte "Halluzinieren" von KI-Systemen — die Erzeugung von nicht existierenden, aber plausibel wirkenden Zitaten, Gerichtsentscheidungen und Fundstellen — ist das größte praktische Haftungsrisiko beim Einsatz von KI-Systemen in der anwaltlichen Arbeit. Die eiserne Regel lautet: Jede einzelne Fundstelle aus einem KI-System ist ausnahmslos zu verifizieren.
Rechtlicher Hintergrund
Rechtsprechung live prüfen: Keine Entscheidung aus Modellwissen zitieren; vor Ausgabe über amtliche oder frei zugängliche Quelle mit Gericht, Entscheidungsform, Datum, Aktenzeichen und tragender Aussage verifizieren.
Vorgehen
Vorab: Der untenstehende Workflow ist die typische Standardlinie. Wenn die Mandantenlage abweicht (siehe "Strategische Optionen" oben), sind die Schritte entsprechend zu verkuerzen, umzustellen oder durch ein anderes Skill zu ersetzen — der Workflow ist Leitfaden, nicht Pflichtprogramm.
- Quellenprüfung als Standard-Schritt: In den Arbeitsablauf für jeden Schriftsatz und jede Beratung als festen Schritt integrieren: Jedes KI-generierte Zitat wird vor der Verwendung in der Originalquelle nachgeschlagen.
- Primärquellen nutzen: Gerichtsentscheidungen aus offiziellen Portalen (z.B. openjur, Bundesgerichtshof-Website, ECLI-Suche), Gesetze aus dem Bundesgesetzblatt oder gesetze-im-internet.de.
- Dokumentation der Prüfung: Im Arbeitsvermerk oder in der Akte festhalten, welche Fundstellen KI-generiert waren und wie die Verifikation erfolgte (Prüfer, Datum, Quelle).
- Vier-Augen-Prinzip bei kritischen Schriftsätzen: Schriftsätze, die auf KI-generierte Fundstellen gestützt werden, sollten von einer zweiten Person vor Einreichung geprüft werden.
- Schulung zu Halluzinationsmustern: Mitarbeitende müssen typische Muster erkennen lernen: besonders eloquente Formulierungen, genaue Randnummernangaben, unbekannte Senate oder Spruchkörper können Warnsignale sein.
- Konsequenz bei Auffinden einer Halluzination: Gesamtes KI-generiertes Dokument erneut vollständig prüfen; keine selektive Verifikation.
Strategische Optionen (vor dem Template entscheiden)
Bevor das Template eins-zu-eins gefuellt wird, ist zu pruefen welche Variante zur Mandantenkonstellation passt. Das Template ist eine moegliche Form — nicht die einzige.
| Konstellation | Empfohlener Weg |
|---|---|
| Standard — Halluzinations-Pruefprotokoll fuer KI-Output erstellen | Pruefprotokoll nach Schema; Template unten |
| Variante A — Halluzination in bereits versandtem Dokument | Fehlerkorrektur-Protokoll; Mandant sofort informieren |
| Variante B — Pruefung nicht moeglich keine Originalquellen | Quellenangaben-Luecke dokumentieren; Vorbehalt in Dokument |
| Variante C — Routinemaessige Qualitaetssicherung kein Einzelfall | Systematisches Pruefverfahren einrichten; Checkliste standardisieren |
Wenn die Mandantenkonstellation nicht ins Standardschema passt, ist das Template anzupassen oder durch ein anderes Skill abzuloesen — nicht das Mandat in das Schema zu pressen.
Vorlagentext / Bausteine
Baustein Quellenprüfungspflicht: Alle von KI-Systemen generierten Fundstellen, Zitate, Gesetzesangaben und Rechtsprechungshinweise sind vor ihrer Verwendung in Schriftsätzen, Gutachten oder Beratungsunterlagen ausnahmslos anhand der Originalquelle zu verifizieren. KI-Systeme können Fundstellen erfinden, die nicht existieren. Ein Unterlassen der Prüfung stellt eine Verletzung der anwaltlichen Sorgfaltspflicht nach § 43 BRAO dar und kann Haftungsansprüche des Mandanten begründen.
Baustein Vier-Augen-Prinzip: Schriftsätze, die unter wesentlicher Mitwirkung von KI-Systemen erstellt wurden, sind vor Einreichung bei Gericht oder Weitersendung an Mandanten von einer zweiten Person inhaltlich zu überprüfen. Dabei ist besonderes Augenmerk auf die Korrektheit aller Zitate und Fundstellen zu legen.
Baustein Dokumentationsprotokoll: Für jeden Schriftsatz oder jede Beratungsunterlage, bei der KI-Systeme wesentlich mitgewirkt haben, wird ein Prüfprotokoll angelegt mit folgenden Angaben: Datum der Prüfung, Name der prüfenden Person, geprüfte Fundstellen und Verifikationsquelle, Ergebnis der Prüfung.
--- vor Versand klaeren ---
- Welches Verhandlungsziel hat der Mandant? [Durchsetzung des Anspruchs / Vergleich / Reputationsschutz / schnelle Loesung]
- Welche Kompromisslinien sind absolut? [Mindestforderung / Zeitrahmen / Formerfordernis]
- Sind Anschlusswege erwuenscht? [Mediation / Direktgesprach / Einigung vor Fristablauf]
Schlussabsatz Variante A (kooperativ): Wir regen eine guetliche Einigung an und stehen fuer ein klaerenden Gesprach zur Verfuegung. Eine einvernehmliche Loesung erspart beiden Seiten Zeit und Kosten.
Schlussabsatz Variante B (formal-streng): Eine aussergerichtliche Einigung kommt nur in Betracht wenn die Gegenseite innerhalb von [X] Tagen einen akzeptablen Vorschlag unterbreitet. Anderenfalls werden wir alle rechtlichen Schritte einleiten.
Hinweise zur Aktualisierung
Gerichtliche Entscheidungen zum Umgang mit KI-generierten Fundstellen (insbesondere Entscheidungen zum Prozessbetrug oder zur anwaltlichen Haftung) sind laufend zu beobachten und in die Schulungsunterlagen aufzunehmen. BRAK und DAV werden ihre Stellungnahmen weiterentwickeln.
Aktuelle Rechtsprechung (v14.2)
- Rechtsprechung: keine Entscheidung aus Modellwissen zitieren; vor Ausgabe über offizielle oder frei zugängliche Quelle mit Gericht, Entscheidungsform, Datum, Aktenzeichen und tragender Aussage verifizieren.
Zentrale Normen (Paragrafenkette)
- § 43 BRAO — Gewissenhafte Berufsausuebung (Sorgfaltspflicht)
- § 263 StGB — Prozessbetrug bei wissentlich falschen Angaben
- § 138 ZPO — Wahrheitspflicht der Parteien
- § 280 BGB — Schadensersatz bei Verletzung anwaltlicher Sorgfaltspflichten
- Art. 5 Abs. 1 lit. d DSGVO — Richtigkeit der verarbeiteten Informationen
Triage zu Beginn
- Wurden alle KI-generierten Rechtsprechungs-Fundstellen gegen amtliche Quellen verifiziert?
- Ist ein Vier-Augen-Pruefungsprozess fuer Schriftsaetze mit KI-Inhalten etabliert?
- Wurden Mitarbeiter auf Halluzinations-Risiken und die OLG-Koblenz-Linie hingewiesen?
- Gibt es ein Protokoll-System zur Dokumentation der Pruefvorgaenge?
- Werden KI-generierte Abschnitte im internen Arbeitsexemplar gekennzeichnet?
- Was will der Mandant wirklich erreichen? (Nicht: was steht im Standardweg, sondern: welches Ergebnis ist fuer den Mandanten persoenlich/wirtschaftlich das beste? Manchmal ist der schnellere Vergleich besser als der formal "richtige" Weg.)
Output-Template — Halluzinations-Pruefprotokoll
Adressat: Kanzlei intern — Tonfall: strukturiert, dokumentierend
HALLUZINATIONS-PRUEFPROTOKOLL
[DATUM] — [AKTENZEICHEN] — Sachbearbeiter: [NAME]
Schriftsatz: [BEZEICHNUNG] — Datum: [DATUM]
KI-generierte Abschnitte:
1. [ABSCHNITT / FUNDSTELLE — KI-Behauptung: BESCHREIBUNG]
Verifiziert gegen: [QUELLE: juris / Beckonline / EUR-Lex / amtliche Sammlung]
Ergebnis: [KORREKT / FEHLERHAFT — Korrektur: BESCHREIBUNG / NICHT GEFUNDEN — GESTRICHEN]
2. [WEITERE ABSCHNITTE analog]
Vier-Augen-Pruefung:
Geprueft von: [ZWEITE PERSON]
Datum: [DATUM]
Freigabe fuer Versand: [JA / NEIN — Korrekturbedarf: BESCHREIBUNG]