RAG vs. ChatGPT: Warum quellenbasierte KI für die Rechtsrecherche überlegen ist
Generative KI wie ChatGPT halluziniert Urteile – RAG nicht. Erfahren Sie, warum quellenbasierte KI-Technologie für die juristische Rechtsrecherche in der Schweiz überlegen ist. Mit Praxisvergleich und echten BGE-Referenzen.
RechtsKI Team ·
RAG vs. ChatGPT: Warum quellenbasierte KI für die Rechtsrecherche überlegen ist
Im Mai 2023 wurde der New Yorker Anwalt Steven Schwartz vom Gericht sanktioniert, nachdem er in einem Schriftsatz sechs komplett erfundene Gerichtsentscheide zitiert hatte – generiert von ChatGPT. Der Fall Mata v. Avianca (1:22-cv-01461, S.D.N.Y.) wurde zum Mahnbeispiel für die gesamte Branche: Generative KI ohne Quellenanbindung ist ungeeignet und gefährlich für juristische Arbeit.
Doch bedeutet das, dass KI für die Rechtsrecherche grundsätzlich untauglich ist? Nein – es bedeutet, dass die richtige Architektur entscheidend ist.
Das Halluzinationsproblem: Warum ChatGPT für Juristen unzuverlässig ist
Large Language Models (LLMs) wie GPT-4 generieren Text auf Basis statistischer Wahrscheinlichkeiten. Sie berechnen Wort für Wort, welches Token als nächstes am wahrscheinlichsten folgt. Das führt zu einem fundamentalen Problem:
- Erfundene BGE-Nummern: ChatGPT generiert plausibel klingende, aber nicht existierende Bundesgerichtsentscheide
- Falsche Gesetzesartikel: Art. 42 OR wird korrekt zitiert, aber der Inhalt stimmt nicht mit dem tatsächlichen Gesetzestext überein
- Vermischte Rechtsordnungen: Deutsches BGB wird mit Schweizer OR vermengt, EU-Recht als Schweizer Recht dargestellt
- Veraltete Informationen: Gesetzesänderungen nach dem Training-Cutoff werden ignoriert
Eine Stanford-Studie von 2023 zeigte, dass ChatGPT-3.5 bei rechtlichen Fragen in bis zu 69% der Fälle halluziniert. GPT-4 verbesserte dies auf ca. 36% – immer noch inakzeptabel für professionelle Rechtsarbeit.
Was ist RAG? Die Architektur hinter zuverlässiger Rechts-KI
RAG (Retrieval-Augmented Generation) ist ein zweistufiger Prozess:
Schritt 1: Retrieval (Quellensuche)
Bevor die KI antwortet, durchsucht sie einen kuratierten Rechtskorpus – in unserem Fall die gesamte Systematische Sammlung des Bundesrechts (SR), Bundesgerichtsentscheide (BGE), und kantonale Gerichtsentscheide. Die Suche erfolgt semantisch: Nicht nur nach exakten Stichwörtern, sondern nach inhaltlicher Relevanz.
Beispiel: Die Frage «Kann mein Vermieter mich rauswerfen, wenn ich zwei Monate die Miete nicht zahle?» findet automatisch:
- Art. 257d OR (Zahlungsrückstand des Mieters)
- Art. 266l OR (Form der Kündigung)
- Bundesgerichtliche Rechtsprechung zum Kündigungsschutz bei Zahlungsverzug
Schritt 2: Generation (Antwortgenerierung)
Das LLM erhält die gefundenen Quellen als Kontext und generiert die Antwort ausschliesslich basierend auf diesen Quellen. Jede Aussage wird mit einer konkreten Quellenangabe verknüpft.
Der Praxisvergleich: ChatGPT vs. RAG-basierte Rechtsrecherche
| Kriterium | ChatGPT (ohne RAG) | RAG-basierte Legal AI | |---|---|---| | Quellenangaben | Keine oder erfundene | Verifizierbare SR/BGE-Nummern | | Aktualität | Training-Cutoff (Monate alt) | Tagesaktueller Rechtskorpus | | Schweizer Recht | Vermischt mit DE/AT/EU-Recht | Exklusiv Schweizer Rechtsordnung | | Halluzinationsrate | 36-69% bei Rechtsfragen | < 5% durch Quellenanbindung | | Nachvollziehbarkeit | Blackbox | Transparenter Quellenblock | | Mehrsprachigkeit | Gut, aber ohne Rechtskontext | DE/FR/IT mit korrekter Terminologie |
Fallbeispiel: Arbeitsrechtliche Frage im Vergleich
Frage: «Ein Arbeitgeber in Zürich möchte einen Mitarbeiter während der Probezeit fristlos entlassen. Welche Regeln gelten?»
ChatGPT-Antwort (typisch):
> «Während der Probezeit kann das Arbeitsverhältnis jederzeit mit einer Frist von 7 Tagen gekündigt werden...» (korrekt, aber unvollständig – keine Unterscheidung zwischen ordentlicher und fristloser Kündigung)
RAG-basierte Antwort:
> «Während der Probezeit (Art. 335b OR) gilt eine Kündigungsfrist von 7 Tagen. Eine fristlose Kündigung ist jedoch auch in der Probezeit nur aus wichtigem Grund gemäss Art. 337 OR zulässig. Das Bundesgericht hat in st\u00e4ndiger Rechtsprechung präzisiert, dass der wichtige Grund so schwerwiegend sein muss, dass dem Kündigenden die Fortsetzung des Arbeitsverhältnisses nicht mehr zugemutet werden kann. Blosse Unzufriedenheit mit der Leistung reicht nicht aus (vgl. bundesgerichtliche Rechtsprechung zu Art. 337 OR).»
Der Unterschied: Die RAG-Antwort differenziert korrekt zwischen ordentlicher und fristloser Kündigung, nennt die exakten Gesetzesartikel und stützt sich auf konkrete Bundesgerichtsentscheide.
Die technische Überlegenheit von RAG für die Schweizer Rechtsordnung
1. Mehrsprachige Rechtskorpora
Die Schweiz hat drei Amtssprachen mit teilweise unterschiedlicher Rechtsterminologie. RAG kann den gleichen Rechtstext in der Originalsprache der Quelle referenzieren:
- DE: «Obligationenrecht» (OR)
- FR: «Code des obligations» (CO)
- IT: «Codice delle obbligazioni» (CO)
2. Versionierte Gesetzestexte
RAG-Systeme können mit versionierten Rechtskorpora arbeiten. Wenn Art. 261 OR per 1. Januar 2026 geändert wird, kann das System sowohl die alte als auch die neue Fassung referenzieren und auf die Änderung hinweisen.
3. Föderale Komplexität
Die Schweiz hat 26 Kantone mit eigenen Gerichtsbarkeiten. RAG ermöglicht die gezielte Einbeziehung kantonaler Rechtsprechung – z.B. Zürcher Mietgerichte-Entscheide bei einer Mietrechtsfrage im Kanton Zürich.
Grenzen und Verantwortung
Auch RAG-basierte Systeme ersetzen keinen Anwalt. Sie sind Werkzeuge, die die Rechtsrecherche beschleunigen und die Qualität der Quellenarbeit erhöhen. Wichtig:
- Immer Quellen prüfen: RAG liefert Quellenangaben – nutzen Sie diese zur Verifikation
- Kein Ersatz für Subsumtion: Die juristische Wertung bleibt Aufgabe des Anwalts
- Grenzen bei Spezialgebieten: Sehr nischige Rechtsgebiete können im Korpus unterrepräsentiert sein
Fazit: Die Architektur macht den Unterschied
ChatGPT und RAG nutzen beide LLM-Technologie – aber der Unterschied ist fundamental. ChatGPT generiert plausibel klingende Antworten aus seinem Trainingskorpus. RAG generiert quellenbasierte Antworten aus einem verifizierten Rechtskorpus.
Für die juristische Praxis in der Schweiz bedeutet das: Nur RAG-basierte Systeme bieten die Zuverlässigkeit und Nachvollziehbarkeit, die professionelle Rechtsarbeit erfordert. Die Frage ist nicht ob KI die Rechtsrecherche transformiert – sondern welche KI-Architektur Sie verwenden.
---
Dieser Artikel wurde vom RechtsKI-Team verfasst. RechtsKI nutzt RAG-Technologie mit dem vollständigen Schweizer Bundesrecht, Bundesgerichtsentscheiden und kantonaler Rechtsprechung als Quellenkorpus.