Prüfen, ob die Zitate eines Assistenten seine Aussagen stützen

Was ein gültiges Zitat beweist

Zitierfunktionen sind auf der technischen Ebene zuverlässiger geworden. Die Citations-API von Anthropic etwa liefert den exakt zitierten Text mit Zeichen-, Seiten- oder Blockpositionen, und laut Dokumentation enthalten die Zitate garantiert gültige Verweise auf die übergebenen Dokumente. Damit fällt ein Fehler weg: ein Zitat, das es gar nicht gibt.

Ob der zitierte Satz die Aussage daneben stützt, verrät das nicht. Eine echte Textstelle kann an einem Satz hängen, der sie überdehnt, eine Bedingung weglässt oder ganz woanders herkommt. Forschung zu generierten Zitaten misst genau diese Lücke. Im ALCE-Benchmark von 2023 berichteten die Autoren, dass selbst die besten Modelle jener Zeit auf einem Datensatz mit Langantworten in etwa der Hälfte der Fälle keine vollständige Zitatabdeckung hatten. Die Modelle haben sich seitdem verändert, das Messproblem nicht.

Aussagen einzeln prüfen

Die Methode lehnt sich an Groundedness-Metriken an. Ragas etwa berechnet Faithfulness, indem es die Aussagen einer Antwort extrahiert, für jede prüft, ob sie sich aus dem abgerufenen Kontext ableiten lässt, und die gestützten Aussagen durch alle Aussagen teilt. Für Zitate verengen Sie die Belege: Jede Aussage wird nur gegen die Textstellen geprüft, die sie zitiert, nicht gegen alles, was abgerufen wurde.

1. 1

   Antwort zerlegen

   Zerlegen Sie sie in Aussagen, die jeweils wahr oder falsch sein können. Lassen Sie eine Zahl mit den Bedingungen zusammen, die sie einschränken, etwa Kundentyp, Daten oder Ausnahmen, und trennen Sie nur Aussagen, die wirklich unabhängig sind.

2. 2

   Jeder Aussage ihre Zitate zuordnen

   Verwenden Sie den exakt zitierten Text, nicht das ganze Dokument. Zitiert eine Aussage mehrere Textstellen, prüfen Sie sie gegen alle zusammen, denn eine berechtigte Aussage kann zwei Quellen verbinden. Eine Aussage ohne Zitat wird als unbelegt erfasst.

3. 3

   Urteil vergeben

   Gestützt, teilweise gestützt, nicht gestützt, widersprochen oder durch eine andere abgerufene Textstelle gestützt als die zitierte.

4. 4

   Urteile aufbewahren

   Speichern Sie sie pro Frage, damit eine spätere Änderung Aussage für Aussage verglichen werden kann.

Eine hypothetische Antwort, geprüft

Das folgende Beispiel ist erfunden. Der Assistent beantwortet eine Frage zu Rücksendungen mit drei Sätzen und zwei Zitaten; eine dritte relevante Textstelle wurde abgerufen, aber nicht zitiert.

Question: Can business customers return opened hardware?   (hypothetical)

Answer sentence                                      Cited   Verdict
1 Customers can return hardware within 30 days.      [1]     partial: [1] gives 30 days for
                                                             consumers, 14 days for business
2 Refunds go to the original payment method.         [2]     supported
3 Opened software licences cannot be returned.       [1]     wrong citation: stated in [3],
                                                             which the answer did not cite

Claims fully supported by their own citations: 1 of 3
Release decision: fail (claim 1 drops the condition that answers the question)

Jeder Link in dieser Antwort öffnet ein echtes Dokument, und wer sie überfliegt, sieht keinen Fehler. Die erste Aussage ist der gravierende Fehler: Die zitierte Richtlinie nennt für Geschäftskunden eine andere Frist, und genau danach wurde gefragt.

Wer urteilt

Beginnen Sie mit Menschen. Lassen Sie zwei Fachleute die Aussagen eines Kalibrierungssets von einigen Dutzend Antworten bewerten und klären Sie ihre Abweichungen; diese zeigen meist, wo Ihre eigenen Regeln unscharf sind. Danach kann ein Sprachmodell mit derselben Bewertungsvorgabe in größerem Umfang urteilen, und Sie messen, wie oft es mit den menschlichen Urteilen übereinstimmt, bevor Sie seinen Werten trauen.

Halten Sie Fundierung und Korrektheit getrennt. Microsofts Leitfaden zur RAG-Evaluierung nennt das Beispiel einer Antwort, die im Kontext begründet und trotzdem sachlich falsch ist, weil das Modell zwei getrennte Fakten zu einem falschen verbunden hat. Eine Zitatprüfung findet ungestützte Aussagen. Ein Quelldokument, das selbst veraltet ist, findet sie nicht.

Abnahmekriterien und ihre Grenzen

Legen Sie die Kriterien fest, bevor Sie die Werte sehen, und richten Sie sie nach dem Risiko aus. Für einen hypothetischen Assistenten zu Personalrichtlinien könnte ein Team Folgendes vereinbaren:

• Keine widersprochenen Aussagen in Antworten zu Vergütung, Urlaub oder Kündigung
• Jede Zahl und jedes Datum auf eine zitierte Textstelle rückführbar
• Ein vereinbarter Mindestanteil vollständig gestützter Aussagen, abgeleitet aus dem Kalibrierungsset
• Unbelegte Aussagen nur für allgemeine Formulierungen, nie für Regeln oder Zahlen

Der Ansatz hat Kosten. Aussagen mit einem Modell zu prüfen, verursacht zusätzliche Inferenzkosten und Latenz, wie auch immer die Aufrufe organisiert sind, und der Prüfer macht eigene Fehler. Auch Produktgrenzen spielen eine Rolle: Anthropic dokumentiert, dass sich die Citations-Funktion nicht mit Structured Outputs in derselben Anfrage kombinieren lässt. Wenn die Kriterien verfehlt werden, schauen Sie zuerst auf das Retrieval; eine Aussage kann nicht durch eine Textstelle gestützt werden, die das Modell nie erreicht hat.