Halluzination
Hallucination
Eine flüssige, selbstsichere Antwort, die falsch oder erfunden ist. Das folgt aus der Funktionsweise von Sprachmodellen und ist kein seltener Bug.
01Kurz gesagt
Eine flüssige, selbstsichere Antwort, die falsch oder erfunden ist. Das folgt aus der Funktionsweise von Sprachmodellen und ist kein seltener Bug.
In ProduktionReduziert sie mit Grounding, fangt sie mit Evals ab und gestaltet den Prozess so, dass ein Mensch sieht, worauf es ankommt.
02Video
Platzhalter · VideoHalluzination in 90 Sekundenergänzen: GUIDES['hallucination'].video
03Anleitung
Platzhalter · Anleitung
Hier kommt eine Schritt-für-Schritt-Anleitung zu „Halluzination“ hin. Vorgeschlagene Gliederung:
- Was es ist — in einem Absatz
- Warum es in Produktion zählt
- So geht es — 3 bis 7 Schritte
- Stolperfallen, die wir in der Praxis sehen
04Checkliste
Platzhalter · Checkliste
Vier bis acht Punkte, die ein Team vor dem Go-live abhaken kann.
05FAQ
Platzhalter · FAQ
Die drei Fragen, die Kunden zu „Halluzination“ wirklich stellen.
06Verwandte Begriffe
Daten & RetrievalGroundingDie Antwort eines Modells an konkrete Quellen binden, die es bekommen hat, idealerweise mit Quellenangaben. Die wichtigste Verteidigung gegen Halluzinationen im Geschäftseinsatz.Daten & RetrievalRAGVor dem Antworten durchsucht das System eure Dokumente und gibt dem Modell die relevanten Passagen mit. So stützen sich Antworten auf eure Daten, ohne dass neu trainiert wird.EvaluationEvalsSystematische Tests der Ausgaben eines KI-Systems gegen erwartete Ergebnisse, automatisch nach jeder Änderung ausgeführt.
Sprecht mit uns