KI-Halluzination
Eine sachlich falsche oder unbelegte Ausgabe eines KI-Systems, die überzeugend formuliert sein kann.
Warum das für euch zählt
Halluzinationen sind das größte Qualitätsrisiko beim Einsatz generativer KI: Falsche Fakten klingen genauso überzeugend wie richtige. Wer sie systematisch abfängt, kann KI breit einsetzen, ohne Glaubwürdigkeit und Rechtssicherheit zu riskieren.
Einordnung
Dazu gehören erfundene Quellen, falsche Produktmerkmale oder nicht belegbare Zahlen.
Eine KI nennt eine Studie, deren Titel und Autoren bei der Prüfung nicht existieren.
Typische Fehler
- Plausibilität mit Richtigkeit verwechseln: Gut formulierte Aussagen sind nicht automatisch korrekt.
- Nur Stichproben prüfen: Zahlen, Zitate, Namen und Quellen sollten in KI-Texten grundsätzlich geprüft werden.
- KI ohne eigene Quellen arbeiten lassen: Ohne hinterlegtes Wissen greift das Modell auf allgemeine Trainingsdaten zurück und erfindet eher.
Häufige Fragen
Warum halluzinieren KI-Modelle?
Sprachmodelle erzeugen Texte, indem sie wahrscheinliche Wortfolgen berechnen, nicht indem sie Fakten nachschlagen. Fehlen passende Informationen, entstehen plausible, aber falsche Aussagen.
Wie verringere ich Halluzinationen?
Durch Grounding mit eigenen, geprüften Quellen, die Anweisung, Belege anzugeben, und eine verbindliche Faktenprüfung vor der Freigabe. Ganz ausschließen lassen sie sich nicht.
Welche Inhalte sind besonders anfällig?
Konkrete Zahlen, Zitate, Quellenangaben, Rechtsfragen und Aussagen zu aktuellen Ereignissen. Genau diese Stellen gehören in jede Prüfroutine.