Halluzinationen im Marketing-Text systematisch abfangen

• Dennis Gumprich
• Überarbeitet 31. Oktober 2026

Warum Halluzinationen im Marketing besonders gefährlich sind

Ein Sprachmodell erzeugt den wahrscheinlichsten nächsten Textbaustein, nicht die wahre Aussage. In den meisten Fällen fällt das zusammen, weil wahrscheinliche Formulierungen in gut belegten Themen auch zutreffen. Genau deshalb entsteht der Eindruck von Verlässlichkeit.

Kritisch wird es dort, wo eine Aussage spezifisch, aber selten ist: Jahreszahlen, Zertifizierungen, Marktanteile, Studiennamen, Gesetzesparagrafen, Produktdetails. Solche Angaben klingen im fließenden Text vollkommen unauffällig, weil sie sprachlich korrekt eingebettet sind.

Im Marketing kommt erschwerend hinzu, dass eure Texte nach außen gehen und Aussagen über euer eigenes Unternehmen enthalten. Eine erfundene Zertifizierung ist kein Stilfehler, sondern potenziell eine irreführende Angabe. Die Prüfung muss deshalb ein fester Schritt sein, nicht eine Frage der Aufmerksamkeit.

Welche Arten von KI-Halluzinationen begegnen euch im Marketing?

Vier Typen: erfundene Belege, also Studien und Berichte, die es so nicht gibt, meist mit plausiblem Herausgeber und Jahreszahl. Falsche Eigenangaben, die aus ähnlichen Unternehmen abgeleitet wurden. Veraltete Fakten, korrekt zum Trainingszeitpunkt und inzwischen überholt. Und überdehnte Verallgemeinerungen aus Einzelfällen.

Typ 2 ist der teuerste, weil er nach außen wie eine Zusicherung wirkt. Typ 3 ist der häufigste, weil er auch dann entsteht, wenn alles andere sauber läuft.

Warum die Fehlerquote nicht auf null sinkt

Ein Sprachmodell wählt den wahrscheinlichsten nächsten Textbaustein. Es unterscheidet dabei nicht zwischen einer Aussage, die es belegen kann, und einer, die nur gut ins Muster passt. Beide entstehen auf demselben Weg.

Das US-amerikanische National Institute of Standards and Technology (NIST) führt diese Eigenschaft in seinem Risikoprofil für generative KI (NIST AI 600-1) als eigene Risikokategorie: die Konfabulation, also selbstsicher formulierte, aber falsche Inhalte. NIST beschreibt sie als natürliche Folge der Bauweise generativer Modelle, die die statistische Verteilung ihrer Trainingsdaten nachbilden. Ausgaben können sogar erfundene Begründungen und Zitate enthalten, die die Antwort scheinbar belegen.

Daraus folgt etwas, das für die Prozessgestaltung wichtiger ist als jede Modellwahl: Die Sicherheit, mit der ein Text formuliert ist, sagt nichts über seine Richtigkeit. Ein erfundener Studienname klingt genauso selbstverständlich wie eine korrekte Jahreszahl. Menschen nutzen Formulierungssicherheit üblicherweise als Hinweis auf Verlässlichkeit, und genau dieser Hinweis funktioniert hier nicht.

Neuere Modelle verringern die Häufigkeit spürbar, vor allem bei bekannten Themen. Sie verändern aber nicht die Grundlage. Wer seine Qualitätssicherung darauf aufbaut, dass das nächste Modell zuverlässig genug sein wird, hat keinen Sicherungsmechanismus, sondern eine Hoffnung.

Praktisch bedeutet das eine einfache Regel: Behandelt jede faktenhaltige Aussage als ungeprüft, bis sie geprüft ist, unabhängig davon, wie sicher sie formuliert wurde. Genau deshalb ist die Kennzeichnung im Entwurf so wirksam. Sie ersetzt eine Einschätzung durch eine Markierung.

Wo treten Halluzinationen besonders häufig auf?

Nicht gleichmäßig über den Text, sondern an drei Stellen: bei Aussagen über euer Unternehmen, weil das Modell euch nicht kennt und aus ähnlichen Unternehmen ableitet. Bei konkreten Zahlen mit Quellenangabe, weil Quellenangaben ein Textmuster sind und mit erzeugt werden. Und bei rechtlichen und regulatorischen Angaben.

Die Fehlerhäufigkeit verteilt sich nicht gleichmäßig über einen Text. Wer die Risikostellen kennt, prüft gezielter und schneller.

Die letzten beiden Zeilen erklären, warum sich der Einsatz trotz des Risikos lohnt. Der größte Teil eines Textes besteht aus Struktur und Formulierung, und dort entstehen kaum Fehler. Das Risiko konzentriert sich auf wenige Sätze, die sich markieren und gezielt prüfen lassen.

Ein Hinweis zur ersten Zeile: Aussagen über das eigene Unternehmen sind die teuersten Fehler und zugleich die am leichtesten vermeidbaren. Sie verschwinden fast vollständig, sobald ein Faktenblatt mit gesicherten Angaben im Kontext liegt. Für Umwelt- und Nachhaltigkeitsaussagen reicht das Faktenblatt allein nicht, dort gelten eigene Nachweispflichten. Welche das sind, steht in EmpCo-Richtlinie: was die EU-Vorgaben für Green Claims ab 2026 bedeuten.

Der wirksamste Hebel: prüfbare Aussagen erzwingen

Die meisten Halluzinationen entstehen, weil die Anweisung eine Aussage verlangt, die das Modell nicht belegen kann. Wer nach überzeugenden Argumenten mit Zahlen fragt, bekommt Zahlen. Ob sie stimmen, war nicht Teil der Anforderung. Wie ihr den KI-Einsatz nach außen transparent macht, steht in KI-Kennzeichnung: wie ihr zu einer belastbaren Praxis kommt.

Der Platzhalter ist der entscheidende Teil. Er macht die Lücke sichtbar, statt sie zu füllen. Ein Text mit drei Platzhaltern ist unbequem, aber korrekt. Ein Text ohne Platzhalter ist bequem und muss vollständig geprüft werden.

Worin unterscheiden sich Recherche und Texterzeugung?

Beim Ableiten aus beigefügtem Material bleibt das Modell an den Text gebunden. Es fasst zusammen, formt um, kürzt. Erfindungen sind seltener, aber nicht ausgeschlossen, weil die Aufgabe keine Lücke enthält. Beim freien Schreiben zu einem Thema wird jede fehlende Angabe ergänzt. Wer zuerst recherchiert, verlagert die Fehlerprävention an den Anfang des Prozesses.

Eine Unterscheidung senkt das Risiko stärker als jede Prüfroutine: ob ein Modell aus vorhandenem Material arbeitet oder frei formuliert.

Beim Ableiten aus einem beigefügten Text bleibt das Modell an das Material gebunden. Es fasst zusammen, formt um, kürzt. Erfindungen sind hier seltener, aber nicht ausgeschlossen, weil die Aufgabe keine Lücke enthält, die gefüllt werden müsste. Beim freien Schreiben zu einem Thema ist genau das Gegenteil der Fall: Jede fehlende Angabe wird plausibel ergänzt.

Daraus folgt eine praktische Reihenfolge für den Arbeitsablauf. Beschafft zuerst das Material, dann schreibt. Ein Beitrag, der aus Faktenblatt, Fachnotizen und zwei geprüften Quellen entsteht, hat deutlich weniger Risikostellen als einer, der aus einer Themenangabe erzeugt und anschließend belegt wird.

Das erklärt zugleich, warum Kanalableitungen aus einem freigegebenen Beitrag so zuverlässig sind. Alle Fakten wurden bereits geprüft, das Modell arbeitet nur noch an Form und Länge. Genau deshalb gehört dieser Schritt organisatorisch hinter die Freigabe und nicht davor.

Wenn ihr nur eine einzige Maßnahme aus diesem Beitrag umsetzt, dann diese: Verlagert den KI-Einsatz vom freien Erzeugen zum Ableiten aus geprüftem Material. Das reduziert die Fehlerquelle, statt sie nachträglich zu kontrollieren.

Was kostet die Faktenprüfung je Beitrag?

Bei 12 bis 18 faktenhaltigen Aussagen in einem Fachbeitrag mittlerer Länge: 4 bis 7 Minuten, wenn die Herkunft im Entwurf mitgeführt wird, und 25 bis 40 Minuten ohne Herkunftsangaben, weil dann jede Aussage neu recherchiert werden muss. Ohne Kennzeichnung prüft ihr entweder alles oder nichts, in der Praxis meist nichts.

Arbeitsmodell zur Veranschaulichung, keine erhobenen Messwerte. Setzt eure eigenen Werte ein.

Der Unterschied entsteht nicht durch gründlicheres Prüfen, sondern dadurch, dass klar ist, was geprüft werden muss. Ohne Kennzeichnung prüft ihr entweder alles oder nichts. In der Praxis wird es meist nichts, weil die Zeit fehlt.

Was tun, wenn eine Falschangabe bereits veröffentlicht ist?

Zuerst die Tragweite einordnen. Eine veraltete Jahreszahl in einem Blogbeitrag ist etwas anderes als eine falsche Produktaussage in einem Verkaufsdokument oder eine unzulässige Werbeaussage. Die ersten beiden korrigiert ihr, die dritte gehört sofort der Rechtsabteilung gemeldet. Danach korrigieren mit Vermerk: Eine stille Änderung wirkt bei Entdeckung schlechter.

Trotz Prüfung wird gelegentlich etwas durchrutschen. Wie ihr damit umgeht, entscheidet stärker über eure Glaubwürdigkeit als die Tatsache, dass es passiert ist.

Der erste Schritt ist die Einordnung der Tragweite. Eine veraltete Jahreszahl in einem Blogbeitrag ist etwas anderes als eine falsche Aussage über euer Produkt in einem Verkaufsdokument oder eine unzulässige Werbeaussage. Die ersten beiden korrigiert ihr, die dritte gehört sofort der Rechtsabteilung gemeldet.

Der zweite Schritt ist die Korrektur mit Vermerk. Eine stille Änderung wirkt bei Entdeckung schlechter als der ursprüngliche Fehler. Ein kurzer Hinweis, was wann korrigiert wurde, kostet zwei Sätze und erzeugt Vertrauen statt Verdacht. Bei Inhalten, die bereits weitergereicht wurden, gehört eine aktive Nachricht an die Empfangenden dazu.

Der dritte Schritt ist der wichtigste und wird meist ausgelassen: Die korrekte Angabe wandert ins Faktenblatt. Ohne diesen Schritt taucht dieselbe Falschangabe in einigen Wochen erneut auf, weil die Ursache unverändert ist.

Verzichtet auf die Suche nach der schuldigen Person. Halluzinationen entstehen systematisch und nicht durch Nachlässigkeit. Ein Team, in dem Fehler zu Schuldzuweisungen führen, meldet den nächsten nicht mehr, und genau dann wird es teuer.

Die Prüfliste vor jeder Freigabe

Der praktische Nutzen dieser Aufteilung liegt in der Zuständigkeit. Eine Redaktion kann eine Zertifizierung nicht bestätigen, und eine Rechtsabteilung soll nicht Formulierungen glätten. Wenn jede Kategorie eine Adresse hat, dauert die Freigabe kürzer, nicht länger.

Zwei Rahmenwerke stützen diese Aufteilung. NIST empfiehlt in seinem Profil, Quellen und Zitate in KI-Ausgaben zu prüfen (Maßnahme MS-2.5-003) und generierte Inhalte dort von Menschen prüfen zu lassen, wo Modelle nachweislich schwach sind (MG-3.2-008). Google nennt in seiner Anleitung zur Verwendung generativer KI ausdrücklich auch Title-Elemente, Meta-Beschreibungen, strukturierte Daten und Alt-Texte als Stellen, die vor der Veröffentlichung manuell auf Richtigkeit zu prüfen sind. Nehmt diese Felder deshalb als eigene Zeile in eure Prüfliste auf.

Was gehört in ein Faktenblatt?

Vier Bereiche, angefangen bei den Unternehmensangaben wie Gründungsjahr, Standorte und Zertifizierungen. Beginnt aber nicht mit einer Sammlung, sondern mit euren letzten zehn Texten: Jede Angabe, die jemand nachschlagen musste oder die in der Freigabe beanstandet wurde, ergibt die erste Fassung.

Das Faktenblatt ist der wirksamste einzelne Baustein gegen Falschangaben und zugleich der am schnellsten erstellte. Es beantwortet die Frage, die ein Modell sonst mit einer plausiblen Vermutung füllt.

Beginnt nicht mit einer Sammlung, sondern mit euren letzten zehn Texten. Notiert jede Angabe, die jemand nachschlagen oder erfragen musste, und jede, die in der Freigabe beanstandet wurde. Diese Liste ist eure erste Fassung und deckt bereits den größten Teil der wiederkehrenden Risikostellen ab.

Vier Bereiche gehören hinein: Unternehmensangaben wie Gründungsjahr, Standorte und Zertifizierungen. Produktangaben mit offiziellen Bezeichnungen und Funktionsumfang, ausdrücklich auch das, was nicht enthalten ist. Zulässige Aussagen, also welche Wirkungs- und Vergleichsaussagen freigegeben sind. Und eigene Zahlen, jeweils mit Stand-Datum und Herkunft.

Der letzte Punkt entscheidet über die Haltbarkeit. Eine Zahl ohne Datum wird irgendwann in einem Text verwendet, in dem sie nicht mehr stimmt. Mit Datum sieht jede Person sofort, ob sie noch trägt.

Haltet das Blatt bewusst knapp. Eine überladene Sammlung wird nicht gepflegt, und ungepflegte gesicherte Angaben sind gefährlicher als gar keine, weil sie ungeprüft übernommen werden. Nehmt auf, was tatsächlich in Texten vorkommt, nicht was theoretisch relevant sein könnte.

Den Freigabeweg mit Faktenprüfung und die Regel, was bei einer veröffentlichten Falschangabe passiert, könnt ihr direkt in die kostenlose Vorlage für eine KI-Richtlinie im Marketing übernehmen.

Fünf Fehler im Umgang mit Halluzinationen

• Auf ein besseres Modell wartenDie Fehlerquote sinkt mit neueren Modellen, sie verschwindet nicht. Ein Prozess, der auf Fehlerfreiheit setzt, hat keinen Sicherungsmechanismus.
• Den ganzen Text prüfen wollenVollprüfung ist zu teuer und wird deshalb ausgelassen. Gezielte Prüfung faktenhaltiger Sätze findet tatsächlich statt.
• Quellen nachträglich suchenWer erst im fertigen Text nach Belegen sucht, findet meist etwas Ähnliches und übernimmt es. Damit wird aus einer Halluzination eine schlecht belegte Aussage.
• Prüfung an die Erstellenden gebenWer einen Text geschrieben hat, liest über die eigenen Annahmen hinweg. Die Faktenprüfung braucht ein zweites Augenpaar.
• Keine Kennzeichnung im EntwurfOhne Markierung ist im fertigen Text nicht mehr erkennbar, welche Aussage aus eurem Material stammt und welche das Modell ergänzt hat.

In fünf Schritten zu belastbaren Texten

1. Vor dem SchreibenMaterial bereitstellenFaktenblatt mit euren gesicherten Angaben: Zahlen, Zertifizierungen, Produktbezeichnungen, Standardformulierungen. Ohne dieses Blatt erfindet jedes Modell die Lücken.
2. Beim SchreibenPlatzhalter statt SchätzungDie Anweisung enthält ausdrücklich, dass fehlende Angaben als Platzhalter markiert werden.
3. Beim SchreibenHerkunft mitführenHinter jeder faktenhaltigen Aussage steht die Fundstelle oder der Vermerk ungeprüft.
4. Vor der FreigabeGezielt prüfenNur die markierten Stellen, nach Zuständigkeit verteilt. Rest der Redaktion überlassen.
5. Nach VeröffentlichungFaktenblatt pflegenJede gefundene Falschangabe wird als korrekte Angabe ins Faktenblatt aufgenommen. Damit sinkt die Fehlerquote mit jedem Beitrag.

Fazit: Nicht das Modell absichern, sondern den Prozess

Halluzinationen sind kein vorübergehendes Problem, das die nächste Modellgeneration löst. Sie sind die Kehrseite davon, dass Sprachmodelle plausible Texte erzeugen und nicht wahre. Wer das akzeptiert und den Prüfschritt fest einbaut, kann KI im Marketing ohne schlechtes Gewissen einsetzen. Wer darauf wartet, dass das Problem verschwindet, veröffentlicht so lange ungeprüft. Die passende Checkliste für diesen Prüfschritt liefern die Prüfkriterien für KI-Texte.

Häufige Fragen

Dennis Gumprich

Senior Consultant Content Solutions · contentbird GmbH

Dennis begleitet Marketing- und Kommunikationsteams bei der Frage, wie generative KI in bestehende Content-Prozesse passt, ohne Qualität, Markensprache und Freigaben zu untergraben. Schwerpunkte: Content Operations, KI-Governance und Toolauswahl in Mittelstand und Konzern.

Transparenzhinweis: Dennis arbeitet für contentbird, einen Anbieter von KI-gestützter Content-Software. Produkterwähnungen sind im Beitrag gekennzeichnet. Mehr über Dennis · LinkedIn