Der Beitrag ist raus. Zwei Stunden später schreibt ein Kollege aus dem Vertrieb: Die Zertifizierung, die da im dritten Absatz steht, haben wir gar nicht.
Niemand hat sie erfunden. Sie stand einfach im Entwurf, klang plausibel, passte zum Rest, und drei Personen haben den Text gelesen, ohne dass sie jemandem auffiel. Genau darin liegt das Problem: Halluzinationen sehen nicht aus wie Fehler.
Halluzinationen lassen sich nicht durch bessere Modelle verhindern, sondern durch Prozess. Wirksam sind drei Ebenen: Nur prüfbare Aussagen zulassen, Quellen im Entwurf mitführen und vor der Freigabe gezielt die faktenhaltigen Sätze prüfen statt den ganzen Text. Der Aufwand liegt bei wenigen Minuten je Beitrag.
Warum Halluzinationen im Marketing besonders gefährlich sind
Ein Sprachmodell erzeugt den wahrscheinlichsten nächsten Textbaustein, nicht die wahre Aussage. In den meisten Fällen fällt das zusammen, weil wahrscheinliche Formulierungen in gut belegten Themen auch zutreffen. Genau deshalb entsteht der Eindruck von Verlässlichkeit.
Kritisch wird es dort, wo eine Aussage spezifisch, aber selten ist: Jahreszahlen, Zertifizierungen, Marktanteile, Studiennamen, Gesetzesparagrafen, Produktdetails. Solche Angaben klingen im fließenden Text vollkommen unauffällig, weil sie sprachlich korrekt eingebettet sind.
Im Marketing kommt erschwerend hinzu, dass eure Texte nach außen gehen und Aussagen über euer eigenes Unternehmen enthalten. Eine erfundene Zertifizierung ist kein Stilfehler, sondern potenziell eine irreführende Angabe. Die Prüfung muss deshalb ein fester Schritt sein, nicht eine Frage der Aufmerksamkeit.
Welche Arten von KI-Halluzinationen begegnen euch im Marketing?
Vier Typen: erfundene Belege, also Studien und Berichte, die es so nicht gibt, meist mit plausiblem Herausgeber und Jahreszahl. Falsche Eigenangaben, die aus ähnlichen Unternehmen abgeleitet wurden. Veraltete Fakten, korrekt zum Trainingszeitpunkt und inzwischen überholt. Und überdehnte Verallgemeinerungen aus Einzelfällen.
Erfundene Belege
Studien, Umfragen oder Berichte, die es so nicht gibt, häufig mit plausiblem Herausgeber und Jahreszahl.
Erkennbar an: Quelle wird genannt, aber nicht verlinkt.
Falsche Eigenangaben
Aussagen über euer Unternehmen, die aus ähnlichen Unternehmen abgeleitet wurden.
Erkennbar an: klingt nach eurem Standard, steht aber nirgends belegt.
Veraltete Fakten
Korrekt zum Trainingszeitpunkt, inzwischen überholt. Besonders bei Rechtslage und Produktständen.
Erkennbar an: keine Zeitangabe im Satz.
Überdehnte Verallgemeinerung
Aus einem Einzelfall wird eine Regel, aus einer Tendenz eine Zahl.
Erkennbar an: Formulierungen wie in der Regel, meist, deutlich mehr.
Typ 2 ist der teuerste, weil er nach außen wie eine Zusicherung wirkt. Typ 3 ist der häufigste, weil er auch dann entsteht, wenn alles andere sauber läuft.
Warum die Fehlerquote nicht auf null sinkt
Ein Sprachmodell wählt den wahrscheinlichsten nächsten Textbaustein. Es unterscheidet dabei nicht zwischen einer Aussage, die es belegen kann, und einer, die nur gut ins Muster passt. Beide entstehen auf demselben Weg.
Daraus folgt etwas, das für die Prozessgestaltung wichtiger ist als jede Modellwahl: Die Sicherheit, mit der ein Text formuliert ist, sagt nichts über seine Richtigkeit. Ein erfundener Studienname klingt genauso selbstverständlich wie eine korrekte Jahreszahl. Menschen nutzen Formulierungssicherheit üblicherweise als Hinweis auf Verlässlichkeit, und genau dieser Hinweis funktioniert hier nicht.
Neuere Modelle verringern die Häufigkeit spürbar, vor allem bei bekannten Themen. Sie verändern aber nicht die Grundlage. Wer seine Qualitätssicherung darauf aufbaut, dass das nächste Modell zuverlässig genug sein wird, hat keinen Sicherungsmechanismus, sondern eine Hoffnung.
Praktisch bedeutet das eine einfache Regel: Behandelt jede faktenhaltige Aussage als ungeprüft, bis sie geprüft ist, unabhängig davon, wie sicher sie formuliert wurde. Genau deshalb ist die Kennzeichnung im Entwurf so wirksam. Sie ersetzt eine Einschätzung durch eine Markierung.
Wo treten Halluzinationen besonders häufig auf?
Nicht gleichmäßig über den Text, sondern an drei Stellen: bei Aussagen über euer Unternehmen, weil das Modell euch nicht kennt und aus ähnlichen Unternehmen ableitet. Bei konkreten Zahlen mit Quellenangabe, weil Quellenangaben ein Textmuster sind und mit erzeugt werden. Und bei rechtlichen und regulatorischen Angaben.
Die Fehlerhäufigkeit verteilt sich nicht gleichmäßig über einen Text. Wer die Risikostellen kennt, prüft gezielter und schneller.
| Stelle im Text | Risiko | Grund |
|---|---|---|
| Aussagen über euer Unternehmen | hoch | Das Modell kennt euch nicht und leitet aus ähnlichen Unternehmen ab |
| Konkrete Zahlen mit Quellenangabe | hoch | Quellenangaben sind ein Textmuster und werden mit erzeugt |
| Rechtliche und regulatorische Angaben | hoch | Rechtslage ändert sich, Trainingsstand ist älter |
| Produktnamen und Funktionsumfang | hoch | Ändert sich häufig, auch bei fremden Produkten |
| Allgemeine Erklärungen von Konzepten | niedrig | Gut belegt und vielfach beschrieben |
| Struktur, Übergänge, Formulierungen | sehr niedrig | Keine Faktenaussage enthalten |
Die letzten beiden Zeilen erklären, warum sich der Einsatz trotz des Risikos lohnt. Der größte Teil eines Textes besteht aus Struktur und Formulierung, und dort entstehen kaum Fehler. Das Risiko konzentriert sich auf wenige Sätze, die sich markieren und gezielt prüfen lassen.
Ein Hinweis zur ersten Zeile: Aussagen über das eigene Unternehmen sind die teuersten Fehler und zugleich die am leichtesten vermeidbaren. Sie verschwinden fast vollständig, sobald ein Faktenblatt mit gesicherten Angaben im Kontext liegt. Für Umwelt- und Nachhaltigkeitsaussagen reicht das Faktenblatt allein nicht, dort gelten eigene Nachweispflichten. Welche das sind, steht in EmpCo-Richtlinie: was die EU-Vorgaben für Green Claims ab 2026 bedeuten.
Der wirksamste Hebel: prüfbare Aussagen erzwingen
Die meisten Halluzinationen entstehen, weil die Anweisung eine Aussage verlangt, die das Modell nicht belegen kann. Wer nach überzeugenden Argumenten mit Zahlen fragt, bekommt Zahlen. Ob sie stimmen, war nicht Teil der Anforderung. Wie ihr den KI-Einsatz nach außen transparent macht, steht in KI-Kennzeichnung: wie ihr zu einer belastbaren Praxis kommt.
Schreib einen überzeugenden Abschnitt darüber, warum unsere Lösung Zeit spart. Nenne konkrete Zahlen.
Schreib einen Abschnitt darüber, warum unsere Lösung Zeit spart. Verwende ausschließlich Angaben aus dem beigefügten Material. Wenn eine Zahl fehlt, schreib PLATZHALTER statt einer Schätzung.
Der Platzhalter ist der entscheidende Teil. Er macht die Lücke sichtbar, statt sie zu füllen. Ein Text mit drei Platzhaltern ist unbequem, aber ehrlich. Ein Text ohne Platzhalter ist bequem und muss vollständig geprüft werden.
Zweiter Hebel mit großer Wirkung: Lasst hinter jede faktenhaltige Aussage in eckigen Klammern die Herkunft schreiben. Entweder die Fundstelle aus eurem Material oder den Vermerk ungeprüft. Damit verwandelt sich die Prüfung von einer Suche in ein Abarbeiten.
Worin unterscheiden sich Recherche und Texterzeugung?
Beim Ableiten aus beigefügtem Material bleibt das Modell an den Text gebunden. Es fasst zusammen, formt um, kürzt. Erfindungen sind selten, weil die Aufgabe keine Lücke enthält. Beim freien Schreiben zu einem Thema wird jede fehlende Angabe ergänzt. Wer zuerst recherchiert, verlagert die Fehlerprävention an den Anfang des Prozesses.
Eine Unterscheidung senkt das Risiko stärker als jede Prüfroutine: ob ein Modell aus vorhandenem Material arbeitet oder frei formuliert.
Beim Ableiten aus einem beigefügten Text bleibt das Modell an das Material gebunden. Es fasst zusammen, formt um, kürzt. Erfindungen sind hier selten, weil die Aufgabe keine Lücke enthält, die gefüllt werden müsste. Beim freien Schreiben zu einem Thema ist genau das Gegenteil der Fall: Jede fehlende Angabe wird plausibel ergänzt.
Daraus folgt eine praktische Reihenfolge für den Arbeitsablauf. Beschafft zuerst das Material, dann schreibt. Ein Beitrag, der aus Faktenblatt, Fachnotizen und zwei geprüften Quellen entsteht, hat deutlich weniger Risikostellen als einer, der aus einer Themenangabe erzeugt und anschließend belegt wird.
Das erklärt zugleich, warum Kanalableitungen aus einem freigegebenen Beitrag so zuverlässig sind. Alle Fakten wurden bereits geprüft, das Modell arbeitet nur noch an Form und Länge. Genau deshalb gehört dieser Schritt organisatorisch hinter die Freigabe und nicht davor.
Wenn ihr nur eine einzige Maßnahme aus diesem Beitrag umsetzt, dann diese: Verlagert den KI-Einsatz vom freien Erzeugen zum Ableiten aus geprüftem Material. Das reduziert die Fehlerquelle, statt sie nachträglich zu kontrollieren.
Was kostet die Faktenprüfung je Beitrag?
Bei 12 bis 18 faktenhaltigen Aussagen in einem Fachbeitrag mittlerer Länge: 4 bis 7 Minuten, wenn die Herkunft im Entwurf mitgeführt wird, und 25 bis 40 Minuten ohne Herkunftsangaben, weil dann jede Aussage neu recherchiert werden muss. Ohne Kennzeichnung prüft ihr entweder alles oder nichts, in der Praxis meist nichts.
Arbeitsmodell zur Veranschaulichung, keine erhobenen Messwerte. Setzt eure eigenen Werte ein.
Der Unterschied entsteht nicht durch gründlicheres Prüfen, sondern dadurch, dass klar ist, was geprüft werden muss. Ohne Kennzeichnung prüft ihr entweder alles oder nichts. In der Praxis wird es meist nichts, weil die Zeit fehlt.
Was tun, wenn eine Falschangabe bereits veröffentlicht ist?
Zuerst die Tragweite einordnen. Eine veraltete Jahreszahl in einem Blogbeitrag ist etwas anderes als eine falsche Produktaussage in einem Verkaufsdokument oder eine unzulässige Werbeaussage. Die ersten beiden korrigiert ihr, die dritte gehört sofort der Rechtsabteilung gemeldet. Danach korrigieren mit Vermerk: Eine stille Änderung wirkt bei Entdeckung schlechter.
Trotz Prüfung wird gelegentlich etwas durchrutschen. Wie ihr damit umgeht, entscheidet stärker über eure Glaubwürdigkeit als die Tatsache, dass es passiert ist.
Der erste Schritt ist die Einordnung der Tragweite. Eine veraltete Jahreszahl in einem Blogbeitrag ist etwas anderes als eine falsche Aussage über euer Produkt in einem Verkaufsdokument oder eine unzulässige Werbeaussage. Die ersten beiden korrigiert ihr, die dritte gehört sofort der Rechtsabteilung gemeldet.
Der zweite Schritt ist die Korrektur mit Vermerk. Eine stille Änderung wirkt bei Entdeckung schlechter als der ursprüngliche Fehler. Ein kurzer Hinweis, was wann korrigiert wurde, kostet zwei Sätze und erzeugt Vertrauen statt Verdacht. Bei Inhalten, die bereits weitergereicht wurden, gehört eine aktive Nachricht an die Empfangenden dazu.
Der dritte Schritt ist der wichtigste und wird meist ausgelassen: Die korrekte Angabe wandert ins Faktenblatt. Ohne diesen Schritt taucht dieselbe Falschangabe in einigen Wochen erneut auf, weil die Ursache unverändert ist.
Verzichtet auf die Suche nach der schuldigen Person. Halluzinationen entstehen systematisch und nicht durch Nachlässigkeit. Ein Team, in dem Fehler zu Schuldzuweisungen führen, meldet den nächsten nicht mehr, und genau dann wird es teuer.
Die Prüfliste vor jeder Freigabe
| Kategorie | Konkret zu prüfen | Wer prüft |
|---|---|---|
| Eigenangaben | Zertifizierungen, Kundenzahlen, Standorte, Auszeichnungen | Fachabteilung oder Unternehmenskommunikation |
| Zahlen und Anteile | Jede Prozentangabe, jede absolute Zahl, jeder Zeitraum | Person mit Zugriff auf die Quelldaten |
| Fremdbelege | Existenz der Quelle, Jahr, tatsächliche Aussage | Redaktion |
| Rechtsaussagen | Geltung, Anwendungszeitpunkt, Zuständigkeit | Rechtsabteilung |
| Produktangaben | Funktionsumfang, Verfügbarkeit, Bezeichnungen | Produktverantwortliche |
Der praktische Nutzen dieser Aufteilung liegt in der Zuständigkeit. Eine Redaktion kann eine Zertifizierung nicht bestätigen, und eine Rechtsabteilung soll nicht Formulierungen glätten. Wenn jede Kategorie eine Adresse hat, dauert die Freigabe kürzer, nicht länger.
Was gehört in ein Faktenblatt?
Vier Bereiche, angefangen bei den Unternehmensangaben wie Gründungsjahr, Standorte und Zertifizierungen. Beginnt aber nicht mit einer Sammlung, sondern mit euren letzten zehn Texten: Jede Angabe, die jemand nachschlagen musste oder die in der Freigabe beanstandet wurde, ergibt die erste Fassung.
Das Faktenblatt ist der wirksamste einzelne Baustein gegen Falschangaben und zugleich der am schnellsten erstellte. Es beantwortet die Frage, die ein Modell sonst mit einer plausiblen Vermutung füllt.
Beginnt nicht mit einer Sammlung, sondern mit euren letzten zehn Texten. Notiert jede Angabe, die jemand nachschlagen oder erfragen musste, und jede, die in der Freigabe beanstandet wurde. Diese Liste ist eure erste Fassung und deckt bereits den größten Teil der wiederkehrenden Risikostellen ab.
Vier Bereiche gehören hinein: Unternehmensangaben wie Gründungsjahr, Standorte und Zertifizierungen. Produktangaben mit offiziellen Bezeichnungen und Funktionsumfang, ausdrücklich auch das, was nicht enthalten ist. Zulässige Aussagen, also welche Wirkungs- und Vergleichsaussagen freigegeben sind. Und eigene Zahlen, jeweils mit Stand-Datum und Herkunft.
Der letzte Punkt entscheidet über die Haltbarkeit. Eine Zahl ohne Datum wird irgendwann in einem Text verwendet, in dem sie nicht mehr stimmt. Mit Datum sieht jede Person sofort, ob sie noch trägt.
Haltet das Blatt bewusst knapp. Eine überladene Sammlung wird nicht gepflegt, und ungepflegte gesicherte Angaben sind gefährlicher als gar keine, weil sie ungeprüft übernommen werden. Nehmt auf, was tatsächlich in Texten vorkommt, nicht was theoretisch relevant sein könnte.
Fünf Fehler im Umgang mit Halluzinationen
- Auf ein besseres Modell wartenDie Fehlerquote sinkt mit neueren Modellen, sie verschwindet nicht. Ein Prozess, der auf Fehlerfreiheit setzt, hat keinen Sicherungsmechanismus.
- Den ganzen Text prüfen wollenVollprüfung ist zu teuer und wird deshalb ausgelassen. Gezielte Prüfung faktenhaltiger Sätze findet tatsächlich statt.
- Quellen nachträglich suchenWer erst im fertigen Text nach Belegen sucht, findet meist etwas Ähnliches und übernimmt es. Damit wird aus einer Halluzination eine schlecht belegte Aussage.
- Prüfung an die Erstellenden gebenWer einen Text geschrieben hat, liest über die eigenen Annahmen hinweg. Die Faktenprüfung braucht ein zweites Augenpaar.
- Keine Kennzeichnung im EntwurfOhne Markierung ist im fertigen Text nicht mehr erkennbar, welche Aussage aus eurem Material stammt und welche das Modell ergänzt hat.
In fünf Schritten zu belastbaren Texten
- Vor dem SchreibenMaterial bereitstellenFaktenblatt mit euren gesicherten Angaben: Zahlen, Zertifizierungen, Produktbezeichnungen, Standardformulierungen. Ohne dieses Blatt erfindet jedes Modell die Lücken.
- Beim SchreibenPlatzhalter statt SchätzungDie Anweisung enthält ausdrücklich, dass fehlende Angaben als Platzhalter markiert werden.
- Beim SchreibenHerkunft mitführenHinter jeder faktenhaltigen Aussage steht die Fundstelle oder der Vermerk ungeprüft.
- Vor der FreigabeGezielt prüfenNur die markierten Stellen, nach Zuständigkeit verteilt. Rest der Redaktion überlassen.
- Nach VeröffentlichungFaktenblatt pflegenJede gefundene Falschangabe wird als korrekte Angabe ins Faktenblatt aufgenommen. Damit sinkt die Fehlerquote mit jedem Beitrag.
Selbstcheck: Wie groß ist euer Risiko?
Setzt Haken bei allem, was auf euch zutrifft.
kurzer Vorschlag zum Umgang mit KI-Textentwürfen:
Wir prüfen ab sofort nicht mehr den gesamten Text, sondern gezielt die faktenhaltigen Aussagen. Dafür markieren wir beim Erstellen hinter jeder Zahl, Jahresangabe, Zertifizierung und Rechtsaussage die Herkunft. Fehlt eine gesicherte Angabe, schreiben wir PLATZHALTER statt einer Schätzung.
Die Prüfung verteilen wir nach Zuständigkeit: Eigenangaben an die Fachabteilung, Rechtsaussagen an die Rechtsabteilung, Fremdbelege an die Redaktion.
Aufwand: wenige Minuten je Beitrag. Nutzen: Wir merken vor der Veröffentlichung, wenn eine Angabe nicht belegt ist, und nicht danach.
Fazit: Nicht das Modell absichern, sondern den Prozess
Halluzinationen sind kein vorübergehendes Problem, das die nächste Modellgeneration löst. Sie sind die Kehrseite davon, dass Sprachmodelle plausible Texte erzeugen und nicht wahre. Wer das akzeptiert und den Prüfschritt fest einbaut, kann KI im Marketing ohne schlechtes Gewissen einsetzen. Wer darauf wartet, dass das Problem verschwindet, veröffentlicht so lange ungeprüft.
Häufige Fragen
Reicht es nicht, das Modell nach Quellen zu fragen?
Nein. Quellenangaben können selbst halluziniert sein, gerade weil sie ein wiederkehrendes Textmuster haben. Eine genannte Quelle ist ein Prüfauftrag, kein Beleg. Verlangt Fundstellen aus eurem eigenen Material, das ist überprüfbar.
Hilft es, mehrere Modelle gegeneinander prüfen zu lassen?
Begrenzt. Zwei Modelle können dieselbe plausible Falschangabe erzeugen, weil sie ähnlichen Mustern folgen. Für Widersprüche in der Argumentation ist der Gegencheck nützlich, für Faktenprüfung ersetzt er keine Quelle.
Was gehört in ein Faktenblatt?
Alles, was regelmäßig in Texten vorkommt und falsch sein könnte: Unternehmenszahlen, Gründungsjahr, Standorte, Zertifizierungen, Produktbezeichnungen und Funktionsumfang, zugelassene Aussagen über Wirkung und Nutzen sowie Formulierungen, die aus rechtlichen Gründen nicht verwendet werden dürfen.
Wie gehen wir mit veralteten Rechtsangaben um?
Mit einer Zeitangabe im Satz und einem Prüfdatum im Beitrag. Formulierungen wie derzeit oder aktuell ohne Datum werden nach wenigen Monaten unbrauchbar. Wer ein Stand-Datum mitführt, kann später gezielt aktualisieren statt alles neu zu prüfen.
Muss jeder KI-Text gekennzeichnet werden?
Das hängt von Einsatzzweck und geltender Rechtslage ab und ist für Textinhalte anders zu beurteilen als für synthetische Bild- oder Tonaufnahmen. Klärt den für euch geltenden Rahmen mit eurer Rechtsabteilung, bevor ihr eine einheitliche Praxis festlegt.
Kann ein zweites Modell die Faktenprüfung übernehmen?
Als Hinweisgeber begrenzt, als Entscheidung nicht. Zwei Modelle können dieselbe plausible Falschangabe erzeugen, weil sie ähnlichen Mustern folgen. Nützlich ist der Gegencheck bei Widersprüchen innerhalb eines Textes, nicht bei der Frage, ob eine Angabe stimmt.
Was ist mit Werkzeugen, die Quellen mitliefern?
Sie verbessern die Nachvollziehbarkeit erheblich, weil ihr die Fundstelle öffnen könnt. Prüft trotzdem, ob die genannte Quelle die Aussage tatsächlich trägt. In der Praxis ist die Quelle häufig echt, die daraus abgeleitete Aussage aber zugespitzt.
Wie gehen wir mit Zahlen aus Anbietermaterial um?
Wie mit jeder anderen Fremdquelle: Herkunft, Jahr und Erhebungsmethode prüfen. Anbieterzahlen ohne Methodenangabe gehören nicht in eure Texte, weil ihr sie im Zweifel nicht verteidigen könnt. Eine eigene, kleinere Zahl ist im Gespräch mehr wert.
Wie lässt sich euer Marketingalltag einfacher machen?
In 30 Minuten schauen wir gemeinsam darauf, wo euch heute unnötige Abstimmungen, manuelle Aufgaben, Toolwechsel oder wiederkehrende Content-Arbeit Zeit kosten.
Du bekommst eine konkrete Einordnung, welche Aufgaben ihr vereinfachen, automatisieren oder besser organisieren könnt und wo KI und Tools tatsächlich helfen, statt zusätzliche Komplexität zu schaffen.
Alles an eurem tatsächlichen Marketingalltag.
30 Minuten, um deinen Marketingalltag zu vereinfachen Kostenfrei. Du nimmst konkrete Ansatzpunkte mit, die ihr intern direkt weiterverwenden könnt.
Dennis Gumprich
Dennis begleitet Marketing- und Kommunikationsteams bei der Frage, wie generative KI in bestehende Content-Prozesse passt, ohne Qualität, Markensprache und Freigaben zu untergraben. Schwerpunkte: Content Operations, AI Governance und Toolauswahl in Mittelstand und Konzern.
Transparenzhinweis: Dennis arbeitet für contentbird, einen Anbieter von KI-gestützter Content-Software. Produkterwähnungen sind im Beitrag gekennzeichnet. Mehr über Dennis · LinkedIn
Weiterlesen
Entstehung dieses Beitrags
Dieser Beitrag ist unter Einsatz von KI entstanden. Struktur, Recherche und Formulierungsentwürfe wurden KI-gestützt erarbeitet. Fachliche Einordnung, Prüfung der Aussagen und die finale Fassung liegen bei Dennis Gumprich.
Zur Belastbarkeit der Zahlen
Die genannten Prüfzeiten und Mengenangaben sind ausdrücklich als Arbeitsmodelle gekennzeichnet und keine erhobenen Messwerte. Sie dienen dazu, die Größenordnung des Aufwands nachvollziehbar zu machen.
Rechtlicher Hinweis
Dieser Beitrag ersetzt keine Rechtsberatung. Ob und in welchem Umfang Kennzeichnungspflichten für eure Inhalte gelten, klärt eure Rechtsabteilung.
