Der Beitrag ist raus. Zwei Stunden später schreibt ein Kollege aus dem Vertrieb: Die Zertifizierung, die da im dritten Absatz steht, haben wir gar nicht.
Niemand hat sie erfunden. Sie stand einfach im Entwurf, klang plausibel, passte zum Rest, und drei Personen haben den Text gelesen, ohne dass sie jemandem auffiel. Genau darin liegt das Problem: Halluzinationen sehen nicht aus wie Fehler.
Halluzinationen lassen sich nicht durch bessere Modelle verhindern, sondern durch Prozess. Wirksam sind drei Ebenen: Nur prüfbare Aussagen zulassen, Quellen im Entwurf mitführen und vor der Freigabe gezielt die faktenhaltigen Sätze prüfen statt den ganzen Text. Der Aufwand liegt bei wenigen Minuten je Beitrag.
Warum Halluzinationen im Marketing besonders gefährlich sind
Ein Sprachmodell erzeugt den wahrscheinlichsten nächsten Textbaustein, nicht die wahre Aussage. In den meisten Fällen fällt das zusammen, weil wahrscheinliche Formulierungen in gut belegten Themen auch zutreffen. Genau deshalb entsteht der Eindruck von Verlässlichkeit.
Kritisch wird es dort, wo eine Aussage spezifisch, aber selten ist: Jahreszahlen, Zertifizierungen, Marktanteile, Studiennamen, Gesetzesparagrafen, Produktdetails. Solche Angaben klingen im fließenden Text vollkommen unauffällig, weil sie sprachlich korrekt eingebettet sind.
Im Marketing kommt erschwerend hinzu, dass eure Texte nach außen gehen und Aussagen über euer eigenes Unternehmen enthalten. Eine erfundene Zertifizierung ist kein Stilfehler, sondern potenziell eine irreführende Angabe. Die Prüfung muss deshalb ein fester Schritt sein, nicht eine Frage der Aufmerksamkeit.
Die vier Typen, die euch tatsächlich begegnen
Erfundene Belege
Studien, Umfragen oder Berichte, die es so nicht gibt, häufig mit plausiblem Herausgeber und Jahreszahl.
Erkennbar an: Quelle wird genannt, aber nicht verlinkt.
Falsche Eigenangaben
Aussagen über euer Unternehmen, die aus ähnlichen Unternehmen abgeleitet wurden.
Erkennbar an: klingt nach eurem Standard, steht aber nirgends belegt.
Veraltete Fakten
Korrekt zum Trainingszeitpunkt, inzwischen überholt. Besonders bei Rechtslage und Produktständen.
Erkennbar an: keine Zeitangabe im Satz.
Überdehnte Verallgemeinerung
Aus einem Einzelfall wird eine Regel, aus einer Tendenz eine Zahl.
Erkennbar an: Formulierungen wie in der Regel, meist, deutlich mehr.
Typ 2 ist der teuerste, weil er nach außen wie eine Zusicherung wirkt. Typ 3 ist der häufigste, weil er auch dann entsteht, wenn alles andere sauber läuft.
Der wirksamste Hebel: prüfbare Aussagen erzwingen
Die meisten Halluzinationen entstehen, weil die Anweisung eine Aussage verlangt, die das Modell nicht belegen kann. Wer nach überzeugenden Argumenten mit Zahlen fragt, bekommt Zahlen. Ob sie stimmen, war nicht Teil der Anforderung.
Schreib einen überzeugenden Abschnitt darüber, warum unsere Lösung Zeit spart. Nenne konkrete Zahlen.
Schreib einen Abschnitt darüber, warum unsere Lösung Zeit spart. Verwende ausschließlich Angaben aus dem beigefügten Material. Wenn eine Zahl fehlt, schreib PLATZHALTER statt einer Schätzung.
Der Platzhalter ist der entscheidende Teil. Er macht die Lücke sichtbar, statt sie zu füllen. Ein Text mit drei Platzhaltern ist unbequem, aber ehrlich. Ein Text ohne Platzhalter ist bequem und muss vollständig geprüft werden.
Zweiter Hebel mit großer Wirkung: Lasst hinter jede faktenhaltige Aussage in eckigen Klammern die Herkunft schreiben. Entweder die Fundstelle aus eurem Material oder den Vermerk ungeprüft. Damit verwandelt sich die Prüfung von einer Suche in ein Abarbeiten.
Was die Prüfung tatsächlich kostet
Arbeitsmodell zur Veranschaulichung, keine erhobenen Messwerte. Setzt eure eigenen Werte ein.
Der Unterschied entsteht nicht durch gründlicheres Prüfen, sondern dadurch, dass klar ist, was geprüft werden muss. Ohne Kennzeichnung prüft ihr entweder alles oder nichts. In der Praxis wird es meist nichts, weil die Zeit fehlt.
Die Prüfliste vor jeder Freigabe
| Kategorie | Konkret zu prüfen | Wer prüft |
|---|---|---|
| Eigenangaben | Zertifizierungen, Kundenzahlen, Standorte, Auszeichnungen | Fachabteilung oder Unternehmenskommunikation |
| Zahlen und Anteile | Jede Prozentangabe, jede absolute Zahl, jeder Zeitraum | Person mit Zugriff auf die Quelldaten |
| Fremdbelege | Existenz der Quelle, Jahr, tatsächliche Aussage | Redaktion |
| Rechtsaussagen | Geltung, Anwendungszeitpunkt, Zuständigkeit | Rechtsabteilung |
| Produktangaben | Funktionsumfang, Verfügbarkeit, Bezeichnungen | Produktverantwortliche |
Der praktische Nutzen dieser Aufteilung liegt in der Zuständigkeit. Eine Redaktion kann eine Zertifizierung nicht bestätigen, und eine Rechtsabteilung soll nicht Formulierungen glätten. Wenn jede Kategorie eine Adresse hat, dauert die Freigabe kürzer, nicht länger.
Fünf Fehler im Umgang mit Halluzinationen
- Auf ein besseres Modell wartenDie Fehlerquote sinkt mit neueren Modellen, sie verschwindet nicht. Ein Prozess, der auf Fehlerfreiheit setzt, hat keinen Sicherungsmechanismus.
- Den ganzen Text prüfen wollenVollprüfung ist zu teuer und wird deshalb ausgelassen. Gezielte Prüfung faktenhaltiger Sätze findet tatsächlich statt.
- Quellen nachträglich suchenWer erst im fertigen Text nach Belegen sucht, findet meist etwas Ähnliches und übernimmt es. Damit wird aus einer Halluzination eine schlecht belegte Aussage.
- Prüfung an die Erstellenden gebenWer einen Text geschrieben hat, liest über die eigenen Annahmen hinweg. Die Faktenprüfung braucht ein zweites Augenpaar.
- Keine Kennzeichnung im EntwurfOhne Markierung ist im fertigen Text nicht mehr erkennbar, welche Aussage aus eurem Material stammt und welche das Modell ergänzt hat.
In fünf Schritten zu belastbaren Texten
- Vor dem SchreibenMaterial bereitstellenFaktenblatt mit euren gesicherten Angaben: Zahlen, Zertifizierungen, Produktbezeichnungen, Standardformulierungen. Ohne dieses Blatt erfindet jedes Modell die Lücken.
- Beim SchreibenPlatzhalter statt SchätzungDie Anweisung enthält ausdrücklich, dass fehlende Angaben als Platzhalter markiert werden.
- Beim SchreibenHerkunft mitführenHinter jeder faktenhaltigen Aussage steht die Fundstelle oder der Vermerk ungeprüft.
- Vor der FreigabeGezielt prüfenNur die markierten Stellen, nach Zuständigkeit verteilt. Rest der Redaktion überlassen.
- Nach VeröffentlichungFaktenblatt pflegenJede gefundene Falschangabe wird als korrekte Angabe ins Faktenblatt aufgenommen. Damit sinkt die Fehlerquote mit jedem Beitrag.
Selbstcheck: Wie groß ist euer Risiko?
Setzt Haken bei allem, was auf euch zutrifft.
kurzer Vorschlag zum Umgang mit KI-Textentwürfen:
Wir prüfen ab sofort nicht mehr den gesamten Text, sondern gezielt die faktenhaltigen Aussagen. Dafür markieren wir beim Erstellen hinter jeder Zahl, Jahresangabe, Zertifizierung und Rechtsaussage die Herkunft. Fehlt eine gesicherte Angabe, schreiben wir PLATZHALTER statt einer Schätzung.
Die Prüfung verteilen wir nach Zuständigkeit: Eigenangaben an die Fachabteilung, Rechtsaussagen an die Rechtsabteilung, Fremdbelege an die Redaktion.
Aufwand: wenige Minuten je Beitrag. Nutzen: Wir merken vor der Veröffentlichung, wenn eine Angabe nicht belegt ist, und nicht danach.
Fazit: Nicht das Modell absichern, sondern den Prozess
Halluzinationen sind kein vorübergehendes Problem, das die nächste Modellgeneration löst. Sie sind die Kehrseite davon, dass Sprachmodelle plausible Texte erzeugen und nicht wahre. Wer das akzeptiert und den Prüfschritt fest einbaut, kann KI im Marketing ohne schlechtes Gewissen einsetzen. Wer darauf wartet, dass das Problem verschwindet, veröffentlicht so lange ungeprüft.
Häufige Fragen
Reicht es nicht, das Modell nach Quellen zu fragen?
Nein. Quellenangaben können selbst halluziniert sein, gerade weil sie ein wiederkehrendes Textmuster haben. Eine genannte Quelle ist ein Prüfauftrag, kein Beleg. Verlangt Fundstellen aus eurem eigenen Material, das ist überprüfbar.
Hilft es, mehrere Modelle gegeneinander prüfen zu lassen?
Begrenzt. Zwei Modelle können dieselbe plausible Falschangabe erzeugen, weil sie ähnlichen Mustern folgen. Für Widersprüche in der Argumentation ist der Gegencheck nützlich, für Faktenprüfung ersetzt er keine Quelle.
Was gehört in ein Faktenblatt?
Alles, was regelmäßig in Texten vorkommt und falsch sein könnte: Unternehmenszahlen, Gründungsjahr, Standorte, Zertifizierungen, Produktbezeichnungen und Funktionsumfang, zugelassene Aussagen über Wirkung und Nutzen sowie Formulierungen, die aus rechtlichen Gründen nicht verwendet werden dürfen.
Wie gehen wir mit veralteten Rechtsangaben um?
Mit einer Zeitangabe im Satz und einem Prüfdatum im Beitrag. Formulierungen wie derzeit oder aktuell ohne Datum werden nach wenigen Monaten unbrauchbar. Wer ein Stand-Datum mitführt, kann später gezielt aktualisieren statt alles neu zu prüfen.
Muss jeder KI-Text gekennzeichnet werden?
Das hängt von Einsatzzweck und geltender Rechtslage ab und ist für Textinhalte anders zu beurteilen als für synthetische Bild- oder Tonaufnahmen. Klärt den für euch geltenden Rahmen mit eurer Rechtsabteilung, bevor ihr eine einheitliche Praxis festlegt.
Wie lässt sich euer Marketingalltag einfacher machen?
In 30 Minuten schauen wir gemeinsam darauf, wo euch heute unnötige Abstimmungen, manuelle Aufgaben, Toolwechsel oder wiederkehrende Content-Arbeit Zeit kosten.
Du bekommst eine konkrete Einordnung, welche Aufgaben ihr vereinfachen, automatisieren oder besser organisieren könnt und wo KI und Tools tatsächlich helfen, statt zusätzliche Komplexität zu schaffen.
Alles an eurem tatsächlichen Marketingalltag.
30 Minuten, um deinen Marketingalltag zu vereinfachen Kostenfrei. Du nimmst konkrete Ansatzpunkte mit, die ihr intern direkt weiterverwenden könnt.
Dennis Gumprich
Dennis begleitet Marketing- und Kommunikationsteams bei der Frage, wie generative KI in bestehende Content-Prozesse passt, ohne Qualität, Markensprache und Freigaben zu untergraben. Schwerpunkte: Content Operations, AI Governance und Toolauswahl in Mittelstand und Konzern.
Transparenzhinweis: Dennis arbeitet für contentbird, einen Anbieter von KI-gestützter Content-Software. Produkterwähnungen sind im Beitrag gekennzeichnet. Mehr über Dennis · LinkedIn
Weiterlesen
Entstehung dieses Beitrags
Dieser Beitrag ist unter Einsatz von KI entstanden. Struktur, Recherche und Formulierungsentwürfe wurden KI-gestützt erarbeitet. Fachliche Einordnung, Prüfung der Aussagen und die finale Fassung liegen bei Dennis Gumprich.
Zur Belastbarkeit der Zahlen
Die genannten Prüfzeiten und Mengenangaben sind ausdrücklich als Arbeitsmodelle gekennzeichnet und keine erhobenen Messwerte. Sie dienen dazu, die Größenordnung des Aufwands nachvollziehbar zu machen.
Rechtlicher Hinweis
Dieser Beitrag ersetzt keine Rechtsberatung. Ob und in welchem Umfang Kennzeichnungspflichten für eure Inhalte gelten, klärt eure Rechtsabteilung.
