Ein Pressesprecher in einem mittelständischen Industrieunternehmen erstellt eine Pressemitteilung zur neuen Nachhaltigkeitsstrategie. Er lässt sich von ChatGPT einen Entwurf machen, redigiert ihn, fügt ein Zitat des Geschäftsführers ein, schickt ihn raus. Drei Tage später meldet sich ein Journalist eines Branchenmagazins: „Diese DIN-Norm, die Sie zitieren — die gibt es so gar nicht. Können Sie das nochmal prüfen?"
Die Norm gab es nicht. Die KI hatte sie sich ausgedacht. Plausibel, vier Ziffern, korrekt formatiert, eingebettet in einen sonst stimmigen Absatz. Eine klassische Halluzination — auf den ersten Blick nicht von echtem Wissen zu unterscheiden.
Solche Situationen kommen häufiger vor, als die meisten Pressestellen zugeben. Ich erlebe sie in fast jedem Erstgespräch, das ich führe. Mal sind es erfundene Zahlen, mal nicht existente Studien, mal Zitate, die nie gefallen sind. Mal die falsche Verordnungsnummer, mal der falsche Name eines Politikers. Die Folgen reichen von peinlichen Rückfragen bis zu juristischen Auseinandersetzungen.
Das eigentliche Problem ist dabei nicht die KI. Es ist, dass wir den Prüfprozess nicht haben.
Was eine Halluzination ist — und was nicht.
Wenn ein Sprachmodell wie ChatGPT, Claude oder Gemini eine Halluzination produziert, dann ist das technisch betrachtet keine Lüge. Diese Modelle haben kein Konzept von Wahrheit. Sie sagen Wort für Wort das voraus, was statistisch am wahrscheinlichsten kommt — gemessen an dem, was sie in ihren Trainingsdaten gesehen haben. Wenn in den Trainingsdaten viele DIN-Normen mit vier Ziffern stehen, erfindet das Modell eben eine plausibel aussehende neue, wenn es passend erscheint.
Halluzinationen sind also kein Bug. Sie sind die direkte Konsequenz der Funktionsweise. Mit jeder Weiterentwicklung der Modelle werden sie seltener — aber sie verschwinden nicht. Je nach Studie, Themenfeld und eingesetztem Modell schwanken die gemessenen Halluzinations-Raten beträchtlich. Sicher ist nur: Sie liegen nicht bei null. Bei spezielleren Themen — Rechtsfragen, technischen Normen, historischen Details — steigen sie deutlich.
Drei Typen treffen wir in Pressestellen besonders häufig:
Erfundene Quellen. Studientitel, Autoren, Publikationsdaten, Zitate aus Forschungspapieren. Die KI weiß, wie Quellenangaben aussehen, und produziert formal korrekte, inhaltlich frei erfundene Belege. Das ist der riskanteste Typ, weil er den größten Eindruck von Recherche-Tiefe macht.
Plausible Zahlen. Marktanteile, Umsatzentwicklungen, Beschäftigtenzahlen, Prozentwerte. Die KI generiert sie aus Mustern, nicht aus Daten. Eine angeblich „43-prozentige Marktdurchdringung" klingt präzise und stimmig, ist aber häufig pure Erfindung.
Falsche Zuschreibungen. Zitate, die einer Person in den Mund gelegt werden, die sie nie gesagt hat. Maßnahmen, die einer Behörde unterstellt werden, die nie ergriffen wurden. Auszeichnungen, Mitgliedschaften, Positionen — gerne mit echten Namen verbunden.
Wie Sie eine Halluzination erkennen.
Halluzinationen sind nicht zufällig. Sie folgen Mustern, und wer diese Muster kennt, prüft gezielter. Vier Warnsignale, die uns in der Beratungspraxis immer wieder begegnen:
Erstens: Präzision ohne Quelle. Wenn die KI eine konkrete Zahl, einen Paragraphen, eine Norm oder eine Person nennt, aber keine prüfbare Quelle angibt — Misstrauen. Selbst wenn Sie die KI explizit nach einer Quelle fragen und sie eine liefert: Klicken Sie den Link. Häufig führt er ins Leere oder zu einem Dokument, das den Inhalt gar nicht enthält.
Zweitens: Zu glatte Formulierungen. Echte Fakten sind oft unsauber. Marktanteile haben Kommastellen, Studien haben sperrige Titel, Gesetze haben unhandliche Bezeichnungen. Wenn ein Text zu rund klingt, zu griffig zitiert wird, zu elegant auf den Punkt kommt — kann das ein Indiz sein, dass die KI das Bild geglättet hat.
Drittens: Spezifisches Detailwissen jenseits des Trainingscutoff. Sprachmodelle haben einen Wissensstichtag. Wenn die KI flüssig über Ereignisse der letzten Wochen schreibt, mit konkreten Personen und Zahlen, ist sie entweder mit Web-Suche unterwegs — dann sollte sie Quellen nennen — oder sie fabuliert. Ein einfacher Test: Wann war der Datenstand des Modells? Wenn die behauptete Information nach diesem Datum liegt, muss eine externe Quelle erkennbar sein.
Viertens: Antworten auf Fragen, die Sie eigentlich gar nicht gestellt haben. Wenn die KI in einem Text plötzlich Aspekte streift, nach denen Sie nicht gefragt haben — oft mit großer Sicherheit — dann sind das die Stellen, an denen sie sich gerne verläuft. Was im Brief stehen sollte: das Wesentliche. Was nicht: assoziativ Hinzugefügtes, das vielleicht stimmt, vielleicht aber auch nicht.
Was wirkungsvolle Prüfung tatsächlich heißt.
In den meisten Pressestellen, die mit KI arbeiten, gibt es bereits einen Freigabeprozess. Vier-Augen-Prinzip, Schlussredaktion, manchmal sogar eine Faktencheck-Routine. Trotzdem rutschen Halluzinationen durch. Warum?
Weil das Vier-Augen-Prinzip eine bestimmte Annahme hat: Der Erstautor weiß ungefähr, was er schreibt. Die Schlussredaktion prüft, ob es gut formuliert ist und plausibel klingt. Diese Annahme bricht, sobald der Erstautor eine KI ist. Plausibel klingt es nämlich immer. Genau das ist die Trainings-Mission.
Wirkungsvolle Prüfung von KI-Texten braucht deshalb einen anderen Aufbau. Drei Elemente sind aus unserer Sicht unverzichtbar:
Quellen sind Pflicht, nicht Bonus. Wenn ein KI-Text eine Behauptung enthält, die nicht aus dem Briefing oder aus Allgemeinwissen kommt, braucht es eine Quelle dazu. Nicht nachträglich, sondern direkt im Workflow. Das verlangt erst einmal mehr Arbeit. Es verhindert die Halluzinations-Effekte aber zuverlässig — und es zwingt die Pressestelle, sich über ihre eigenen Quellen klar zu werden.
Faktencheck gegen Primärquellen. Sekundärquellen — andere Pressemitteilungen, Wikipedia-Artikel, Sammelseiten — reichen nicht. Wenn Sie eine Zahl prüfen, gehen Sie zur Originalstudie. Wenn Sie eine Norm zitieren, schauen Sie ins Normenwerk. Wenn Sie ein Zitat verwenden, prüfen Sie die Originalquelle. Das ist mühsamer als googeln, aber es ist der Unterschied zwischen Sicherheit und Glück.
Eine schriftliche Liste der häufigen Fallen. Jede Pressestelle hat ihre typischen Themenfelder. Für eine ESG-Pressestelle sind das andere als für ein Krankenhaus. Wer einmal aufschreibt, wo bei eigenen Themen die größten Halluzinations-Risiken liegen — und in welchen Quellen man dort verlässlich nachprüfen kann — hat einen massiven Effizienzgewinn. Aus drei Stunden Faktencheck werden vierzig Minuten.
Was die Tools selbst tun können.
Die KI-Anbieter wissen um das Halluzinations-Problem und arbeiten dagegen. Mehrere Mechanismen sind heute schon einsetzbar und sollten in jedem ernsthaften Pressestellen-Workflow Standard sein.
Retrieval-Augmented Generation, kurz RAG, ist die wichtigste davon. Statt nur aus Trainingsdaten zu schöpfen, greift die KI auf eine konkrete Dokumentenbasis zu — Ihre eigenen Pressemitteilungen, Ihre Geschäftsberichte, Ihre Q&A-Kataloge. Sie zitiert dann aus diesen Dokumenten, nicht aus dem Modell-Gedächtnis. Halluzinationen werden so nicht ausgeschlossen, aber drastisch reduziert. Für Pressestellen ist das die wirksamste technische Maßnahme — und sie ist heute mit überschaubarem Aufwand einrichtbar.
Quellenpflichtige Prompts. Wer einen Prompt formuliert wie „Schreibe einen Absatz über X und gib jede behauptete Tatsache mit einer prüfbaren Quelle an", bekommt deutlich seltener Halluzinationen. Die KI passt sich an die Erwartung an. Sie liefert weniger, dafür stabileres Material.
Modell-Vergleich bei sensiblen Themen. Wenn ein Text aus einem Modell kommt, lassen Sie ihn von einem anderen Modell faktenchecken. Wenn beide Modelle zur selben Halluzination kommen, ist das ungewöhnlich. Wenn das Zweitmodell widerspricht, haben Sie einen klaren Prüfauftrag.
Was bleibt.
KI-Halluzinationen sind kein vorübergehendes Problem, das die nächste Modellgeneration löst. Sie sind ein dauerhafter Begleiter — leiser, seltener, aber nie ganz verschwunden. Die Frage ist nicht, ob Ihre Pressestelle mit ihnen konfrontiert wird, sondern wann. Und ob Sie dann einen Prozess haben, der greift, oder ein Glücksspiel mit Ihrer Reputation.
Drei Erkenntnisse aus unserer Beratungspraxis:
Erstens: Halluzinationen sind keine technische Frage, sondern eine redaktionelle. Sie entstehen technisch, aber sie werden redaktionell unterbunden. Eine Pressestelle, die ihre redaktionellen Prozesse im Griff hat, hat auch die Halluzinationen im Griff.
Zweitens: Die meisten Pressestellen haben die Prozesse, die sie bräuchten. Sie wenden sie nur nicht konsequent auf KI-Texte an. Das ist kulturell verständlich — KI-Texte fühlen sich wie fertige Entwürfe an, nicht wie Rohmaterial. Es ist aber ein Trugschluss, der teuer werden kann.
Drittens: Wer einmal von einer Halluzination kalt erwischt wurde, baut die Prozesse meistens nachhaltig um. Es wäre besser, vor dem Zwischenfall mit dem Umbau anzufangen.