Trau, schau, wem: Warum KI-Halluzinationen zum Risiko für Marken werden

TL;DR: KI-Halluzinationen sind mehr als ein technisches Problem. Sie können zum Reputationsrisiko für Unternehmen werden, wenn Sprachmodelle falsche Informationen über Marken, Produkte oder Personen verbreiten. Die Herausforderung liegt nicht nur in den Fehlern selbst, sondern darin, wie überzeugend sie präsentiert werden. Kommunikationsverantwortliche müssen deshalb ihre digitale Glaubwürdigkeit aktiv steuern, vertrauenswürdige Inhalte bereitstellen und regelmäßig überprüfen, welche Geschichten KI-Systeme über ihre Marke erzählen.

ChatGPT und Co haben unsere Art Informationen zu suchen, zu bewerten, zu nutzen und weiterzugeben komplett verändert. LLM-Sprachmodelle liefern Antworten mit beeindruckender Sicherheit und Überzeugungskraft, selbst dann, wenn Inhalte falsch oder frei erfunden sind. Diese sogenannten Halluzinationen können schnell zum Reputationsproblem werden, und zwar dadurch, dass falsche Aussagen über Unternehmen, Produkte oder Personen verbreitet werden. Wie entstehen solche Fehler? Warum wirken KI-Texte so glaubwürdig? Und was können Kommunikations- und PR-Teams tun, um ihre Marke vor dieser Gefahr zu schützen und die Hoheit über ihre Story zu behalten?

Warum lassen wir uns so leicht von KI-Fehlern täuschen?

Menschen vertrauen Geschichten, wenn sie schlüssig wirken. Wenn etwas klar formuliert ist, logisch klingt und mit Überzeugung präsentiert wird, akzeptieren wir es schnell als Wahrheit. Und KI-Systeme machen das sehr gut. Sie liefern Texte und Antworten ohne sichtbare Unsicherheit. Kein Zögern, kein „Das weiß ich nicht“, kein Hinweis darauf, dass eine Aussage möglicherweise erfunden ist. ChatGPT und Co. formulieren mit derselben Überzeugungskraft, egal ob sie richtig liegen oder komplett daneben liegen, also halluzinieren.

Besonders problematisch wird dieses Auskunftsverhalten und Redseligkeit, wenn KI-Halluzinationen direkt die Reputation von Personen oder Marken betreffen, wie beispielsweise geschehen im Fall des US-amerikanische Radiomoderators Mark Walters , den ChatGPT fälschlicherweise mit einem Veruntreuungsfall in Verbindung gebracht hatte. Die Information war frei erfunden, klang aber glaubwürdig genug, um ernsthafte Folgen für den Ruf des Moderators zu haben.

Warum das Problem gerade erst beginnt

Viele hatten gehofft, KI-Halluzinationen seien nur eine vorübergehende Schwäche der ersten Generation, doch tatsächlich werden sie uns noch lange begleiten. Denn je stärker KI in Suchmaschinen, CRM-Systeme, Collaboration-Tools und digitale Assistenten integriert wird, desto häufiger begegnen Menschen ungeprüften KI-Antworten im Alltag. Gleichzeitig steigt in Unternehmen der Druck, schneller zu arbeiten. Texte entstehen in Minuten. Recherchen werden abgekürzt. Inhalte werden automatisiert produziert.

Trau, schau, wem!

Vielleicht liegt das eigentliche Problem gar nicht darin, dass KI halluziniert, sondern darin, wie überzeugend sie es tut.

Wir kennen das aus dem Alltag. Es gibt Menschen, die Geschichten so überzeugend erzählen, dass man ihnen zunächst jedes Wort glaubt. Erst mit der Zeit merkt man, dass manche Details ausgeschmückt wurden, Vermutungen als Fakten dargestellt werden oder Erinnerungen und Wirklichkeit miteinander verschwimmen. Deshalb verlassen wir uns bei wichtigen Entscheidungen selten auf eine einzige Quelle. Wir prüfen Informationen, holen eine zweite Meinung ein und vertrauen vor allem den Quellen, die sich über Jahre als verlässlich erwiesen haben.

Im Umgang mit KI fehlt vielen dieses gesunde Misstrauen noch. Antworten wirken sachlich, präzise und objektiv, wie auch mein Kollege Daniel in seinem Blogpost beschreibt. Dadurch entsteht schnell der Eindruck, die Maschine müsse recht haben. Dabei braucht KI denselben Gegencheck wie jede andere Quelle auch. Das alte Sprichwort „Trau, schau, wem“ erlangt im KI-Zeitalter deshalb eine ganz neue Bedeutung. Und zwar nicht nur mit Blick auf bewusst kreierte Fake News, sondern auch auf die ganz alltäglichen Antworten von ChatGPT, Claude und Co. oder KI-generierten Suchmaschinenergebnisse, die inzwischen häufig über klassischen google-Suchergebnissen stehen.

Was bedeutet das für Kommunikations-Teams?

Für PR-Verantwortliche bedeutet das: sie müssen nicht mehr nur Medienmonitoring betreiben, sondern zunehmend auch beobachten, welche Geschichten KI-Systeme über ihre Marke erzählen. Damit erweitert sich die klassische Kommunikationsarbeit um eine neue Dimension: das Management KI-generierter Wahrnehmung. PR- und Kommunikationsteams dürfen nicht nur Geschichten erzählen. Sie müssen sie auch absichern. Die zentralen Fragen lauten deshalb nicht mehr nur, wie erzählen wir unsere Story und wie sorgen wir für deren Öffentlichkeit, sondern zunehmend: „Welche Geschichte erzählt die KI über uns?“

Was können Kommunikationsverantwortliche tun um (gegen)zusteuern?

Kommunikationsverantwortliche können KI-Halluzinationen nicht vollständig verhindern, aber sie können sehr viel tun, um das Risiko für ihre Marke deutlich zu reduzieren. Der entscheidende Punkt dabei: Unternehmen müssen lernen, ihre digitale Glaubwürdigkeit aktiv zu steuern, statt KI-Systeme mit widersprüchlichen oder dünnen Informationen allein zu lassen.

Konkret bedeutet das:

• Eigene Inhalte stärken:
  KI-Systeme greifen bevorzugt auf öffentlich verfügbare Informationen zurück. Wer klare, aktuelle und konsistente Inhalte auf Website, Blog, Pressebereich und Social Media veröffentlicht, erhöht die Wahrscheinlichkeit, korrekt dargestellt zu werden.
• Owned Media strategisch ausbauen:
  Unternehmensblogs, Whitepaper, Studien, Expertenbeiträge und Case Studies werden wichtiger denn je. Sie schaffen überprüfbare Quellen, auf die KI-Systeme zurückgreifen können.
• Fachliche Autorität sichtbar machen:
  Expertenstimmen, Thought Leadership und belastbare Fachinhalte helfen dabei, Vertrauen aufzubauen, sowohl bei Menschen als auch bei Maschinen. Gerade Fachmedien gewinnen dadurch wieder massiv an Bedeutung.
• GEO mitdenken:
  Mit Generative Engine Optimization (GEO) wird es zunehmend wichtig, nicht nur in Suchmaschinen sichtbar zu sein, sondern auch in KI-generierten Antworten korrekt und glaubwürdig dargestellt zu werden. (Dazu mehr in den Blogposts meines Kollegen Florian Schafroth.) Dafür müssen Inhalte konsistent, vertrauenswürdig und sowohl für Menschen als auch für Maschinen verständlich aufbereitet sein.
• Regelmäßiges Monitoring etablieren:
  Kommunikationsabteilungen sollten testen, welche Informationen ChatGPT, Claude, Gemini oder KI-gestützte Suchmaschinen über das eigene Unternehmen ausgeben. Falsche Informationen müssen früh erkannt werden.
• Klare Faktenbasis schaffen:
  Stammdaten, Managementinformationen, Unternehmenszahlen und Leistungsbeschreibungen sollten überall konsistent sein. Jede Inkonsistenz erhöht das Risiko von Fehlinterpretationen.
• Interne KI-Governance einführen:
  Teams brauchen klare Regeln für den Umgang mit KI-generierten Inhalten. Dazu gehören Faktenchecks, Quellenprüfung und definierte Freigabeprozesse.
• Menschliche Kontrolle beibehalten:
  KI darf Recherche und Content-Erstellung beschleunigen, aber nicht die finale Qualitätskontrolle ersetzen. Kommunikationsprofis müssen weiterhin die Rolle des kritischen Redakteurs übernehmen.

*****

Über Heike Hering-Haas

Heike kennt die Facetten der PR aus erster Hand und hat langjährige Erfahrung in Kundenberatung, Medienarbeit und Eventorganisation. Seit 2002

bei Berkeley Kommunikation, der deutschen Niederlassung der Berkeley Communications Group für die DACH-Region (Deutschland, Österreich und Schweiz) in München (formerly known as essential media), entwickelt und schreibt die studierte Diplom-Kulturwirtin heute in ihrer Funktion als Senior Content Managerin mit Begeisterung  Success Stories, Interviews für B2B-Kunden und kümmert sich um den lebendigen Berkeley-Blog.