Halluzination

Warum das zählt

Für Unternehmen ist die Sache nicht akademisch. Halluzinationen betreffen regelmäßig Angaben, die direkt geschäftsrelevant sind: ein falscher Standort, eine erfundene Leistung, eine Verwechslung mit einem gleichnamigen Betrieb, ein Preis, den es nie gab.

Das Unangenehme daran ist die Form. Eine halluzinierte Aussage klingt genauso sicher wie eine korrekte, oft sogar detaillierter. Anders als bei einer falschen Bewertung gibt es keine Stelle, an der man in der Antwort selbst widersprechen kann.

Das Risiko hat zwei Richtungen. Die eine betrifft fremde Systeme, die über Sie sprechen. Die andere betrifft Ihren eigenen Auftritt: Wer einen Chatbot auf der eigenen Website einsetzt, muss nach der ersten obergerichtlichen Entscheidung dazu wettbewerbsrechtlich für dessen Falschaussagen einstehen.

Wie es funktioniert

Ein Sprachmodell erzeugt Text, indem es fortlaufend das wahrscheinlichste nächste Wortstück bestimmt. Es prüft dabei nicht, ob das Ergebnis stimmt. Falsche Aussagen sind deshalb kein Fehler im engeren Sinne, sondern ein Nebenprodukt derselben Mechanik, die auch die richtigen Aussagen erzeugt.

Besonders wahrscheinlich werden sie in drei Situationen.

Dünne Datenlage. Wenn es zu einem Unternehmen kaum belastbare Quellen gibt, füllt das Modell die Lücken mit dem, was bei ähnlichen Unternehmen üblich ist. Eine Arbeit von Kalai und Kollegen aus dem Jahr 2025 beziffert das: Kommen 20 Prozent aller Geburtsdaten in den Trainingsdaten genau einmal vor, ist bei einem Basismodell, also dem Stand unmittelbar nach dem Vortraining, bei mindestens 20 Prozent dieser Geburtsdaten mit einer erfundenen Antwort zu rechnen. Fakten, die nur einmal im Datenbestand auftauchen, lassen sich statistisch nicht lernen. Genau das trifft auf Betriebe ohne Presse, Fachbeiträge und Verzeichniseinträge zu.

Mehrdeutige Namen. Zwei Firmen mit ähnlichem Namen werden zu einer verschmolzen, und die Angaben der einen landen bei der anderen.

Widersprüchliche Angaben. Wenn Website, Verzeichnisse und Presse unterschiedliche Aussagen enthalten, entscheidet sich das Modell für eine Variante oder mischt sie.

Dieselbe Arbeit nennt einen zweiten Grund: Übliche Bewertungsverfahren zählen ein „Ich weiß es nicht“ wie eine falsche Antwort. Raten zahlt sich damit aus. Die Arbeit führt dazu ein Beispiel an: Auf dreimal dieselbe Frage nach einem Geburtsdatum gab dasselbe Modell drei verschiedene, jeweils falsche Daten aus, obwohl ausdrücklich nur um eine Antwort gebeten worden war, falls das Datum bekannt sei. Für die Prüfpraxis heißt das: Eine einzelne Antwort ist kein Befund, erst die Wiederholung ergibt ein Bild.

Der Gegenmechanismus heißt Grounding, also die Bindung der Antwort an vorher abgerufene Quellen. Google beschreibt die eigene Suchanbindung ausdrücklich damit, Halluzinationen zu verringern, indem Antworten auf reale Informationen gestützt werden. Verhindert ist damit nichts: Auch eine gebundene Aussage kann falsch zusammengefasst sein. Retrieval Augmented Generation, also das Nachschlagen vor dem Antworten, senkt die Fehlerquote, sie fällt nicht auf null.

In der Praxis

Sinnvoll ist eine feste Reihenfolge. Sie beginnt mit der Bestandsaufnahme und endet bei der Quellenlage.

Erstens: fragen und protokollieren. Stellen Sie mehreren Systemen dieselben Fragen zu Unternehmen, Leistungen und Preisen, jede Frage mindestens dreimal in getrennten Sitzungen. Prüfen Sie gezielt Standort, Rechtsform, Geschäftsführung, Gründungsjahr, Zertifikate und Leistungsumfang. Den Aufbau beschreibt der Ratgeber KI-Sichtbarkeit messen.

Zweitens: den Befund einordnen. Notieren Sie zu jeder falschen Angabe, ob sie nie stimmte, einmal stimmte oder von einem anderen Betrieb stammt. Die drei Fälle brauchen unterschiedliche Maßnahmen.

Drittens: die eigenen Angaben eindeutig machen. Firmierung, Adresse, Gründungsjahr und Leistungen müssen auf Website, im Impressum und im Google-Unternehmensprofil identisch stehen. Hinterlegen Sie sie zusätzlich maschinenlesbar als JSON-LD im Kopf der Startseite:

{
  "@context": "https://schema.org",
  "@type": "Organization",
  "name": "Beispielfirma GmbH",
  "legalName": "Beispielfirma GmbH",
  "foundingDate": "1998",
  "address": {
    "@type": "PostalAddress",
    "streetAddress": "Beispielstraße 1",
    "postalCode": "26123",
    "addressLocality": "Oldenburg",
    "addressCountry": "DE"
  },
  "sameAs": [
    "URL des LinkedIn-Unternehmensprofils",
    "URL des Eintrags im Handelsregisterportal"
  ]
}

Die Liste unter sameAs ist der Teil, der über die eigene Domain hinausweist: Sie verbindet den Eintrag mit Profilen, die unabhängig bestätigen, dass es dieses Unternehmen gibt. Details stehen im Ratgeber Schema-Markup.

Viertens: Belege außerhalb der eigenen Domain schaffen. Verzeichnisse, Verbandslisten, Fachbeiträge, Presse. Das ist die Arbeit an der eigenen Entität. Bei mehrdeutigen Firmennamen zählt vor allem Unterscheidbarkeit: Je häufiger Name, Ort und Branche gemeinsam auftreten, desto schwerer fällt eine Verwechslung.

Fünftens: den eigenen Chatbot prüfen. Das Oberlandesgericht Hamm hat am 12. Mai 2026 entschieden, dass ein Unternehmen für die falschen Angaben seines Website-Chatbots einsteht. Der Bot hatte den Geschäftsführern Facharzttitel zugeschrieben, die diese nicht führten. Das Gericht sah in ihm ein technisches Mittel, über das die Betreiberin hinreichende Steuerungsgewalt besaß, und ließ den Einwand autonomen KI-Verhaltens nicht gelten. Aktenzeichen 4 UKl 3/25. Der Senat hat die Revision zum Bundesgerichtshof zugelassen, die Entscheidungsdatenbank des Landes Nordrhein-Westfalen führt das Urteil inzwischen als rechtskräftig. Praktisch heißt das: Themen mit Haftungsrisiko gehören per Anweisung und Stichwortfilter aus dem Bot heraus. Ein Hinweis auf mögliche Fehler ersetzt das nicht.

Häufige Fehler

Annehmen, es beträfe nur bekannte Marken. Das Gegenteil stimmt: Je weniger belastbare Quellen es gibt, desto eher wird gefüllt.

Nur einmal prüfen. Antworten ändern sich mit Modellaktualisierungen, und selbst dasselbe Modell antwortet auf dieselbe Frage nicht immer gleich. Eine einmalige Kontrolle sagt wenig über den Dauerzustand.

Widersprüche im eigenen Auftritt stehen lassen. Unterschiedliche Angaben auf Website, Impressum und in Verzeichnissen sind eine Einladung zum Raten.

Auf Korrektur durch den Anbieter hoffen. Meldewege für personenbezogene Daten gibt es. Einen belastbaren Weg, eine falsche Aussage über ein Unternehmen dauerhaft aus den Antworten zu bekommen, gibt es nicht.

Den eigenen Chatbot als Dritten behandeln. Er ist Werkzeug des Betreibers, nicht dessen Gesprächspartner. Was er sagt, sagt das Unternehmen.

Abgrenzung

Eine Halluzination ist etwas anderes als eine veraltete Angabe. Veraltet heißt, die Aussage war einmal richtig. Halluziniert heißt, sie war es nie. Etwas anderes ist auch die falsche Quellenzuordnung: Dabei existiert die Aussage, wird aber der falschen Seite zugeschrieben. Für die Ursachenanalyse ist der Unterschied erheblich, weil hier der Abruf funktioniert hat und nur die Zuordnung schiefging. Dort setzt die Arbeit an der Zitierfähigkeit einer Seite an.

Ob ein System Sie überhaupt nennt, ist eine Frage der Prompt-Sichtbarkeit. Ob es dabei die Wahrheit sagt, ist die Frage der Halluzination. Beides wird mit denselben Fragen gemessen, aber getrennt bewertet.