KI-Halluzinationen: Wenn deine KI selbstbewusst Unsinn erzählt

Du fragst ChatGPT nach einem Gesetzesparagraphen – und bekommst eine Nummer, die es gar nicht gibt. Klingt überzeugend, ist aber frei erfunden. Genau das nennt man eine KI-Halluzination, und für dein Geschäft kann sie richtig teuer werden.

Das Wichtigste in Kürze

• Eine KI-Halluzination ist eine Antwort, die plausibel klingt, aber sachlich falsch oder komplett erfunden ist.
• KI „lügt" nicht absichtlich – sie setzt Wahrscheinlichkeiten fort und versteht den Inhalt nicht wirklich.
• Drei Viertel der Datenverantwortlichen in deutschen Unternehmen hatten 2025 geschäftliche Probleme wegen Halluzinationen.
• Du bist rechtlich für das verantwortlich, was deine KI gegenüber Kunden sagt – auch wenn der Fehler von der Maschine kam.

Was ist eine KI-Halluzination überhaupt?

Eine KI-Halluzination ist eine Antwort, die überzeugend formuliert ist, aber faktisch falsch oder frei erfunden. Halluzinationen in der Künstlichen Intelligenz sind kein Randproblem, sondern ein praktisches Hindernis im Arbeitsalltag mit KI-Modellen.

Der Grund liegt in der Funktionsweise: Ein Sprachmodell wie ChatGPT versteht deine Frage nicht so wie ein Mensch. Die KI beantwortet Fragen nicht, weil sie die Welt versteht, sondern weil sie Muster fortsetzt. Sie berechnet, welches Wort statistisch am wahrscheinlichsten als nächstes kommt. Meistens funktioniert das gut. Manchmal entsteht dabei aber eine Antwort, die zwar flüssig klingt, mit der Realität aber nichts zu tun hat.

Das Tückische: Die KI markiert ihre Fehler nicht. Eine erfundene Quelle sieht genauso seriös aus wie eine echte. Ein Chatbot erfindet eine Paragrafennummer, die nicht existiert – und tut das mit voller Überzeugung.

Wie oft passiert das wirklich?

Häufiger, als die meisten denken. Eine Studie von Dataiku (durchgeführt von The Harris Poll, August 2025) hat Datenverantwortliche in großen Unternehmen befragt. Das Ergebnis: 76 Prozent der deutschen Datenverantwortlichen berichteten, dass sie im vergangenen Jahr mit geschäftlichen Problemen oder Krisen aufgrund von KI-Halluzinationen zu kämpfen hatten.

Noch heikler wird es durch ein zweites Studienergebnis: 76 Prozent der deutschen Data Leaders erklärten, dass KI-generierte Geschäftsempfehlungen in ihren Organisationen ernster genommen werden als die der menschlichen Mitarbeiter. Die KI wird also stärker geglaubt – obwohl sie regelmäßig daneben liegt. Genau diese Mischung ist gefährlich.

Welche konkreten Gefahren drohen deinem Betrieb?

Du haftest für das, was deine KI sagt. Der bekannteste Fall: Air Canada. Ein Chatbot der Airline versprach einem Kunden einen Rabatt, den es so nicht gab. Das Canadian Civil Resolution Tribunal entschied im Februar 2024: Air Canada muss den versprochenen Rabatt gewähren. Begründung: Das Unternehmen ist für alle Aussagen seiner digitalen Kanäle verantwortlich. Ob die Aussage von einem Menschen oder einer KI stammt, spielt keine Rolle. Für dich heißt das: Ein Chatbot auf deiner Website, der Garantien oder Preise verspricht, bindet dich rechtlich.

Falsche Infos kosten echtes Geld. Falsche Informationen können große wirtschaftliche Schäden verursachen – von fehlerhaften Kennzahlen über falsche Prognosen bis hin zu rechtlichen Risiken. Ein KI-Tool, das dir für ein Angebot die falschen Materialpreise oder Mengen nennt, frisst direkt deine Marge.

Fehler rutschen durch alle Kontrollen. In einem dokumentierten Fall (Bloomberg Law, 2024) erstellte ein KI-Assistent einen Forschungsbericht mit drei zitierten Studien. Zwei davon existierten nicht. Die erfundenen Ergebnisse stützten eine Produktentscheidung, die erst in der Prüfung durch die Rechtsabteilung auffiel. Der Bericht hatte bereits zwei Freigabe-Ebenen passiert. Heißt: Wenn niemand gezielt prüft, fällt ein Fehler oft erst auf, wenn es zu spät ist.

Nicht jede Halluzination ist gleich schlimm. In kreativen Aufgaben wie Brainstorming oder Textentwürfen sind ungenaue Ausgaben tolerierbar. In regulierten oder kundenbezogenen Prozessen können sie existenzbedrohend sein.

Wie schützt du dich als Selbstständiger oder Handwerksbetrieb?

Du musst kein KI-Experte werden. Ein paar einfache Regeln reichen weit:

• Behandle KI als Werkzeug, nicht als Entscheider. Ihr Output kann ein wesentlicher Input für deine Entscheidungen sein, er darf jedoch nie als die endgültige Wahrheit erachtet werden.
• Prüfe alles Faktische nach. Paragraphen, Zahlen, Preise, Namen, Quellen – immer kurz gegenchecken, bevor es an den Kunden geht.
• Mensch im Spiel lassen, wo Kunden betroffen sind. Human-in-the-Loop für kundenseitige Prozesse ist nicht verhandelbar – ein automatischer Chatbot ohne Kontrolle ist ein Risiko.
• Stell präzise Fragen. Unklare Eingaben erhöhen das Risiko von Halluzinationen. Je konkreter dein Auftrag an die KI, desto verlässlicher die Antwort.

Übrigens ist das Thema seit Februar 2025 nicht mehr nur eine gute Idee, sondern Pflicht: Der EU AI Act verlangt in Artikel 4 eine ausreichende KI-Kompetenz bei allen Mitarbeitern, die mit KI-Systemen arbeiten. Sie müssen in der Lage sein, KI-Ausgaben kritisch zu bewerten und Halluzinationen zu erkennen.

Key Takeaways

• KI erfindet Fakten nicht aus Bosheit, sondern weil sie Muster fortsetzt statt zu verstehen.
• Du haftest rechtlich für Aussagen deiner KI – wie der Air-Canada-Fall zeigt.
• Prüfe jede faktische Angabe (Zahlen, Preise, Paragraphen, Quellen) vor der Weitergabe.
• Bei allem, was Kunden erreicht, gehört ein Mensch dazwischen.
• KI-Kompetenz im Betrieb ist seit dem EU AI Act keine Kür mehr, sondern Pflicht.