Vertrauen ist gut – Prüfen ist Pflicht: Wenn KI halluziniert

Künstliche Intelligenz kann beeindruckende Texte erzeugen – und dabei trotzdem Fehler machen. Fachleute sprechen von „Halluzinationen“, wenn ein System scheinbar plausible, aber falsche Informationen ausgibt. Ursache ist meist, dass Sprachmodelle nicht auf Wahrheit trainiert sind, sondern darauf, wahrscheinliche Wortfolgen zu produzieren. Fehlen ihnen verlässliche Daten, füllen sie die Lücken mit erfundenen Details.

Die möglichen Folgen zeigen aktuelle Berichte aus dem Fußball: Dort soll ein Verein in einem Schreiben an ein Sportgericht auf KI-Texte vertraut haben, die angeblich frei erfundene Urteile enthielten. Ob die Darstellung zutrifft, ist unklar. Fest steht jedoch, dass ungeprüftes Übernehmen solcher Inhalte riskant ist und rechtliche oder reputationsschädigende Konsequenzen haben kann.

Auch technische Fortschritte werden Halluzinationen nicht vollständig verhindern. Deshalb gilt: Wer KI nutzt, sollte die Ergebnisse stets sorgfältig prüfen, vor allem wenn sie für offizielle Dokumente oder wichtige Entscheidungen verwendet werden. Ein kritischer Blick schützt besser als jedes Versprechen der Maschine.