KI-Halluzinationen vor Gericht: OLG Hamm sieht Betreiber in der Verantwortung

KI-Halluzinationen vor Gericht: OLG Hamm sieht Betreiber in der Verantwortung

Ein aktuelles Urteil des Oberlandesgerichts Hamm setzt ein deutliches Signal: Wer KI-Chatbots einsetzt, kann sich bei fehlerhaften Aussagen nicht einfach auf „die KI war schuld“ berufen. Das Gericht machte deutlich: Für die Inhalte eines eingesetzten Systems bleibt grundsätzlich der Betreiber verantwortlich.

Im konkreten Fall verurteilte das Oberlandesgericht Hamm eine Schönheitsklinik (Urteil vom 12.05.2026, Az. 4 UKl 3/25). Ein KI-Chatbot auf der Website hatte auf Nutzeranfragen Facharztbezeichnungen ausgegeben, die teilweise nicht existierten beziehungsweise den tatsächlichen Qualifikationen der Ärzte nicht entsprachen.

Nach Auffassung des Gerichts handelte es sich dabei um eine irreführende geschäftliche Handlung. Besonders relevant: Das Argument, die KI habe diese Aussagen lediglich „halluziniert“, ließ das Gericht nicht gelten. Die Verantwortung für die Inhalte verbleibt beim Unternehmen, das die Technologie im geschäftlichen Kontext einsetzt. Die KI wird rechtlich nicht als eigenständiger Akteur betrachtet.

Was Unternehmen daraus mitnehmen sollten:

• KI-Ausgaben sind nicht automatisch unverbindlich. Nutzende unterscheiden häufig nicht zwischen Unternehmensaussagen und KI-generierten Inhalten.

• Halluzinationen bleiben ein reales Risiko. Sprachmodelle können plausibel klingende, aber faktisch falsche Aussagen erzeugen.

• KI braucht organisatorische Leitplanken. Klare Verantwortlichkeiten, Prüfprozesse und Qualitätskontrollen werden wichtiger.

• Besonders kritisch sind Produktinformationen, Fachbegriffe, rechtliche Aussagen und personenbezogene Inhalte.

• Human-in-the-Loop entwickelt sich zunehmend von einer Best Practice zur organisatorischen Notwendigkeit.

KI-Governance bedeutet nicht nur: „Welche KI setzen wir ein?“ – sondern auch: „Wer trägt Verantwortung für die Inhalte, die sie erzeugt?“