Erzählt KI Unsinn? Betreiber haften für falsche Aussagen
Müssen Betreiber von Chatbots für falsche Aussagen ihrer KI einstehen? Unter bestimmten Voraussetzungen ja, hat das Landgericht Hamburg in einem Urteil zur künstlichen Intelligenz entschieden. Streitpunkt war eine konkrete Aussage des X-Chatbots Grok.
Der Betreiber eines Chatbots haftet für unwahre oder ehrverletzende Tatsachenbehauptungen der KI, wenn diese Falschinformationen über einen Account in einem sozialen Netzwerk dauerhaft und öffentlich abrufbar sind. Das hat das Landgericht Hamburg in einem Urteil (Az.: 324 O 461/25) entschieden, worauf die Arbeitsgemeinschaft IT-Recht im Deutschen Anwaltverein (DAV) aufmerksam macht.
In dem Verfahren ging es um den KI-Chatbot Grok auf der Kurznachrichten-Plattform X (ehemals Twitter). Ein Nutzer hatte Grok nach Institutionen gefragt, die stark von staatlicher Förderung abhängig sind. Die KI erzeugte daraufhin eine Liste, in der ausdrücklich auch ein deutscher Verein auftauchte. Der Chatbot behauptete beispielsweise, dass der Verein hohe Bundesmittel bekomme und verwies dabei zusätzlich auf angebliche Quellen.
KI-Halluzinationen vor Gericht keine Entschuldigung
Tatsächlich bekam der Verein jedoch keinerlei staatliche Gelder. Weil die Antworten des Chatbots unmittelbar für alle Nutzer öffentlich sichtbar waren, sah der Verein sein Persönlichkeitsrecht verletzt und verlangte die Unterlassung dieser Behauptung. Der Betreiber verteidigte sich mit dem Argument, es handele sich um eine technisch bedingte Fehlfunktion der KI, eine sogenannte Halluzination.
Das Landgericht Hamburg gab dem Verein recht. In der Begründung des Urteils hieß es, dass ein durchschnittlicher Nutzer KI-generierte Antworten als Tatsachenbehauptungen wahrnehme, insbesondere dann, wenn der Betreiber damit werbe, dass das System "faktenbasierte" Aussagen liefere. Der Umstand, dass der Inhalt von einer Maschine erstellt wurde, ändere nichts an der rechtlichen Unzulässigkeit der Darstellung.
Ungeprüfte Veröffentlichung führt zur Haftung
Der Betreiber müsse sich den Output "zu eigen machen", weil er das System so eingerichtet habe, dass die Ergebnisse ungeprüft unmittelbar veröffentlicht würden. Damit hafte der Betreiber nach den Grundsätzen der Störerhaftung für die Verletzung des Vereinspersönlichkeitsrechts. Die Richter untersagten X, die Behauptung weiterhin zu verbreiten. Betroffene können in einem solchen Fall also Unterlassung verlangen, selbst wenn der beanstandete Inhalt nicht von einem Menschen, sondern von einer KI erstellt wurde, erklärt der DAV.
Betreiber von KI-Chatbots müssen für falsche Tatsachenbehauptungen einstehen, die ihre Systeme erzeugen und öffentlich zugänglich machen. Dabei spiele es rechtlich keine Rolle, ob eine Falschaussage von einem Menschen geschrieben oder von einer künstlichen Intelligenz "erfunden" (halluziniert) wurde.
Urteil setzt klare Grenzen für KI-Chatbots
Das Urteil des Landgerichts Hamburg zeigt, dass Betreiber von KI-Systemen sich nicht hinter technischen Fehlern oder sogenannten Halluzinationen verstecken können. Sobald automatisiert erzeugte Inhalte öffentlich verbreitet werden, tragen die Plattformen Verantwortung für mögliche Falschbehauptungen. Besonders relevant ist dies für soziale Netzwerke, in denen KI-generierte Antworten unmittelbar für viele Nutzer sichtbar sind. Das Gericht stellt klar, dass entscheidend ist, wie Nutzer solche Aussagen wahrnehmen – nämlich häufig als Fakten. Für Betreiber bedeutet das Urteil mehr Sorgfalt bei der Veröffentlichung automatischer Inhalte. Gleichzeitig stärkt die Entscheidung die Rechte von Betroffenen, die sich gegen falsche KI-Aussagen juristisch wehren wollen.
