Chatbot-Haftung nach OLG Hamm: Was Unternehmen jetzt wissen müssen

Am 12. Mai 2026 hat das Oberlandesgericht Hamm wegweisend entschieden: Unternehmen haften für das, was ihr KI-Chatbot sagt, so als hätten sie es selbst geäußert. Das Argument, KI-Halluzinationen seien eine unkontrollierbare „Black Box“, hat das Gericht ausdrücklich verworfen.

Auch wer pauschal warnt, „KI kann Fehler machen“, ist damit nicht zuverlässig geschützt. Für jedes Unternehmen, das im Kundenservice, bei der Terminbuchung oder im Vertrieb auf KI setzt, ist dieses Urteil eine wichtige Wegmarke. Dieser Beitrag erklärt, was passiert ist, wie das Gericht entschieden hat und vor allem, was Sie jetzt prüfen sollten.

Hinweis: Dieser Beitrag ersetzt keine Rechtsberatung. Er fasst öffentlich verfügbare Informationen zum Urteil zusammen und gibt Empfehlungen für die technische und organisatorische Praxis. Wer rechtlich sicher gehen will, lässt den Einzelfall von einer Anwältin oder einem Anwalt prüfen.

• Der Fall und das Urteil
• Was die EU-KI-Verordnung verlangt
• So machen Sie Ihren Chatbot rechtssicher
• Die Wahl der richtigen Plattform

Der Fall und das Urteil

Geklagt hatte die Verbraucherzentrale Nordrhein-Westfalen gegen die Aesthetify GmbH, eine Praxis für ästhetische Medizin in Recklinghausen. Auf der Website der Klinik beantwortete ein KI-Chatbot Fragen und ließ Patientinnen und Patienten Termine buchen.
Fragte man nach den Qualifikationen, bezeichnete der Chatbot die beiden Geschäftsführer als „Fachärzte für plastische und ästhetische Chirurgie“ sowie als „Fachärzte für ästhetische Medizin“. Beide Titel führen die Ärzte tatsächlich nicht. Den zweiten gibt es in der deutschen Weiterbildungsordnung nicht einmal.

Die Verbraucherzentrale mahnte ab und verlangte eine strafbewehrte Unterlassungserklärung. Die Klinik nahm den Chatbot zwar von der Website, unterschrieb aber nicht. Deshalb beschäftigte sich schließlich das OLG Hamm mit dem Fall und entschied zugunsten der Verbraucherzentrale.
In seiner Begründung macht das Gericht drei Punkte deutlich, die für alle Unternehmen relevant sind, die KI im Kundenkontakt einsetzen.

Der Chatbot ist kein „Dritter“

Die Klinik verteidigte sich damit, dass die Antworten nicht von Mitarbeitenden, sondern vom Chatbot selbst erstellt wurden. Das Gericht folgte dieser Argumentation nicht.
Wer einen Chatbot einsetzt, bleibt auch für dessen Aussagen verantwortlich. Für das Gericht ist die KI Teil des Unternehmens und damit gelten irreführende Aussagen des Bots als irreführende Aussagen des Unternehmens. Was er sagt, rechnet das Gericht direkt dem Betreiber zu, als eigene irreführende geschäftliche Handlung nach § 5 UWG.

Korrekte Trainingsdaten entlasten nicht

Besonders wichtig: Unternehmen bleiben auch dann für die Aussagen ihrer KI verantwortlich, wenn sie diese ausschließlich mit korrekten Informationen trainieren. Wer KI im Austausch mit Kunden einsetzt, haftet für die Inhalte, die nach außen kommuniziert werden; ganz unabhängig davon, ob die KI halluziniert oder vorhandene Informationen falsch wiedergibt.

Auch das sogenannte „Black-Box-Problem“ ließ das Gericht nicht gelten. Dass sich bei neuronalen Netzen nicht immer nachvollziehen lässt, wie eine Antwort zustande kommt, entbindet Unternehmen nicht von ihrer Verantwortung. Entscheidend war für das Gericht, dass die Klinik den Bot nach der Beanstandung so anpassen konnte, dass die falschen Aussagen nicht mehr erschienen. Das zeigt: Wer den intelligenten Assistenten betreibt, hat auch Einfluss auf das Verhalten der KI und bleibt deshalb auch für ihre Aussagen verantwortlich.

Generische Disclaimer schützen nicht

Ein allgemeiner Hinweis wie „KI kann Fehler machen“ reicht laut Gericht nicht aus. Unternehmen müssen sicherstellen, dass ihre KI keine rechtswidrigen oder irreführenden Aussagen macht und entsprechende Schutzmechanismen technisch und organisatorisch verankern.

Ein Punkt in der Urteilsbegründung wird leicht übersehen: der sogenannte Automation Bias. Gemeint ist die Tendenz, Aussagen von Computern oder KI-Systemen mehr Vertrauen zu schenken als Aussagen von Menschen. Viele Nutzer gehen automatisch davon aus, dass eine KI objektiv arbeitet und daher besonders zuverlässig ist.

Genau deshalb gelten für KI im Kundenkontakt hohe Anforderungen. Während Mitarbeitende Unsicherheiten oft offen kommunizieren oder Informationen zunächst prüfen, formulieren Chatbots Antworten meist mit großer Sicherheit.
Für Kundinnen und Kunden wirken diese Aussagen dadurch schnell wie gesicherte Fakten, selbst wenn sie falsch sind.

Was die EU-KI-Verordnung verlangt

Unabhängig von diesem Urteil kommen ab dem 2. August 2026 mit der EU-KI-Verordnung weitere Anforderungen auf Unternehmen zu. So müssen Nutzerinnen und Nutzer klar erkennen können, wenn sie mit einer KI interagieren. Gleichzeitig sollten Mitarbeitende verstehen, wie die eingesetzten KI-Systeme funktionieren und wie sie damit umgehen.

Wer seine Chatbot- und KI-Landschaft ohnehin überprüft, kann diese Anforderungen direkt berücksichtigen. Das spart Aufwand und ist deutlich effizienter, als später ein separates Compliance-Projekt aufzusetzen.

So machen Sie Ihren Chatbot rechtssicher

Damit KI zuverlässig antwortet, kommt es nicht nur auf das Modell selbst an. Entscheidend ist auch, wie der Bot eingerichtet ist und welche Regeln für ihn gelten.

Technisch absichern

Ein guter Ausgangspunkt ist die Frage: Hat Ihr Bot klare Grenzen? Moderne KI-Plattformen ermöglichen es, genau festzulegen, welche Themen ein Bot beantworten darf und welche nicht. So können Sie beispielsweise ausschließen, dass die KI Aussagen zu Qualifikationen, rechtlichen Fragen oder nicht freigegebenen Preisen trifft. Erhält der Bot dennoch eine solche Anfrage, übergibt er das Gespräch automatisch an einen Mitarbeitenden.

Bei besonders sensiblen Themen empfiehlt sich ein weiterer Schritt. Statt generativer KI kommen hier Workflows zum Einsatz. Der Bot folgt dabei einem fest definierten Ablauf und greift ausschließlich auf vorgegebene Antworten zurück. Das minimiert das Risiko von Fehlern oder Halluzinationen.
In der Praxis hat sich eine Kombination aus beiden Ansätzen bewährt: generative KI für offene Fragen und Workflows für Themen wie Preise, Vertragsdetails oder rechtlich relevante Informationen.

Ebenso wichtig ist die Wissensbasis, auf die Ihre KI zugreift. Inhalte sollten aktuell, korrekt und gut strukturiert sein. Fortschrittliche KI-Plattformen stützen ihre Antworten auf freigegebene Quellen, anstatt Informationen frei zu erfinden. So bleibt die Kommunikation nachvollziehbar und konsistent.

Nicht zuletzt sollten alle Gespräche dokumentiert werden. Audit Logs helfen dabei nachzuvollziehen, was die KI wann geantwortet hat. Im Ernstfall können sie ein wichtiger Nachweis sein. Achten Sie deshalb darauf, dass sich Protokolle exportieren lassen und DSGVO-konform gespeichert werden.

Organisatorisch absichern

Genauso wichtig wie die Technik ist die Frage, wer sich im Unternehmen um die KI kümmert. Denn selbst der beste Bot braucht Menschen, die ihn betreuen, überprüfen und bei Bedarf eingreifen.

In der Praxis sollten einige Punkte klar geregelt sein:

• Verantwortlichkeiten festlegen: Wer konfiguriert den Bot? Wer überprüft regelmäßig die Antworten? Und wer kümmert sich um Anpassungen?
• Gespräche stichprobenartig prüfen: Kontrollieren Sie regelmäßig, wie die KI mit Kunden kommuniziert, und dokumentieren Sie die Ergebnisse.
• Eskalationswege definieren: Wenn Beschwerden oder rechtliche Fragen auftreten, sollte klar sein, wer reagiert und welche Informationen benötigt werden.
• Rollen mit dem Anbieter abstimmen: Klären Sie frühzeitig, welche Aufgaben Ihr Unternehmen übernimmt und welche Unterstützung Ihr Plattform-Anbieter leistet.

Auch für den Ernstfall lohnt es sich, vorbereitet zu sein. Wenn es zu einer Beschwerde oder Beanstandung kommt, sollten Sie die betroffenen Gesprächsverläufe sichern, Änderungen am Bot dokumentieren und den Sachverhalt prüfen, bevor weitere Anpassungen vorgenommen werden.

Die Wahl der richtigen Plattform

Der Fall zeigt vor allem eines: Wer KI im Kundenkontakt einsetzt, braucht die richtigen Werkzeuge, um Antworten zu steuern, zu kontrollieren und bei Bedarf einzugreifen.
Nicht jede Plattform bietet dafür die gleichen Möglichkeiten. Achten Sie deshalb darauf, dass sich klare Regeln für Ihre KI festlegen lassen, sensible Themen an Mitarbeitende übergeben werden können und Gespräche nachvollziehbar dokumentiert werden.

Ebenso wichtig sind Datenschutz und Transparenz. Gerade wenn Kundendaten verarbeitet werden, sollte die Plattform Unternehmen dabei unterstützen, KI verantwortungsvoll und DSGVO-konform einzusetzen.

Mit Lime Connect setzen Unternehmen auf eine DSGVO-konforme Plattform, die AI Agents, Workflows und Human Handover in einer Lösung vereint.
Über das integrierte Monitoring können Teams jederzeit nachvollziehen, wie ihr AI Agent arbeitet, welche Anfragen er bearbeitet und an welchen Stellen Optimierungspotenzial besteht. So lassen sich moderne KI-Funktionen nutzen, ohne die Kontrolle über die Kundenkommunikation zu verlieren.

Fazit

Auch wenn der Fall möglicherweise noch weitere Instanzen beschäftigt, ist die Botschaft bereits heute eindeutig: Unternehmen bleiben für die Aussagen ihrer KI verantwortlich.
Wer seine KI bewusst einführt, regelmäßig überprüft und klare Richtlinien definiert, kann ihre Vorteile nutzen, ohne die Kontrolle zu verlieren.

Richtig aufsetzt, verbessert KI nicht nur die Qualität des Kundenservices, sondern schafft gleichzeitig die Voraussetzungen für einen verantwortungsvollen und rechtskonformen Einsatz von KI.