Wer haftet, wenn die KI falschliegt?

KI kann in Sekunden Antworten liefern. Aber wer steht dafür ein, wenn diese Antworten falsch sind? Ein Urteil des Oberlandesgerichts Hamm zeigt, dass sich Verantwortung nicht einfach an eine KI delegieren lässt. Was das für Behörden bedeutet und warum der AI Act neue Leitplanken setzt, zeigt der zweite Teil unserer Serie zum KI-Einsatz im Öffentlichen Dienst.

Ein Unternehmen setzt auf seiner Internetseite einen KI-Chatbot ein. Kundinnen und Kunden können ihm Fragen stellen und erhalten automatisiert Antwort. Doch der Chatbot macht Fehler: Er bezeichnet mehrere Geschäftsführer als Inhaber medizinischer Facharztqualifikationen, die sie tatsächlich nicht besitzen.

Das Unternehmen argumentiert, Nutzerinnen und Nutzer wüssten schließlich, dass KI Fehler machen könne. Das Oberlandesgericht (OLG) Hamm sieht das anders. Im Mai 2026 entscheidet es, dass sich das Unternehmen die Aussagen seines Chatbots als eigene geschäftliche Handlungen zurechnen lassen muss. Entscheidend ist unter anderem, dass das Unternehmen den Chatbot selbst betreibt und Einfluss auf dessen Einsatz und Kommunikation hat. Dass die konkrete Antwort autonom entstanden ist, ändert nichts daran.

Das Urteil stammt ursprünglich aus dem Wettbewerbsrecht und betrifft keine Verwaltungsentscheidung. Eine allgemeine Haftungsregel für Behörden lässt sich darum daraus nicht ableiten.

Was bedeutet das für Behörden?

Für den Öffentlichen Dienst ist trotzdem dieselbe Frage interessant: Was passiert, wenn eine Behörde KI für ihre Arbeit einsetzt und diese falsche Informationen liefert? Auch in diesem Fall verschwinden die rechtlichen Pflichten einer Behörde nicht dadurch, dass sie eine KI einsetzt.

Welche Verantwortung und welche Kontrollpflichten bestehen, hängt dabei davon ab, wie KI eingesetzt wurde und welche gesetzlichen Regelungen für diesen Einsatz gelten. Genau deshalb muss vorher klar sein, welche Aufgaben die KI überhaupt übernehmen darf, wer ihre Ergebnisse kontrolliert und wer die abschließende Entscheidung trifft.

Der Fall macht aber deutlich, warum eine autonome KI-Antwort nicht automatisch bedeutet, dass auch die Verantwortung „autonom“ wird.

„KI kann Beschäftigte unterstützen. Verantwortung übernehmen kann sie nicht. Deshalb muss jederzeit klar sein, wer Entscheidungen trifft und wer sie gegenüber den Bürgerinnen und Bürgern verantwortet“, sagt Nicole Schorn, Landesvorsitzende der dbb jugend nrw.

Der AI Act setzt Leitplanken

Auch der europäische AI Act setzt auf Transparenz und menschliche Kontrolle. Seit dem 2. August 2026 gelten unter anderem die Transparenzpflichten nach Artikel 50. Sie sehen beispielsweise vor, dass Menschen darüber informiert werden, wenn sie mit einem KI-System interagieren. Auch bestimmte KI-generierte oder manipulierte Inhalte müssten kenntlich gemacht werden.

Ab dem 2. Dezember 2027 kommen für Hochrisiko-KI-Systeme in sensiblen Bereichen wie Beschäftigung, Bildung oder Migration zusätzliche Anforderungen hinzu. Dazu gehören unter anderem Vorgaben zum Risikomanagement und zur menschlichen Aufsicht. Artikel 14 des AI Act sieht für Hochrisiko-KI eine menschliche Aufsicht vor. Die dafür eingesetzten Personen müssen dazu in besonderer Weise befähigt sein und über die erforderliche Kompetenz, Ausbildung und Befugnis verfügen.

Für die dbb jugend nrw ist das ein wichtiges Signal. Beschäftigte dürfen nicht für Ergebnisse verantwortlich gemacht werden, die sie aufgrund fehlender Schulung, fehlender Befugnisse oder fehlender Kontrollmöglichkeiten gar nicht angemessen überprüfen können.

„Der Öffentliche Dienst lebt von nachvollziehbaren Entscheidungen. Bürgerinnen und Bürger müssen sich darauf verlassen können, dass am Ende immer ein Mensch Verantwortung übernimmt. Auch, wenn KI im Arbeitsalltag unterstützend eingesetzt wird“, betont Schorn.

Das Urteil aus Hamm und die Vorgaben des AI Act zeigen: KI einzusetzen bedeutet mehr, als eine Software zu installieren. Entscheidend ist, dass klar ist, wo KI unterstützen darf, wo ihre Grenzen liegen und wie ihre Ergebnisse kontrolliert werden.

→ KI braucht klare Regeln – nicht nur gute Software
→ KI-Einsatz macht klare Zu­stän­dig­kei­ten in Behörden wichtiger