AI-Haftung im AI Act: 5 Fakten zur KI-Versicherung, die Unternehmen jetzt kennen müssen

Der AI Act ist kein Haftungsgesetz. Das ist der erste Irrtum, der Unternehmen gerade teuer werden könnte. Wer glaubt, mit Blick auf die KI-Verordnung sei die Haftungsfrage geklärt, unterschätzt ein komplexes Zusammenspiel aus Bußgeldern, Beweislastumkehr und einer neuen Produkthaftungsrichtlinie, das die AI-Haftung praktisch neu definiert.

Was der AI Act wirklich regelt – und was nicht

Die KI-Verordnung (EU) 2024/1689 ist am 1. August 2024 in Kraft getreten. Sie regelt primär Pflichten, Verbote und Bußgelder für KI-Systeme auf dem europäischen Markt. Was sie ausdrücklich nicht enthält: eine eigenständige Haftungsnorm. Der AI Act sagt nicht, wer zahlt, wenn ein KI-System einen Schaden verursacht. Das ist keine Lücke im Design, sondern bewusste Entscheidung – und ein Problem für alle Unternehmen, die auf eine einfache Antwort gehofft haben.

AI-Haftung bleibt damit im nationalen Zivilrecht verankert: vertragliche Haftung aus SaaS- und Beratungsverträgen, deliktische Haftung nach § 823 BGB, Produkthaftungsrecht. Was der AI Act jedoch tut: Er verändert die Beweissituation in Haftungsprozessen fundamental. Wer gegen AI-Act-Pflichten verstößt und ein plausibel damit zusammenhängender Schaden entsteht, muss aktiv beweisen, dass seine KI nicht ursächlich war. Eine faktische Beweislastumkehr, die Compliance-Experten bereits als „Game Changer“ bezeichnen.

Die Bußgelder sind dabei nur ein Teil des Bildes: bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes bei Verstößen gegen Hochrisikopflichten, bis zu 35 Millionen Euro oder 7 Prozent bei verbotenen KI-Praktiken nach Artikel 5 des AI Act. Diese Zahlen sind eindeutig belegt. Was sie noch nicht abbilden, ist das zivilrechtliche Risiko, das parallel läuft.

Die neue Produkthaftungsrichtlinie: Software ist jetzt ein Produkt

Parallel zum AI Act ist am 9. Dezember 2024 die neue EU-Produkthaftungsrichtlinie (EU) 2024/2853 in Kraft getreten, mit Umsetzungsfrist bis zum 9. Dezember 2026. Sie schließt eine Lücke, die jahrelang umstritten war: Software einschließlich KI-Systeme, KI-Modelle und deren Updates gilt ausdrücklich als „Produkt“.

Das hat direkte Konsequenzen für die KI-Versicherung und die Haftungspraxis. Die Haftung des Herstellers ist verschuldensunabhängig – es kommt nicht darauf an, ob er sorgfältig gehandelt hat, sondern ob das Produkt fehlerhaft war. Die bisherige Haftungsobergrenze von 85 Millionen Euro für Personenschäden entfällt ersatzlos. Und bei KI-Systemen, die als zu komplex gelten – Black-Box-Modelle sind der Standardfall – kann das Gericht einen Produktfehler vermuten: Der Hersteller muss dann beweisen, dass sein System fehlerfrei war.

Noch ein Detail, das in der Praxis oft übersehen wird: Software-Updates gelten als eigenständige Produkte. Wer ein KI-Modell aktualisiert und dabei neue Fehler einführt, löst mit dem Update eine eigene Haftungskette aus. Das betrifft nicht nur Modellanbieter, sondern jeden, der Modelle in eigene Produkte integriert und dann weiterentwickelt.

Verantwortungsketten: Wer im AI Act für was einsteht

Einer der häufigsten Irrtümer lautet: Nur Hersteller haften, Anwender sind außen vor. Das ist falsch. Die Analyse von SECJUR zur AI-Haftung zeigt, dass der AI Act alle Akteure entlang der Wertschöpfungskette adressiert: Anbieter, Importeure, Händler und Betreiber. Wer ein Hochrisiko-KI-System unter eigenem Namen oder eigener Marke auf den Markt bringt oder in Betrieb nimmt, gilt als Anbieter mit dem vollständigen Pflichtenkatalog aus Artikel 16 und 28 des AI Act.

Besonders heikel ist die Regel zur wesentlichen Änderung: Wer ein bestehendes KI-System substanziell anpasst – beispielsweise durch Fine-Tuning eines zugekauften Sprachmodells –, kann rechtlich selbst zum neuen Anbieter werden. Der ursprüngliche Anbieter verliert dann seine AI-Act-Verantwortung für die veränderte Version, muss aber weiterhin Dokumentation bereitstellen. In der Praxis entstehen so Verantwortungslücken, die Versicherungsexperten und Juristen gerade erst beginnen zu kartieren.

Meiner Einschätzung nach ist genau diese Konstellation das größte unterschätzte Haftungsrisiko für mittelständische Unternehmen. Sie integrieren zugekaufte Modelle, passen sie an eigene Use Cases an und glauben, die Haftung liege beim Modellanbieter. Das Gegenteil kann der Fall sein.

KI-Versicherung: Der Markt kommt in Bewegung

Reine KI-Policen gibt es bislang kaum. Was der Markt bietet, sind Erweiterungen bestehender Deckungen: Cyber-Versicherungen, technische Berufshaftpflicht (Tech E&O), D&O-Policen und IT-Haftpflicht werden zunehmend um KI-Szenarien erweitert. Laut PPI AG, die Versicherer bei der AI-Act-Compliance berät, beginnen Versicherer bereits damit, AI-Act-Compliance als Underwriting-Kriterium zu nutzen: Wer nachweislich gute Dokumentation und klare Verantwortlichkeiten vorweisen kann, erhält bessere Konditionen.

Das hat eine interessante Logik. Technische Compliance wird nicht nur zur rechtlichen Pflicht, sondern zum ökonomischen Vorteil im Versicherungsmarkt. Wer Risikobewertungen dokumentiert, Human Oversight implementiert und seine KI-Systeme klassifiziert hat, ist für Versicherer schlicht ein besseres Risiko. Wer das ignoriert, zahlt entweder mehr Prämie oder bekommt bestimmte Risiken gar nicht mehr gedeckt.

Praktisch relevant sind vor allem drei Szenarien, die heute noch in vielen Policen gar nicht abgedeckt sind: fehlerhafte KI-Scoring-Entscheidungen im Underwriting, diskriminierende Empfehlungen durch Modelle mit Bias, und Systemausfälle durch fehlerhafte KI-Updates. Alle drei fallen potenziell unter die neue Produkthaftungsrichtlinie. Wer jetzt keine Deckungsanalyse macht, riskiert eine teure Lücke.

Fristen: Was gilt wann – und warum die Zwischenphase trügerisch ist

Hier ist Präzision wichtig, weil in der öffentlichen Diskussion viel durcheinandergeht. Der AI Act ist seit dem 1. August 2024 in Kraft, aber die meisten materiellen Pflichten greifen gestaffelt. Pflichten für GPAI-Modelle – also große Sprachmodelle und ähnliche Systeme mit allgemeinem Verwendungszweck – gelten ab dem 2. August 2025. Pflichten für die meisten Hochrisiko-KI-Systeme greifen regulär ab dem 2. August 2026. Politisch ist zudem vereinbart, diese Frist durch den sogenannten Digital Omnibus auf voraussichtlich Ende 2027 zu verschieben; formal verabschiedet war das Stand Juni 2025 noch nicht.

Wer daraus schließt, es sei noch viel Zeit, macht einen strategischen Fehler. Die Beweislastlogik greift bereits jetzt: Sobald AI-Act-Pflichten formal gelten und ein Unternehmen nachweislich dagegen verstoßen hat, kippt die Beweissituation im Schadensfall. Und die Dokumentationsarbeit, die nötig ist, um in einem solchen Prozess zu bestehen, dauert Monate bis Jahre.

Für Unternehmen bedeutet das konkret: Risikoklassifizierung der eigenen KI-Systeme sollte jetzt beginnen, nicht wenn die Frist abläuft. Gap-Analysen gegen den AI-Act-Pflichtenkatalog sind sinnvoll, bevor die Aufsichtsbehörden aktiv werden. Und bestehende Versicherungsverträge sollten auf KI-Szenarien geprüft werden, während der Markt noch im Aufbau ist und Verhandlungsspielraum besteht.

Versicherungsbranche als Sonderfall: Gleichzeitig Regulierter und Anwender

Die Versicherungsbranche befindet sich in einer eigentümlichen Doppelrolle. Sie setzt KI intensiv ein – für Underwriting, Pricing, Schadenmanagement und Betrugserkennung – und ist damit selbst als Betreiber und teils als Anbieter dem AI Act unterworfen. Gleichzeitig soll sie die Werkzeuge liefern, mit denen andere Unternehmen KI-Risiken absichern. Compliance-Berater wie Skill-Sprinters warnen, dass AI-Act und neue Produkthaftungsrichtlinie gemeinsam eine Haftungsfalle für schlecht dokumentierte KI schaffen.

Für Versicherer selbst bedeutet das: KI-gestützte Scoring-Systeme, die über Versicherungsabschluss oder Schadensregulierung entscheiden, fallen unter die Hochrisiko-Kategorie. Die Anforderungen dort sind erheblich – technische Dokumentation, Risikomanagement, menschliche Aufsicht, Registrierungspflichten. Wer diese Systeme ohne vollständige Compliance betreibt, riskiert nicht nur Bußgelder, sondern bei Schadensfällen auch die verschärfte Beweissituation aus der Produkthaftungsrichtlinie.

Hinzu kommt eine Warnung, die Verbände wie der AfW in die Diskussion eingebracht haben: Fehlende KI-Kompetenz von Mitarbeitenden könnte künftig als Verstoß gegen die allgemeine Sorgfaltspflicht gewertet werden. Arbeitgeber, die keine ausreichenden Schulungen zu eingesetzten KI-Systemen angeboten haben, könnten schon deshalb haften. Das klingt abstrakt, ist aber eine direkte Folge der AI-Act-Anforderung an „angemessene Kompetenz“ bei Nutzern und Aufsicht führenden Personen.

Open Source und GPAI: Wer integriert, trägt Verantwortung

Ein weiteres Missverständnis betrifft Open-Source-Modelle. Die Annahme, man könne durch die Nutzung frei lizenzierter Modelle der AI-Haftung ausweichen, ist trügerisch. Pflichten für frei und quelloffen lizenzierte GPAI-Modelle sind im AI Act zwar abgeschwächt, aber nicht aufgehoben. Wer ein Open-Source-Modell integriert, anpasst und als Teil eines eigenen Produkts anbietet, kann rechtlich selbst zum Anbieter werden – mit dem vollständigen Pflichtenkatalog und dem Haftungsrisiko aus der Produkthaftungsrichtlinie.

Das hat konkrete Folgen für die Vertragsgestaltung. Unternehmen, die externe GPAI-Modelle integrieren, müssen in Verträgen mit Modellanbietern klären: Wer haftet bei Modellfehlern? Welche Audit-Rechte bestehen? Welche Indemnities sind vereinbart? Viele SaaS-Verträge enthalten hier noch Lücken, die im Schadensfall teuer werden können. Die Dokumentationspflichten des AI Act machen diese Fragen nicht nur juristisch, sondern operativ dringend.

Ich halte es für eines der drängendsten praktischen Probleme, dass die Vertragslandschaft hier noch nicht mit der regulatorischen Realität Schritt gehalten hat. Standardklauseln aus der Pre-AI-Act-Ära passen oft nicht mehr auf die Haftungsarchitektur, die EU 2024/1689 und EU 2024/2853 gemeinsam aufspannen.

Gegenargumente: Ist die Sorge übertrieben?

Manche Stimmen aus der Unternehmenspraxis argumentieren, die Haftungsrisiken seien zum jetzigen Zeitpunkt noch weitgehend theoretisch. Aufsichtsbehörden seien noch im Aufbau, Klagewege für KI-Schäden ungetestet, und die Gerichte hätten noch keine etablierte Spruchpraxis zu AI-Act-Verstößen. Diese Einschätzung ist nicht falsch – aber sie verkennt zwei strukturelle Besonderheiten des neuen Rahmens.

Erstens: Die Produkthaftungsrichtlinie muss bis Ende 2026 in nationales Recht umgesetzt sein und schafft dann unmittelbar einklagbare Ansprüche, ohne dass Aufsichtsbehörden überhaupt aktiv werden müssen. Geschädigte Verbraucher oder Unternehmen können direkt zivilrechtlich vorgehen. Zweitens setzt die Beweislastumkehr nicht eine behördliche Bußgeldentscheidung voraus, sondern greift bereits dann, wenn ein Gericht feststellt, dass AI-Act-Pflichten verletzt wurden. Wer auf Aufsichtsbehörden wartet, bevor er Dokumentation aufbaut, riskiert genau den Moment zu verpassen, in dem Dokumentation im Ernstfall zählt.

Das Gegenargument hat dennoch einen Kern: Unternehmen sollten nicht in Panik verfallen und überdimensionierte Compliance-Strukturen aufbauen, bevor die Aufsichtspraxis klar ist. Ein risikobasierter Ansatz – zuerst Hochrisiko-Systeme klassifizieren und absichern, dann schrittweise erweitern – ist pragmatischer als der Versuch, sofort alle denkbaren Szenarien abzudecken.

Besondere Haftungsrisiken bei automatisierten Entscheidungen

Eine Kategorie verdient gesonderte Aufmerksamkeit: automatisierte Einzelentscheidungen, die Menschen in relevanter Weise betreffen. Das betrifft Kreditscoring, automatisierte Personalentscheidungen, KI-gestützte medizinische Triage oder automatisierte Preisdiskriminierung. Hier überlagern sich AI-Act-Pflichten mit bestehenden DSGVO-Anforderungen aus Artikel 22, der Betroffenen ein Recht auf menschliche Überprüfung garantiert.

Wer diese Systeme ohne nachweisbare menschliche Aufsicht betreibt und dabei gegen AI-Act-Hochrisikovorgaben verstößt, steht bei einem Schadensfall vor einer doppelten Beweislast: Er muss sowohl die DSGVO-Konformität als auch die AI-Act-Compliance nachweisen. Die Anforderungen an erklärbare KI als DSGVO-Pflicht sind dabei kein isoliertes Thema, sondern greifen direkt in die AI-Haftungslogik ein – fehlende Erklärbarkeit erschwert den Nachweis fehlerfreier Entscheidungsprozesse vor Gericht erheblich.

Praktisch relevant ist das etwa für HR-Software mit KI-gestützter Bewerberauswahl oder für automatisierte Kreditentscheidungen im Finanzsektor. In beiden Fällen sind bereits heute Schadensszenarien denkbar, in denen Unternehmen ohne vollständige Dokumentation ihrer Entscheidungslogik in echte Haftungsnot geraten könnten.

Was Unternehmen jetzt konkret tun sollten

Drei Handlungsfelder sind unmittelbar relevant. Erstens: Risikoklassifizierung aller KI-Systeme, die im Unternehmen eingesetzt oder entwickelt werden. Verboten, Hochrisiko, Transparenzpflicht oder geringes Risiko – diese Einordnung bestimmt den Compliance-Aufwand und direkt damit das Haftungsrisiko. Ohne diese Basis-Analyse ist weder ein sinnvolles Versicherungsgespräch möglich noch eine fundierte Gap-Analyse.

Zweitens: Versicherungsbestandsaufnahme. Bestehende Cyber-, IT-Haftpflicht- und D&O-Policen sollten auf KI-spezifische Szenarien geprüft werden. Deckungslücken bei fehlerhaften KI-Entscheidungen, diskriminierenden Modelloutputs oder Schäden durch KI-Updates sind heute häufig. Während der Markt sich noch entwickelt, gibt es Verhandlungsspielraum – der wird enger, je klarer die Aufsichtspraxis wird.

Drittens: Dokumentation als strategisches Asset aufbauen. Technische Dokumentation, Risikobewertungen, Nachweise zur menschlichen Aufsicht und Protokolle zu KI-Entscheidungen sind im Schadensfall die einzige Möglichkeit, der Beweislastumkehr zu begegnen. Unternehmen, die hier investieren, schützen sich nicht nur vor Bußgeldern – sie verbessern gleichzeitig ihre Position im Versicherungsmarkt und in zivilrechtlichen Auseinandersetzungen.

Was bleibt

Die Frage, die Juristen und Versicherungswirtschaft gerade beschäftigt, ist keine abstrakte: Wenn in zwei Jahren ein KI-System einen messbaren Schaden verursacht – wer trägt das Risiko, wenn Dokumentation fehlt, Verantwortlichkeiten unklar sind und die Beweislast umgekehrt wurde? Der AI Act hat keine Haftungsordnung geschaffen. Aber er hat die Regeln verändert, nach denen bestehende Haftungsordnungen angewendet werden. Haben Sie Ihre KI-Systeme bereits klassifiziert – und wissen Sie, welche davon heute schon unter Hochrisiko fallen würden?