Anmelden Abonnieren
Live
Governance

Wer haftet, wenn der KI-Agent falsch entscheidet?

Wessen Prüfmaßstäbe gelten für Ihre KI in der Schadenregulierung? Gelten die etablierten Standards Ihrer Branche – oder die Algorithmen eines Tech-Anbieters, der sie nach seinen eigenen Vorstellungen programmiert hat?

Wer haftet, wenn der KI-Agent falsch entscheidet?
Ein Hummer und Bulle an der Wall Street, Google Gemini Illustration

Ein Hummer als Mahnwache an der Wall Street

Genau dieses Risiko rückte das deutsche Startup Taktile kürzlich spektakulär in den Fokus. Mit einer übergroßen Bronze-Skulptur eines Hummers direkt vor dem berühmten Charging Bull an der Wall Street setzte das Unternehmen ein unübersehbares Zeichen.

Es ist eine Warnung vor einem gefährlichen Vakuum: Während KI-Agenten in regulierten Industrien längst produktiv eingesetzt werden, fehlen branchenweite, verbindliche Prüfmaßstäbe für deren Entscheidungen. Um diese Lücke zu schließen, hat das Startup Taktile Labs ins Leben gerufen – eine Forschungseinheit für offene Bewertungsrahmen.

Die Botschaft ist eindeutig: Ohne transparente Standards wird die KI-Revolution für Versicherer zum unkalkulierbaren Haftungsrisiko.

Wer Prüfmaßstäbe für KI-Entscheidungen nicht selbst definiert, bekommt sie von anderen vorgegeben.

Stellen Sie sich vor: Ein KI-Agent Ihres Hauses reguliert automatisiert einen Gewerbeschaden. Er trifft eine systematisch fehlerhafte Entscheidung. Nicht einmal, sondern in hunderten gleichartigen Fällen. Ein Versicherungsnehmer klagt. Das Gericht fragt: Nach welchen Prüfmaßstäben hat Ihr System gehandelt? Sie verweisen auf die Qualitätsdokumentation Ihres KI-Anbieters. Der Anbieter der KI verweist auf seine Nutzungsbedingungen.

Die Haftung liegt bei Ihnen, nicht beim Anbieter. Und die Maßstäbe, nach denen Ihr System entschieden hat, waren nie für den deutschen Versicherungskontext entwickelt worden.

Das ist kein hypothetisches Szenario. Es ist die logische Konsequenz einer Branche, die KI produktiv einsetzt — ohne zu definieren, nach welchen Maßstäben diese Systeme entscheiden dürfen.

Die DACH-Versicherungsbranche befindet sich gerade in einer von drei möglichen Stufen. Nur eine davon schützt nachhaltig.

Stufe 1: Der Mensch fängt auf — bis er es nicht mehr kann

Die erste Stufe beschreibt den Status quo der meisten Versicherer. KI-Assistenten sind im Einsatz — im Kundenservice, im Underwriting, in der Schadenbearbeitung. Sie liefern Empfehlungen. Der Sachbearbeiter prüft, korrigiert, entscheidet. Wenn die KI einen Fehler macht, fällt er auf weil ein erfahrener Mensch ihn erkennt und manuell korrigiert. Das funktioniert.

Aber es funktioniert unter einer stillen Voraussetzung: Der Mensch muss den Fehler erkennen können. Bei einfachen Fällen ist das gegeben. Bei steigendem Volumen, wachsender Komplexität und zunehmendem Systemtempo wird diese Voraussetzung brüchig.

Laut der Horváth-Studie „Assekuranzen 2025" sind lediglich zwei Prozent der DACH-Versicherer in der Lage, KI über Pilotprojekte hinaus zu skalieren. Die Gründe sind vielfältig: Legacy-Systeme, Datensilos, fehlende Fachkräfte.

Aber fehlende Prüfmaßstäbe für KI-Entscheidungen sind ein spezifischer Showstopper, der sich von allen anderen unterscheidet: Er ist nicht durch Technologieinvestition lösbar, sondern nur durch eine Governance-Entscheidung. Und er ist der einzige, der gleichzeitig ein Haftungsrisiko erzeugt. Der EU AI Act gilt seit Februar 2025. Wer in Stufe 1 bleibt, hat keinen Nachweis, der bei einer BaFin-Prüfung standhält.

Die Überleitung in Stufe 2 ist keine Frage des Wollens. Sie ist eine Frage der Zeit.

Stufe 2: Eigener Standard — besser, aber isoliert

📎 Weiterführend im VTM: Wie KI-Agenten Versicherern helfen, manuelle Vorgänge zu automatisieren – ohne Chatbot-Hype und technische Spielereien

Die Führenden haben diesen Schritt bereits gemacht. Signal Iduna führte im März 2025 einen KV-Wissensassistenten auf Basis von Google Gemini ein — mit klaren internen Zielwerten: 80 bis 85 Prozent Trefferquote heute, 90 Prozent mittelfristig. Human-in-the-Loop ist dabei kein Zufallsmechanismus, sondern ein definierter Governance-Schritt: Der Mitarbeitende prüft, bevor die Antwort den Kunden erreicht.

Die Allianz geht mit Projekt Nemo noch einen Schritt weiter. Sieben spezialisierte KI-Agenten regulieren seit Juli 2025 Kleinschäden automatisiert. Von der Prüfung über die Betrugserkennung bis zur Zahlungsvorbereitung. Human-in-the-Loop greift an einem klar definierten Punkt: Der Mensch trifft die finale Entscheidung, dokumentiert und nachvollziehbar. Bearbeitungszeit minus 80 Prozent. Die Allianz protokolliert intern jede Entscheidung, jeden Begründungsschritt, jede verwendete Datenquelle in Partnerschaft mit Anthropic, mit explizitem Fokus auf Transparenz und Compliance.

Das ist Stufe 2: intern definierte Prüfmaßstäbe, Human-in-the-Loop als bewusste Governance-Entscheidung. Der Vorsprung dieser Häuser ist real.

Aber Stufe 2 hat eine strukturelle Grenze. Ein interner Prüfmaßstab ist proprietär. Er hat keinen externen Referenzpunkt, gegen den er im Streitfall verteidigt werden kann. Er zwingt jedes Haus, das Rad neu zu erfinden. Und er ist keine realistische Option für mittlere und kleinere Versicherer ohne die Ressourcen von Allianz oder Signal Iduna.

Stufe 2 schützt besser als Stufe 1. Aber sie löst das Grundproblem nicht.

Stufe 3: Gemeinsam — der einzige nachhaltige Schutz

Stufe 3 bedeutet: Versicherer definieren gemeinsam, was valide Prüfmaßstäbe für KI-Entscheidungen in ihrer Branche sind. Spartenspezifisch, denn die Anforderungen an einen KI-Agenten in der Kfz-Schadensregulierung unterscheiden sich fundamental von denen in der Lebensversicherungs-Risikoprüfung.

Regulatorisch verankert, denn ein Branchenstandard gibt einzelnen Häusern den externen Referenzpunkt, den ein interner Maßstab nicht liefern kann. Und kollektiv erarbeitet, weil die Investition in Entwicklung und Pflege sich auf alle Beteiligten verteilt.

Der Vorteil für die Führenden ist dabei nicht geringer, sondern größer: Wer bereits in Stufe 2 handelt, bringt den wertvollsten Input in eine solche Initiative — und prägt den Standard, statt ihn später zu implementieren.

Roadmap: Drei Schritte, die jetzt zählen

Schritt 1: Inventar erstellen (0–30 Tage)

Welche KI-Systeme laufen produktiv — Assistenten, Copilots, Agenten? Für jeden Anwendungsfall: Wie hoch ist die Entscheidungsautonomie, wie hoch das regulatorische Risiko? Dieses Gesamtbild existiert in den meisten Häusern nicht — IT, Compliance und Fachbereiche haben Teilbilder, kein Haus hat das vollständige Bild. Das Konzept für diese Inventarisierung zu entwickeln erfordert externe Unterstützung und ist die Grundlage für jeden weiteren Schritt.

Schritt 2: Branchendialog aufnehmen (30–90 Tage)

Die Infrastruktur für den kollektiven Schritt existiert bereits. Brancheninitiativen diskutieren Prüfmaßstäbe für KI-Entscheidungen, EU AI Act und Skalierungsfragen aktiv. Wer dort mitarbeitet, gestaltet. Wer wartet, implementiert. Inventar und Branchendialog laufen dabei parallel — nicht sequenziell.

🗂️ Branchendialog: InsurLab Germany

InsurLab Germany ist eine unabhängige Brancheninitiative mit Sitz in Köln, die Versicherer, InsurTechs und Technologiepartner vernetzt. Aktivitäten mit direktem Bezug zu Prüfmaßstäben für KI-Entscheidungen:

Schritt 3: Haftungsrisiko adressieren (parallel)

Klären Sie mit Ihrer Rechtsabteilung: Wessen Prüfmaßstäbe liegen aktuell Ihren KI-Systemen zugrunde? Sind sie VVG-konform, BaFin-auditierbar, EU-AI-Act-tauglich? Wenn die Antwort „die unseres Anbieters" lautet — dann trägt Ihr Haus das Haftungsrisiko nach einem Maßstab, den jemand anderes für seine Zwecke definiert hat. Der Anbieter haftet nicht für die Entscheidungen seines Systems. Das Urteil erstreitet der Versicherungsnehmer gegen Sie.

KPI: Anteil der KI-Anwendungsfälle mit dokumentierten, intern verantworteten Prüfmaßstäben; heute im Vergleich zu in zwölf Monaten.

Wessen Prüfmaßstäbe gelten in Ihrer Schadenregulierung?

Der Hummer vor dem Bullen war eine Warnung, die eine ganze Branche hätte aussprechen sollen. Die Standards für Prüfmaßstäbe bei KI-Entscheidungen werden kommen: entweder weil die Versicherungsbranche sie gemeinsam erarbeitet, oder weil Regulatoren und Technologieanbieter sie setzen. Der Unterschied ist nicht akademisch. Er entscheidet darüber, wessen Interessen in diesen Standards abgebildet sind und wer im Streitfall mit einem validen Nachweis dasteht.

Ihre Frage fürs nächste Führungsteam-Meeting: Wessen Prüfmaßstäbe werden Sie in drei Jahren vor Gericht verteidigen. Die Ihrer Branche, oder die eines Anbieters, der sie für seine Zwecke geschrieben hat?

Quellen

Kooperationspartner werden

Erreichen Sie IT- und Innovations-Entscheider der DACH-Versicherungswirtschaft. Sponsored Articles, Jahrespartnerschaften und insureNXT-Pakete.

Mediadaten anfragen →

Weiterlesen

Kommentare ()