Künstliche Intelligenz als Emerging Risk in der Haftpflichtversicherung

Risikobeschreibung 

Jüngste technologische Fortschritte haben die Fähigkeiten von KI bzw. Artificial Intelligence (AI) und des maschinellen Lernens erheblich verbessert, das öffentliche Interesse geweckt und Unternehmen dazu ermutigt, KI in den täglichen Betrieb zu integrieren. Diese Fortschritte bieten Produktivitätsgewinne und wirtschaftliche Chancen, was zu Erwartungen an ein enormes Wachstum führt. Da sich die KI-Fähigkeiten jedoch weiterentwickeln, besteht die Notwendigkeit spezifischer rechtlicher Auflagen sowie strengerer Kontrollen durch menschliche Betreiber, und es werden Fragen der Verantwortlichkeit aufgeworfen. 

Wissenschaftliche Erkenntnisse 

Die OECD definiert ein KI-System als ein maschinenbasiertes System, das für eine bestimmte Aufgabe menschlich definierter Ziele Vorhersagen, Empfehlungen oder Entscheidungen treffen kann, die reale oder virtuelle Umgebungen beeinflussen. 

KI kann in zwei Kategorien unterteilt werden: 

• «Narrow AI» oder «Generative AI (GenAI)», die entwickelt und trainiert wurde, um spezifische Aufgaben oder eine begrenzte Anzahl von Aufgaben auszuführen.
• «Artificial General Intelligence (AGI)», die Maschinen bezeichnet, die kognitive Fähigkeiten besitzen, die es ihnen ermöglichen, wie ein Mensch intellektuelle Aufgaben zu verstehen, zu lernen und auszuführen. 

Obwohl bisher noch keine echte AGI realisiert wurde, haben jüngste Fortschritte in Grundmodellen, wie grossen Sprachmodellen und Bildgenerierungsmodellen, angefangen, die Fähigkeiten zu übertreffen, die traditionell GenAI zugerechnet wurden. 

Diskussionen über Sicherheit, Datenschutz und Ethik betonen die Bedeutung einer ordnungsgemässen Governance und Regulierung dieser Technologien, was zu einem wachsenden Bedarf an angepasster Regulierung führt. 

KI, wie jede andere Technologie, hat das Potenzial zu versagen. Sie kann Leistungsstandards nicht erfüllen, unbeabsichtigt Vorurteile verstärken, anfällig für böswillige Angriffe sein oder tatsächlichen Schaden verursachen. Wo es Chancen gibt, die im Bereich der KI zahlreich sind, wird es immer auch damit verbundene Risiken geben. 

Risikowahrnehmung 

Die Risikoexposition ist derzeit hauptsächlich auf einige wenige Sektoren beschränkt. Informationstechnologie ist der grösste, was nicht überraschend ist, da es das Feld ist, das KI-Systeme entwickelt. Mit der zunehmenden Verbreitung von KI werden sich diese Risiken auf verschiedene Sektoren ausbreiten. Für die Versicherer werden beispielsweise das Gesundheitswesen und die Pharmaindustrie aufgrund einer zu erwartenden Häufung von Schadenereignissen mit Körperschäden wichtige Sektoren sein. Andere Bereiche mit höheren Risiken sind kritische Infrastrukturen und Mobilität, da sie sich mit intelligenten Netzen und selbstfahrenden Fahrzeugen verändern, was zu häufigeren und schwerwiegenderen Unfällen führen kann. 

Kurzfristig werden Ethik-, Vorurteils- und Datenschutzrisiken die Hauptbedenken sein. Wenn sich KI-Modelle etablieren, besteht die Gefahr, dass Fehler in der Datenspeicherung und -analyse integriert werden. Bereiche, die mit sensiblen persönlichen Daten arbeiten, wie Gesundheitswesen, Finanzen oder Recht, sind besonders gefährdet. Wenn anfängliche Probleme bei der Erstellung von KI-Modellen gelöst werden, wird das Produktrisiko zum grössten Problem.  

Das Wachstumspotenzial von KI variiert je nach Region und Sektor, wobei in Bereichen mit höherem Automatisierungspotenzial oder in denen KI zugänglicher ist, eine schnellere Einführung erwartet wird. Wegen seines Potenzials wird GenAI als Emerging Risk im Versicherungsmarkt betrachtet. Die Ausgestaltung der Versicherungsdeckung, wie Deckungsumfang, Limiten, Ausschlüsse oder Geltungsbereiche wird für die Versicherer eine grosse Herausforderung darstellen.  

Es gibt erhebliche regionale Unterschiede in der KI-Regulierung, wobei die meisten Gebiete bisher noch keine spezifischen Gesetze zur Regelung ihrer Nutzung haben. 

Die EU-Richtlinie über Künstliche Intelligenz (KI-Richtlinie) sticht als die weltweit erste umfassende KI-Rechtsetzung seiner Art hervor. Der durch KI verursachte Schaden kann sowohl materiell als auch immateriell sein und physische, psychologische, gesellschaftliche und wirtschaftliche Auswirkungen umfassen. 

Haftpflichtrechtliche Relevanz 

In den meisten Teilen der Welt besteht Unklarheit in Bezug auf KI und bestehende Haftpflichtregime. Darüber hinaus sind KI-Systeme stark von Daten abhängig und fallen oft unter bestehende Datenschutzgesetze. Während diese bestehenden Gesetze darauf abzielen, Konsumentinnen und Konsumenten zu schützen und die Verantwortlichkeit für durch Produkte (einschliesslich KI) verursachte Schäden sicherzustellen, stellen ihre grundlegend unterschiedlichen Ansätze zur Haftung eine Herausforderung für die Versicherer dar. Es wird entscheidend sein, wie Regulierungsbehörden, Rechtspraktiker und Interessengruppen klären, in welcher Form diese Rahmenbedingungen zusammenspielen, um Verwirrung zu vermeiden und einen wirksamen Schutz für von KI-Technologien betroffene Personen sicherzustellen.

Haftpflichtversicherungstechnische Relevanz 

Aufgrund der Komplexität des Themas wird es Zeit brauchen, adäquate Versicherungsprodukte zu entwickeln, welche spezifisch die Risiken von KI-Anwendungen abdecken. 

Es herrschen noch viele Unsicherheiten über die sich entwickelnde KI-Haftpflichtgesetzgebung und andere relevante Regelungen und Vorschriften, die zu Fragen zu bestehenden, traditionellen Versicherungsdeckungen führen. Neue, massgeschneiderte Lösungen werden bereits in einigen Märkten entwickelt und angeboten. 

Der durch die Anwendung von KI verursachte Schaden kann materiell oder immateriell sein. Verschiedene Exponierungen können durch verschiedene bereits bestehende Policen abgedeckt sein, da üblicherweise KI-Risiken weder ausdrücklich erwähnt noch explizit in der Police ausgeschlossen sind. 

Um dies zu veranschaulichen, haben wir einige Beispiele zusammengestellt: 

• Softwarefehler: Wenn ein KI-Fehler zu Verletzungen oder Schäden führt, können verschiedene Haftungsfragen auftreten. Die Bestimmung, wer haftet, kann komplex sein, da der Hersteller, der KI-Entwickler oder das Wartungsunternehmen alle verantwortlich gemacht werden könnten. Die Haftung kann Produkthaftung, berufliche Fahrlässigkeit oder Vertragsbruch umfassen.
• Medizinischer Fehler: KI im Gesundheitswesen unterstützt bei verschiedenen Aufgaben. Wenn ein KI-bezogener medizinischer Fehler auftritt, kann dies zu Haftpflichtansprüchen führen, welche die Berufshaftpflicht- oder die Betriebs- und Produkthaftpflichtversicherung betreffen können.
• Halluzination: KI-Modelle, wie ChatGPT, können falsche Informationen erzeugen, was zu erheblichen Konsequenzen wie rechtlichen Sanktionen führen kann. Diese Problematik kann mit Softwarefehlern in Verbindung gebracht werden, die einerseits durch Technology PI-Policen (Berufshaftpflichtpolicen für Informationstechnologie-Uunternehmen) abgedeckt sein könnten, aber auch die Berufshaftpflichtpolicen von Anwälten beträfen, wenn diese ihre Sorgfaltspflichten verletzen.
• Diskriminierung: KI-Modelle können Diskriminierung am Arbeitsplatz verursachen, unterrepräsentierte Patientengruppen falsch diagnostizieren oder zur Diskriminierung bei der Wohnungsvergabe beitragen. Policen zur Haftung bei Beschäftigungspraktiken decken Schäden am Arbeitsplatz ab, während Policen im Bereich «Directors' & Officers' Liability» (D&O) die nicht offengelegte KI-Nutzung bei Unternehmensentscheidungen abdecken können. 

Versicherer sollten müssen die sich entwickelnde Risikolandschaft der KI sorgfältig überwachen, um sicherzustellen, dass ihre Policen die Deckungsabsichten in Bezug auf diese aufkommenden Exponierungen genau widerspiegeln. Unsicherheiten in Bezug auf KI-Risikobereiche könnten an Bedeutung gewinnen und eine genauere Überprüfung erfordern. 

Zeithorizont für versicherte Ansprüche 

Der Zeithorizont für versicherte Ansprüche im Zusammenhang mit KI-Haftung wird voraussichtlich parallel zur Weiterentwicklung der Technologie und ihrer Anwendungen verlaufen. In unmittelbarer Zukunft wird der Schwerpunkt auf dem Verständnis und der Minderung von KI-Risiken liegen. Mit der zunehmenden Integration von KI in verschiedene Branchen wird erwartet, dass das Potenzial für langfristige Ansprüche steigt, insbesondere durch neue regulatorische Rahmenbedingungen, kombiniert mit strengeren Unternehmensverantwortlichkeiten und Anforderungen. Versicherer sollten wachsam bleiben, ihre Policen ständig überprüfen und diese der sich laufend verändernden Risikolandschaft anpassen.