Wer haftet für Künstliche Intelligenz?

 |   Microsoft Switzerland

Français | English

Eine zunehmend digitalisierte Gesellschaft sieht sich mit schnell entstehenden Risiken konfrontiert, da Entscheidungen, die von Algorithmen und Künstlicher Intelligenz (KI) getroffen werden, im Alltag eine immer grössere Rolle spielen. In einem Whitepaper erläutern die Zurich Versicherungen und Microsoft den wachsenden Begriff des algorithmischen KI-Risikos und schlagen vor, wie Risikomanager*innen und Versicherungsgesellschaften damit umgehen können.

In einem kürzlich veröffentlichten Whitepaper mit dem Titel «Artificial Intelligence and Algorithmic Liability – A technology and risk engineering perspective» (hier herunterladen) weisen Zürich Versicherungen und Microsoft darauf hin, dass die Entfesselung der Macht von Daten und künstlicher Intelligenz «endlose Geschäftsmöglichkeiten schafft, um letztendlich die Qualität unseres Lebens zu verbessern». Der Bericht warnt jedoch auch davor, dass mit diesen Möglichkeiten auch ein «breites Spektrum an Risiken einhergeht, das nicht nur die Einhaltung gesetzlicher Vorschriften, sondern auch Haftungs- und Reputationsrisiken umfasst, wenn algorithmische Entscheidungen unbeabsichtigte und potenziell schädliche Folgen auslösen».

Die Analyse umfasst einen detaillierten Blick auf relevante Fälle in den Bereichen Produkthaftung, Berufshaftpflicht und medizinische Fehler, die Anhaltspunkte zur Minimierung des Risikos und des potenziellen Schadens für Kund*innen und den Ruf eines Unternehmens liefern können.

Was ist das algorithmische KI-Risiko?

Das Risiko wird in dem Papier als Gefahr definiert, das sich aus der Verwendung von auf Datenanalyse und kognitiver Technologie basierenden Software-Algorithmen bei automatisierten und halbautomatischen Entscheidungen ergibt. Wenn die Algorithmen nicht wie erwartet funktionieren, kann dies zu Verlusten durch Sachschäden, Betriebsunterbrechungen, Personenschäden, Berufshaftpflicht, medizinischen Fehlern und Cyberrisiken führen.

Das Management des algorithmischen KI-Risikos ist besonders wichtig, weil es nur wenige Versicherungsprodukte gibt, die es abdecken. Dem Bericht zufolge beginnt die Versicherungsbranche gerade erst, das Risiko zu verstehen und eine entsprechende Deckung zu entwickeln, da es an Daten aus der Schadenerfahrung und an Modellen fehlt, die die Häufigkeit und Schwere potenzieller Schäden abschätzen können.

Warum spannen Versicherer und Technologieunternehmen zusammen?

Alles in allem können Technologieunternehmen und Versicherer zusammenarbeiten, um die aufkommenden Risiken von KI-Algorithmen branchenübergreifend zu mindern. Versicherer wie Zürich haben eine lange Tradition in der Förderung der Anwendung von Best Practices und der Suche nach innovativen Lösungen für unbekannte Risiken, während Technologieunternehmen wie Microsoft aus erster Hand Einblicke in innovative Methoden zur Risikominderung von der Entwicklung bis zum Einsatz komplexer Systeme bieten. «Microsoft hat sechs verantwortungsbewusste KI-Prinzipien eingeführt, die die Entwicklung und den Betrieb von Technologien leiten sollen: Fairness, Verlässlichkeit und Sicherheit, Datenschutz, Einbeziehung, Transparenz und Verantwortlichkeit», sagt Franziska-Juliette Klebôn, Data & AI Lead bei Microsoft Schweiz.

Insbesondere Microsofts Perspektive auf verantwortungsvolle KI in Finanzdienstleistungen bietet eine umfassende Liste von Tools und Methoden zur Minderung von KI-Risiken. Diese branchenübergreifende Zusammenarbeit kann dazu beitragen, das Vertrauen der Öffentlichkeit in diese Systeme zu stärken, die immer mehr zu einem Teil unseres Lebens werden.