¾ÅÉ«ÊÓƵ

Die rasante Entwicklung der generativen KI hat die Weltwirtschaft aufgewirbelt und Branchen in einem beispiellosen Tempo verändert. Anfangs auf Forschungslabore beschränkt, werden KI-gestützte Anwendungen heute in nahezu allen Sektoren der Wirtschaft eingesetzt, um die Effizienz zu steigern, Prozesse zu automatisieren und neue Erkenntnisse zu gewinnen.

Die potenziellen Vorteile dieser Technologien sind unbestreitbar, doch die Einführung verschiedener Formen der generativen KI bringt auch zahlreiche Herausforderungen mit sich. Dazu gehören Schwachstellen in der Datensicherheit, rechtliche Bedenken sowie Reputationsrisiken. Vor diesem Hintergrund ist es für fast alle großen Unternehmen von entscheidender Bedeutung, sicherzustellen, dass das Potenzial der KI verantwortungsvoll und zukunftsfähig genutzt wird.

Die Erfahrungen von AXA mit KI

AXA ist ein multinationales Unternehmen, das in 50 Ländern tätig ist und mit 154.000 Mitarbeitenden und Vertriebspartnern rund 95 Millionen Kunden betreut. Unser Erfolg hängt davon ab, dass wir riesige Datenmengen aus unterschiedlichen Quellen zusammenführen, analysieren und komplexe Geschäftsprozesse kosteneffizient managen.

Daher bietet die Nutzung von generativer KI erhebliche Vorteile für uns und ist zu einem wichtigen Bestandteil unserer Strategie geworden. Sie hilft uns dabei, unseren Weg „from Payer to Partner“ fortzusetzen und unseren Anspruch zu verfolgen, den „menschlichen Fortschritt zu ermöglichen, indem wir das schützen, was wichtig ist“. Wir setzen KI mittlerweile in über 400 Anwendungen entlang der gesamten Versicherungswertschöpfungskette ein. Hier einige Beispiele:

• AXA gehörte zu den ersten großen Unternehmen, die ein generatives KI-Tool, SecureGPT, entwickelt haben, das heute weltweit von den Mitarbeitenden genutzt wird.
• Die Plattform Digital Risk Engineer von ¾ÅÉ«ÊÓƵsammelt kontinuierlich Daten von IoT-Ãœberwachungsgeräten in den Einrichtungen der Kunden. Mittels generativer KI werden die Daten in Echtzeit zur Erkennung von Anomalien analysiert, um frühzeitig eingreifen sowie die Schwere von Störungen der Systeme reduzieren zu können.
• Die Digital Commercial Platform (DCP) der AXA Gruppe hilft Unternehmen, Unsicherheitsfaktoren zu managen und Risiken zu reduzieren – insbesondere in den Bereichen Klimawandel, Cybersicherheit und geopolitische Instabilität. Dies geschieht durch Echtzeit-Risikoüberwachung und computergesteuerte sowie von Menschen geleitete Risikopräventionsberatung.

Kurz gesagt: Generative KI ermöglicht es unseren Mitarbeitenden, sich auf höherwertige Aufgaben zu konzentrieren, und hilft uns dabei, unsere Kunden in ihren Bemühungen zu unterstützen, die Zukunfts- und Widerstandsfähigkeit ihrer Unternehmen zu verbessern.

Drei Kategorien von Bedrohungen

Die potenziellen Vorteile von generativer KI sind erheblich. Die Bedrohungen sind es jedoch ebenso. Einfach ausgedrückt kann generative KI bestehende Bedrohungen verstärken und gleichzeitig neue schaffen.

Obwohl die breite Anwendung von KI eine neue Entwicklung mit rasanten Fortschritten darstellt, haben wir festgestellt, dass sich die Risiken in drei allgemeine Kategorien einteilen lassen, die Unternehmen bei der Integration verschiedener KI-gestützter Anwendungen in ihre Betriebsabläufe berücksichtigen sollten.

Bei der ersten Kategorie handelt es sich um kriminelle Angriffe. KI eröffnet Kriminellen leider ein breites Spektrum an Möglichkeiten.

• KI-gestützte Tools zur Identitätsfälschung können Stimmen und Gesichter nachahmen und so Phishing, Finanzdelikte und unbefugten Zugriff ermöglichen.
• KI-Modelle, die mit sensiblen oder geschützten Daten trainiert wurden, könnten vertrauliche Informationen preisgeben oder reproduzieren und damit die Cybersicherheit gefährden.
• KI kann Schwachstellen in großem Umfang ausnutzen und damit die Aufrechterhaltung der Cyberabwehr erschweren.

Die zweite Kategorie umfasst die situativen oder internen Bedrohungen, denen Unternehmen bei der Integration von KI in ihre Geschäftsabläufe ausgesetzt sind.

• KI kann gesellschaftliche Vorurteile verstärken und zu unfairen oder diskriminierenden Praktiken bei der Einstellung von Mitarbeitenden, der Vergabe von Krediten und der Strafverfolgung führen.
• Vielen KI-Systemen mangelt es an Transparenz, „Black-Box-Problem“ genannt. Dies erschwert das Verständnis oder das Hinterfragen ihrer Entscheidungen, was zu Risiken im Zusammenhang mit der Ãœbernahme von Verantwortung führen kann.
• Generative KI erzeugt manchmal falsche, aber plausibel klingende Informationen, d.h. sie „halluziniert“, was bei rechtlichen, finanziellen und medizinischen Anwendungen Risiken birgt.
• Unternehmen, die zu stark von KI abhängig sind, können systemische Ausfälle erleiden, wenn Modelle nicht funktionieren oder ungenaue Ergebnisse liefern.

Die dritte Kategorie beinhaltet von außen gesteuerte Risiken sowie Umweltrisiken, einschließlich weiterreichender systemischer Herausforderungen, die mit KI verbunden sind.

• Die Regulierung von KI entwickelt sich rasant und setzt Unternehmen rechtlichen Risiken und regulatorischen Diskrepanzen zwischen verschiedenen Rechtsordnungen aus.
• Der Energieverbrauch von KI-Modellen ist beträchtlich und hat Auswirkungen auf die Umwelt sowie die Kohlenstoffbilanz.
• Viele Unternehmen sind auf wenige KI-Anbieter angewiesen, was zu „digitalen Monokulturen“ führt, die weniger widerstandsfähig und anfälliger für katastrophale Cybervorfälle sind.

Klarheit ist gefragt

Zum dritten Mal in Folge rangierte Cyber unter den Top 3 Risiken des , und erstmals wurden KI und Big Data als viertwichtigste Bedrohung genannt.

Gleichzeitig ist die Nachfrage nach Cyberversicherungen exponentiell gestiegen, was nicht überrascht. Vor zwanzig Jahren waren Cyberversicherungen noch ein Nischenprodukt, das Datenverstöße und Haftungsrisiken durch den Verlust von Kundendaten abdeckte. Die Hauptkundschaft bildeten Technologieunternehmen und Finanzinstitute. Heute gelten Cyberversicherungen, für die ¾ÅÉ«ÊÓƵeiner der führenden Anbieter ist, für die meisten Unternehmen als ebenso unverzichtbar wie Sach- oder Haftpflichtversicherungen.

Cyberversicherungen sind jedoch in erster Linie darauf ausgelegt, Verluste durch Cyberangriffe, Datenverstöße und andere digitale Bedrohungen zu mindern und gleichzeitig wichtige Unterstützung bei der Reaktion auf Vorfälle zu bieten. Wie bereits erörtert, erweitert generative KI jedoch die Risikolandschaft, und es ist nicht immer klar, inwieweit KI-bezogene Risiken abgesichert sind.

Wenn beispielsweise ein KI-System fehlerhaft funktioniert und physische Schäden oder finanzielle Verluste verursacht, könnte die Deckung unter die allgemeine Haftpflichtversicherung oder die Produkthaftpflicht fallen. Ebenso könnten KI-gestützte Geräte, wie automatisierte Fertigungsroboter, unter die Maschinenbruch- oder Sachversicherung fallen, auch wenn ein Ausfall der KI nicht ausdrücklich erwähnt wird. Wenn KI-gestützte Entscheidungen zu falschen finanziellen, rechtlichen oder medizinischen Empfehlungen führen, könnte eine Berufshaftpflichtversicherung Ansprüche gegen Fachleute abdecken, die sich auf das KI-System verlassen haben.

Mit anderen Worten: KI-bezogene Risiken können möglicherweise durch bestehende Versicherungen abgedeckt sein – oder eben nicht. Diese Unklarheiten können Kunden finanziellen Verlusten und rechtlichen Schwierigkeiten aussetzen.

Die Antwort von AXA XL

Wir von ¾ÅÉ«ÊÓƵhaben vor kurzem eine Ergänzung zu unserer CyberRiskConnect-Police eingeführt, die den Versicherungsschutz auf spezifische Risiken im Zusammenhang mit der Entwicklung und dem Einsatz generativer KI-Modelle ausweitet. Die wichtigsten abgedeckten Risiken sind:

• Data Poisoning: Schutz vor Angriffen, die Trainingsdaten manipulieren oder kontaminieren, die in Machine-Learning-Modellen verwendet werden, und dabei die Leistung und Genauigkeit von KI-Systemen gefährden können.
• Urheberrechts- und Nutzungsrechteverletzung: Deckung für Haftungsansprüche, die sich aus der fahrlässigen Nutzung von urheberrechtlich geschütztem Material, Softwarelizenzen oder geistigem Eigentum bei der KI-Entwicklung ergeben.
• Verstöße gegen neue Gesetze oder Verordnungen: Schutz für Haftungen, die aus der Nichteinhaltung von Regelungen, wie z.B. der neuen EU-KI-Verordnung resultieren, die eine Regulierung der Entwicklung und des Einsatzes von Systemen der künstlichen Intelligenz zum Ziel hat.

Den Bedarf unserer Kunden an Unterstützung bei der Bewältigung dieser unklaren Situation haben wir erkannt und Dank der Hinweise und Rückmeldungen unserer Makler eine innovative Versicherungslösung entwickelt, die diese Risiken klar abdeckt und ihnen hilft, generative KI ohne Furcht vor potenziellen Risiken und zusätzlichen Kosten zu nutzen, die ihre Bemühungen behindern könnten.

±Ê°ùä±¹±ð²Ô³Ù¾±´Ç²Ô

Durch geeignete Maßnahmen können und sollten Risikomanager unabhängig von der Absicherung finanzieller Verluste die Risikosituation ihres Unternehmens durch folgende Maßnahmen stärken:

• Implementierung von Zugriffskontrollen und Berechtigungskonzepten, um den Zugriff auf KI-Systeme zu beschränken
• Durchführung gründlicher Tests und Validierungen von KI-Modellen vor deren Einsatz
• Implementierung von Ãœberwachungs- und Abweichungsanalyse-Mechanismen, um Probleme zu erkennen, bevor sie kritisch werden
• Schulung und Aufklärung der Mitarbeitenden über den verantwortungsvollen Umgang mit KI und die mit ihrer Nutzung verbundenen Risiken
• Implementierung von Richtlinien und Verfahren zur Gewährleistung der Einhaltung von Datenschutzgesetzen und -vorschriften
• Einsatz von Verschlüsselungs- und Datensicherheitstechniken, um sensible Daten zu schützen, die von KI-Systemen verwendet werden

Fazit

KI stellt einen neuen, komplexen und sich ständig weiterentwickelnden Risikobereich dar, der eine enge Zusammenarbeit zwischen Kunden, Maklern und Versicherern erfordert. Dies ist unerlässlich, um die sich wandelnde Bedrohungslage zu verstehen und schnell darauf reagieren zu können. Wir von ¾ÅÉ«ÊÓƵwollen gemeinsam mit unseren Kunden und deren Maklern daran arbeiten, die Chancen der KI zu nutzen und gleichzeitig die Gefahren zu meistern.