Studie: Künstliche Intelligenz macht Unternehmen anfälliger für Grossschäden

Der Einsatz von Künstlicher Intelligenz (KI) bringt Unternehmen viele Vorteile wie höhere Effizienz, weniger repetitive Aufgaben und einen besseren Kundenservice. Gelangt die Technologie jedoch in die falschen Hände, könnten die potenziellen Gefahren den grossen Nutzen schnell nivellieren. So steigert die allgegenwärtige Vernetzung die Anfälligkeit gegenüber böswilligen Cyberangriffen oder technischem Versagen, die zu grossflächigen Ausfällen und enormen finanziellen Verlusten führen können. Unternehmen sehen sich zudem mit neuartigen Haftungsfragen konfrontiert, da sich die Verantwortung für Handlungen vom Menschen auf die Maschine verlagert.

In ihrer neuen Studie The Rise of Artificial Intelligence: Future Outlook and Emerging Risks  " identifiziert die Allianz Global Corporate & Specialty (AGCS) einerseits die Vorteile der zunehmenden Implementierung von KI in Wirtschaft und Gesellschaft, weist aber auch auf entstehende Risiken durch die neue Technologie hin.

KI erhöht die ohnehin wachsende Gefahr durch Cyberrisiken weiter, die laut dem Allianz Risk Barometer 2018   bereits eine der grössten Bedrohungen für Unternehmen darstellen: So könnte KI-gestützte Software zwar einerseits das Cyberrisiko für Unternehmen durch eine bessere Erkennung von Angriffen reduzieren, andererseits aber ebensolche Angriffe erleichtern, weil Planung und Durchführung einfacher werden. Ein- und derselbe Hackerangriff - oder alternativ auch ein Programmierungsfehler - könnten auf zahlreichen Rechnern repliziert werden. Dadurch werden grosse globale Cybervorfälle wahrscheinlicher, die laut Lloyds Schäden in Höhe von mehr als 50 Mrd. US-Dollar verursachen könnten.

Im Bereich Mobilität werden hohe Erwartungen in KI-Anwendungen gesetzt. Selbstfahrende Autos sollen menschliche Fehler als Hauptursache für Unfälle beseitigen und KI in Verkehrsleitsystemen den Verkehrsfluss besser steuern. Allerdings ist noch weithin ungeklärt, wer bei Unfällen haftbar ist und welche ethischen Grundsätze autonome Fahrzeuge in Dilemma-Situationen befolgen sollen, wenn Gesundheit und Leben anderer Verkehrsteilnehmer auf dem Spiel stehen.

Fünf Risikofaktoren von KI

Um entstehende KI-Risiken zu ermitteln, konzentriert sich AGCS auf fünf Bereiche: Softwareverfügbarkeit, Sicherheit, Verantwortlichkeit, Haftung und Ethik. In Bezug auf die Sicherheit könnte beispielsweise das Rennen um die schnelle Markteinführung von KI-Systemen dazu führen, dass Überprüfungen nur unzureichend durchgeführt werden und so keine sicheren und funktionalen KI-Anwendungen gewährleistet sind. Dies könnte wiederum mehr Produktmängel und -rückrufe auslösen. Was die Frage der Haftung betrifft, könnten intelligente KI-Agenten zwar künftig dem Menschen viele Entscheidungen abnehmen, dafür aber rechtlich nicht zur Verantwortung gezogen werden. In der Regel haftet der Hersteller oder Softwareprogrammierer von KI-Agenten für Fehler, die bei Nutzern Schäden verursachen. Für auf KI basierende Entscheidungen, die sich nicht direkt auf das Design oder die Herstellung zurückführen lassen, die aber von einem KI-Agenten aufgrund seiner Interpretation der Realität getroffen werden, könnte nach aktuell geltendem Recht allerdings niemand explizit haftbar gemacht werden.

Der Versicherungsbranche komme eine wesentliche Rolle zu, wenn es darum geht, neue Risiken durch KI-Anwendungen zu minimieren oder abzusichern. Traditionelle Deckungen müssen angepasst werden, um sowohl Privatpersonen als auch Unternehmen entsprechend zu schützen. Versicherer müssen Unternehmen für solche Gefahren wie Cyberangriffe, Geschäftsunterbrechungen, Produktrückrufe und Reputationsschäden bessere Lösungen bieten können. Zudem werden sich wahrscheinlich neue Haftpflichtversicherungsmodelle durchsetzen, die Hersteller und Softwareanbieter stärker in die Pflicht nehmen und die Gefährdungshaftung von Verbrauchern einschränken.

Versicherer als frühe Anwender von KI

Die Versicherungsbranche zählt aufgrund der großen Datenmengen und wiederkehrenden Prozesse zu den Branchen, die stark auf maschinelles Lernen setzen. Durch KI-unterstützte Datenanalysen werden Versicherer und ihre Kunden zudem ein wesentlich besseres Verständnis der Risiken erlangen, so dass diese effektiver verringert oder über neue Versicherungslösungen absichert werden können. Nicht zuletzt wird KI auch die Beziehung zwischen Versicherer und ihren Kunden verändern, weil sie beispielsweise Self-Service-Angebote oder Beratung rund um die Uhr ermöglicht.