KI und Recht: Wer haftet, wenn Künstliche Intelligenz versagt ?

Die Grundidee des deutschen Haftungsrechts ist simpel: Wenn jemand ein Fehlverhalten an den Tag legt und dadurch andere Rechtsgüter, wie Menschen und Eigentum, schädigt, haftet er. Konkret bedeutet das, dass er den Schaden - meist finanziell - ausgleichen muss. So einfach das klingt, so schwierig ist es leider oft genug in der Praxis. Meistens sind mehrere an dem Vorfall beteiligt und versuchen, den jeweils anderen das zum Schaden führende Fehlverhalten aufzudrängen.

Seitdem KI-gesteuerte Systeme ihren Weg in die Gesellschaft gefunden haben, gibt es immer mehr Fälle, wo man eigentlich sagen müsste, dass die KI "Schuld" ist und haften muss. Das ist darauf zurückzuführen, dass eine KI dank Machine-Learning immer mehr Entscheidungen ohne menschlichen Einfluss trifft. KI-Systeme können beispielsweise einen Arzt bei einer Diagnoseentscheidung unterstützen und dabei auch mal die falsche Entscheidung treffen. Entsteht dadurch ein Schaden bei dem Patienten, dann müsste eigentlich die KI selbst haften. Oder? Gibt es für diese Fälle ein Gesetz?

Von einem Gesetz, das Roboter beziehungsweise KIs haften lässt, sind wir noch weit entfernt. Im deutschen Recht kann nur der haften, dem Rechtspersönlichkeit zukommt. Diese kommt nur uns als Individuen (natürlichen Personen) oder Gesellschaften wie z.B. einer GmbH (juristischen Personen) zu. Das bedeutet, dass KIs keine Rechte geltend machen können und andere auch nicht gegen sie. Überlegungen des EU-Parlaments, das zu ändern, scheiterten schnell an praktischen Hindernissen. Die Fantasie einer Maschine in Handschellen endet nämlich an der pragmatischen Überlegung, dass eine KI gar kein Konto oder eine Versicherung hat, von dem der Schadenersatz gezahlt werden könnte.

Nur im besonderen Fall des autonomen Fahrens kam es zu einer Gesetzesänderung im Straßenverkehrsgesetz (StVG). Der Gesetzgeber hat hier klargestellt, dass auch derjenige als Führer eines Kfz gilt, der in einem autonom gesteuerten Kfz fährt. Geschieht dann ein Unfall und es entsteht ein Schaden, dann muss neben dem Halter auch der Fahrer haften, obwohl er eigentlich gar nicht gefahren ist.
In allen anderen Fällen und zusätzlich auch beim autonomen Fahren wird zur Klärung der Haftungsfrage auf Hersteller und Anwender zurückgegriffen.

Der Hersteller und die Produkthaftung

Egal, ob man der Hersteller einer hochkomplexen KI ist oder einer einfachen Wasserflasche: man ist nah am Produkt, schließlich hat man es entwickelt. Man weiß, wie es funktioniert und welche Gefahren es birgt. Aus diesem Grund kann der Hersteller nach deutschem Recht unter bestimmten Voraussetzungen auch haften.

Insbesondere bei einer KI wird die Haftung des Herstellers eine große Rolle spielen. Er hat sie entwickelt, programmiert und trainiert und steht daher dem selbstständigen Entscheidungsvorgang der KI am nächsten. Einerseits könnte er über die Regeln der Produkthaftung nach dem Produkthaftungsgesetz (ProdHaftG) haften, wenn durch den Fehler des Produkts ein geschütztes Rechtsgut verletzt wurde und daraus ein (finanzieller) Schaden entstanden ist. Diese Voraussetzungen werden bei einem Fehlverhalten einer KI in der Regel vorliegen.

• Möglichkeit 1: Gesetzliche Ausnahmen greifen ein!
  Es besteht jedoch die Möglichkeit, dass eine der gesetzlich vorgegebenen Ausnahmen greift (s. § 1 Abs. 2 und 3 ProdHaftG). Danach ist unter anderem die Haftung ausgeschlossen, wenn der Fehler nach dem Stand der Wissenschaft und Technik zum Zeitpunkt des Inverkehrbringens des Produkts nicht erkannt werden konnte oder wenn das Produkt den Fehler noch nicht hatte, als es in den Verkehr gebracht wurde.
  
  
• Möglichkeit 2: Beweislastregel beachten!
  Des Weiteren wird die Beweislastregel des ProdHaftG in vielen Fällen dazu führen, dass der Hersteller einer KI nicht haften muss. Grundsätzlich knüpfen die Haftungsregeln der Produkthaftung an die sogenannte Gefährdungshaftung an, das heißt es wird unabhängig von fahrlässigem oder vorsätzlichem Verschulden des Produktherstellers gehaftet. Das ist grundsätzlich schlecht für den Hersteller und gut für den Geschädigten. Allerdings obliegt es dem Geschädigten, den Fehler des Produkts zu beweisen.
  
  Das mag bei vielen Produkten und deren Fehlern leicht sein, bei einer KI jedoch ganz und gar nicht. Die Vorgänge innerhalb einer KI sind äußerst schwer nachzuvollziehen (Stichwort: Blackbox) und daher sind Fehler in der Programmierung kaum auszumachen und zurückzuverfolgen. Deshalb wird es dem Geschädigten in der Regel nicht gelingen, den Fehler zu beweisen und der Hersteller muss nicht nach dem ProdHaftG haften.

Der Hersteller und die Produzentenhaftung

Die Produkthaftung nach dem ProdHaftG darf nicht mit der Produzentenhaftung aus dem BGB verwechselt werden. Danach muss nur der Produzent haften, der schuldhaft (das heißt fahrlässig oder vorsätzlich) ein fehlerhaftes Produkt in den Verkehr gebracht hat. Anders als nach der Produkthaftung ist es für die Haftung also nicht egal, ob man den Fehler der KI zu verantworten hat oder nicht. Erst, wenn bewiesen ist, dass der Fehler auf den Hersteller zurückzuführen ist, muss er haften. Normalerweise müsste das wieder der Geschädigte beweisen. Die Besonderheit der Produzentenhaftung liegt jedoch darin begründet, dass eine Beweislastumkehr stattfindet. Nicht der Geschädigte muss den Fehler der KI nachweisen, sondern der Hersteller muss nachweisen, dass eben kein Fehler vorliegt. Diese Beweislastumkehr beruht auf der Tatsache, dass der Geschädigte keinen Einblick in den Produktionsprozess hat und daher nie einen Fehler nachweisen könnte.

Für den Hersteller einer KI stellt sich nun also dasselbe Problem, wie für den Geschädigten bei dem Anspruch aus Produkthaftung. Kann der Hersteller Argumente für das Entstehen des Fehlers außerhalb seiner Sphäre vorbringen, haftet er jedoch nicht. Das ist bei einer KI gar nicht so unwahrscheinlich, schließlich entwickelt sie sich ständig weiter, sodass der Hersteller mit neu nach der Programmierung entstandenen Fehlern nichts zu tun haben muss. Hier wird es stark auf die Argumente im Einzelfall ankommen.

Haftung des Anwenders

Für den Anwender einer KI wird vor allem der normale deliktische Anspruch aus § 823 Abs. 1 BGB von Relevanz sein, wonach derjenige für den Schaden aufzukommen hat, der schuldhaft und kausal durch seine Handlung eine Verletzung eines Rechtsguts bewirkt hat. Wie beim Hersteller auch kann eine Haftung des Anwenders gegebenenfalls wegen mangelnder Beweise an seinem Verschulden ausgeschlossen werden. Da die Regeln der Produzentenhaftung hier nicht eingreifen, muss der Geschädigte das Fehlverhalten des KI-Anwenders beweisen. Doch wie soll das gelingen, wenn man keinen Einblick in die KI nehmen und sehen kann, welche Entscheidung jetzt auf ihr Fehlverhalten und welche auf das Fehlverhalten des Anwenders zurückzuführen ist? Hat der Anwender die KI falsch bedient oder ging der Fehler von der KI aus? Gelingt dem Geschädigten der Beweis nicht, dann muss der Anwender nicht haften.

Wenig praxistaugliche Lösung

Bis sich der Gesetzgeber konkret mit der Haftungsfrage bei Schäden durch KI auseinandergesetzt hat, werden in der Theorie sowohl Hersteller als auch Anwender der KI für Schäden aufkommen müssen. In der Praxis werden ihnen jedoch vor allem Beweisfragen helfen, der Haftung zu entgehen.
Je mehr KI unseren Alltag prägt, desto dringender muss sich auch der Gesetzgeber überlegen, ob er die Haftungsfrage dann konkret klären möchte oder ob er es bei der Anwendung der allgemeinen Haftungsregeln belässt. Eine Möglichkeit wäre, dass eine Gefährdungshaftung sowohl für Hersteller als auch Anwender eingeführt wird und parallel dazu eine Versicherungspflicht. Dann wäre es unabhängig von Beweisen immer eindeutig, dass Hersteller und Anwender haften und sie sich dazu von einer Versicherung finanziell absichern lassen müssen.

---

Die iBusiness-Autorin Kathrin Schürmann ist Rechtsanwältin und Partnerin bei der Tech-Kanzlei Schürmann Rosenthal Dreyer   und spezialisiert auf das digitale Business. Ihre Schwerpunkte sind Datenschutz und Wettbewerbsrecht, ihr Fokus liegt unter anderem auf den Themen KI, Big Data und Kundenbindung.