Außer Kontrolle: Sieben Trends für die Zukunft künstlicher Intelligenz

Angenommen, irgendwann in der Zukunft überfährt ein komplett autonom agierendes Fahrzeug Menschen. In jedem Szenario wird ein solches Vorkommnis als ein Fehler der künstlichen Intelligenz zu bezeichnen sein. Doch wieso es zu diesem Fehler gekommen ist, wird nicht mehr ohne Weiteres herauszufinden sein, nicht einmal für die Menschen, die die KI programmiert haben.

"Die neuronalen Netze, aus denen künstliche Intelligenzen künftig bestehen werden, sind so komplex - selbst die Menschen, die sie erschaffen, verstehen im Einzelnen nicht mehr, wie diese Netze arbeiten", sagt Klaas Bollhoefer , Chief Data Scientist beim Datendienstleister The Unbelievable Machine Company   . "Das hängt mit der Beschaffenheit neuronaler Netze zusammen: Der strukturellen Organisation des Gehirns nachempfunden gleichen sie eher organischen als maschinellen Gebilden - und als solche sind ihre Handlungen nicht genau vorherzusagen", so Bollhoefer.

Das liegt zum einen daran, dass die zugrundeliegenden mathematischen Modelle zu komplex sind - es sind Zahlengebilde wie in der Chaostheorie, die etwa zu verstehen versucht, warum ein Tropfen Tinte, den man in ein Wasserglas gibt, dabei jedes Mal ein anderes Muster zeigt, selbst wenn man ihn sklavisch genau aus gleicher Höhe an die gleiche Stelle des gleich hoch gefüllten Glases gibt. Zum anderen reagieren die Knotenpunkte, die Neuronen, in einem neuronalen Netzwerk nicht homogen, selbst wenn sie von den Programmierern gleichartig angelegt werden: Manche leiten Signale weiter, andere nicht, manche geben Rückkopplungen zurück, andere nicht, manche speichern Daten, andere nicht.

Das Ende der Vorhersagbarkeit: Wieso eine KI nicht zweimal dasselbe Ergebnis ausspuckt

Maschinen werden also so komplex, dass ihre Entwickler nicht mehr sagen können, wie sie im Einzelnen reagieren werden - und ihre Reaktionen selbst im Nachhinein nur schwer rekonstruieren können. Das Phänomen dahinter ist Deep Learning - eine Programmierung der lernenden Maschine, die diese soweit optimiert und zur Abstraktion befähigt, dass sie eigenständig Muster erkennen und Regeln aufstellen kann, die ihnen niemals zuvor ein Mensch beigebracht hat (die Unterscheidung von KI, Machine Learning und Deep Learning illustrierte iBusiness in der Analyse Megatrend Machine Learning: Wie Algorithmen E-Commerce und Marketing verändern.

Verwertbar gemacht wird diese zunehmend obskure Fähigkeit dadurch, dass jede künstliche Intelligenz, die automatisch agiert, aus zwei Teilen besteht: Dem intelligenten und autonomen neuronalen Netz - und einer angeschlossenen Applikationslogik. Dieser zweite Teil neben der KI ist quasi der ausführende Arm und basiert auf vergleichsweise einfachen Wenn-Dann-Routinen. Die Applikation übersetzt den Daten-Output in Handlungen: Wenn die KI einen bestimmten Wert ausspuckt, dann tut die angeschlossene App dieses, bei einem anderen Wert tut sie jenes.

Denn künstliche Intelligenzen geben keine klaren Anweisungen oder treffen Entscheidungen: "Sie berechnen Wahrscheinlichkeiten - und das in einem derart komplexen Ausmaß, dass der Wert jedes Mal etwas anders ausfallen wird, selbst wenn man die Maschine immer mit denselben Daten füttert", sagt Bollhoefer. Dieses Phänomen ist bizzarerweise ziemlich menschlich: Auch Menschen handeln nicht immer gleichartig, selbst wenn sämtliche Rahmenbedingungen identisch sind. Und es führt die KI in moralisch heikle Felder.

Szenarien für die Zukunft künstlicher Intelligenz

Sollte eine Maschine, die ein Auto lenkt, etwa entscheiden dürfen, ob sie einen Menschen überfährt, um zu verhindern, dass sie Gefahr läuft drei oder mehr zu töten? Sollte sie einen alten Mann eher überfahren als ein kleines Kind, wenn sie in eine Lage gerät, bei der sich nur diese Alternativen bieten? Andrerseits muss man nicht immer moralische Dilemmas heraufbeschwören, findet Laura Geier, Commercial Lead Internet of Things & Advanced Analytics Microsoft Deutschland GmbH   - es gibt ebenso Szenarien, in denen KIs optimal eingesetzt sind - ohne eine moralisch kritische Dimension: "Eine KI kann beispielsweise steuern, zu welchen Preisen für eine Kühlanlage Strom eingekauft wird. Angenommen also, Strom ist heute sehr günstig, das Wetter die kommenden Tage aber sehr heiß. Dann lohnt es sich vielleicht, heute das Kühlhaus so stark zu kühlen, dass es auch die kommenden Tage noch Minusgrade hält, wenn wegen der heißen Werte der Strompreis wieder ansteigt."

Was bedeutet es also, wenn Maschinen sich von der Einsicht ihrer Schöpfer abkoppeln und zugleich zunehmend für den Einsatz in moralischen Spannungsfeldern vorgesehen sind? Sieben Trends geben den Weg vor

1. White Box KI

Mathematiker und Programmierer werden sich verstärkt darum bemühen, eine künstliche Intelligenz statt als Blackbox als White Box zu designen: Es geht darum, die Logiken nachvollziehbar zu gestalten, die eine KI zu einer bestimmten Entscheidung bringen. "Aktuelle Forderungen wie die an Google  , seinen Quellcode zu offenbaren, werden sich immer weniger erfüllen lassen", sagt Laura Geier. "Allein schon, weil die Codes mit ihrer Länge ganze Bibliotheken füllen würden. Man kann aber dafür sorgen, Netze und Algorithmen möglichst transparent zu halten. So dass einsehbar ist: 'Wieso wurde eine bestimmte Entscheidung getroffen?'"

Allerdings arbeitet ein anderer Trend massiv gegen diese Bestrebung.

2. Vortrainierte Netze

Neuronale Netze sind so menschlich - sie profitieren von Training. Sprich: Hat man durch das mathematische Gebilde der KI erstmal genug Daten hindurchgejagt, ist sie schlauer und arbeitet besser als zuvor. Dieser Umstand veranlasst Entwickler, möglichst oft auf vortrainierte Netzte zurückzugreifen, erklärt Bollhoefer: "Man nimmt ein Netz, das zur Objekterkennung entwickelt wurde - etwa für die Klassifikation von Tieren. Dann kann man es relativ einfach als Basis für eine andere KI nehmen, die beispielsweise Maschinenbauteile identifizieren soll." Nachteil des Ganzen: Die Entwickler stellen sich auf die Schulter derer, die vor ihnen geforscht haben - ohne eine tiefere Einsicht in die Funktion des vortrainierten Netzes, das sie in ihre KI einbauen. Das Netz wird intransparenter statt transparenter.

3. Das Ende der Optimierung

Neuronale Netze läuten das Ende der Optimierung ein: Man optimiert um die Black Box der KI herum - optimiert etwa, wie die angeschlossenen Applikationen arbeiten oder man verbessert den Aufbau der Netze. Doch es lässt sich nicht mehr vergleichen mit der zuverlässigen Ursache-Wirkungs-Relation einfacher Maschinen. Trail and error ersetzt Optimierung.

4. Voreingenommene Intelligenz

Je menschlicher die Aufgaben einer KI werden, desto menschlicher wird sie selbst: Tatsächlich lernen Maschinen etwas, das sich als Vorurteil bezeichnen ließe. So geht's: Füttert man eine KI etwa mit Daten über das menschliche Gesicht und verwendet dabei ausschließlich Bilder hellhäutiger Menschen, so wird sie zu dem Schluss kommen, dass sie es nicht mit einem Menschen zu tun hat, wenn sie schließlich mal dem Bild eines Afroamerikaners begegnet. Tatsächlich ist es vorgekommen, dass intelligente Maschinen, die mit solch 'Biased Data' (voreingenommenen Datensätzen) gefüttert wurden, schwarze Menschen als Gorillas erkannt haben. Und schon ist man trotz penibler Treue zu objektiven Daten auf quasi-rassistisches Territorium geraten, dessen harmloser Charakter erst bei tieferer Betrachtung sichtbar wird.

Paradoxerweise kann es soweit kommen, dass es erst diese aus Daten erwachsende Voreingenommenheit ist, die Maschinen funktionsfähig macht.

5. Notwendige Vorurteile

Möglicherweise scheitern künstliche Intelligenzen dort, wo die Phänomene nicht mehr gelten, auf die sie trainiert wurden: Die KI, die nur mit Daten hellhäutiger Menschen trainiert wurde, kann mit anderen Hautfarben nichts anfangen - kein Fehler der KI, sondern ein 'Bias', eine erlernte Tendenz - aus den Daten, das lediglich gelernt wurde. Oder eine Auto-Steuerungssoftware wird anhand des Fahrverhaltens 30-40jähriger Männer in Ländern mit Rechtsverkehr trainiert. Was tut sie in einem Land mit Linksverkehr oder älteren/weiblichen Fahrern? Die Konflikte erscheinen - buchstäblich - vorprogrammiert.

Doch wie damit umgehen? Eine Maschine also so trainieren, dass sie mit Daten von überall auf der Welt, aus jedem Kulturkreis gespeist wird? Das könnte zur Folge haben, dass sie nicht mehr weiß, welches Regelset gilt, wenn sie in ein Land mit anderen Verkehrsregeln kommt. Hier steht die Forschung vor noch zu lösenden Problemen: Soll eine Maschine adaptiv lernen, statt auf vorgefertigte Datensätze zurückzugreifen? Soll sie zwischen Datensätzen umschalten, je nachdem wo sie sich befindet?

6. Agile Methoden

Maschinen müssen künftig also mehr und mehr trainiert werden, um zu funktionieren. Da so etwas oft nur in der Realität und in den tatsächlichen Funktionszusammenhängen funktioniert, "werden wir es erleben, dass Maschinen als Prototyp veröffentlicht werden, Erfahrungen sammeln und dann gecheckt, analysiert und in neuer Fassung neu herausgebracht werden - und so wieder und wieder und wieder. Es gibt nicht den einen Veröffentlichungstermin, ein agiles Moment kommt dazu", sagt Laura Geier.

7. Das Ende des Proprietären

Intelligente Maschinen benötigen immer größere Datenmengen, um optimal zu funktionieren - mehr Daten, als ein einziges Unternehmen in einem geschlossenen Ökosystem aufbringen kann. In der Folge sind Firmen künftig zur Schnittstelle verdammt - hermetische Walled Gardens sind nicht mehr haltbar.

Vor diesem Hintergrund ergibt sich aber noch eine weitere Dimension der Zukunft künstlicher Intelligenz: Die der Haftung - und des politischen Umgangs mit der Verantwortung, die wir künftig an KIs delegieren.

Maschinen-Politik: Wer haftet, wenn die Maschine lenkt

Wenn KIs künftig beispielsweise Maschinen steuern oder Hasskommentare bei Facebook   löschen - sich also in Entscheidungsgrauzonen juristischer Relevanz begeben - so stellt sich die Frage, wer haftet, wenn sie scheitern.

Damit soziale Netzwerke etwa vertrauensvoll die Redaktion der Inhalte an eine KI abgeben können, müsse "diese zum einen ebenso intelligent sein, wie ein Mensch, der die gleiche Aufgabe erledigt", glaubt der auf neue Medien spezialisierte Anwalt Dr. Martin Bahr von der Kanzlei Dr. Bahr  . "Sonst könnte man da ja - überspitzt gesagt - einen alten Commodore zwischenschalten und sagen, das sei ausreichend." Hinzu kommt die zeitnahe Anpassung der intelligenten Systeme: "Solche künstlichen Intelligenzen müssten selbstlernend sein, um immer den neuesten Stand der Anforderungen zu bedienen. Es würde nicht der Sorgfaltspflicht entsprechen, alle sechs Monate ein Update vorzunehmen."

Was autonome Autos angeht, kommt Daniel Schätzle, von der Kanzlei Härting Rechtsanwälte PartGmbH   zu einem relativ klaren Ergebnis. Als Anwalt ist er spezialisiert auf juristische Fragestellungen zu den Themen Smart Car und digitale Assistenten: "Die Lage ist aktuell klar: lasse ich eine Gefahrenquelle - das Auto - in den Verkehr hinein, beginnt eine Halterhaftung, und die ist verschuldensunabhängig." Ob der Mensch oder die Maschine am Steuer sitzt, kommt hierbei nicht vor - autonomes Fahren würde also wenig bis nichts an Haftungsfragen ändern.

Die Frage ist nur, inwieweit müssen Hersteller für das mithaften, was ihre KIs verbocken? "Eine Herstellerhaftung wird bereits diskutiert", sagt Schätzle. "Aber wer ist das? Der Anbieter des Codes? Der Autohersteller? Letzteres erscheint kaum wahrscheinlich - würde man den Automobilkonzernen ein enormes Haftungsrisiko auferlegen, wäre das ein enormer Hemmschuh für die Entwicklung neuer autonomer Fahrzeuge."

Damit erscheinen vier Szenarien für die Zukunft möglich, aber im Grunde nur eines wahrscheinlich.