Digitales Schlangenöl

Anfang des Jahres 2018 hat der Bitkom eine repräsentative Bevölkerungsumfrage durchgeführt. In dieser gaben 15 Prozent der Befragten an, sie würden eher die Entscheidung einer künstlichen Intelligenz akzeptieren als die eines Menschen, wenn es um die Beantragung eines Kredits bei der Bank geht. Und rund jeder zehnte würde lieber die KI entscheiden lassen, wenn es vor Gericht um einen Verkehrsunfall geht, im Büro um eine Gehaltserhöhung und sogar beim Streit mit Partner oder Partnerin um eine größere Anschaffung.

Vergangene Woche schob der Verband eine zweite Studie nach: Die Mehrheit der Bundesbürger wünscht sich nach dieser den Einsatz von Künstlicher Intelligenz   (KI), um Unfälle zu vermeiden. So halten es 58 Prozent für sinnvoll, mit Hilfe von KI selbstfahrende Fahrzeuge auf die Straße zu bringen. Vor allem die Jüngeren zwischen 14 und 29 Jahre unterstützen an dieser Stelle den Einsatz Künstlicher Intelligenz. Unter ihnen beträgt die Zustimmung 65 Prozent.

Was passiert, wenn diese Fantasien Wahrheit werden, zeigt sich an COMPAS  , dem 'Correctional Offender Management Profiling for Alternative Sanctions' das bereits seit einiger Zeit an US-amerikanischen Gerichten eingesetzt wird. COMPAS ist ein Programm, das basierend auf 137 Faktoren die Wahrscheinlichkeit ausrechnen soll, mit der ein Straftäter rückfällig wird.

Studien   haben inzwischen nicht nur herausgefunden, dass sich das System oft irrt (und auch nicht besser funktioniert als ein Algorithmus, der ausschließlich Alter und Zahl der vorangegangenen Verurteilungen berücksichtigt) - sondern auch, dass COMPAS bei der Bewertung Schwarze diskriminiert, indem er ihnen eine deutlich schlechtere Prognose gibt, während der Algorithmus Weißen eine bessere Sozialprognose gibt, als sich am Ende bewahrheitet.

Niemand würde einem Blechschneide-Roboter in einer Automobilfabrik attestieren, dieser würde hübschere, kreativere oder energieschnittigere Formen fabrizieren als ein Mensch. Jedem ist klar: Der kleine Blechschneide-Roboter wird durch ein von einem Mensch entwickeltes Programm gesteuert. Er selbst ist dumm wie das Blech, das er schneidet. Sobald aber die drei Komponenten der sogenannten "künstlichen Intelligenz" ins Spiel kommen - Mathematik, die Erkennung von Ähnlichkeitsmustern und die Erkennung von Unterschieden in Mustern - versinken Menschen in einer Heils- und Wundererwartung.

"Jede hinreichend fortschrittliche Technologie ist von Magie nicht zu unterscheiden", postulierte der Science-Fiction-Autor Arthur C. Clarke   bereits 1973. Und tatsächlich projizieren Menschen seit jeher Allmachtsfantasien (im Guten wie im Schlechten) auf tätsächlichen wie behaupteten technischen Fortschritt: Das alle Krankheiten heilende Schlangenöl der Quacksalber im amerikanischen Wildwest unterscheidet sich nicht von den angeblich Jugend schenkenden Schminktigeln der Kosmetikindustrie. Und auch nicht von den Rechensystemen der Computerbranche.

Selbst die sogenannten "selbstlernenden Systeme" bilden im Kern nichts anderes ab, als die Mechaniken, die Menschen hineingesteckt haben: Aus Microsofts Chatbot Tay haben Menschen binnen 24 Stunden einen Nazisexisten   gemacht. Und wenn man ein Gesichtserkennungssystem ausschließlich mit Fotos von Hellhäutigen füttert, wird er sein erstes Afrikaner-Foto bei Primaten ablegen.

Wollen wir eine offene, vorurteilsfreie und transparente Gesellschaft, dann müssen auch alle sie betreffenden Verfahren offen, vorurteilsfrei und transparent sein. Das gilt für Gesetzgebungsverfahren genauso wie für Algorithmen. Alles andere ist digitales Schlangenöl.