Wieso Algorithmen sind wie Frankensteins Monster

Programmierer stützen sich auf vorhandene Datensets, die sie nicht erhoben haben und verwenden Codes, die andere geschrieben haben. Was am Ende dabei rauskommt, kann den Schöpfer überraschen.

In Mary Shelleys berühmter Geschichte fragt das aus Körperteilen zusammengesetzte Wesen seinen Schöpfer, wieso es Flöte spielen kann - in welchem seiner Einzelteile denn diese Begabung wohne, Kopf, Arm, Finger, Lippen? Doktor Frankenstein weiß keine Antwort darauf. Eine prophetische Szene, denn Algorithmen sind ähnlich: Sie sind aus vorhandenem Material zusammengesetzt. Das macht sie nicht zwangsläufig zu Monstern und ihre Schöpfer nicht zu Grabräubern.

Aber es können dabei monströse Folgen herauskommen: Algorithmen, die soziale Ungleichheiten verstärken, rassistische Plattitüden bedienen und Frauen mit einer Selbstverständlichkeit zu Heimchen am Herd deklarieren, die man sonst nur von achtkantig aus dem Betrieb fliegenden Techkonzern-Angestellten kennt. Gemeint ist der Google-Angestellte James Damore, über den iBusiness berichtete. In einer Analyse, die den Titel 'So frauenfeindlich ist Deutschlands Digitalbranche wirklich' trägt. Hier erhält man eine Ahnung davon, wie der Vorbehalt in die Formel kommt.

Algorithmen sind am Ende also menschlicher als wir dachten - nicht unbedingt im besten Sinne. Daher ist es wichtig, ein Bewusstsein dafür zu haben, wie verquer die Schlussfolgerungen sein können, die uns die vermeintlich objektiven Helfer einflüstern. Das ist eine Frage der Moral, klar. Aber auch des Geschäftes. Ein Algorithmus, der mich dazu animiert, Geld zu verbrennen ist für ein Unternehmen untragbar. Und auch höchst unangenehm, wenn er obendrein noch intolerant ist.