Deep Learning und die tiefe Unwissenheit

Selbst die Menschen, die sie erschaffen, verstehen im Einzelnen nicht mehr, wie diese Netze arbeiten - das sagte ein Computer-Linguist im iBusiness-Interview.

Das liegt zum einen daran, dass die zugrundeliegenden mathematischen Modelle zu komplex sind - es sind Zahlengebilde wie in der Chaostheorie, die etwa zu verstehen versucht, warum ein Tropfen Tinte, den man in ein Wasserglas gibt, dabei jedes Mal ein anderes Muster zeigt, selbst wenn man ihn sklavisch genau aus gleicher Höhe an die gleiche Stelle des gleich hoch gefüllten Glases gibt. Zum anderen reagieren die Knotenpunkte, die Neuronen, in einem neuronalen Netzwerk nicht homogen, selbst wenn sie von den Programmierern gleichartig angelegt werden: Manche leiten Signale weiter, andere nicht, manche geben Rückkopplungen zurück, andere nicht, manche speichern Daten, andere nicht.

Deswegen wollen Mathematiker und Programmierer verstärkt künstliche Intelligenzen als White Box designen statt als Blackbox: Es geht darum, die Logiken nachvollziehbar zu gestalten, die eine KI zu einer bestimmten Entscheidung bringen. Damit die Schöpfer ihre Schöpfung verstehen.

Das ist einerseits gruselig, andrerseits nicht mehr so sehr, wenn man die Zusammenhänge dahinter halbwegs versteht. Es zeigt aber auch, wie zweischneidig Deep Learning als Werkzeug ist. Es ist vielleicht eine ambivalente Idee, eine sich dem Verständnis entziehende Intelligenz zum Chief Marketing Officer zu machen, wenn man noch immer nicht genau weiß, was der Zusammenhang zwischen Klicks und Konversionen ist.