Die KI-Falle

Vermutlich hatten Sie auch schon einen Berater, ein Systemhaus oder einen Softwareanbieter bei sich im Haus sitzen, der Ihnen erzählt, dass Sie künftig alle Ihre bestehenden Probleme (und sämtliche anderen auch) mit Künstlicher Intelligenz werden lösen können. Die klügeren (und ehrlicheren) Berater werden Ihnen vielleicht sogar gestanden haben, dass Sie neben dieser ultimativen KI-Lösung auch (leider) künftig (noch) Menschen brauchen. Denn KI-unterstützte Entscheidungen seien "der neueste heiße Scheiß", wird er oder sie nicht gesagt haben. Aber KI-unterstützte Entscheidungen seien die ultimative, die unumgängliche und die nicht aufzuhaltende Zukunft.

Die Zukunftsaussage ist perspektivisch sicher richtig. Aber sie gilt nicht heute und auch nicht für morgen. Sie gilt noch nicht einmal für kommendes Jahr - zumindest nicht in der Schlichtheit. Denn man kann ein KI-System nicht so einfach einführen wie eine simple Software - sagen wir: sie ist nicht so simpel wie eine unternehmensweite SAP-Implementation. Der Hauptgrund: Künstliche Intelligenz ist weder künstlich noch intelligent - und bei Maschinenlernen lernt weder die Maschine, geschweige denn der Mensch.

Über komplexe und komplizierte Systeme

Das erste Problem mit Künstlicher Intelligenz: KI funktioniert zuverlässig heute noch nicht einmal bei komplizierten Sachverhalten - geschweige denn bei komplexen. Komplizierte Situationen sind jene, die wir mit einem endlichen Set von Regeln beschreiben können. Die Software eines Routenplaners beispielsweise löst ein kompliziertes Problem, indem sie den optimalen Weg durch eine gegebene Karte berechnet. Immer wieder passiert es, dass Navigationssysteme ihre Fahrer in die Irre leiten - so manches Auto landete deswegen sogar in einem Hafenbecken  . Der Grund sind mangelhafte Daten, fehlerhafte Algorithmen - aber vor allem der den Systemen fehlende gesunde Menschenverstand.

Die Daten über die Welt werden in den kommenden Jahren vielleicht besser - zumindest was geografische Daten und ihre korrekte Interpretation angeht. Auch werden die Softwareentwickler es vielleicht in den nächsten Jahren und Jahrzehnten schaffen, ausreichend komplexe Algorithmen zu entwickeln, die komplizierte Systeme hinreichend beherrschen können, vielleicht in absehbarer Zeit mit ihren logischen Lösungswegen beherrschen können. Aber die Welt ist eben nicht nur kompliziert - sie ist komplex. Sie lässt sich deshalb mit Regeln eben nicht ausreichend genau beschreiben.

Das Computersystem AlphaGo hat im Jahr 2016 den letzten menschlichen Go-Weltmeister besiegt  . Die von Googles   Deepmind   entwickelte Software arbeitet mit Machine Learning und entwickelte im Laufe ihres Trainings damit sogar eigene Spielweisen. Auf dem 19x19 Felder großen Go-Spielfeld macht AlphaGo keinem Mensch mehr etwas vor - so lange sich dieser an die einprogrammierten Regeln hält. Sobald dieses komplizierte System des Go-Spielbretts allerdings komplex wird - indem ein Mensch zum Beispiel eine Schale Tee darauf abstellt - kommt der hochgezüchtete Algorithmus an seine Grenzen: Er wird an dieser komplexen - nicht regelbasierten - Situation scheitern.

Die Folge: In komplexen Systemen werden Menschen auf absehbare Zeit jeder KI weit überlegen sein. Menschen verstehen kausale Abhängigkeiten und Wechselwirkungen, Algorithmen sehen nur Korrelationen. Wo die Maschine nur den kürzesten Weg von A nach B sieht, weiß der Mensch, dass man besser nicht im Hafenbecken parkt. Maschinen entdecken ein Muster. Menschen einen Grund.

Über Kausalität und Korrelationen

Das zweite Problem mit Künstlicher Intelligenz: Die Muster, die eine Maschine entdeckt, haben gar nichts mit dem richtigen Leben zu tun. Oder noch weniger. Es existiert eine Korrelation zwischen dem Pro-Kopf-Verbrauch von Käse in den USA und der Zahl der Menschen, die sich mit dem eigenen Bettlaken erdrosseln  . Es gibt sogar Websites  , die sich mit dem Korrelations-Phänomen auseinandersetzen. Der Biometriker Gerd Antes klagt über den um sich greifenden "Big Data-Hype" vor allem in der Gesundheitsindustrie: "Die Idee dahinter ist, dass man riesige Datenmengen völlig unstrukturiert und unsystematisch durchwühlen kann und dabei auf sinnvolle Zusammenhänge stößt. Das ist wissenschaftlicher Unfug und kann nicht funktionieren." Wissenschaftliches Arbeiten bedeutet, dass man mithilfe von Theorie und Daten Hypothesen generiert, die empirisch durch Studien bestätigt oder widerlegt werden müssen. Der Run auf Künstliche Intelligenz stehe "im krassen Gegensatz zu diesem Erkenntnisprozess: Man tut so, als ob man in riesigen Datenmengen einfach nach Korrelationen suchen kann und diese dann einen Sinn ergeben. Da kommt unglaublich viel Schwachsinn heraus. Das ist wie das Suchen nach einer Nadel im Heuhaufen. Durch Big Data macht man jedoch den Heuhaufen nur noch größer."

Die Folge: Je mehr unstrukturierte Daten man auswertet, um so mehr Korrelationen entdeckt man. Aber das Rauschen wächst schneller als die richtigen Signale. Antes warnt vor 'Spurios Correlations' - falschen Erkenntnissen: "Solche falsch-positiven Ergebnisse sind eines der zentralen Probleme der empirischen Forschung und können durch den Big-Data-Ansatz über die Korrelationen zu voller Blüte gelangen." Bereits im Jahr 2015 haben wir an dieser Stelle angesichts des Attentats von Paris den tödlichen Irrtum des Vertrauens der Sicherheitsbehörden in algorithmengesteuerte Auswertungen großer Datenmengen analysiert (Paris und Big Data: Der tödliche Irrtum 'Vorratsdatenspeicherung'). Denn: "Fast jedes große Attentat von Terroristen im Westen in den letzten 15 Jahren wurde von Menschen durchgeführt, die die Überwachungsbehörden bereits kannten", analysiert der NSA-Beobachter Matthias Schwartz im New Yorker  . Unter der Überschrift 'Der gesamte Heuhaufen' belegt Schwartz, dass die Attentäter von Mumbai, London, Paris oder Boston längst in den digitalen Fängen von FBI, MI5, NSA und russischem Geheimdienst gewesen seien - und trotzdem zuschlagen konnten.

Warum Maschinenlernen die Sache nicht besser macht

Die Hoffnung der KI-Prediger ist dabei Maschinenlernen. Wenn der Mensch schon zu einfältig ist, um funktionierende KI-Algorithmen zu entwickeln - die Maschine kann es sicher. Hier ist 'AutoML' der aktuelle heiße Scheiß: Mit AutoML wird zum Beispiel die Erstellung der Modelle für das Maschinelle Lernen automatisiert. Nicht nur Google ist im Bereich AutoML aktiv, es gibt Lösungen wie Google Cloud AutoML  , Amazon SageMaker  , Microsoft Azure Machine Learning Studio  , RapidMiner Auto Model   und H2O Driverless AI  .

Sehen wir uns einen AutoML-Dienst genauer an. Google Cloud AutoML bietet bisher drei Dienste, den Übersetzungsdienst Cloud Translation  , den Textanalyse-Dienst Cloud Natural Language   und den Bildanalyse-Dienst . AutoML Vision zum Beispiel ermöglicht es Entwicklern mit geringen Kenntnissen über Maschinelles Lernen, qualitativ hochwertige benutzerdefinierte Modelle zu trainieren, so Google. Der Ablauf dabei ist: Nachdem die Bilder hochgeladen und mit Labels versehen wurden, trainiert AutoML ein Modell, das nach Bedarf angepasst werden kann, sprich: Man liefert AutoML einen Bilderdatensatz, der mit Labeln versehen ist, bei dem man also zum Beispiel Autobildern das Label "Auto" zugeordnet hat.

Auf dieser Basis soll ein Modell zur Bildanalyse trainiert werden, das dann später möglichst zuverlässig den Bildern das Label "Auto" verpasst, die auch ein Auto zeigen. Dass wir Menschen das können, hilft uns bei den bekannten CAPTCHA vieler Onlinedienste weiter. Tatsächlich helfen wir Menschen aber auch den AutoML-Diensten weiter: Wenn die Daten nicht bereits von dem Nutzer mit einem Label versehen wurden, kann man das Labeling bei Google & Co. bestellen. Dabei machen im ersten Schritt Menschen (!) die Kennzeichnung. Man spricht auch von Human-in-the-loop (HITL) im Machine Learning: Zuerst kennzeichnen Menschen die Daten. Dies ergibt ein Modell mit hoher Qualität und eine große Menge an Trainingsdaten. Der Algorithmus für ML lernt dann, aus diesen Daten Entscheidungen zu treffen. Diese Entscheidungen prüfen die Menschen und optimieren so das Modell, später nur noch an den Stellen, an denen der Algorithmus sich nicht sicher ist.

Die Folge: Maschinenlernen löst das Problem der Künstlichen Intelligenz nicht, es hilft nur, dass die KI mit ihr schneller lernt, Fehler zu machen. Die Unfähigkeit der KI, mit komplexen, nicht regelabbildbaren Systemen umzugehen, bleibt, wie Wissenschaftler der TU Darmstadt am Beispiel des islamistischen Terrors bewiesen haben. Die Darmstädter Forscher   um Prof. Stefan Katzenbeisser und Prof. Kay Hamacher haben agentenbasierte Simulationen durchgeführt, eine Methode aus der Biologie, um Netzwerke von Interaktionen vieler Beteiligten zu untersuchen. Hierfür nutzten die Wissenschaftler Handlungsmuster bekannter realer Terrornetzwerke. Die Annahme war dabei, dass sich Terroristen und normale Bürger im Kommunikationsverhalten zumindest zeitweise unterscheiden.

Sofern sich Terroristen regelkonform verhalten, funktioniere das System. Gemeinerweise tun Terroristen das aber nicht. Weil aber auf lange Sicht auch unbescholtene Bürger irgendwann einmal mit hoher Wahrscheinlichkeit ein ähnliches Telefonverhalten aufweisen wie Terroristen, steigt auf lange Sicht die Zahl der False Positives. Hinzu kommt, dass hochgefährliche, kleine Gruppen, wie sie die Darmstädter untersucht haben, die Ermittler sehr einfach auf falsche Spuren locken können.

Offenbar hat die Sozialforscherin Danah Boyd recht, wenn sie schon 2010 in einem Aufsatz über Big Data   kritisiert:

• Große Datenmengen müssen nicht qualitativ bessere Daten sein
• Nicht alle Daten sind gleichermaßen wertvoll
• "Was" und "Warum" sind zwei unterschiedliche Fragen
• Bei Interpretationen ist Vorsicht geboten

Den Weg für Maschinen in komplexe Systeme öffnen soll Machine Reasoning  , also maschinelles Schlussfolgern. Anbieter wie Arago   versuchen hier, Maschinen mit Gründen von menschlichem Handeln zu füttern, um sie in Kausalitätsmaschinen zu verwandeln. Wenn Maschinen verstehen, warum Menschen bestimmte Entscheidungen treffen, werden sie irgendwann in der Lage sein, ebenfalls den Grund zu kennen - und eher menschliche Entscheidungen nachmachen können. Doch bis dahin ist der Weg im besten Fall noch sehr weit - und viele KI-Forscher bezweifeln, dass sich Computersysteme überhaupt aus der Beschränktheit digitaler Modelle werden lösen können.

Drei Erdungen für Digitalverantwortliche

Um nicht auf die KI-Falle hereinzufallen, empfehlen wir

1. Wahrscheinlichkeitswolkenwegpusten
   Wenn eine KI-Software ein Muster erkennt (zum Beispiel: "Menschen, die rosarote Plüsch-Einhörner kaufen, klicken in der Folge auch auf Rosa-Prinzessinnen-Angebote..."), erkennen Sie ein Wahrscheinlichkeitsmuster, weswegen daraus geschlussfolgerte Aktionen des Marketing-Entscheiders ("...und sollten deswegen GANZ VIEL Mädchen-Überraschungsei-Banner angezeigt bekommen") durchaus einen positiven KPI aufweisen können. Allerdings hat die Big-Data-Analyse wesentlich weniger Aussagekraft als der Blick in den Warenkorb ("Susi hat ein rosarotes Plüsch-Einhorn und sämtliche Folgen von Prinzessin Lillifee   gekauft"), weswegen das Mädchen-Überraschungsei-Banner vielleicht bei Susi funktionieren würde, nicht aber bei dem Rocker-Onkel, der ein Geburtstagsgeschenk für seine Nichte online gekauft hat - und den Mädchen-Überraschungsei-Targetingbanner tierisch annerven. Solange man nicht personenbezogene Daten erhebt, wird man immer in der Wahrscheinlichkeitswolke hängen bleiben - mit der daraus folgenden relativ hohen Fehlerrate. Die sich noch vergrößert, wenn man schlechte Algorithmen oder unvollständige Datensätze verwendet. Das ist der Grund, warum das Targeting seit Jahren konstant so grottenschlecht ist, wie es ist. Ein wirklich funktionierendes CRM und 1:1-Marketing bringen hier Abhilfe.
   


2. Gemeines-disruptives-Verhalten-Erkennen
   Doch selbst wenn KI-Anwender tatsächlich über personenbezogene Daten verfügen (an dieser Stelle singt der Datenschützer-Chor seinen unüberhörbaren Kanon "Böse-Verboten-Böse"): Die Darmstädter Vorratsdatenspeicherung-Studie belegt, dass Big Data selbst hier seine natürlichen Limitationen hat. Terroristen können die Ermittler sehr einfach auf falsche Spuren locken, wenn sie sich nicht Algorithmus-konform verhalten. Verbraucher hebeln Marketing-KIs aus, indem sie zum Beispiel wissentlich falsche Daten angeben oder ihre Spuren verschleiern durch Adblocker, Privacy-Tools wie Privacyfix   oder einfach durch Browsereinstellungen. Die Alternative zu schlechten Daten durch KI sind nicht noch mehr Daten - sondern Wissen. Und dazu ist es zwingend nötig, anonyme Daten konkreten Menschen zuzuordnen. Daraus folgt, dass Nutzeridentifikation die Königsdisziplin für alle ist, die datengetriebenes Marketing betreiben wollen.


3. Magie-Häresie
   Es wird nie jemand zugeben. Aber die insgeheime Hoffnung der KI-Kunden ist ja, dass diese neue, geheimnisvolle Software ("Künstliche Intelligenz!" "Maschinenlernen!" "Neuronale Netze!") so eine Art Zauberstab ist, der einem die ganzen Analytic-, KPI- und Renditesorgen weghext. Schließlich ist ja wahrhaft fortgeschrittene Technik von Magie nicht zu unterscheiden. Abhilfe schafft, das ganze Zeug schlicht "Algorithmus" zu nennen. Dann kann man Entscheidungen abseits der Hex-Hex-Hoffnungen treffen.