Analyse: Was der Google Maps Hack über die Grenzen der KI sagt

Was passiert ist: Der Berliner Künstler Simon Weckert hat sich eine Kunstaktion   einfallen lassen, um die Verwundbarkeit von Google Maps zu zeigen: Er hat sich 99 gebrauchte Smartphones besorgt, in einen Handkarren gesteckt und ist damit durch die Straßen Berlins gezogen. Durch leere Straßen wohlgemerkt. Auf diese Weise hat Weckert dem Kartendienst Google Maps ein Schnippchen geschlagen. Denn obwohl die Straßen tatsächlich weitgehend menschenleer waren, kennzeichnete Google sie anhand der Smartphonedaten als überlastet und navigierte andere Autofahrer darum herum. Die leeren Straßen wurden noch leerer. Ein lustiger Hack.

Was nun passiert:

Vordergründig kann man sich freuen, wie leicht sich der weltgrößte Online-Anbieter an der Nase herumführen lässt. Tatsächlich steckt aber viel mehr dahinter: Die Aktion zeigt, wie schwach datengetriebene Geschäftsmodelle tatsächlich sind und wie blind wir Diensten vertrauen, ohne zu hinterfragen, auf welch dünner Basis die vermeintlich sicheren Entscheidungen gefällt werden. Die Aktion wird mit Sicherheit nicht die letzte ihrer Art sein. Es gibt unzählige ähnliche Beispiele, die demonstrieren, wie manipulierbar das vermeintlich unbestechliche Maschinenwissen ist, wenn es auf Algorithmen basiert.

Was davon zu halten ist:

Letztlich führt die Aktion plastisch vor Augen, was längst zu einem der großen Probleme der digitalen Welt wird: Die extrem leichte Manipulierbarkeit. Eigentlich nichts Neues:

Bei Google Bombing wird ein bestimmter Begriff (z. B. "Idiot") so häufig mit einem bestimmten Inhalt (z. B. dem Wikipedia-Eintrag von Donald Trump ) verlinkt, bis Google einen Zusammenhang erkennt. Top-Treffer für den Suchbegriff "Idiot" wird der Lexikon-Eintrag des US-Präsidenten. Letztlich handelt es sich um ein lustiges Tool aus der großen SEO-Trickkiste. Und letztlich ist auch jede andere SEO-Maßnahme nur eine Technik, die versucht den Google Algorithmus zu manipulieren. Entweder durch Vorspiegeln falscher Tatsachen (etwa: Link-Building) oder durch das gezielte Schaffen von Fakten (zum Beispiel: Content-Marketing). Das selbe gilt für Bots, die eine Mehrheit zu bestimmten Meinungen vorgaukeln, mittels Fake-Bewertungen den Wettbewerb beeinflussen oder durch Klickbetrug versuchen, Werbegelder abzugreifen. Selbst autonomen Autos konnte schon durch winzige, kaum sichtbare Veränderungen an Verkehrsschildern komplett die Orientierung geraubt werden.

Im Kern zeigt die Aktion: Algorithmen funktionieren simpel. Ihnen liegt immer ein verstehbares, mathematisches Modell zugrunde. Kennt man es, sind sie extrem leicht zu manipulieren. Es genügt, einige wenige falsche Daten unterzuschieben. Es müssen nur die entscheidenden Daten sein. Ein Algorithmus errechnet immer nur einen Wert, er wird seine Aussage aber nie kritisch überprüfen. Der Wert ist eine Tatsache und wird nicht in Frage gestellt. Wer aber Müll hineinschaufelt, wird auch Müll herausbekommen. "Garbage in, garbage out" heißt das Prinzip unter Informatikern.

In Zeiten, in denen der KI immer mehr zugetraut wird und sie immer mehr Entscheidungen fällen darf, sollte das Weckert-Experiment auf einer ganz grundsätzlichen Ebene nachdenklich stimmen. Es zeigt die Grenzen algorithmischer Macht.