Es tut mir leid, aber diese KI-News müssen jetzt sein

Gefährlicher Blödsinn Nr. 1: Künstliche Intelligenzen können Stimmen imitieren, wenn sie damit trainiert werden. Also auch prominente. So weit, so bekannt. Was jetzt in den USA aber gerichtskundig wurde, ist eine ganz neue Eskalationsstufe in Sachen Desinformation. Folgendes ist passiert: In New Hampshire taten sich zwei Männer, der Politikberater Steve Kramer und der Zauberer Paul Carpenter zusammen, um mit Hilfe der KI von Eleven Labs   die Stimme von US-Präsident Joe Biden zu imitieren, die dann für Fake-Telefonate genutzt wurde, um die Angerufenen davon abzuhalten, zu den Vorwahlen in New Hampshire zu gehen. Drei von ihnen klagen jetzt den Initiator und die betroffenen Telekommunikationsfirmen der Einschüchterung, Nötigung und Täuschung an. Das Ganze soll aber im Sinne einer Werdet-euch-der Gefahren-von-KI-bewusst-Initiative gestartet worden sein. "Wenn das jeder machen kann, wozu ist dann erst jemand mit richtig Geld imstande?", zitiert die Washington Post den angeklagten Politikberater. Die Klage wurde beim U.S. District Court of New Hampshire hinterlegt.

Das wird also noch spannend, wenn im Sommer die heiße Phase des US-Wahlkampfs beginnt. Wie überhaupt solchen Deep Fakes natürlich Tür und Tor geöffnet sind: Betrüger benutzen schließlich schon heute das Telefon, um Leute zu übertölpeln. Jetzt können sie sich dafür noch besser wappnen.

Ein bisschen fühlt sich das schon so an, als wäre damit die Büchse der Pandora geöffnet worden.

Und nicht nur damit.

Blödsinn Nr. 2: KI-Spam droht sich in den sozialen Netzwerke wie eine Flutwelle auszubreiten. Vorreiter ist TikTok. Schlaue Geister haben sich den Algorithmus des Kurzvideodienstes zum Ziel für ihre per KI montierten Videos   genommen, die aus anderen Videos zitieren, Musik reinkopieren, KI-Stimmen drüber laufen lassen. Und das ohne jeden Zusammenhang, sondern einzig mit dem Ziel, von Tiktok nach oben berechnet zu werden - denn dort gibt es natürlich die Werbung, über die Geld an die Spammer fließt. Die Süddeutsche Zeitung   spricht von mehreren zehntausend Euro im Monat, die User damit erwirtschaften. Welche Videoschnipsel zu welcher Musik und welchen Texten am besten laufen, darüber wird in Foren heiß diskutiert. Easy Money, die KI-Variante.

Auf dank KI-Spam hochgespülte Inhalte muss man sich aber wohl auch bei Google, Amazon und Ebay einstellen, eigentlich überall dort, wo Content Algorithmen beeinflusst - betrügerische Webseiten und gefakte Kundenbewertungen, die in den Suchergebnissen prominent auftauchen, das könnte noch zum großen Problem werden. Die Hoffnung ist natürlich, dass die Firmen hier rechtzeitig kräftig dagegen steuern werden. Vertrauen ist schließlich ihr größtes Kapital.

Und hier der Blödsinn Nr. 3, ein gefährlicher obendrein. KI kann natürlich auch mit Falschinformationen gefüttert werden. Absichtlich. Einfach ist es nicht, aber möglich, warnt Florian Tramèr , Assistenzprofessor an der ETH Zurich  , der unter anderem zu Maschinellem Lernen forscht. Zum Beispiel  , zählt er auf, könnten Wikipedia-Seiten kurz vor dem Trainingseinsatz in einer KI mit Texten bombardiert werden, die voller faktischer Fehler sind. Oder Chatbots könnten User dazu anleiten, private Daten einzugeben, die dann beim Hacker landen. Und das, weil die KI hinter dem Chatbot von dem Online-Angreifer mit bösartig irreführenden Informationen gefüttert wurde.

Da verwundert es nicht, dass viele Größen der KI-Industrie - Google, Amazon, Salesforce - ihre Erwartungen an die gehypte Technologie inzwischen deutlich herunter geschraubt haben, heißt es in diesem Artikel (der leider hinter der Paywall liegt) des Tech-Dienstes The Information  . Vor allem aus zwei Gründen: Unsicherheiten über die Antwortqualität der KI hinsichtlich Richtigkeit, Wahrheit und Aktualität und, in dem vieldiskutierten Fall eines KI-automatisierten Kundendienstes, bisher fehlendes Vertrauen in das "Verhalten" der Technologie im Dialog.

In einem sehr viel kürzeren Zeitraum erinnern Ankunft und Entwicklung der Künstlichen Intelligenz an diejenige von Social Media  . Anfangs wurden beide endlos gehypt (Ermöglicher des Arabischen Frühlings und anderer Protestbewegungen), es folgte eine Phase der Ernüchterung und schließlich, rund um die sozialen Netzwerke, ein bodenlose Enttäuschung. KI erreicht gerade Phase 2.

Christian Gehl, iBusiness-Analyst

PS: iBusiness Executive Briefing ist ein exklusiver Service von iBusiness und erscheint Dienstag und Donnerstag. Sie wollen ihn regelmäßig per E-Mail? Einfach kostenlos den iBusiness Daily Newsletter abonnieren.