KI, die nächste: Jetzt kommen Bilder - und richtige Probleme

Künstliche Intelligenz (KI) bestimmt schon heute ganz unbemerkt unser Leben. Von semi-autonom fahrenden Fahrzeugen über Handy-Login per Gesichtserkennung bis hin zum Screening von Bewerberdaten: In vielen Bereichen ist KI längst Standard.

Den medialen Durchbruch hat KI unlängst durch ChatGPT   erfahren und die Fähigkeiten scheinen von "nur blöd" über "sehr intelligent" bis "erschreckend gefährlich" zu reichen. Doch wo stehen wir de facto? Ist die Technologie wirklich intelligent? Was macht KI anders als bisherige Algorithmen, und warum müssen wir uns heute mit KI auseinandersetzen? Diese Fragen möchte ich erläutern und es gleich vorwegnehmen: Wer sich heute nicht mit der Anwendung von KI für sein Unternehmen auseinandersetzt, wird der Verlierer von morgen sein.

Warum KI wirklich anders ist

Computer wurden bisher primär über Algorithmen programmiert, bei denen der Mensch die Abläufe vorausdenkt und damit genau bestimmt. Daher kann bei klassischen Computerprogrammen genau deterministisch nachvollzogen werden, warum eine bestimmte Eingabe eine bestimmte Ausgabe produziert.

Algorithmen sind deterministisch

Will man beispielsweise einen Algorithmus für eine Bilderkennung programmieren, die schwarz gefüllte Kreise erkennt und schwarz gefüllte Quadrate aussortiert, könnte man wie folgt vorgehen: Basierend auf mathematischen Kreisfunktionen versucht der Algorithmus den Kreismittelpunkt und dessen Radius in einer Ansammlung von Pixeln zu berechnen. Liegen sämtliche Bildpunkte des Prüfbildes vollständig innerhalb des berechneten Kreises, gibt der Algorithmus "Kreis" aus - andernfalls muss es sich um ein Quadrat handeln, das aussortiert wird. Will man nun auch Dreiecke erkennen, kann der Algorithmus um Winkelfunktionen erweitert werden. Ähnlich wie bei der Kreiserkennung kann man so den 90 Grad Winkel bei Quadraten berechnen - und damit Dreiecke aussortieren, denn deren Bildpunkte passen weder vollständig in ein Quadrat noch in einen Kreis. Um weitere geometrische Figuren zu erkennen, muss der Algorithmus immer ergänzt werden. So weit, so einfach.

KI funktioniert anders

Künstliche Intelligenz funktioniert jedoch gänzlich anders. Hier simuliert ein Algorithmus "nur" Millionen von Knotenpunkten und Kanten zwischen den Knoten - ähnlich wie Nervenzellen und Nervenverbindungen im Gehirn. Daher spricht man bei KI auch von neuronalen Netzen. Der Clou bei jeder KI: Sie wird trainiert - beispielsweise mit Bildern von Kreisen, Quadraten, Dreiecken und weiteren Figuren. Durch das Training werden die Gewichte der Kanten berechnet, die Übergangswahrscheinlichkeiten zwischen den Knoten darstellen und die sich mit jedem Lernschritt verändern. So entsteht eine mehrdimensionale Matrix (genauer ein Tensor, also eine Matrix von Matrizen) von Übergangswahrscheinlichkeiten zwischen allen n-Knotenpunkten, das sogenannte trainierte KI-Modell.

Validiert man dann das gelernte Modell mit einem Bild, so durchläuft der KI-Algorithmus das Netz von Knoten und Kanten entsprechend der Gewichte und kann so mit einer gewissen Wahrscheinlichkeit feststellen, um welche geometrische Figur es sich handelt. In der Praxis bedeutet dies, dass man nicht genau weiß, wie die KI auf das Ergebnis gekommen ist und das Ergebnis ist immer nur "wahrscheinlich". Denn das Resultat ist nur eine Verkettung von Wahrscheinlichkeiten, die wiederum allein auf den Trainingsdaten basieren. Klingt kompliziert - ist es im Detail auch.

Intransparente Black Box

In der Folge bedeutet dieses Herangehen, dass eine KI stets eine "Black Box" ist, deren genaues Ergebnis ausschließlich von den Trainingsdaten abhängt - und daher nie hundert Prozent exakt ist und nie ganz genau nachvollzogen werden kann.

Am Ende ist eine KI wie ein kleines Kind, dem man hundertmal einen Apfel und eine Orange zeigt. Irgendwann kann das Kind mit einer gewissen Wahrscheinlichkeit Orangen von Äpfeln unterscheiden. Das Kind wird bei einer bisher nicht erlernten Kaki-Frucht vielleicht mal zu einem Apfel tendieren, mal zu einer Orange. Und warum es sich jeweils so entscheidet, hängt nur vom Training ab, ist aber im Detail nicht genau nachvollziehbar und bleibt intransparent - genau wie eine KI.

KIs eignen sich damit insbesondere zur Klassifizierung von Objekten, zur Erkennung von Anomalien in Daten aber auch für Prognosen, das heißt einer wahrscheinlichen Fortsetzung einer vorgegebenen Datenreihe. Nur wie genau die KI die Objekte klassifiziert und warum eine bestimmte Prognose ausgegeben wird, lässt sich praktisch nicht mehr nachvollziehen. Und dies ist gleichzeitig der große Vorteil einer KI, aber auch ihre Schwäche und letztlich auch eine Gefahr.

Denn bereits heute sind KIs - beispielsweise zum Filtern von Bewerbern - zumeist nicht neutral, wie Studien belegen. Sie bevorzugen klar männliche Weiße, da die Trainingsdaten, die ihnen zur Auswahl besonders effizienter Kandidaten vorgelegt wurden, bereits ein entsprechendes Bias enthalten. Wer beispielsweise einer ethnischen Minderheit angehört oder dem Trainingsideal nicht entspricht, wird schnell aussortiert. Die Stilblüten sieht man bereits in den USA, wo Lebensläufe so getunt werden, damit der KI-Filter nicht greift und der Lebenslauf bei einem realen Personalentscheider landet.

Hype um generative KI

Eine besondere Klasse der Künstlichen Intelligenz ist die "generative KI" mit bekannten Vertretern wie ChatGPT, Midjourney   oder Stable Diffusion  . Hierbei generiert die KI aus einer menschlichen Vorgabe, dem sogenannten "Prompt", etwas Neues.

Wortvorhersage mit Potential

Das derzeit gehypte ChatGPT ist ein Text-Generator, der im Kern zunächst nichts anderes als eine Prognose-KI ist, die das jeweils wahrscheinlichste nächste Wort des Prompts vorhersagt. Ein Prompt "Wie wird" kann so vielleicht durch "das Wetter" oder "man Professor" ergänzt werden. Der besondere Clou an ChatGPT: Es wurden nicht nur Texte mit trivialen Konversationen trainiert, sondern das gesamte Internet ist die Basis für das Training und damit für die Entscheidung über die Fortführung eines Prompts. Und die Wortvorhersage ist nicht auf einige Worte begrenzt, sondern sie umfasst beinahe beliebig lange Texte.

ChatGPT geht aber weiter als einfache Textvorhersagen, indem es zum einen die gesamten, teilweise komplexen Eingaben, also die Fragen des Nutzers, für die Vorhersage verwendet und zum anderen auch den Kontext des bisherigen Dialoges einbezieht und darauf das gesamte erlernte Text-Wissen des Internets anwendet. Daher verblüfft ChatGPT häufig mit einem profunden Wissen, enttäuscht aber auch immer wieder mit Halbwahrheiten oder schlichten Fehlern. Denn bekanntlich sind nicht alle Dinge im Internet wahr - und eine KI "kennt" keine Wahrheit, sondern sie folgt nur den Wahrscheinlichkeiten im trainierten Modell. Die alte Informatiker-Weisheit "Garbage in - Garbage out" trifft es an dieser Stelle sehr gut. Ein diskriminierender KI-Bewerberfilter knüpft direkt daran an.

Bild statt Text

Die erwähnten KI-Bildgeneratoren sind aus meiner Sicht daher besonders spannend. Sie werden mit Bildern und deren textlichen Bildbeschreibungen trainiert und generieren wiederum Bilder. Das Prompt "Mann auf Straße mit Autos, 50mm Zoom, professionelles Portraitfoto" setzt diese entsprechend um - mit unglaublich verblüffenden Ergebnissen.


Anders als ChatGPT funktionieren diese Bild-generativen KIs auf erlernten "Konzepten" mit einem parallelen KI-Sprachmodell im Hintergrund. Die KI des Sprachmodells erzeugt technisch einen Vektor, der auf das Konzept zeigt und es so mit dem entsprechenden Bildmodell verknüpft. Dabei lernt die KI durch das Training beispielsweise nicht nur, dass sich das Konzept "Gesicht" aus den Konzepten Haare, Augen, Augenbrauen, Nase et cetera zusammensetzt, sondern auch wie diese Konzepte im Einzelnen bildlich aussehen. Nicht technisch kann man sagen, dass die KI das Konzept "Auge" mit entsprechenden Darstellungen von Augen assoziiert - und im besten Fall Millionen von Augen gelernt hat und damit neue Augen erzeugen kann. Erstaunlich dabei ist, dass keins der so generierten Augen exakt einem zuvor trainierten Auge entspricht, sondern sie diesen - basierend auf Wahrscheinlichkeiten im Modell - immer nur ähneln.

Kreativität aus Zufall

Die Generierung startet dabei stets mit einem Anfangsbild, das im einfachsten Fall zufälliges "Pixel-Rauschen" darstellt. Ähnlich dem Vorgehen, um aus einem Holzblock einen Elefanten zu schnitzen, indem man alles wegstemmt, was nicht nach Elefant aussieht, funktioniert auch die Bildgeneration. Aus dem Rauschen des Anfangsbildes wird über n-Schritte so lange alles entfernt beziehungsweise diffus zusammengefasst, bis nur noch das übrig bleibt, was der Bildbeschreibung entspricht. Klingt nach Magie - und wer es selbst einmal ausprobiert hat, denkt an selbige und kommt aus dem Staunen nicht mehr raus.

Variiert man das Rauschen des initialen Bildes, so entstehen immer wieder neue Bilder, die allesamt dem Prompt entsprechen. Millionen von unterschiedlichen Kreationen, beispielsweise eines Auges, sind damit möglich. Nimmt man als Startbild statt Rauschen ein existierendes Bild, das zum Prompt passt, so generiert die KI daraus ein ähnliches Bild. Wie ähnlich dieses dem Original kommt, hängt von einem einstellbaren Rauschwert ab, quasi dem Freiheitsgrad der KI. So entsteht ein gigantisches Kreativpotential, bei dem Agenturchefs in Feierlaune kommen - mit dem aber auch "normale" Anwender bisherige Agenturleistungen ersetzen können. Kreative sollten sich daher frühzeitig auf Veränderungen einstellen und sich mit dieser Technologie schon heute auseinandersetzten, denn sie wird die Zukunft ihrer Arbeit bestimmen.

Intelligenz = Abstraktion + Assoziation?

Auf die Frage, ob eine KI wirklich intelligent ist, kann ich keine Antwort geben. Denn die Frage, was eigentlich Intelligenz ist, ist für mich als Mathematiker eher philosophischer Natur. In der Mathematik lernt man vor allem eins: zu abstrahieren. Hat man einen Lösungsansatz für etwas Abstraktes gelernt, kann man diesen Lösungsansatz bei allem Konkreten anwenden, welches aus der Klasse des Abstrakten kommt.

Dass beispielweise "Bruchrechnen" nur die konkrete Anwendung von Operationen auf natürliche Zahlen in einem abstrakten Quotientenkörper ist, versteht man meist erst im Mathematik-Studium. Das sehr mächtige Konzept des Quotientenkörpers und alle damit verbundenen Techniken lassen sich so auf unterschiedliche konkrete Ausprägungen eines Quotientenkörpers anwenden. Bruchrechnen wird dadurch trivial - und diese Trivialität empfinde ich als Intelligenz.

Auf KIs übertragen bedeutet dies: Eine KI lernt bereits Konzepte - also etwas Abstraktes. Und eine KI kann assoziieren, nämlich das Wort "Augen" mit dem Konzept "Augen" und dem Bild von "Augen". Kombiniert man jetzt ein beliebiges Wort wie "Sonnenblume" zu "Auge Sonnenblume", dann bildet die KI einen mathematischen Gradienten zwischen den Konzept-Vektoren und erschafft damit neue Bildkreationen, die beide Konzepte geschickt vereinen. Ein Schelm, wer hier nicht an eine unglaubliche Kreativität gepaart mit Intelligenz denkt. Aber ich will das Thema nicht weiter vertiefen.

"Wer nur den Hammer kennt..."

Nur eins möchte ich festhalten: ChatGPT ist genauso wenig ein einfacher "Lorem Ipsum"-Generator, wie ein Prognosesystem für Börsenkurse. Wer das glaubt, hat den Anwendungsbereich des Text-Generators nicht verstanden. Ähnlich wie mit einem klugen Friseur, kann man sich mit ChatGPT prima über alles unterhalten - auch über Börsentipps. Nur vertraut man bei Geldanlagen seinem Friseur oder lieber einem spezialisierten Anlageberater? In jedem Fall gibt es auch für Anlageberatung speziell trainierte KIs, die häufig bessere Prognosen abgeben als ihr menschliches Pendant.

Selbst ChatGPT ist keinesfalls "fertig", sondern kann durch spezifisches Domänenwissen mit Detailkenntnissen erweitert werden. So sind Spezialisierungen für individuelle Anwendungsfälle in Unternehmen möglich. Jedoch ist kein KI-System alleine ein Werkzeug für "alles". Erst durch die Verknüpfung von KI-Systemen entsteht etwas sehr Mächtiges - und potentiell auch Gefährliches. Ob das dann intelligent ist, muss jeder für sich entscheiden.

Der Schlüssel unserer Zukunft: KI-Verknüpfung

Nimmt man bereits heute existierende KIs und integriert sie miteinander, entsteht etwas Zukunftsweisendes. So kann man sich leicht vorstellen, dass durch die Verknüpfung von KI-Spracherkennung wie Siri, gepaart mit KI-Textgeneratoren wie ChatGPT oder novelistAI   aus dem gesprochenen Satz "Ein schöner Liebesfilm mit Happy End" eine Geschichte für einen Film entsteht. Füttert man diese Geschichte wiederum in eine KI zur Bilderzeugung wie Stable Diffusion gepaart mit Deforum  , so erhält man leicht ein Video. Auch Sprach- und Musik-Generierung ist mit BHuman   oder Sounddraw   bereits mit KI möglich. Natürlich sind die Übergänge heute noch manuelle und wir stehen hier erst am Anfang. Aber in naher Zukunft, das ist meine Prognose, erhalten wir ein individuell generiertes Video oder einen ganzen Film einfach nur auf Zuruf.

Veränderungen durch KI

So toll sich dieses Szenario vielleicht anhört, so dystopisch ist es auch. Denn wer braucht noch kreative Drehbuchautoren, Filmemacher, Musiker oder Schauspieler? Gleiches gilt in anderen Bereichen, wo KI die Arbeitswelt, wie wir sie heute kennen, radikal verändern wird.

Aber Veränderung bedeutet nicht immer etwas Schlechtes. Ähnlich wie bei der Industrialisierung oder der Digitalisierung wird es Verschiebungen in der Arbeitswelt geben. Neue Jobs werden entstehen und unsere Gesellschaft wird sich anpassen und verändern. Das hat es seit der Steinzeit immer gegeben.

Das betrifft auch unser Rechtssystem. Denn wer ist der rechtliche Urheber von KI-Kreationen? Wie gehen wir mit Deep Fakes um? Wie wird sich Kriminalität durch KI verändern und wie die Rechtsverfolgung?

Und was passiert, wenn bald KIs andere KIs trainieren, diese selbstständig verknüpfen und vollständig autonom handeln? Was wie eine Dystopie klingt, ist dank fortschreitender Rechenleistung tatsächlich nicht mehr weit von der heutigen Realität entfernt und die Grundlagen sind gelegt.

Wir stehen vor tiefgreifenden neuen Fragestellungen, deren Beantwortung wir nicht zu weit in die Zukunft schieben dürfen. Denn die Veränderungen - insbesondere die zum Schlechten - haben bereits begonnen.

Ethik ist gefragt

Mit Blick auf die Treiber des Open Source Bildgenerators Stable Diffusion beispielweise stellt man schnell fest: Pornografie und Gewalt haben das größte Momentum. Dabei schießen nicht nur neue Geschäftsmodelle mit Portalen zum Austausch von Nutzer-generierten KI-Modellen und Prompts wie Pilze aus dem Boden. Auch der Abschaum des menschlichen Geistes gesellt sich hier dazu. KI-Modelle, die sowohl mit "erotischen Darstellungen" trainiert als auch mit Bildern von Kindern kombiniert wurden, sind der Run. Die nackte Fünfjährige mit einem Dildo im Anus: Kein Problem. Spezielle Modelle für Gewaltfantasien mit gehängten Menschen - kombiniert mit realen Celebrities? Alles ist schon da. Leider. Open Source sei Dank. Denn anders als bei Cloud-basierten Generatoren sind hier keine Sperren eingebaut und die Generierung läuft lokal - auf dem PC daheim.

Hier mache ich mir die größten Sorgen. Nicht weniger als die Verrohung unserer zivilisierten Gesellschaft steht vor der Tür. Wir alle, die KI-Systeme entwickeln, trainieren und Technologie verstehen - aber auch diejenigen, die KI-Systeme nur anwenden, sind gefragt. Eine Kennzeichnung von KI-generierten Inhalten sollte eine Selbstverständlichkeit sein. Ob eine KI-Verordnung, wie sie in der EU vorangetrieben wird  , hier wirklich schnell genug kommt und alleine ausreichen wird, wage ich zu bezweifeln. Wir als Gesellschaft müssen umgehend eine Ethik für KI und einen bewussten Umgang mit KI entwickeln. Gesetze alleine werden nicht reichen - von deren Durchsetzung ganz zu schweigen.

Machen statt nur Denken

Was bedeutet dies alles für unser Business? Jeder Verantwortliche, der heute KI als Modeerscheinung abtut und es für einen Hype hält, der wieder vorbei geht, verschläft die Zukunft. Die enormen Chancen mit KI liegen auf der Hand - ähnlich wie die Risiken und Gefahren. Wir müssen uns daher jetzt damit auseinandersetzen.

Ich bin überzeugt, dass wir am Anfang eines enormen Umbruchs stehen, der sich ähnlich gravierend auf alle Geschäftsfelder auswirken wird wie die Industrialisierung oder Digitalisierung. Nur wird diese Veränderung sehr viel schneller verlaufen als alle großen Veränderungen der Vergangenheit. Daher ist es die Pflicht jedes Unternehmens, heute über den Einsatz von KI nachzudenken. Und Denken alleine wird nicht ausreichen, sondern Machen ist gefragt. Denn diejenigen, die KI unterschätzen und nur reagieren statt zu innovieren, werden die Verlierer in der Zukunft sein.

---

Christian Bennefeld, Datenschutz-Aktivist und Seriengründer (unter anderem des oben erwähnten Datenschutzdienstes eBlocker)