Das Ende des Webs: Wie KI das Datenproblem eskaliert

Es ist eine einfache These, die der Social Media Watchblog   da aufstellt: Wenn alle immer mehr KI nutzen, gibt es immer mehr KI-Content und immer weniger nutzergenerierte Daten, um die Algorithmen zu trainieren. Dann wird ein unaufhaltbarer Qualitätsverfall einsetzen: Wir füttern den Maschinen den synthetischen Content, den sie ausgespuckt haben, wieder zurück. Oder knapper zusammengefasst: Dieser KI-Content-Inzest führt irgendwann zu schrottbasierten Algorithmen, die das Web mit immer neuem Schrott fluten.

Prognostiziert hat iBusiness.de diese Entwicklung bereits vor einem dreiviertel Jahr in einer Analyse. Damals wurde unsere These lediglich von den Studien besorgter Datenexperten gedeckt. Sie prognostizieren, dass den KIs bald schon die Trainingsdaten ausgehen könnten. Doch nun, kein Jahr danach, liefert die Realität eine Verifikation der Prognosen: Adobes   Bild-KI soll Lücken in den benötigten Trainingsdaten einfach mit KI-Bildern geschlossen haben. Und zwar pikanterweise mit KI-Bildern des Konkurrenz-Anbieters Midjourney  . Das macht einen derart großen Urheberrechtssack auf, dass sogar der Weihnachtsmann staunen würde: Laut Midjourney-AGB darf man dessen Bilder nicht zum KI-Training heranziehen. Doch in Anbetracht der Tatsache, dass Midjourney selbst munter ohne Zustimmung auf urheberrechtlich geschützte Bilder zugegriffen haben soll, beißt sich die Katze da selbst in den Schwanz. Doch die eigentliche Frage ist: Was passiert a) mit den KIs, wenn sie immer mehr KI-Daten verwenden und b) was geschieht mit dem Internet - wird es ein Ödland voller Maschinen-Inhalte, in dem die Bot-Herden grasen?

Die KI-Datenflut kommt in Jahren - nicht erst in Jahrzehnten

Ob KI-Content das Web übernimmt, ist zunächst einmal schwer zu diagnostizieren, "weil er nicht immer gekennzeichnet und selbst von Experten nicht immer als künstlich zu identifizieren ist. Daher ist es schwer eine empirische Bestätigung subjektiver Erfahrungen zu bekommen", sagt Professor René Peinl, Leiter des Institutes für Informationssysteme an der Hochschule Hof  . Er geht jedoch davon aus, dass die Flutung des Webs mit GenAI in der Tat zum realen Phänomen wird: "Ich denke, in manchen Bereichen wird es sehr schnell ablaufen: Ich sehe mit Furcht auf die US- und Europawahl, da ist eine KI-Schwemme wahrscheinlich." Er rechnet damit, dass dieses und kommendes Jahr vielleicht die Hälfte der 'Wahlinformationen' AI-generiert sein wird. "Wie das Gesamt-Web prozentual betroffen sein wird, ist schwer zu sagen, doch Folgen wird man in zwei bis fünf Jahren sehen, diese Entwicklung wird nicht Jahrzehnte benötigen."

Man könnte nun fragen, was schadet es langfristig schon, wenn ein paar Wahlinfos gefälscht sind - dem Internet bleibt doch ein Fundament an authentischen Informationen erhalten. Doch da neue KIs immer wieder auf den Gesamtbestand des Webs zurückgreifen, ist die Frage schon entscheidend, wie viel davon artifiziell ist. Hat man einen Grad an Datenverfall erreicht, dass die KIs nur noch Unfug anstellen, so spricht man vom 'Model Collapse' - dem Zusammenbrechen der mathematischen KI-Modelle.

Es ist aber auch möglich, dass die Entwicklung eine andere Route einschlägt.

Model Collapse vs Mode Collapse - Zwischen AI-pokalypse und Mittelmaß

Denkbar ist auch, dass das Web via KI mit mittelmäßigen Texten geflutet wird: Mittelmäßige Wiki-Einträge stehen neben mittelmäßigen Erklärvideos, die für mittelmäßige Ads unterbrochen werden, danach liest man mittelmäßige Rezensionen, die einem mittelmäßige Bücher empfehlen, die man in den Urlaub mitnimmt, zu dem einen der mittelmäßige Reisebericht inspiriert hat. Das Web als KI-generiertes Mittelmaß? Jeder weiß, dass das ein absoluter Fortschritt für die Sickergrube wäre, die das Web in weiten Teilen ist. "Ein Konvergenz der Daten in Richtung Durchschnitt wird an vielen Stellen stattfinden und nicht zu einer Qualitätssteigerung führen - das bedeutet aber auch: Synthetische Daten, bei denen wir die Diversität bewusst vergrößeren, können durchaus Qualität anheben", sagt Kristian Kersting, Professor für Künstliche Intelligenz und Maschinelles Lernen am Fachbereich Informatik der Technischen Universität Darmstadt  . Und auch der Durchschnitt könne manchmal helfen, wenn man beispielsweise tausend Seiten mit hanebüchenen Verschwörungstheorien eine Million Seiten KI-generierte Fakten entgegenstellt.

Genauso gut kann aber auch die Qualität sukzessive den Bach runtergehen: Denn egal wie gut KI ist, der Inhalt bleibt stets ein Mathematik-basiertes, artifizielles Produkt: "Kant war ein brillanter Philosoph, aber wenn man seine ganze Bildung ausschließlich von Kant bezieht, wird daraus keine aufregende Philosophie entstehen", sagt Kersting. "Da verbirgt sich der Unterschied zwischen Menschen und KI: Wir lernen auch aus Dingen, die wir als unsinnig empfinden, können unsere Meinungen begründen oder weitergehende Recherchen als sinnvoll und Links als passend begründen. Wir sind neugierig. Doch Maschinen sind nie Curiosity Driven Curiosity Driven."

Es kann also aufwärts gehen, abwärts oder einfach in die Mitte und sich dort einpendeln. Es ist aber zweitrangig, ob das Web, das wir im Jahre 10 n. Ch. (nach ChatGPT) haben werden, besser, schlechter oder schlafinduzierend mittelmäßig ist: Dass es immer artifizieller, maschinengetriebener und KI-bestimmter sein wird, ist eine kaum mehr abzuwendende Tatsache. Und wie sollte man als Marke, Marketeer oder Onlinehändler diesem Trend begegnen? Peinl sieht die KI hier einen der E-Mail vergleichbaren Entwicklungspfad einschlagen: "Solange es die Mail gibt, gibt es SPAM und solange wie es SPAM gibt, arbeiten wir an unserem Arsenal an entlastenden Gegenmaßnahmen. Für die KI heißt das: Solange Betrüger existieren, wird jedes verwendbare KI-Tool auch zum Schlechten benutzt werden." Willkommen im Tal der Ernüchterung.

Damit wird für alle, die KI nutzen, sei es im Angesicht des Nutzers (zur Content-Generierung) oder eher unauffällig im Backend, eines zur Priorität: Qualitätssicherung. Doch die ist besonders bei KI schwer zu gewährleisten. Die Herkunft von Daten war schon immer ein kritischer Faktor; doch selbst, wenn man bei einem namhaften Lieferanten einkauft, kann man sich Schrott einfangen: Das hat Peinl in einer Arbeit zu Fehlern in Spracherkennungsprogrammen festgestellt. Als Fehlerverursacher konnte er in einem Fall einen weitverbreiteten Datensatz identifizieren, der von Meta stammte. Einer Firma also, bei der man meinen sollte, Daten-Expertise und Qualitätssicherung unterstellen zu dürfen.

KI-Daten: Trends für die Interaktivbranche

Unternehmen sollten Daten verwenden, deren Metadaten sie kennen und selbst wiederum die Metadaten der eigenen Daten publik machen - Transparenz wird entscheidend im KI-Web. In den USA kursieren diverse Gesetzesentwürfe, die Firmen verpflichten sollen, nur transparente Datensätze bei KI-Trainings zu verwenden. Das hätte für alle Beteiligten nur Vorteile: Es wird Diskriminierung durch Bias reduzieren, Urhebern zu ihren Rechten verhelfen - und die allgemeine Qualität der Daten und der KI-Tools anheben.

Was all das nun für die Interaktivbranche bedeutet, geben 5 Trends vor.

1. Keimzelle schmutziges SEO und Social

Nacktfotos von SchauspielerInnen, die sich niemals vor der Kamera ausgezogen haben, gefälschte Videos von sensationalistischen Ereignissen: SEO und Social-Media-Marketing werden sich auf KI-Content stürzen wie verkaterte Wermutbrüder auf die Aspirin. In der sozialen und suchergebnisbasierten Aufmerksamkeitsökonomie wird KI-Schrott gedeihen wie sonst nirgends.

2. Widerstandszelle Marken-Konzerne

Widerstand gegen korrumpierte Datensätze wird vor allem dort aufkeimen, wo es genug Geld gibt, ihn zu finanzieren: Die großen Shops, die Qualitätsmarken - sie werden kein Interesse daran haben, ihre Inhalte, ihre Markenidentität und Bilanzen aufgrund mieser KI-Tools an die virtuelle Wand zu fahren. Hier werden hochwertige Datensets und potente Erkennungssoftwares gedeihen.

3. Urheberrecht ist für die Starken

Diverse Gesetze werden die Rechte der Datenurheber stärken, vor allem die der Schriftsteller, Maler, Medien, Fotografen oder Filmemacher. Doch ein Verstoß wird etwas bleiben, was bewiesen ist und Recht wird etwas bleiben, das eingefordert werden muss. Wer eine Portokasse wie Microsoft hat, wird da schneller schon mal einen Prozess führen und sogar verlieren können - das verliert weniger Geld, als auf lizenzrechtlich geschützte Daten zu verzichten. Wer sich ans Gesetz halten muss, wird ins Hintertreffen geraten und das werden kleinere Firmen und weniger bedeutende Urheber sein, befürchtet beispielsweise Peinl.

4. Neue Schul- und Ausbildungen

Nicht nur Firmen benötigen neue Kompetenzen im Umgang mit Daten und KI - das würde viel zu spät ansetzen: Schulbildung und Ausbildung müssen bereits den Job leisten, den Wissensstand in der Gesellschaft zu erhöhen.

5. Bio-Daten und Fairtrade-Siegel

Siegel, Manifeste, Zertifikate und Gebote werden eine entscheidende Bedeutung in der nachhaltigen Datenwirtschaft erlangen: Den Firmen und Experten zeigen sie an, dass Daten etwas wert sind, verantwortungsbewusste NutzerInnen werden wissen wollen, ob die Daten ihrer KI auf Sklavenarbeit basieren, ökologisch nachhaltig sind oder generell qualitativ so viel taugen, dass man ihnen trauen darf.

Szenarien für die KI-Datenwelt

Dass das Post-KI-Web ein reines Maschinennetz wird, in dem sich nur noch Bots und vernetzte Maschinen tummeln, wird manchmal als unvermeidbar bezeichnet. Doch René Peinl mag nicht so recht daran glauben: "Alles ist vermeidbar und es wird eine Gegenbewegung zur KI-Dominanz geben." Wahrscheinlicher sind da vier andere Szenarien für die Zukunft eines Webs, das von AI-Inhalten dominiert wird.