'Data Poisoning': Das unerwartete Problem für den KI-Siegeszug

Das wichtigste Schlüsselwort des KI-Hypes mag das Wörtchen 'bald' sein. Denn "bald" wird alles besser, "bald" kann die KI alles, was sie noch nicht kann: Die KI kann keine Videos generieren, oder nur solche, die aussehen wie Alpträume von Salvador Dalí? Bald wird das besser! Text-Generatoren wie ChatGPT sollen fehlerhafte Infos vermeiden oder keine frei erfundenen Quellen mehr in Texte einfügen? Kommt auch bald. Zunächst schienen die Fortschritte den Optimisten auch Recht zu geben. Etwa wenn es um Hände auf KI-Bildern ging; die würden auch 'bald' besser aussehen - und es kam so. Doch tatsächlich ist das Wort bald ein trügerisches.

Denn tatsächlich ist die interne Funktionsweise von KI tückisch, namentlich der Kreislauf aus "Training anhand Daten - Leistung - Fehler machen - daraus lernen - wieder von vorne". Es ist aufgrund ihrer Struktur sehr schwierig, einen ständig nach oben, ins Optimale weisenden Updatezyklus zu kreieren, tendenziell werden für Trainings schon bald die verfügbaren und ausreichend sauberen Daten ausgehen und die Ergebnisse schlechter werden. Diesen Trend hat iBusiness in der Analyse KI-Kollaps beschrieben - und nun zeigt sich eine neue Entwicklung, die ihn sogar noch beschleunigen dürfte.

Data-Poisoning-Tools wie Glaze oder Nightshade wurden dazu geschaffen, urheberrechtlich geschützte Daten entweder vor dem Zugriff von KI zu schützen oder sie so zu manipulieren, dass sie Sand ins Getriebe der lernenden Algorithmen streuen. So schafft es Nightshade schon mit wenigen vergifteten Datensätzen, einen Bildgenerator Katzenbilder auswerfen zu lassen, wenn die NutzerInnen aber Hunde wollten.

Im Vodcast diskutieren iBusiness-Analyst Sebastian Halm und -Herausgeber Joachim Graf darüber, was das für Unternehmen bedeutet, die KI einsetzen wollen - und wie sich KI-Tools in den kommenden Jahren grundlegend wandeln werden.