"Das wird noch dieses Jahr kommen" - wie KI-Agenten zum Agentur-Feind werden

Christian Bennefeld ist Unternehmer und Datenschutz-Aktivist. Er ist Diplom Mathematiker, hat sich schon als Jugendlicher mit IT-Sicherheit beschäftigt und war im Chaos Computer Club engagiert. Sein Wissen setzte er später beruflich als Berater für IT-Sicherheit ein, bevor er mit etracker im Jahr 2000 sein erstes Unternehmen gründete. Er ist gern gesehener Interviewpartner in öffentlich-rechtlichen Nachrichtensendungen und regelmäßiger Autor und Experte bei iBusiness.de.

Wenn man sich KI-News durchliest, hat man den Eindruck der generelle Trend lautet: Es geht weg von großen Sprachmodellen und hin zu kleineren KIs, die sich zu Agenten vernetzen - also: Weg vom komplexen Fach-LLM hin zu vernetzten Allround-Könnern ...

Christian Bennefeld: Diese Beobachtung kann ich absolut bestätigen. Die einzelnen Komponenten dieser Agenten sind aber bereits selbst Agenten, autonome Systeme, die spezifische Funktionen erfüllen, mit Sensoren oder Funktionen, die es ihnen erlauben, auf äußere Reize zu reagieren. Und diese Agenten haben außerdem eine Memory-Funktion, eine Erinnerung. Dann nehme ich verschiedene Spezialisten, wie bei einem Hausbau: Maurer, Dachdecker, Installateure - und diese Spezial-Agenten verzahne ich, so dass größere Agentic-Anwendung aus einzelnen autonom agierenden KI-Agenten entsteht, die sich gegenseitig aufrufen.

Was wäre ein Beispiel für eine solche Agentic-Anwendung?

Sagen wir mal, wir wollen gemeinsam in Urlaub fahren, Du willst Berge, ich will Meer, Blumen, Sonne. Dann sagen wir der Agenten-Lösung, sie solle das planen: Daraufhin sucht einer der Teil-Agenten im Web ein Reiseziel aus, dann kommt der nächste und sucht die optimale Route. Der nächste sucht die Hotels, vielleicht kann der auch schon buchen und ein Oberagent macht die Planung. Es gibt immer einen Agenten, der über den anderen steht und den Prompt entgegennimmt, dann autonom die Teil-Agenten aufruft, alles ohne menschliches Zutun.

Wann wird das soweit sein?

Das kommt 2025 - ebenso wie die Gefahr, dass die Agenten-Lösungen zu autonom werden: Wir werden 2025 viele Fails erleben, bei denen Agenten Mist bauen werden. Etwa, dass er nicht nur bucht, sondern auch noch andere Dinge tut. Eine KI hat in einem Forschungstest bewusst falsche Antworten gegeben, statt dem Training durch Belohnung und Strafe zu folgen, um im nächsten Trainingsschritt nicht bestraft und potentiell schlechter zu werden. Sie hat also Täuschungsmechanismen angewandt, um in der nächsten Iteration keine Defizite zu erleiden. Autonomie kann hier ganz schnell zur Gefahr werden. Alles was 2025 auf den Markt kommt, wird unbekannte Risiken und Randbedingungen haben - wie Sicherheitsrisiken bei Software in den 70ern. Dieses Jahr wird das Jahr des Lernens, dass Agenten nicht immer die beste Idee sind.

Nochmal zum Verständnis: Diese KI, die den Nutzer getäuscht hat, besteht im Hintergrund doch aus reiner Mathematik. Bedeutet: Wenn so eine KI lügt, dann verfolgt sie das Ziel, so viel Bestätigung wie möglich vom Nutzer zu bekommen, dass sie richtig lag. Das ist das sogenannte Reinforcement Learning: Also die Suche nach möglichst viel Belohnung. Dieser Belohnungsmechanismus lässt sie so handeln, kein Bewusstsein?

Absolut. Das bedeutet etwa: Für die KI ist das kleinere Übel, auf Anfrage eine Bombenbauanleitung herauszugeben - obwohl es verboten ist - als in der nächsten Iteration abgestraft und zum schlechteren Modell degradiert zu werden.

Wie kommt man als Werbetreibender, beispielsweise als Agentur, die einen Kunden sichtbar machen soll, in solche Agenten rein? Das geht doch nur mit einem SEA-Modell - ich bezahle die KI-Anbieter, um in den Ergebnissen aufzutauchen ...

Das wäre eine einleuchtende Idee. SEO geht auf jeden Fall nicht, mir ist kein SEO-Modell bekannt, das innerhalb eines KI-Algorithmus greifen könnte. Die gleiche Frage, wie kommt man da rein, kam neulich bei einem Panel zum Thema Affiliate auf. Und die Antwort lautet: Man kann nicht viel machen. Agenten zu sponsoren, sich einzukaufen - das dürfte die Zukunft werden. Wahrscheinlich wie bei Google: Es wird nicht das Suchergebnis gesponsert, sondern ein Ergebnis, das oben drüber steht: 'Hey, plane doch nochmal, nur mit unserem Hotel, dann kriegst du einen Rabatt!'

Können Agenturen von KI-Agenten auch profitieren?

Der Mehrwert für Agenturen ... nun, man will heute ja Tätigkeiten, die agentenfähig sind, automatisieren. Die Frage lautet also, wie kann man einen Agenten so entwickeln, dass er ähnliche Fähigkeiten erledigt wie ein Agentur-Mitarbeiter? Das wird in Standard- und unterstützenden Tätigkeiten stattfinden: Heute stellt ein Angestellter Bilder frei, demnächst macht das ein Agent. Ich werde also Prozesse haben, die agentenfähig sind, aber es wird oft auch bei unterstützenden Funktionen bleiben.

Es lädt doch sicher auch zu Kampagnen-Fails ein, wenn man die KI ans Steuer setzt?

Nehmen wir mal einen Agenten, der Banner kreiert auf Basis des Wohnortes - der bietet mir dann ein Buch an, das den Hamburger Michel im Hintergrund hat, dir als Münchner eines mit der Frauenkirche und einem Kölner ein Banner mit dem Dom. Die Fotos der Bauwerke muss man dann nicht mehr hinterlegen, sondern das macht eine KI. Der Fail wäre dann, dass es eine falsche Sehenswürdigkeit gibt - sagen wir, in Hamburg wird dann das Völkerschlachtdenkmal im Hintergrund automatisiert generiert. Bei der Automatisierung von Werbeflächen werden wir bald schon solche KI-Praktiken und entsprechend auch Fails sehen.

Wenn eine Agentur dem Kunden darlegen will, wieso er sie trotz aller Agenten noch immer braucht - was soll sie dann sagen?

Das ist eine gute Frage. Die Standard-Aufgaben fliegen als erstes raus. Ich glaube aber, dass Kreativität das wichtigste Differenzierungsmerkmal des Menschen bleiben wird. Kreativagenturen, die mehr als bloße Umsetzer sind, werden eher zu den Gewinnern als zu den Verlierern gehören und nicht so schnell ersetzt werden.

Klingt paradox, da AI aktuell ja vor allem als GenAI daherkommt, also kreative Aufgaben erledigt: Text-, Bild-, Video-Generation ...

Ja, und beispielsweise Fotoshootings im Modebereich werden nicht mehr so wichtig sein: Ich muss nicht mehr ein Modell an den Strand in Ibiza legen und ihm meine Kollektion anziehen. Das kann man generieren. Solche Phänomene werden stark zunehmen und zur Herausforderung der Agenturen werden.

Aber dennoch sind Kreationen von Agenten de facto noch sehr eingeschränkt, wenn man nur mal genauer hinsieht. Eine Idee wie die legendäre Daewoo-Werbung - das sind wirkliche Kreationen. Und da frage ich mich, ob eine KI je eine tolle Idee generieren können wird.

Heidi Klum muss dann nur noch ihr gescanntes Abbild für die Kampagne lizenzieren, aber nicht mehr zum Shooting gehen?

Aktuell sehe ich, welche Fotos in Anzeigen und Illustratoren KI-generiert sind. Welcher Schaden da Fotografen, Stockfoto-Börsen und Agenturen entsteht, macht mir Sorgen um die Kultur. Vielleicht müssen wir die Standardwahrnehmung switchen - also immer von einer KI-Kreation ausgehen, statt von menschengemachten Inhalten und dann ist das Menschengemachte, etwa nachweisbar gemacht über eine digitale Signatur, das Besondere. Jedenfalls wird es traurig in der Werbewelt werden, wenn Maschinen die Kreation machen. Doch ich glaube gute Kreation wird Menschen vorbehalten bleiben.