AI Act: Die To-Dos für Marken - und die Chancen für Agenturen

Wer KI im Marketing, Kundenservice oder Personalbereich einsetzt, braucht klare Zuständigkeiten und belastbare Freigaben. Und das kann man dummerweise nicht an die KI delegieren, sondern erfordert Entscheidungen - wie etwa, welche Verantwortung die Künstliche Intelligenz übernimmt und wann KundInnen ihre Verwendung erkennen müssen. Der AI Act macht KI zur Organisationsaufgabe: Unternehmen müssen klären, welche Systeme sie nutzen, welche Risiken daraus entstehen und welche Informationspflichten gelten. Ein Kennzeichnungshinweis allein löst aber weder Fragen des Datenschutzes noch der Freigabe oder Verantwortung. Dafür braucht es einen Prozess, der Fachabteilungen, Technik und Compliance zusammenführt.

Die europäische KI-Verordnung unterscheidet nach Einsatzzweck und Risiko.

• Verbotene Praktiken sind auszuschließen; Anwendungen etwa in der Bewerberauswahl oder Kreditwürdigkeitsprüfung können in die Hochrisikokategorie fallen.
  
• Für Marketing und Kundenservice sind insbesondere die Transparenzpflichten des Artikels 50 relevant, die seit dem 2. August 2026 gelten.
  
• Die Anforderungen an KI-Kompetenz gelten bereits seit dem 2. Februar 2025.
  
• Am Anfang steht eine Bestandsaufnahme der eingesetzten Software. Denn KI kommt nicht nur durch bewusst angeschaffte Werkzeuge ins Unternehmen, sondern auch durch neue Funktionen bestehender Anwendungen. Unnötige Funktionen sollten deaktiviert, genutzte Anwendungen mit Zweck und Datenflüssen erfasst werden.

Die eigene Rolle entscheidet über die Pflichten

Ein KI-Register lässt sich auch mit dem datenschutzrechtlichen Verzeichnis der Verarbeitungstätigkeiten verbinden. Es bündelt Systeme, Verantwortliche, Prüfungen und Freigaben. Ein solches Register ist keine allgemeine gesetzliche Pflicht, sondern ein Organisationsinstrument. Auch ein KI-Beauftragter ist eine Empfehlung. Sinnvoll ist ein kleines Gremium aus Fachabteilung, Datenschutz, Compliance und IT-Betrieb, das Anwendungen gemeinsam bewertet. Muss alles nicht sein, macht das Leben mit KI aber effizienter zu managen.

Eine kurze Richtlinie soll erlaubte Systeme und Nutzungsbedingungen festhalten - bedeutet also, dass ein Erlaubnisvorbehalt die Nutzung auf freigegebene Anwendungen begrenzt. Die KI darf dann nicht munter auf den ganzen Werkzeugkasten zugreifen und eventuell Tools herauspicken, die nicht in ihre Hände gehören. "Das sollte da vor allem drinstehen, damit wir keine Schatten-KI im Unternehmen haben: eine KI, von der wir nichts wissen, die wir nicht regeln können", sagt Markus Vatter , Head of Compliance bei der bbg bitbase group GmbH  . Und außerdem gehören die Menschen mit an Bord: Besteht ein Betriebsrat, sollte er frühzeitig einbezogen werden.

Bei jeder Anwendung ist zu klären, welche Rolle das Unternehmen übernimmt:

• Wer ein fremdes System beruflich nutzt, ist meist Betreiber.
  
• Wer ein System entwickelt oder entwickeln lässt und unter eigenem Namen anbietet, kann Anbieter sein.

Für Softwarehäuser und Digitalagenturen ist diese Unterscheidung besonders relevant: KI in eine Kundenlösung einzubinden, verlangt eine Prüfung der Verantwortung. Telekommunikationsunternehmen, Rechenzentren und Softwarehäuser sind entsprechend ihrer Rolle betroffen. Für Personalabteilungen, Kreditinstitute und medizinische Einrichtungen kommt die mögliche Hochrisikoeinstufung hinzu. Ein Textassistent verlangt eine andere Prüfung als ein System zur Bewerberauswahl oder medizinischen Diagnose.

Die Risiken sollten möglichst integriert untersucht werden. Werden personenbezogene Daten verarbeitet, bleibt die Datenschutz-Grundverordnung neben dem AI Act relevant. Zu prüfen sind unter anderem Rechtsgrundlage, Auftragsverarbeitung, Zugriffsrechte und mögliche Übermittlungen in Drittländer. Eine Datenschutz-Folgenabschätzung ist dann erforderlich, wenn die Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten der Betroffenen verursacht, aber nicht zwingend bei jeder KI-Nutzung. Ein kostenpflichtiges Werkzeug allein garantiert dabei keine zulässige Datenverarbeitung. Entscheidend sind Vertragsbedingungen, technische Einstellungen und die tatsächliche Datennutzung. Aus der Prüfung ergeben sich Maßnahmen wie begrenzte Zugriffsrechte, Mehrfaktor-Authentifizierung und Regeln für zulässige Eingaben. Und auch hier darf wieder der Mensch eng eingebunden werden: Schulungen sollten Beschäftigte befähigen, Ergebnisse und Grenzen der Systeme zu beurteilen. Menschliche Kontrolle ist besonders bei folgenreichen Entscheidungen wichtig, aber keine unterschiedslose gesetzliche Pflicht für jede Ausgabe.

Bei der Transparenz sind zwei Ebenen zu unterscheiden.

1. Anbieter generativer Systeme müssen synthetische Inhalte grundsätzlich maschinenlesbar kennzeichnen und deren Erkennung ermöglichen. Betreiber müssen insbesondere Deepfakes offenlegen.
   
2. Für interaktive Systeme müssen Anbieter sicherstellen, dass Menschen über den KI-Kontakt informiert werden, sofern dieser nicht offensichtlich ist.

Wer einen Chatbot in seinen Kundenservice einbindet, sollte daher prüfen, ob der Hinweis bei der Interaktion erscheint. Bei Deepfakes ist entscheidend, ob Bild-, Ton- oder Videoinhalte existierenden Personen, Orten, Objekten oder Ereignissen ähneln und fälschlich echt erscheinen. Die eigene Einschätzung reicht nicht. "Nur weil Sie der Meinung sind, dass man es ja eigentlich erkennen müsste, ist das kein Grund, das nicht zu kennzeichnen", sagt Jamal Lammert , Referent für Politik, Recht und Regulierung im Hauptstadtbüro des eco - Verbands der Internetwirtschaft   . Für Shopbilder folgt daraus eine Prüfung des konkreten Eingriffs. Nicht jedes mit KI retuschierte Bild ist ein Deepfake.

Freigaben müssen Änderungen überstehen

KI-Texte müssen offengelegt werden, wenn sie zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht werden. Eine Ausnahme besteht bei menschlicher Überprüfung oder redaktioneller Kontrolle, wenn eine Person oder Organisation die redaktionelle Verantwortung trägt. Künstlerische und fiktionale Deepfakes bleiben kennzeichnungspflichtig, dürfen aber den Werkgenuss wahrende Hinweise erhalten. Ein pauschaler Hinweis im Seitenfuß ist deshalb keine universelle Lösung.

Die Prüfung endet nicht mit der ersten Freigabe: Neue Konnektoren, Datenzugriffe oder autonom handelnde Agenten können eine erneute Prüfung auslösen. Begrenzte Testfreigaben in geschützten Umgebungen ermöglichen die Erprobung neuer Werkzeuge, während die umfassende Bewertung läuft. Orientierung bieten die Leitlinien und der freiwillige Verhaltenskodex der Europäischen Kommission   sowie der Service Desk der Bundesnetzagentur  . Diese Hilfen ersetzen keine Prüfung des eigenen Falls.