Kennzeichnungspflichten für Chatbots, Deepfakes und KI-Texte

Unternehmen müssen nun weitere Transparenzvorgaben des EU AI Acts   einhalten. Betroffen sind insbesondere Anbieter und Betreiber von Chatbots, generativer Künstlicher Intelligenz, Deepfake-Anwendungen sowie Systemen zur Emotionserkennung. Die europäische KI-Verordnung gilt seit August 2024 und wird schrittweise anwendbar. Darauf weist der Branchenverband Bitkom   hin.

KI-Chatbots müssen Nutzerinnen und Nutzer künftig grundsätzlich darüber aufklären, dass sie mit einer Maschine kommunizieren. Anbieter generativer KI müssen zudem künstlich erzeugte oder manipulierte Inhalte maschinenlesbar kennzeichnen. Für Systeme, die bereits auf dem Markt sind, gilt nach Angaben des Bitkom eine Übergangsfrist bis Dezember 2026.

Kennzeichnungspflicht für Deepfakes und KI-Texte

Bilder, Videos und Audiodateien, die durch Künstliche Intelligenz erzeugt oder verändert wurden und echt erscheinen können, müssen als Deepfakes offengelegt werden. Eine Kennzeichnungspflicht gilt außerdem für KI-generierte Texte, die die Öffentlichkeit über Themen von öffentlichem Interesse informieren sollen.

Ausgenommen sind zusätzlich Texte, die vor ihrer Veröffentlichung von Menschen geprüft wurden und für die eine Person oder Organisation die redaktionelle Verantwortung übernimmt. Für Medien, Agenturen und Marketingabteilungen wird damit entscheidend, menschliche Prüfprozesse und Verantwortlichkeiten nachvollziehbar zu organisieren beziehungsweise im Impressum einen Verantwortlichen zu benennen.

Produkt- und Katalogtexte in Onlineshops dürften von der Regelung aber schon deswegen ausgenommen sein, weil sie kein Thema von öffentlichem Interesse berühren. Nichtsdestotrotz sollten die Angaben aber richtig sein, schließlich haftet der Anbieter für alle Informationen und auch das Wettbewerbsrecht greift unabhängig davon, ob der Text von Mensch oder Maschine erstellt wurde.

Auch beim Einsatz von Systemen zur Emotionserkennung oder zur biometrischen Einordnung von Personen müssen Betroffene informiert werden. Die zuständigen Behörden können die Einhaltung der Vorgaben kontrollieren und Verstöße mit Bußgeldern sanktionieren.

Bitkom fordert pragmatische Aufsicht

Bitkom-Präsident Ralf Wintergerst kritisiert, dass zentrale Leitlinien und Auslegungshilfen erst kurz vor dem Stichtag veröffentlicht worden seien. Unternehmen hätten deshalb trotz der zweijährigen Übergangszeit kaum verlässlich planen können. "Noch sind aber zu viele Fragen offen, um die neuen Regeln rechtssicher umsetzen zu können", erklärt Wintergerst. Von den Aufsichtsbehörden fordert der Verband pragmatische Hilfestellungen, eine verhältnismäßige Durchsetzung und ein europaweit abgestimmtes Vorgehen.

Entlastung sollen Fristverlängerungen bei bestimmten Hochrisiko-Systemen sowie der Verzicht auf doppelte Prüf- und Dokumentationspflichten im Maschinenbereich bringen. Die meisten Bestimmungen des AI Acts gelten grundsätzlich seit dem 2. August 2026, einzelne Vorgaben werden jedoch erst später anwendbar.