KI-Governance wächst - doch für Agenturen beginnt die Arbeit erst

Deutsche Unternehmen haben ihre KI-Governance innerhalb eines Jahres deutlich verbessert, gleichzeitig sinkt das Vertrauen der AnwenderInnen in die Ergebnisse der Systeme. Zu diesem Ergebnis kommt der aktuelle "Data and AI Impact Report" von SAS   auf Basis von Insights von IDC  . Der von SAS ermittelte Trustworthiness-Index für Deutschland stieg gegenüber dem Vorjahr um 8,1 Punkte auf 59,1 Punkte. Das wahrgenommene Vertrauen von Unternehmen und MitarbeiterInnen sank dagegen um 7,3 Punkte auf 69,5 Punkte.

Für Digitalagenturen und IT-Dienstleister ist vor allem interessant, woher diese Lücke kommt. In Deutschland ist mangelnde Erklärbarkeit mit 32,2 Prozent der häufigste genannte Grund, eine KI-Empfehlung abzulehnen. Qualitativ schlechter oder faktisch falscher Output folgt mit 25,4 Prozent, verzerrte oder unfaire Ergebnisse kommen auf 19,5 Prozent.

Agentic AI verschärft das Problem

Die Frage nach Vertrauen und Kontrolle wird dringlicher, weil KI zunehmend selbstständig handelt. 45,5 Prozent der befragten deutschen Unternehmen setzen laut Studie bereits Agentic AI ein. Weltweit verfügen 89 Prozent der eingesetzten KI-Agenten über eine gewisse Entscheidungsautonomie. Mehr als die Hälfte arbeitet mit wenig oder keiner menschlichen Kontrolle. Damit verändert sich auch die Aufgabe von Dienstleistern. Bei klassischen KI-Anwendungen ließ sich schlechter Output noch vergleichsweise einfach durch AnwenderInnen erkennen und korrigieren. Übernehmen Agenten komplette Prozessschritte, müssen Datenqualität, Zugriffsrechte, Kontrollmechanismen und Eskalationswege bereits in die technische und organisatorische Architektur eingebaut werden.

Dass dies noch längst nicht überall geschieht, zeigt die Datenbasis. Nur 16,3 Prozent der befragten deutschen Unternehmen schreiben Datenqualitätsprozesse für jedes Projekt verbindlich vor. Bei 28,5 Prozent existieren zwar Responsible-AI-Richtlinien, die Befragten sind jedoch unsicher, ob diese tatsächlich eingehalten werden. Der Ausbau formaler Strukturen schreitet dagegen schnell voran. Bei der Model Governance stieg Deutschland gegenüber dem Vorjahr um 12,6 Punkte auf 55,8 Prozent. 66,3 Prozent der Unternehmen verfügen laut Studie inzwischen über eine Responsible AI Policy. SAS führt diese Entwicklung insbesondere auf die regulatorischen Anforderungen des EU AI Act zurück.

Für Agenturen liegt genau zwischen formaler Governance und funktionierender Praxis ein wachsendes Betätigungsfeld. Es reicht nicht, Policies zu formulieren oder ein weiteres KI-Modell in bestehende Prozesse einzubauen. Unternehmen müssen klären, welche Daten ein Agent verwenden darf, wie deren Qualität abgesichert wird, welche Entscheidungen automatisiert getroffen werden können und wann Menschen eingreifen müssen. "Wer Governance nur auf dem Papier hat, wird weder das Vertrauen seiner Anwender gewinnen noch den ROI erzielen, den KI ermöglicht", sagt Ingo Macht , Country Leader Deutschland von SAS. "Datenqualität muss in die Systeme eingebettet sein - nicht nachträglich geprüft werden."

Vom KI-Projekt zum belastbaren KI-Betrieb

Der Handlungsdruck dürfte weiter steigen. 8,1 Prozent der deutschen Unternehmen wollen ihre KI-Ausgaben in den kommenden zwölf Monaten um mehr als 20 Prozent erhöhen. Weitere 50,4 Prozent planen Steigerungen zwischen vier und 20 Prozent. Gleichzeitig wachsen die wirtschaftlichen Erwartungen: Kostensenkungen werden von 39,8 Prozent als Geschäftsziel genannt, 26 Prozent erwarten einen konkreten Return on Investment.

Für Digitalagenturen verschiebt sich damit der Schwerpunkt der KI-Beratung. Nach der Phase der Pilotprojekte geht es zunehmend darum, KI-Anwendungen dauerhaft in Prozesse und IT-Landschaften einzubauen und ihre Ergebnisse messbar, nachvollziehbar und kontrollierbar zu machen. Datenarchitektur, Governance und Human-in-the-Loop-Prozesse werden damit ebenso wichtig wie die Auswahl des eigentlichen KI-Modells. Das könnte auch die Wertschöpfung der Dienstleister verändern: Je autonomer KI-Systeme arbeiten, desto weniger entscheidet die reine Implementierung eines Tools über den Erfolg. Gefragt sind vielmehr Agenturen und Dienstleister, die aus Modellen, Unternehmensdaten, Governance und bestehenden Geschäftsprozessen ein System bauen, dem Unternehmen auch dann vertrauen können, wenn der erste KI-Hype längst vorbei ist.