Deutsche fühlen sich unwohl, wenn KI Entscheidungen trifft

Zwei von drei deutschen VerbraucherInnen fühlen sich nicht wohl, wenn Unternehmen und Behörden mit künstlicher Intelligenz Entscheidungen treffen. Das ergab eine Befragung durch Forsa   im Auftrag des Softwareunternehmens SAS  .



Beim Thema vertrauenswürdige KI ("Trustworthy AI"), wie sie nicht zuletzt die EU in ihrem bereits beschlossenen Regelwerk fordert, besteht also noch erheblicher Handlungsbedarf. So sind 65 Prozent der Befragten skeptisch, wenn KI über staatliche Unterstützungsleistungen entscheidet. Noch größer ist das Unbehagen im Finanzkontext: Ganze 69 Prozent fühlen sich mit KI-gestützten Entscheidungen von Banken und Versicherungen unwohl, etwa bei der Kreditvergabe oder Tarifberechnung. Auch medizinischen Diagnosen und Behandlungsempfehlungen, die mithilfe von KI entstehen, traut die Mehrzahl der über 1.000 Befragten eher nicht (61 Prozent). Die Ausnahme bildet der Bereich Betrugserkennung und -bekämpfung: 67 Prozent der deutschen VerbraucherInnen finden es gut, wenn KI dabei hilft, Betrügern etwa bei Onlinegeschäften oder bei Zahlungsvorgängen auf die Spur zu kommen.

"Die aktuelle Umfrage zeigt, dass beim Thema Trustworthy AI noch viel Überzeugungsarbeit geleistet werden muss", erklärt Iwona Szylar , Managing Director von SAS Deutschland. "Möglicherweise ist die Schaffung eines vertrauensvollen Kontextes eine noch größere Herausforderung als die Anwendung der Technologie selbst. Deshalb richten wir unsere KI-Plattform konsequent darauf aus und engagieren uns aktiv für die rasche Umsetzung des EU AI Act."