Social Scoring und Gesichtserkennung: EU möchte strenge Regeln für KI

Wie der Online-Dienst netzpolitik.org   berichtet, sollen in dem Gesetzesentwurf besonders kritische Anwendungsfälle strikt reglementiert oder verboten werden. Der Entwurf, der inzwischen geleakt   wurde, soll etwa den Einsatz von Social-Scoring-Systemen, wie sie in China bereits getestet wurden, grundsätzlich verbieten.

Automatisierte Entscheidungssysteme sollen künftig von Behörden genehmigt werden müssen, wenn sie risikoreiche Anwendungen betreffen. Biometrische Überwachung im öffentlichen Raum - etwa Gesichtserkennung - wird zwar als "hochriskant" eingestuft, soll aber mit einer Sondererlaubnis möglich sein. Für weniger kritischer Anwendungen sollen Transparenzauflagen Nachvollziehbarkeit über die Entscheidungsgründe schaffen.

Einigen EU-Abgeordneten gehen die durchgesickerten Vorschläge allerdings nicht weit genug. Insbesondere Systeme zur automatisierten Gesichtserkennung im öffentlichen Raum stehen bei ihnen auf der Forderungsliste. Außerdem werden etwa militärische Anwendungen wie Kampfroboter mit der Regelung nicht erfasst.