Analyse: Gesichtserkennung, KI-Verbote und Microsofts Lobbyarbeit

Was passiert ist:: Die New York Times hat enthüllt  , dass das Startup Clearview AI seine Gesichtserkennungstechnik an Hunderte Polizeibehörden in den USA verkauft. Die KI-Lösung wurde dabei aus öffentlich zugänglichen Bildern im Internet gespeist - selbst wenn die gemolkenen (Social-Media-)Anbieter das eigentlich untersagen.

Was nun passiert: Ein geleaktes Diskussionspapier der EU-Kommission   zeigt, dass Europa darüber nachdenkt, der wachsenden Überwachung der Bürger einen Riegel vorzuschieben. In öffentlichen Räumen soll der Einsatz von Gesichtserkennung für drei bis fünf Jahre untersagt bleiben, um mehr Zeit für eine Risikobewertung und die Entwicklung eines Risikomanagements zu gewinnen. Microsofts Präsident und Chef-Justiziar Brad Smith verglich in einer Veranstaltung in Brüssel den Ansatz mit einem Hackbeil. Man solle nichts verbieten, wenn es eine vernünftige Alternative gibt, die das Problem per Skalpell als per Hackbeil löse. Zwar sei es wichtig, Technik nicht für Massenüberwachung zu nutzen. Aber schließlich gäbe es ja auch positive Einsatzmöglichkeiten. Zum Beispiel könnten NGOs vermisste Kinder finden. Der beste Weg, eine Technologie zu verbessern sei es, sie zu benutzen.

Was davon zu halten ist: Dass Microsoft-Software nach dem Bananenprinzip funktioniert - sie reift beim Kunden - ist seit Jahrzehnten ein geflügeltes Wort. Doch anders als schlechte Software können veröffentlichte Daten nie wieder eingefangen werden. In Kombination mit mehr oder weniger repressiven Regimen und skrupellosen Unternehmen dies- und jenseits der Legalitätslinie entsteht eine sehr gefährliche Gemengenlage. Einmal mehr zeigt sich, dass der kalifornisch-liberalistische Zweckoptimismus ("Alles wird gut, wenn es nur genügend Technik und genügend wirtschaftliche Anreize gibt") und der europäische Ansatz der gesamtgesellschaftlichen Verantwortung im weitesten Sinn inkompatibel sind. Europäische Regulierungen sind jedoch die einzige Chance, die Hybris der Techniker zu bremsen - so lange Europa für diese noch ein wichtiger Markt ist. Dieses Werkzeug sollte Europa nicht leichtfertig aus der Hand geben.