Künstliche Intelligenz: EU-Kommission entscheidet über Gesichtserkennung

Offenbar will die EU-Kommission Systeme auf Basis künstlicher Intelligenzen (KI) verbieten, wenn diese zur Massenüberwachung oder zur Einstufung des Sozialverhaltens eingesetzt werden können. Das berichtet der Wirtschaftsdienst Bloomberg unter Berufung auf aktuelle Regulierungsvorschläge, die in der kommenden Woche vorgestellt werden. 

Die umstrittene biometrische Gesichtserkennung bleibt demnach nicht generell verboten. Allerdings: Zur Nutzung soll es jedoch eine besondere Genehmigung durch die Behörden bedürfen. Wie eine Sprecherin der EU dem Onlinemagazin Golem mitteilte, werden die Pläne am 21. April in Brüssel vorgestellt. 

Einsatz von KI „mit hohem Risiko“ 

Bei den Plänen orientiert sich die Kommission an einem Weißbuch zur KI, welches Kommissionspräsidentin Ursula von der Leyen bereits im Februar 2020 präsentiert hat. Darin wurden die Bereiche Verkehr, Gesundheitswesen, Energie und Teile des öffentlichen Sektors als besonders risikobehaftet eingestuft. Ist demnach beim Einsatz von KI in einem solchen Bereich mit „erheblichen Risiken“ zu rechnen, sieht die EU-Kommission darin eine Anwendung „mit hohem Risiko“. Das bedeutet: Ein „regulatorischer Eingriff“ könnte nötig sein. 

Laut Bloomberg sollen deshalb alle KI-Systeme verboten werden, die zur Manipulation des menschlichen Verhaltens dienen, Informationen über Einzelpersonen oder Gruppen zum Zwecke eines Social Scoring auswerten oder zur anlasslosen Überwachung eingesetzt werden. Bei der automatisierten Gesichtserkennung soll es aber Ausnahmen geben, wenn es um die öffentliche Sicherheit geht. Erst Mitte Februar haben fast 20 Organisationen, darunter auch der Chaos Computer Club (CCC) aus Deutschland, ein Verbot von automatisierter Gesichtserkennung im öffentlichen Raum gefordert.