Gesichtserkennung und KI: EU-Kommission legt Vorschläge zum künftigen Einsatz vor

Die EU-Kommission erwägt ein einstweiliges Verbot vom Einsatz automatisierter Gesichtserkennungssysteme in der Öffentlichkeit – sowohl für öffentliche als auch für private Akteure. Dies geht aus den Vorschlägen für ein Weißbuch der EU-Kommission zum künftigen Einsatz Künstlicher Intelligenz (KI) in Europa hervor, das Euractiv vorliegt.

Damit könnte das geplante Vorhaben von Horst Seehofer, rund 130 Milliarden Euro in die Überwachung von Bahnhöfen und Flughäfen mittels KI zu investieren, voraussichtlich für einige Jahre ausgebremst werden. Auch für Frankreich, das bereits in Nizza Künstliche Intelligenz flächendeckend zur Überwachung der Stadt einsetzt, könnte das Auswirkungen haben.

Das 18-seitige Kommissionspapier analysiert Chancen und Risiken der neuen Technologie und macht Vorschläge für ein Konzept zum Einsatz in der EU. Die Kommission empfiehlt, europaweit innerhalb eines gemeinsamen Rahmens zu agieren. Angesichts der Sicherheitsrisiken und der Markteinführung der Technologie wird vorgeschlagen, für zwei bis fünf Jahre „ein zeitlich begrenztes Verbot des Einsatzes von Gesichtserkennungstechnologie in öffentlichen Räumen“ zu verhängen.

Das soll der EU die notwendige Zeit geben, die Auswirkungen und Risiken dieser Technologie weiter zu ermitteln und einen angemessenen rechtlichen Rahmen festzulegen. Nach Angaben von Euractiv soll das vollständige Weißbuch Ende Februar vorgestellt werden.

Gefahren der KI in Überwachungssystemen

Auf Seite 8 wird bei den Gefahren der Technologien auf die persönliche Sicherheit sowie die Verletzung der Privatsphäre und des Datenschutzes hingewiesen. So sei es mit KI möglich, Menschen zu ermitteln, die anonym bleiben wollen und deren Identität aus Sicherheitsgründen geschützt werden sollte.

Der unregulierte Einsatz von KI in Unternehmen könne dazu führen, bestimmte Personengruppen zu benachteiligen. Eine KI lernt anhand von Datensätzen selbstständig und könnte nach entsprechender Analyse Menschen selbstständig überwachen. Gefahren bestehen darin, bestimmte Gruppen wie „weiße Männer“ oder „dicke Frauen“ automatisch auszuspionieren. Auch ist beim derzeitigen Rechtsstand nicht ausgeschlossen, dass Unternehmen die Technologie zur Überwachung ihrer Mitarbeiter nutzen und mit ihnen die Freiheitsrechte der Mitarbeiter einschränken.

Ebenso könne die Technik ohne rechtlich geregelten Rahmen durch staatliche Behörden für die Massenüberwachung der Bevölkerung genutzt werden, warnt die Kommission.

Auch in anderen Bereichen gibt es Sicherheitsrisiken, beispielsweise bei selbstfahrenden Autos. So verweist das Weißbuch der EU-Kommission auf einen tödlichen Unfall, bei dem ein selbstfahrendes Uber-Testauto in den USA eine Fußgängerin überfahren hatte. Die Software hatte die Frau, die mit ihrem Fahrrad nachts eine Straße überqueren wollte nicht erkannt. Fehler bei der Erkennung gebe es insbesondere bei Farbigen.

Fehler wegen nicht abrufbarer Daten oder mangelnder Konnektivität seien nicht ausgeschlossen. Einer KI fehlen zudem die sozialen Eigenschaften eines Menschen, eine Situation dementsprechend zu beurteilen. Fehler würden demnach umso gravierendere Folgen haben.

Ein Bericht der „New York Times“ vom Wochenende hat die öffentliche Diskussion zur automatisierten Gesichtserkennung in Deutschland noch weiter angeheizt. Demnach hat die US-Firma Clearview eine Datenbank aus rund drei Milliarden frei im Internet zugänglichen Bildern zusammengestellt. Diese bieten sie diversen Behörden als Service zur Gesichtserkennung an.

Reaktionen deutscher Politiker

Der Bundesbeauftragte für den Datenschutz, Ulrich Kelber, begrüßt ein mögliches Verbot der biometrischen Gesichtserkennung in Deutschland. Diese stellt aus seiner Sicht „einen potenziell sehr weitgehenden Grundrechtseingriff dar, der auf jeden Fall durch konkrete Vorschriften legitimiert sein müsste“.

Auch die Grünen lehnen den Einsatz von Technologien zur Gesichtserkennung im öffentlichen Raum ab. „Wir treten für ein klares Nein zur Gesichtserkennung im öffentlichen Raum ein. Eine Gesellschaft, in der jeder und jede zu jedem Zeitpunkt überwacht werden kann, ist nicht frei“, sagte der Sprecher für Industriepolitik und digitale Wirtschaft der Grünen-Bundestagsfraktion, Dieter Janecek, dem „Handelsblatt“ (Donnerstagsausgabe).