Mitte Mai hat EDRi zu einem Verbot der Gesichtserkennung in Europa aufgerufen; die Digitale Gesellschaft hatte an dem Aufruf mitgearbeitet. In den drei Monaten seitdem ist hinsichtlich Gesichtserkennung einiges passiert.
Am 25 Mai wurde George Floyd von einem weissen Polizisten ermordet, was flächendeckende Proteste zunächst in den USA und dann auch darüber hinaus zur Folge hatte. Im Rahmen dieser Proteste wurde nicht nur der strukturelle Rassismus der US-amerikanischen Polizeien thematisiert, sondern auch hinterfragt, durch welche Technologien sie unterstützt werden, und welche Rolle die grossen Tech-Firmen dabei spielen.
Biometrische Identifikation und Gesichtserkennung im Besonderen spielen hier in mehrfacher Hinsicht eine zentrale Rolle. Zum einen, weil sich „live“ Gesichtserkennung für Massenüberwachung (z.B. von Demonstrierenden) einsetzen lässt, und weiterhin, weil Gesichtserkennung zur Diskriminierung von People of Color (und Frauen) beiträgt, da für sie die Genauigkeit der Identifikation weit geringer ist als für weisse Männer. Die konkrete Folge ist, dass People of Color wesentlich öfter false Positives sind und dann ungerechtfertigterweise angehalten und kontrolliert werden (bzw. sogar verhaftet).
Im Zuge dieser Vorgänge haben sich drei Firmen – IBM, Amazon und Microsoft – zumindest teil- und zeitweise von der Gesichtserkennung distanziert und diese Technologie aus ihrem Angebot genommen. Den Anfang machte IBM am 8. Juni, als es mit der folgenden Begründung bekanntgab, aus der Gesichtserkennung auszusteigen:
„IBM firmly opposes and will not condone uses of any technology, including facial recognition technology offered by other vendors, for mass surveillance, racial profiling, violations of basic human rights and freedoms, or any purpose which is not consistent with our values and Principles of Trust and Transparency“.
Zwei Tage später folgte Amazon mit der Ankündigung, den Polizeibehörden ein Jahr lang den Zugang zu seiner Gesichtserkennungstechnologie zu verwehren, um damit dem Kongress Zeit für eine Regulierung zu geben.
Schliesslich gab Microsoft bekannt, dass auch sie den Polizeien keine Gesichtserkennungstechnologie mehr verkaufen wollen, bis die Technologie gesetzlich reguliert ist.
Seitdem läuft in Aktivisten- und Privacy-Kreisen die Diskussion, ob diese Ankündigungen reine PR-Aktionen sind, oder ob sie ernst genommen werden können. Microsoft hat bereits vor langer Zeit nach Regulierung von Gesichtserkennungstechnologie verlangt, zu einer Zeit, in der es noch keinen öffentlichen Druck wie heute gab. Amazons Aktion scheint dagegen tatsächlich eher PR zu sein.
Was auch immer die Motivation der drei Firmen gewesen sein mag, und wie ernst oder nicht sie ihren (temporären) Ausstieg nehmen, einige Erkenntnisse lassen sich aus den Moratorien und ihren Ankündigungen ableiten bzw. bestätigen:
Gesichtserkennung ermöglicht Massenüberwachung und verletzt Grundrechte, u.a. die Menschenwürde
Die Erklärung von IBM erwähnt explizit „Massenüberwachung“ und Verletzung von Grund- und Menschenrechten durch Gesichtserkennung als Gründe für ihren Ausstieg. Diese sind auch die Gründe für die Forderung nach einem Verbot biometrischer Identifikation durch EDRi. Genau genommen sagen die drei Firmen, dass Gesichtserkennungstechnologie so toxisch ist, dass sie den Polizeibehörden nicht zum Gebrauch überlassen werden darf.
Tech-Firmen können sich nicht selbst regulieren
Alle drei Aufrufe können als Hilferufe von Firmen an den (US-amerikanischen) Gesetzgeber interpretiert werden. Während gerade Tech-Firmen wie Facebook und Google vieles tun, um NICHT reguliert zu werden, erklären zwei Firmen (Amazon und Microsoft) ein Moratorium bis zum Vorliegen einer Regulierung. Wie schon so oft zeigt sich also auch hier, dass Selbstregulierung der Wirtschaft nicht funktioniert – wir brauchen starke (am besten über-) staatliche Regulierung nicht nur von problematischen Technologien, sondern auch der grossen Tech-Konzerne.
Moratorien sind nicht zielführend, Gesichtserkennung zur Massenüberwachung muss verboten werden
Amazon und Microsoft haben lediglich Moratorien verkündet und sind nicht definitiv aus der Gesichtserkennung ausgestiegen. Brad Smith, der Präsident von Microsoft, fordert in seinem Videoauftritt aber mehrfach, dass die Regulierung der Gesichtserkennung auf der Basis der Grund- und Menschenrechte erfolgen muss. Gesichtserkennung wird sicher im Lauf der Zeit genauer werden (und damit weniger diskriminierend), aber Massenüberwachung durch Gesichtserkennung von Polizei, Grenzbehörden, Geheimdiensten ist menschenrechtskonform nicht möglich. Diese Form der Gesichtserkennung muss deshalb politisch geächtet und gesetzlich verboten werden.