Schlagwort-Archive: Gesichtserkennung

Wie gefährlich Gesichtserkennung für die Menschenrechte sind

Wir haben das Recht, uns frei und unerkannt im öffentlichen Raum zu bewegen. Doch automatische Gesichtserkennung macht es möglich, dass man uns auf der Strasse jederzeit persönlich identifiziert. Dies möchten wir mit einer Petition verhindern.In der Schweiz fehlen gesetzliche Schranken gegen Überwachung mittels automatischer Gesichtserkennung.

Biometrische Erkennungssysteme eröffnen Behörden und Privaten die Möglichkeit, im öffentlichen Raum eine Massenüberwachung durchzuführen – zu jeder Tages- und Nachtzeit, alles vollautomatisch. Da sich der Einsatz von Gesichtserkennungssystemen derzeit in Europa rasant ausbreitet, ist damit zu rechnen, dass bald auch in der Schweiz gesetzliche Grundlagen geschaffen werden, die die Verwendung dieser Technologien erlauben.

Neueste Recherchen zeigen, dass manche Polizeien bereits heute höchst umstrittene Gesichtserkennungssoftwares nutzen. Der Schritt zur flächendeckenden und permanenten Massenüberwachung liegt nahe.

Weltweit wehren sich Menschen gegen die Überwachung mit Gesichtserkennung und fordern den Schutz ihrer Rechte. Denn, wenn wir im öffentlichen Raum mittels Gesichtserkennungssystemen jederzeit identifiziert oder verfolgt werden, kommt dies einer Massenüberwachung gleich. Die Gefahr besteht, dass nicht nur Schwerverbrecher*innen ins Visier der Behörden geraten, sondern die gesamte Bevölkerung. Dies ist nicht mit unseren Grundrechten vereinbar. Eine solche Massenüberwachung verletzt die Privatsphäre und schreckt Menschen davon ab, grundlegende Rechte wie die Meinungs- oder Versammlungsfreiheit wahrzunehmen – Rechte, die in einer demokratischen Gesellschaft wie der Schweiz von zentraler Bedeutung sind. Doch derzeit fehlt eine gesetzliche Grundlage, die unsere Rechte schützt und unsere Selbstbestimmung gewährleistet.

Zusammen mit AlgorithmWatch CH und der Digitalen Gesellschaft setzen wir uns für den Schutz unserer Grundrechte und für eine selbstbestimmte Zukunft ein. In Zürich und Lausanne haben Politiker*innen verschiedener Parteien Vorstösse eingereicht, um ein Verbot auf kommunaler Ebene zu erwirken. Diese Vorstösse zeigen, dass dringender Handlungsbedarf besteht. Aus diesem Grund lancieren wir die Petitionen zum Verbot von automatischer Gesichtserkennung.

Was ist automatische Gesichtserkennung?

Automatische Gesichtserkennung ist eine Form der biometrischen Überwachung. Biometrische Überwachungssysteme nutzen zur Identifikation sensible biometrische Daten, die beidem jedem Menschen einzigartig sind – Fingerabdrücke, Augenfarbe, die Stimme oder eben das Gesicht. Solche Technologien werden in der Schweiz bereits eingesetzt. Manche Länder gehen sogar noch weiter und verknüpfen die Überwachungskameras im öffentlichen Raum mit einer Software zur Gesichtserkennung. So wird es möglich, die Bilder in Echtzeit oder nachträglich auszuwerten und abgebildete Gesichter darauf zu analysieren und zu identifizieren. Das kommt einer Massenüberwachung gleich.

Was will unsere Petition genau?

Wir wollen Schranken setzen gegen diese neue Form der Massenüberwachung und eine öffentliche Diskussion zur Verwendung der Technologien starten. Konkret fordern wir ein kommunales Verbot der automatischen Gesichtserkennung und von anderen biometrischen Überwachungssystemen im öffentlichen Raum. Wir wollen diese Massenüberwachung verhindern, bevor es zu spät ist. Mit einem Verbot der automatischen Gesichtserkennung wahren wir unsere Grundrechte und setzen uns für eine selbstbestimmte Zukunft ein, in der Menschen und nicht Maschinen im Zentrum stehen.

Was ist so schlimm daran, wenn automatische Gesichtserkennung zur Verbrechensbekämpfung eingesetzt wird?

Straftaten müssen polizeilich und juristisch verfolgt werden können. Dem Staat stehen dafür bereits heute umfassende Mittel zur Verfügung, die er auf verhältnismässige Weise einsetzen kann. Mit dem Einsatz von automatischer Gesichtserkennung und anderen biometrischen Überwachungssystemen im öffentlichen Raum wird dieses Gebot der Verhältnismässigkeit verletzt. Denn alle von uns würden permanent überwacht und persönlich identifiziert, auch wenn wir keiner Straftat verdächtigt werden. Eine Massenüberwachung mit automatischer Gesichtserkennung und anderen biometrischen Überwachungssystemen verletzt die Privatsphäre aller und schreckt Menschen davon ab, grundlegende Rechte wie die Meinungs- oder Versammlungsfreiheit wahrzunehmen. Das gefährdet unsere demokratische Gesellschaft und beschneidet unsere Freiheit. Zudem erkennen Gesichtserkennungssysteme oft Frauen und People of Color schlechter, als andere. Das führt dazu, dass diese Menschen öfter verwechselt werden, dass es also zu sogenannt «falsch positiven» Treffen kommt – was gravierende Auswirkungen haben kann, wenn sie aufgrund eines solchen vermeintlichen Treffers irrtümlich verdächtigt oder gar festgenommen werden. Die automatische Gesichtserkennung macht zwar langsame Fortschritte, wird jedoch nie fehlerfrei funktionieren. Um gefährliche Massenüberwachung und falsche Verdächtigungen durch eine Maschine zu verhindern, braucht es ein Verbot von Gesichtserkennungstechnologien. Nur so wahren wir unsere Grundrechte und legen den Grundstein für eine selbstbestimmte Zukunft.

Ist automatische Gesichtserkennung nicht bereits heute verboten?

Nein. Obwohl biometrische Daten laut Datenschutzgesetz zu den besonders schützenswerten Personendaten gehören, gibt es kein explizites Verbot zu deren Verwendung. Das bedeutet zwar, dass es auch keine umfassende Erlaubnis gibt – eine gesetzliche Grundlage wäre für den Einsatz nötig. Trotzdem wird die Technologie bereits heute verschiedentlich eingesetzt wird. In anderen Ländern Europas wird die automatische Gesichtserkennung bereits zur Durchführung einer Massenüberwachung im öffentlichen Raum eingesetzt. (Siehe hier und hier) Diese Entwicklungen lassen befürchten, dass auch bei uns bald ein solch grossflächiger Einsatz gesetzlich erlaubt wird.

Könnte ich mich nicht mit einer medizinischen Schutzmaske gegen automatische Gesichtserkennung schützen?

Die neusten automatischen Gesichtserkennungssysteme werden dazu trainiert, auch Gesichter unter medizinischen Schutzmasken zu erkennen. Die Masken bieten daher keinen Schutz vor einer Massenüberwachung. Zudem ist eine weiterreichende Verhüllung des Gesichts in der Schweiz seit dem 7. März 2021 verfassungsrechtlich verboten. Darum braucht es ein umfassendes Verbot der automatischen Gesichtserkennung.

Weitere Berichte, die Sie interessieren könnten:

Bundesrat beschliesst Bildung eines Cyberbataillons

US-Anklage gegen Julian Assange Angriff auf die Pressefreiheit

US-Willkür: AI kritisiert Inhaftierung von Umweltanwalt  

Beispiellose Repression gegen Medien und Antikriegsbewegung

China: Uno muss wegen Gräueltaten in Xinjiang handeln

Gesichtserkennung verletzt das Recht auf Privatsphäre

Wenn Menschen einen öffentlichen Platz betreten, werden ihre Gesichter in immer mehr Ländern automatisch erfasst, gescannt und von einem Algorithmus verarbeitet. Dies verletzt das Recht auf Privatsphäre. Ausserdem wird Gesichtserkennungstechnologie vor allem gegen marginalisierte Bevölkerungsgruppen eingesetzt. Daher fordert Amnesty International mit der internationalen Kampagne «Ban the Scan» ein Verbot dieser Technologie.

Eine steigende Anzahl von Ländern setzt Gesichtserkennungstechnologie zur Überwachung des öffentlichen Raumes ein. Wir leben bereits in einer Zeit potenziell vollständiger Überwachung der elektronischen Kommunikation. In manchen Ländern müssen Menschenrechtsverteidiger*innen zusätzlich etwa mit verwanzten Wohnungen und dem gezielten Ausspähen ihrer elektronischen Geräte rechnen. Gesichtserkennung schliesst den für viele Menschen letzten überwachungsfreien Rückzugsraum – die öffentlichen Strassen und Plätze. In Kombination mit Informationen aus der Kommunikationsüberwachung kann dies ein vollständiges Bild unseres gesamten Alltags ergeben.

Obwohl Gesichtserkennungstechnologie zu Identifikationszwecken für legitime Ziele eingesetzt werden kann – etwa dafür, Straftäter*innen oder vermisste Kinder zu finden – kann sie im öffentlichen Raum nach Auffassung von Amnesty International nicht verhältnismässig eingesetzt werden, da sie alle vorbeikommenden Menschen erfasst und analysiert, ohne einen individualisierten begründeten Verdacht. Dies verletzt das Recht auf Privatsphäre. Es gefährdet die Rechte auf Versammlungsfreiheit und freie Meinungsäusserung, da es Menschen davon abhalten kann, an Protesten teilzunehmen.

Gesichtserkennungssysteme leisten zudem Rassismus Vorschub, da People of Color häufig am stärksten von ihrem Einsatz betroffen sind. Diese Personengruppen erfahren ohnehin bereits Diskriminierung und Menschenrechtsverletzungen durch die Ordnungskräfte. Schwarze Menschen laufen darüber hinaus am stärksten Gefahr, von Gesichtserkennungssystemen fälschlich identifiziert zu werden. Auch Frauen sind häufiger von Fehlidentifizierungen betroffen.

«Es besteht die Gefahr, dass die Gesichtserkennungstechnik von Strafverfolgungsbehörden auf der ganzen Welt gegen marginalisierte Gemeinschaften eingesetzt wird. Von Neu-Delhi bis New York setzt diese invasive Technologie unsere eigene Identität gegen uns ein und untergräbt unsere Menschenrechte», so Matt Mahmoudi, Experte für künstliche Intelligenz und Menschenrechte bei Amnesty International.

«Die Menschen in New York sollten in der Lage sein dürfen, ihren alltäglichen Tätigkeiten nachzugehen, ohne von Gesichtserkennungssystemen beobachtet zu werden. Andere US-amerikanische Grossstädte haben die Gesichtserkennung bereits verboten, und New York muss diesem Beispiel folgen.»

Millionen Bilder zusammengetragen

Für die Entwicklung von Gesichtserkennungstechnologie werden unter anderem Millionen Bilder ohne die Einwilligung der Betroffenen aus Social-Media-Profilen und Ausweisdokumenten, darunter Fahrausweisen, zusammengetragen. Somit können dann Bilder aus Überwachungskameras von der Software auf bestimmte Gesichtsmerkmale analysiert und mit der Datenbank gesammelter Bilder abgeglichen werden.

Während andere Städte in den USA wie z. B. Boston, Portland und San Francisco den Einsatz von Gesichtserkennung bei der Polizeiarbeit bereits verboten haben, setzt die Polizei in New York diese Technologie nach wie vor ein, um Menschen, die keinen Gesetzesverstoss begangen haben, einzuschüchtern und zu schikanieren – wie beispielsweise 2020 während der Proteste der Bewegung von Black Lives Matter.

Filmtipp zum Thema: «Coded Bias»

Der Dokumentarfilm «Coded Bias» lief am Zurich Film Festival 2020 in der Reihe «Border Lines», die jeweils von Amnesty International präsentiert wird. «Coded Bias» ist jetzt auf Netflix zu sehen.

Hausverwaltung setzt Technologie ein

Der diskriminierende Einsatz von Gesichtserkennungstechnologie beschränkt sich nicht nur auf die behördliche Verwendung gegen friedliche Protestierende. In New York besteht zudem die Gefahr, dass Vermieter*innen die Technik dazu einsetzen, um People of Color auszuspionieren. Im Jahr 2019 wollte die Hausverwaltung eines Hochhauskomplexes in Brooklyn Gesichtserkennungstechnologie in dem Gebäude installieren. Bewohner*innen, die sich dagegen wehrten, wurden mit der Wohnungskündigung bedroht und aufgefordert, ihre Kampagne einzustellen.  Die Bewohner*innen gaben jedoch nicht auf und gingen gerichtlich gegen die Verletzung ihres Rechts auf Privatsphäre vor. Erst dann liess die Hausverwaltung von dem Plan ab, Gesichtserkennungstechnik in dem Gebäude zu installieren. Amnesty International fordert ein komplettes Verbot der Nutzung, Entwicklung und Herstellung sowie des Verkaufs und Exports von Gesichtserkennungstechnik, wo diese zum Zweck der Massenüberwachung durch die Polizei oder andere staatliche Stellen eingesetzt werden soll.

Neue Amnesty-Kampagne

Am 26. Januar 2021 startete eine Kampagne von Amnesty International gegen den Einsatz von Gesichtserkennungssystemen, einer Form der Massenüberwachung, die rassistischer Polizeiarbeit Vorschub leistet und das Recht auf friedlichen Protest bedroht. Die Amnesty-Kampagne Ban the Scan ist an eine Internetseite gekoppelt, auf der die Bewohner*innen von New York gemäss dem Gesetz zur öffentlichen Darlegung der eingesetzten Überwachungstechnologien (Public Oversight of Surveillance Technologies (POST) Act) Kommentare über den polizeilichen Einsatz von Gesichtserkennungstechnologie hinterlassen können. Später können zudem Anträge unter dem Informationsfreiheitsgesetz gestellt werden, um zu erfahren, wo die Gesichtserkennung vor Ort eingesetzt wird.

Interview: Patrick Walder von Amnesty International über die Gefahren der Gesichtserkennung https://www.youtube.com/embed/pVPfdiuK4UM Teilen

Alerts «Überwachung und Privatspäre»

Hier können Sie «Alerts» abonnieren: Sie erhalten von uns ein E-Mail, sobald wir zum Thema Überwachung und Privatsphäre eine neue Mitteilung, einen Bericht oder andere Neuigkeiten veröffentlichen. Sie können den Alert jederzeit wieder abbestellen.

Weitere Berichte, die Sie interessieren könnten: