„Der Einsatz von biometrischer Überwachung ist eine Gefahr für alle rechtschaffenen Bürger.innen. Hier hat eine „KI“ eine hochschwangere Frau einer Straftat verdächtigt, die sie offensichtlich nichts begangen hatte. So etwas könnte jede.n treffen.“ – Konstantin Macher von Digitalcourage e.V.

Insbesondere Menschen, deren Aussehen nicht einem weißen und männlichen Bild entspricht, werden regelmäßig falsch erkannt und zu Unrecht verdächtigt. So auch in diesem Fall. Sogenannte „künstliche Intelligenz“ ist vereinfacht gesagt ein statistisches Modell, welches basierend auf vielen Daten Wahrscheinlichkeitsvorhersagen macht. „KI“-Systeme werden häufig als rassistisch bezeichnet, weil die Trainingsdaten von „KI“ fast immer durch gesellschaftliche Ungleichheiten verzerrt sind und so diskriminierende Stereotype reproduzieren.

Aktuell laufen Verhandlungen für eine europaweite Regelung von „KI“ und biometrischer Überwachung. Digitalcourage engagiert sich seit Jahren für ein Gesetz zum Schutz der Bevölkerung vor automatisierter Gesichtserkennung. Das sogenannte „KI-Gesetz“ (AI Act) der Europäischen Union befindet sich gerade auf der Zielgerade.
Die Ampelkoalition hat im Koalitionsvertrag versprochen, sich für ein Verbot biometrischer Massenüberwachung ohne Ausnahmen zu engagieren. Im Januar hatte Digitalcourage aber nachgewiesen, dass sich die deutsche Bundesregierung bei den Verhandlungen für Ausnahmen stark macht und so den Koalitionsvertrag gebrochen hat. Die Ampel möchte genau diese Form der zeitlich nachgelagerten Gesichtserkennung erlauben, durch die in diesem Fall die hochschwangere Frau unschuldig festgenommen wurde.

„Jetzt sollte sich auch bei der Ampel endlich die Erkenntnis durchsetzen, dass der Einsatz von Gesichtserkennung im öffentlichen Raum eine Gefahr für Leib und Leben ist. Wir appellieren an die Bundesregierung, sich jetzt endlich – wie im Koalitionsvertrag versprochen – für den Schutz von Demokratie und Menschenrechten einzusetzen. Das bedeutet ein konsequentes Verbot von biometrischer Überwachung ohne Wenn und Aber!“ – Konstantin Macher von Digitalcourage e.V.

Weiterführende Links
[1] https://www.heise.de/news/Gesichtserkennung-fehlgeschlagen-Hochschwangere-faelschlicherweise-festgenommen-9236436.html
[2] https://www.nytimes.com/2023/08/06/business/facial-recognition-false-arrest.html
[3] https://digitalcourage.de/blog/2023/biometrie-ampel-bricht-koalitionsvertrag