San Francisco, am nördlichen Ende des Silicon Valley, ist das technologische Herz Amerikas. Apple, Google und Facebook haben ihre Büros nur wenige Kilometer entfernt von der Metropole. Hier wird entwickelt, was die Welt verändert. Hier wird die Zukunft zur Gegenwart. Und hier wurde soeben ein Gesetz beschlossen, das genauso prägend sein könnte wie all die technologischen Errungenschaften der letzten Dekade: San Francisco verbietet Technologie zur Gesichtserkennung für Polizei und Behörden. Überwachungskameras sind zwar erlaubt, aber Software, die Gesichter erkennt und mit Datenbanken abgleicht, ist nicht zugelassen. Damit ist San Francisco die erste US-Stadt, die ein solches Verbot beschliesst.

2017 hat CEO Tim Cook im Apple-Hauptquartier bei der Präsentation des iPhone X die Gesichtserkennung als technologischen Fortschritt gepriesen. Das iPhone wurde zu einem der meistverkauften Smartphones – und die Gesichtserkennung Mainstream. Dass ausgerechnet San Francisco diese Technologie einschränkt, ist nur auf den ersten Blick ein Widerspruch. Gesichtserkennung für private Nutzung ist weiter erlaubt, aber nicht zur Überwachung der Bürger.

Totalüberwachung in China

Damit ist die Gesichtserkennung wohl die erste Digitaltechnologie, die grundsätzlich eingeschränkt wird. Sie zeigt: Nicht alles, was technologisch machbar ist, wird auch gemacht. Dass man sogar von einer Zäsur sprechen könnte, wird klar, wenn man den Blick auf die andere Seite der Erdkugel richtet. Nirgends gibt es so viele Überwachungskameras wie in China – und es werden täglich mehr. Bis 2020 sollen es 600 Millionen sein. In den Grossstädten wird es keinen Hauseingang, keinen Hinterhof und keinen Strassenwinkel mehr geben, der nicht mindestens von einem Kameraauge erfasst wird. Jeder Bürger wird erkannt und kann unmittelbar geortet werden. Schon jetzt tragen Polizisten Brillen mit Kameras und Bildschirm, die sie auf eine gesuchte Person aufmerksam machen. Wer in Schanghai bei Rot über die Strasse geht, muss damit rechnen, dass sein Gesicht danach auf einem Bildschirm für jeden sichtbar gezeigt wird – als erzieherische Massnahme. Und in einigen Klassenzimmern werden die Gesichter der Schüler gescannt, um sicherzustellen, dass sie dem Unterricht folgen. Die Millionen Kameras sind die Grundlage für ein Überwachungssystem, das die Kommunistische Partei euphemistisch «Social Score» nennt. Gute Handlungen – etwa Aufmerksamkeit im Unterricht – werden mit Pluspunkten honoriert. Schlechte Taten – etwa bei Rot über die Strasse gehen – mit einem Punkteabzug geahndet. Wer einen hohen Score hat, wird einfacher einen guten Job, eine Wohnung oder unkomplizierter ein Reise-Visum erhalten.

Ab nächstem Jahr soll das System für alle obligatorisch sein. Doch jetzt schon machen viele Chinesen freiwillig mit, weil sie als «gute Bürger» von den Vorteilen eines hohen Punktestandes profitieren wollen. Man kann das Volkserziehung im Digitalzeitalter nennen. Oder «technologischen Totalitarismus». So bezeichnet Dirk Helbing, Professor für computerbasierte Soziologie an der ETH Zürich, die Entwicklung. «Wir müssen uns entscheiden, wo wir als Gesellschaft hinwollen», sagt er. Auf der einen Seite der Weiche befindet sich das chinesische Modell mit der zentralen digitalen Kontrolle durch den Staat, auf der anderen die informationelle Selbstbestimmung. Sie sieht vor, dass jede Person selber entscheidet, welche Daten sie preisgibt. Das Verbot in San Francisco sei ein wichtiger Schritt dahin, meint Helbing.

3000 Kinder wiedergefunden

Der Fortschritt der Gesichtserkennung geht Hand in Hand mit der Entwicklung der künstlichen Intelligenz in den letzten Jahren. Gesichter werden vermessen, so entsteht aus vielen Messpunkten ein eindeutiges biometrisches Identifizierungsmerkmal einer Person. So wie mit der IP-Nummer im Internet kann man damit Menschen in den Städten tracken. In der Schweiz ist eine Anwendung der Technologie nicht erlaubt, da es keine gesetzliche Grundlage gibt. Viktor Györffy, Präsident von grundrechte.ch, sagt gegenüber der «Wochenzeitung», dass die Gesichtserkennung in der normalen Polizeiarbeit hierzulande noch nicht eingesetzt werde. Die Begehrlichkeiten würden jedoch steigen, je allgegenwärtiger die Technologien seien. Oliver Bendel, Maschinenethiker und Professor an der Fachhochschule Nordwestschweiz, begrüsst eine Einschränkung der technologischen Möglichkeiten von Gesichtserkennungssoftware. Das Problem bei der Gesichtserkennung im öffentlichen Raum sei, dass versucht werde, jedes Gesicht zu erkennen und womöglich auch zu analysieren. «Jeder wird zum Verdächtigen», sagt er.

Letzten Sommer hat Bendel an der Stanford University im Silicon Valley in einem Vortrag vor einer «unheimlichen Rückkehr der Physiognomik» gewarnt. In dieser Pseudowissenschaft wird versucht, aus Gesichtszügen Charakterliches abzuleiten, ob ein Mensch kriminell veranlagt ist. Obwohl es dafür keine wissenschaftliche Grundlage gibt, versuchen Computerspezialisten nun genau das, mithilfe von künstlicher Intelligenz und Gesichtserkennungstechnologie. So wollen Forscher aus China einen Algorithmus entwickelt haben, der mit einer Wahrscheinlichkeit von 89,5 Prozent anhand einer Fotografie erkennt, ob jemand kriminell ist. Die Studien sind in Fachkreisen umstritten. Wenn einmal Algorithmen aufgrund von physiognomischen Merkmalen entscheiden sollten, ob jemand potenziell gefährlich ist, wäre das in «höchstem Masse diskriminierend», meint Bendel.

Doch die Gesichtserkennung hilft, wenn es darum geht, Verbrechen aufzuklären oder Flüchtige zu schnappen. In Oklahoma konnte ein mutmasslicher Kinderschänder nach über 20 Jahren Flucht geschnappt werden. Und in New Delhi wurden dank Gesichtserkennung laut Medienberichten 3000 vermisste Kinder gefunden. Daniel Castro vom Thinktank Center for Data Innovation spricht sich deshalb in der «New York Times» gegen ein generelles Verbot aus. So könnte man Gesichtserkennung nur bei Menschen erlauben, gegen die ein Fahndungsbefehl vorliegt, oder bei Kindern, die als vermisst gemeldet sind. Unbescholtene Bürger könnten theoretisch noch immer verwechselt und so zu Tatverdächtigen werden. Doch kein Land mit einem funktionierenden Rechtssystem verurteilt Menschen einzig aufgrund einer von einem Algorithmus festgestellten Konvergenz.

Stoppen, um nachzudenken

Vielleicht sollte der Westen seiner Rechtsstaatlichkeit mehr Vertrauen schenken. Ist die Gefahr wirklich so gross, dass man wegen einer neuen Technologie gleich in ein diktatorisches System à la China abdriftet? Muss man die Technologie wirklich ganz verbieten, um sicherzugehen? Anders gesehen: Vielleicht tut ein zwischenzeitlicher Stopp gut, um sich über solche Fragen klar zu werden. Und breit zu diskutieren. San Francisco, das technologische Herz Amerikas, hat die «Pause»-Taste gedrückt.