Vielen Dank für Ihre Registrierung. Sie haben jetzt den Aktivierungslink für Ihr Benutzerkonto per E-Mail erhalten.

Vielen Dank für Ihre Anmeldung.

Ihr Konto ist aktiviert. Wir wünschen Ihnen viel Lesevergnügen.

Vielen Dank für Ihre Bestellung. Wir wünschen Ihnen viel Lesevergnügen.

Interview

Roboterrecht: «Ein Algorithmus ist nicht fairer»

Fast unbemerkt greifen Computerprogramme und Roboter entscheidend in unser Leben ein. Das Recht muss sich deshalb neuen Fragen stellen, finden die HSG-Professorinnen Isabelle Wildhaber und Melinda Lohmann.
Interview: Kaspar Enz
Melinda Lohmann (links) und Isabelle Wildhaber forschen zu Roboterrecht. (Bild: Michel Canonica (St. Gallen, 8. November 2018))

Melinda Lohmann (links) und Isabelle Wildhaber forschen zu Roboterrecht. (Bild: Michel Canonica (St. Gallen, 8. November 2018))

Dies ist ein Artikel der "Ostschweiz am Sonntag". Die ganze Ausgabe lesen Sie hier.

Isabelle Wildhaber, Melinda Lohmann, warum soll man sich um Roboterrecht kümmern?

Wildhaber: Es gibt viele Entwicklungen in Robotik und Künstlicher Intelligenz, die neue Fragen aufwerfen. Nehmen wir die Industrie: Herkömmliche Industrieroboter arbeiten hinter Gittern. Nun kommen kollaborierende Roboter auf den Markt. Sie treten aus dem Käfig heraus, kommen direkt mit Menschen in Kontakt. Daraus ergeben sich Fragen der Arbeitssicherheit. Man will ja nicht, dass ein Roboter die Mitarbeiter verletzt.

Andere Maschinen sind auch ­gefährlich.

Lohmann: Neuere Roboter entwickeln ein Eigenleben: Sie sind bis zu einem gewissen Grad lernfähig. Das heisst auch, dass sie Dinge tun, die nicht vorhersehbar sind. Eher wie ein Hund als wie ein Toaster. Das macht sie auch rechtlich spannend.

Was ist anders als beim Toaster?

Wildhaber: Eben genau die Lernfähigkeit. Unser Haftungsrecht geht von einer direkten Kausalität aus: Ein Schaden hat eine ganz bestimmte Ursache. Doch wenn Maschinen lernen können, wird das schwierig: Hat ihn der Hersteller falsch programmiert? Oder schlich sich der Fehler später ein, hat ihn ein Nutzer falsch «erzogen»?

Lohmann: Welche Art von Haftung macht Sinn, wenn der Staubsauger auch noch Kaffee bringt und die Agenda führt? Da muss man neue Konzepte suchen. Hilfreich wäre bei gewissen Robotern eine Gefährdungshaftung wie beim Auto. Hier haftet der Halter für Schäden, auch ohne direktes Verschulden. Das ist aber nicht bei allen Robotern nötig.

Müssen Roboter deliktfähig werden, also selber schuld sein können?

Wildhaber: Es gibt einen entsprechenden Vorschlag im EU-Parlament. Roboter sollen «E-Personen» werden, Verträge abschliessen können und regis­triert werden. Wie juristische Personen wären sie so handlungs- und deliktfähig. Momentan sind Roboter selber nicht deliktfähig.

Lohmann: Es müssten dabei viele Detailfragen geklärt werden, noch ist der Vorschlag weit entfernt davon, auf EU-Ebene umgesetzt zu werden. Aber man muss das im Auge behalten für die fernere Zukunft.

Ein gewöhnlicher Nutzer weiss aber wohl meist wenig über das Innenleben eines Roboters Bescheid. Ist es da überhaupt angebracht, diese auf die Allgemeinheit loszulassen?

Wildhaber: Die Hersteller gewichten die Sicherheit sehr hoch. Kollaborierende Roboter halten inne, wenn sie Menschen berühren. Roboter müssen viele Sicherheitsnormen erfüllen, bevor sie auf den Markt kommen. So müssen sie die Anforderungen im Produktsicherheits­gesetz erfüllen oder als Medizinprodukt zertifiziert werden. Es gibt auch spezifische Standardisierungsnormen für verschiedene Typen von Robotern, wie diejenigen von der ISO.

Lohmann: Nützlich wäre bei Robotern eine Black Box, die aufzeichnet, was der Roboter getan hat, wie bei Flugzeugen.

Was Roboter in zehn Jahren können, ist kaum vorauszusehen. Macht es da Sinn, Regeln für sie aufzustellen?

Wildhaber: Deshalb wäre es falsch, in eine Regelungswut zu verfallen. Vieles, was man sich vorstellt, das Roboter können, gibt es noch nicht. Verfrühte Regeln hemmen die Innovationskraft. Deshalb sollte man nicht sofort alles regeln.

Wann kommen selbstfahrende Autos auf die Strasse?

Lohmann: Die grösste Hürde ist noch die Zulassung. Aber es kommt Bewegung in die Sache. Das Wiener Abkommen über den Strassenverkehr wurde so abgeändert, dass eine Zulassung möglich wäre. Aber es bleiben noch offene Fragen, Datenschutz zum Beispiel: Selbstfahrende Autos sammeln eine Unmenge an Daten, um zu funktionieren. Aber eine Revision des Verkehrsgesetzes ist im Gang, wir sind in der Schweiz auf einem guten Weg.

Gesteuert werden Roboter letztlich von Computerprogrammen, also Algorithmen. Diese sind beispielsweise im Personalwesen im Einsatz. Wie weit verbreitet sind sie da?

Wildhaber: Das versuchen wir mit einem Forschungsprojekt herauszufinden. Wir haben 1185 Unternehmen angeschrieben, wie sie solche People Analytics Tools nutzen. Je nach Art des Tools benutzen es zwischen 17,7 und 60,8 Prozent. Die Tools sind also weit verbreitet.

Was können diese Programme?

Wildhaber: Sie können Bewerbungen analysieren und eine Vorauswahl treffen. Manche untersuchen die Performance ihrer Mitarbeiter. Andere Unternehmen wiederum messen aus, ob ein Mitarbeiter das Unternehmen verlassen will.

Indem sie sehen, wenn einer auf einem Stellenportal surft?

Wildhaber: Zum Beispiel, aber es kann auch die Zufriedenheit und das Engagement untersucht werden. Ob das datenschutzrechtlich und arbeitsrechtlich sauber ist, ist eine andere Frage.

Wie lautet die Antwort?

Wildhaber: Eine klassische Juristenantwort: Es kommt drauf an. Was ist der Zweck? Ist die Datenbearbeitung verhältnismässig? Genau solchen Fragen widmet sich unser Forschungsprojekt.

Gibt es schon Gerichtsfälle?

Wildhaber: In der Schweiz sind mir keine bekannt. In den USA geht man eher vor Gericht, dort gibt es durchaus Fälle. Gerade weil manche Algorithmen beim Bewerbungsprozess etwa Frauen oder Schwarze aussortierten.

Merken wir überhaupt, dass ein Algorithmus entscheidet?

Lohmann: Vieles hat sich eingeschlichen, ohne dass wir uns dessen bewusst sind. Wir googeln, stellen alles online, ohne zu bedenken, wie diese Daten verwendet werden. Oft glaubt man, eine Entscheidung sei fair, wenn ein Algorithmus und nicht ein Mensch sie trifft. Aber das ist nicht zwingend der Fall.

Wildhaber: Deshalb braucht es eine breite Diskussion darüber, wie wir mit Algorithmen leben wollen. Wir bewegen uns auf eine Welt zu, in der viele Algorithmen Black Boxes sind – für uns undurchsichtig.

Braucht es eine Deklarationspflicht für Algorithmen?

Wildhaber: Das ist einer der Punkte, den es zu diskutieren gibt. In Deutschland wird über einen TÜV für Künstliche Intelligenz nachgedacht, auch ein Antidiskriminierungsgesetz für Algorithmen wurde vorgeschlagen. Über Regulierungsansätze muss diskutiert werden.

Warum interessieren Sie sich ­eigentlich für Roboter?

Wildhaber: Ich finde es spannend, wie Technologie die Gesellschaft verändert. Als ich mein Studium abschloss, gab es weder E-Mail noch Handy. Heute arbeiten wir völlig anders.

Haben Sie zu Hause einen Roboter?

Wildhaber: Die Vorstellung eines Haushaltsroboters wäre verlockend. Aber gerade wenn man sich mit dem Thema kritisch auseinandersetzt, überlegt man sich das zweimal.

Lohmann: Ich hätte gern einen Roboter, der mir Kaffee bringt. Aber er müsste ohne Kamera funktionieren. Meine Faszination für Roboter verdanke ich wohl der Trickfilmserie «The Jetsons», Dort gab es den Haushaltsroboter namens Rosie – meine Lieblingsfigur.

Ist das überhaupt realistisch, dass es so was wie Rosie eines Tages gibt?

Lohmann: Haushaltsroboter können erst ganz bestimmte Dinge tun, staubsaugen zum Beispiel. Ein Roboter, der eine Haushaltshilfe ersetzen könnte, müsste über eine generellere Intelligenz verfügen. Da ist der Durchbruch noch weit entfernt.

Regeln für Algorithmen und Roboter

Isabelle Wildhaber ist Professorin für Privatrecht und Direktorin des Forschungsinstituts für Arbeit und Arbeitswelten an der Universität St. Gallen. Melinda Lohmann ist Assistenzprofessorin am Forschungszentrum für Informationsrecht. Zusammen organisierten sie zum ersten Mal die Tagung «Towards Algocracy». Dabei ging es darum, wie der zunehmenden Bedeutung von Computerprogrammen, Algorithmen und künstlicher Intelligenz rechtlich zu begegnen ist. Denn solche Computerprogramme beherrschen vermehrt auch unser tägliches Leben. Es stellen sich unter anderem Fragen des Datenschutzes und des Arbeitsrechts. Der Begriff Algorithmus bezeichnet Handlungsvorgaben, wie sie in Computerprogrammen festgeschrieben werden. Sie fordern den Computer auf, gewisse Rechenschritte vorzunehmen oder auf ein Ereignis in einer bestimmten Form zu reagieren: «Wenn X eintritt, tue Y» wäre eine einfache Form eines Algorithmus. Roboter können in diesem Sinne als verkörperte Algorithmen bezeichnet werden. Sie nehmen ihre Umwelt wahr, verarbeiten die gewonnenen Daten und handeln physisch. Neuere Entwicklungen erlauben es Computerprogrammen und damit auch Robotern zu lernen. Auch dieses «Machine Learning» geschieht grundsätzlich nach den Vorgaben von Algorithmen. Solche Systeme lernen aus Erfahrung. So sollen sie mit der Zeit in der Lage sein, Muster und Gesetzmässigkeiten zu erkennen. So sollen sie auch unbekannte Daten interpretieren können. (ken)

Merkliste

Hier speichern Sie interessante Artikel, um sie später zu lesen.

  • Legen Sie Ihr persönliches Archiv an.
  • Finden Sie gespeicherte Artikel schnell und einfach.
  • Lesen Sie Ihre Artikel auf allen Geräten.