Die Vorurteile der Algorithmen

Drucken
Teilen

Datenschutz Wo liegen die Risiken, wenn Steuerverwaltungen Arbeitsschritte zunehmend automatisieren? Mittlerweile benutzten viele Behörden solche Programme, um Kosten zu sparen, sagt Julian Maitra von der Universität St. Gallen. Der Forscher beschäftigt sich in ­seiner Doktorarbeit mit der Frage, wie moderne Algorithmen das Denken und Handeln verändern. Grundsätzlich sei gegen die Automatisierung nichts einzuwenden, solange Computer dabei relativ simple Regeln anwenden. Kritischer beurteilt Maitra jedoch sogenannt selbstlernende Algorithmen, bei denen oft ­unklar sei, wie sie ihre Schlüsse ziehen. «Wenn Nutzer es mehr nachvollziehen können, dann wird es problematisch.» Ein Beispiel dafür ist der sogenannte Credit-Score, eine Bonitätsprüfung für Privatpersonen. Auf diese Weise beurteilen viele Onlinehändler im Hintergrund automatisch die Zahlungsfähigkeit ihrer Kunden. Dabei ist jedoch nicht ausgeschlossen, dass Algorithmen auch Vorurteile entwickeln. Zum Beispiel indem sie die finanzielle Situation bestimmter Bevölkerungsgruppen systematisch falsch einschätzen. Um eine solche Ungleichbehandlung zu verhindern, schlägt Maitra vor, dass wichtige Algorithmen von einer unabhängigen Prüfstelle regelmässig getestet werden.

Ein Blick ins Ausland zeigt zudem: Mit der Automatisierung steigt auch der Datenhunger der Behörden. So sammelt die amerikanische Steuerbehörde IRS bereits heute grosse Menge an persönlichen Daten, wie das Magazin «U.S. News and World Report» berichtet. Darunter befänden sich Kreditkartendaten, aber auch Facebook-Beiträge. Der IRS nutze diese Informationen, um potenziellen Steuerhinterziehern auf die Schliche zu kommen. Und in Deutschland setzte das Bundesamt für Finanzen bereits 2003 eine Suchsoftware ein, um auf Onlinemarktplätzen professionelle Verkäufer aufzuspüren, die ihre Einnahmen nicht versteuern. Die Frage nach einer solchen Suchsoftware habe sich bisher noch nicht gestellt, sagt Felix Sager, Leiter des kantonalen Steueramts St. Gallen. Selbstverständlich verwendeten die Steuerfachleute aber die öffentlich zugänglichen Kanäle wie das Internet, um an Informationen zu gelangen. (mge)