Vielen Dank für Ihre Registrierung. Sie haben jetzt den Aktivierungslink für Ihr Benutzerkonto per E-Mail erhalten.

Vielen Dank für Ihre Anmeldung.

Ihr Konto ist aktiviert. Wir wünschen Ihnen viel Lesevergnügen.

Vielen Dank für Ihre Bestellung. Wir wünschen Ihnen viel Lesevergnügen.

Mit Robotern gegen Hochstapler: Firmen jagen unehrliche Mitarbeiter

Unternehmen wollen mit künstlicher Intelligenz Betrüger in den eigenen Reihen überführen. Dabei setzen sie auf ausgeklügelte Sprachanalysen und die Auswertung grosser Datenmengen. Doch die neue Technik birgt auch Risiken.
Michael Genova
Computer erkennen anhand sprachlicher Muster, ob eine Person betrügerische Absichten verfolgt. (Illustration: Selina Buess)

Computer erkennen anhand sprachlicher Muster, ob eine Person betrügerische Absichten verfolgt. (Illustration: Selina Buess)

Dies ist ein Artikel der "Ostschweiz am Sonntag". Die ganze Ausgabe lesen Sie hier.

Sie sind wortgewandt, charismatisch und kaum zu überführen. Unredliche Mitarbeiter richten in ihren Unternehmen oft Millionenschäden an, bevor sie entdeckt werden. Es geht um Reisekosten- und Spesenmissbrauch, aber auch um schwerwiegende Wirtschaftsdelikte. Neuerdings setzen Unternehmen auf künstliche Intelligenz im Kampf gegen Betrüger in den eigenen Reihen. Ihre Hoffnung: Im Gegensatz zu gutgläubigen Vorgesetzten fördern emotionslose Computerprogramme die Wahrheit unbeirrt zutage.

Ein Anbieter solcher Software ist Stephan Siegfried, Geschäftsführer des Beratungsunternehmens 1-prozent GmbH mit Sitz in Zürich. Seine Methode basiert auf einem einfachen Grundsatz: Un­redliche Absichten sind schon an der menschlichen Sprache erkennbar. Das neuartige Computersystem analysiert Schriftstücke und filtert mit Hilfe künstlicher Intelligenz auffällige Wörter oder Sätze heraus, um betrügerische Absichten offenzulegen. Ein Beispiel: Laut Siegfried flechten Hochstapler in ihre unwahren Aussagen immer gerade so viel Wahrheit ein, um ihr Gegenüber unablässig zu verwirren.

Die Sprache verrät den Betrüger

Wie brisant das Thema ist, zeigen auch aktuelle Fälle aus der Ostschweiz. So leitete die Universität St. Gallen kürzlich wegen mutmasslich überhöhter Spesenbezüge diverse Disziplinarverfahren ein. Und in der Affäre Raiffeisen haben die Finanzmarktaufsicht, die Staatsanwaltschaft sowie ein interner Ermittler die Spesenabrechnungen des früheren Bankchefs Pierin Vincenz unter die Lupe genommen.

Lösungen wie jene der 1-prozent GmbH helfen, potenzielle Betrüger frühzeitig zu erkennen. Zum Beispiel dadurch, dass der unternehmensinterne E-Mail-Verkehr auf sprachliche Auffälligkeiten analysiert wird, wie Siegfried erklärt. Auch andere Anwendungen seien denkbar. So können beispielsweise Anbieter von Onlinekrediten von potenziellen Kunden verlangen, ihr Kreditbegehren schriftlich zu begründen. Künstliche Intelligenz analysiert die Textprobe und gibt eine erste Einschätzung ab, ob eine Person vertrauenswürdig ist. Der Bankberater wird dadurch jedoch nicht ersetzt. «Das Tool ist nur ein ergänzendes Hilfsmittel», betont Siegfried

Siegfrieds Firma setzt auf die Technik der in Aachen ansässigen Firma Precire Technologies. Bekannt wurde das Unternehmen durch eine Software, die anhand von Textproben Persönlichkeitsprofile erstellt. Der deutsche Versicherungskonzern Talanx nutzt das Programm, um Bewerber auszuwählen. Auch der Personalvermittler Randstad und der Frankfurter Flughafen zählen zu den Kunden.

Diskriminierende Algorithmen

Die zunehmende Verbreitung moderner Datenanalyse löst aber auch Ängste aus. Was geschieht, wenn Algorithmen menschliche Entscheidungen ersetzen, an der Börse handeln oder das Wählerverhalten beeinflussen? Diese Woche gab die Empa bekannt, dass sie gemeinsam mit der Universität Zürich in einer Studie die Chancen und Risiken künstlicher Intelligenz untersuchen wird. Mit ersten Ergebnissen ist voraussichtlich in einem Jahren zu rechnen.

Einer der Studienleiter ist Lorenz Hilty, Professor für Informatik und Nachhaltigkeit an der Universität Zürich. Er hat grosse ethische Vorbehalte gegenüber Softwareanbietern, die versprechen, mittels Sprachanalysen oder anderer Methoden, künftige Verbrecher aufspüren zu können. Solche Programme versuchten im Grundsatz immer, statistische Zusammenhänge aus grossen Datenmengen herauszufiltern. Hilty sagt:

«Wenn ich aber von der Masse auf den Einzelnen schliesse, ist das an sich eine diskriminierende Handlung»

In anderen Worten: Aufgrund von Computerberechnungen könnten auch unbescholtene Bürger unter Verdacht geraten.

Stephan Siegfried versteht die Kritik. Er warnt jedoch davor, «mit Ängsten zu arbeiten». Wenn ein System fehlerhaft sei, lasse sich dies nachträglich verbessern. Dies geschehe in anderen Bereichen der Gesellschaft nur in Einzelfällen, sagt der gelernte Jurist und nennt als Beispiel Fehlurteile in der Justiz. «Wenn Richter sich irren, wird dies selten korrigiert.» Das sei ethisch-moralisch fragwürdig. Auch in der zunehmenden Überwachung durch Computerprogramme sieht Siegfried keine Probleme: «Wenn ich nichts zu verbergen habe, kann ich mich wie am Flughafen ohne Sorge durchleuchten lassen.»

Keine Magie, sondern moderne Statistik

Uni-Professor Lorenz Hilty plädiert für einen nüchternen Blick auf die künstliche Intelligenz, einen Teilbereich der Informatik, der schon viele Begeisterungswellen erlebt habe. Bei den heute eingesetzten Lernalgorithmen handle es sich letztlich um eine moderne Form der Statistik, sagt Hilty. Viele der Methoden der künstlichen Intelligenz seien schon lange bekannt. Nur konnte man sie bislang praktisch nicht umsetzen, weil die Rechenleistung und die Daten dazu fehlten. Mit der fortschreitenden Digitalisierung hat sich dies radikal verändert.

Mit sogenannten Big-Data-Analysen kann man heutzutage Auffälligkeiten und Unregelmässigkeiten in grossen Datenmengen recht zuverlässig erkennen. Hilty betont:

«Da passiert jedoch nichts Magisches»,

Algorithmen würden nichts ausspucken, was nicht in den Daten zu finden sei. Dazu kommt: Die Computer haben kein inhaltliches ­Verständnis. Für die Interpretation der Daten werde es auch in Zukunft noch Menschen brauchen, welche Entscheidungen mit einem umfassenderen Verständnis der Situation treffen, sagt Hilty.

Firmen durchforsten Kalender und soziale Medien

Auch Wirtschaftsprüfer beschäftigen sich mit künstlicher Intelligenz. Die ­forensische Datenanalyse soll helfen, Wirtschaftskriminalität in Unternehmen aufzudecken – auch Spesenmissbrauch. Früher hätten sich Systeme zur Spesenabrechnung an starren Regeln orientiert, zum Beispiel an einer finanziellen Obergrenze, sagt Michael Faske, Leiter der Abteilung Betrugsermittlungen bei der Beratungsfirma EY Schweiz. Im Gegensatz dazu verknüpft moderne Software auf intelligente Weise eine grosse Zahl von Informationsquellen. Faske sagt:

«Je grösser der Datentopf, desto intelligenter können sie ihn untersuchen»

Bereits heute ist es technisch möglich, dass eine Firma die Spesenbelege mit den Kalenderdaten und der E-Mail-Korrespondenz seiner Mitarbeiter verknüpft. So kann sie überprüfen, ob ein Mitarbeiter eine Dienstreise tatsächlich angetreten und nicht nachträglich storniert hat. Künftig könnte auf diese Weise Betrug verhindert werden, bevor er geschieht: Im Zweifelsfall würde ein Unternehmen umstrittene Spesen einfach nicht ausbezahlen.

Weniger Betrug, mehr Überwachung

Allerdings gibt es noch keine pfannenfertigen Lösungen. Die Datenquellen müssen aufwendig miteinander verknüpft werden. «Die Kosten für die Anpassungen sind hoch», sagt Faske. Die forensische Datenanalyse kommt zurzeit unter anderem bei grossen Versicherern zum Einsatz. Diese haben es häufig mit kriminellen Banden zu tun, die sich auf Versicherungsbetrug spezialisiert haben. Das geht so weit, dass sich die Täter zu Unfällen verabreden. In solchen Fällen hilft künstliche Intelligenz, versteckte Beziehungen zwischen den Tätern offenzulegen. Kleine und mittlere Unternehmen aus der Ostschweiz setzen laut Faske hingegen zurzeit noch auf herkömmliche Spesenmanagement-Systeme.

Eine offene Frage ist für Michael Faske das Thema Datenschutz. Die moderne Datenanalyse könne Firmen helfen, die Zahl von betrügerischen Aktivitäten betriebsintern zu reduzieren. «Der Preis dafür ist jedoch eine zunehmende Überwachung.» Unternehmen müssten sich genau überlegen, wie tief sie in die Privatsphäre der Mitarbeiter eingreifen wollen.

Maschinen simulieren Gehirnschmalz

Künstliche Intelligenz (KI) ist ein Milliardengeschäft. Gemäss einer Studie des Beratungsunternehmens McKinsey haben Unternehmen im Jahr 2016 rund 39 Milliarden Dollar in die Forschung in diesen Wachstumsmarkt investiert, allen voran grosse amerikanische Technologiekonzerne wie Google und Amazon.

Doch was versteht man unter künstlicher Intelligenz? Sie ist ein Teilgebiet der Informatik, das sich mit der Automatisierung intelligenten Verhaltens befasst. Das Forschungsgebiet geht von der ­Vision aus, dass Maschinen eines Tages Probleme lösen können, denen bislang nur Menschen gewachsen waren. Zum Beispiel das Erkennen von geschriebener und gesprochener Sprache oder das Erkennen von Gesichtsausdrücken. Erstmals erwähnt wurde der Begriff «Artifi­cial Intelligence» im Jahr 1956 an einer Wissenschaftskonferenz in den USA.

Eine Kerntechnologie der KI ist maschinelles Lernern (ML), eine Alternative zur herkömmlichen Programmierung. Statt mit konkreten Anweisungen füttert man den Computer mit Beispieldaten. Lernalgorithmen extrahieren daraus statistische Regelmässigkeiten, die sie in Form von Modellen darstellen. So kann ein System auch bislang unbekannte Daten beurteilen. ML hilft zum Beispiel beim Aufdecken von Kreditkartenbetrug, bei Aktienmarktanalysen oder bei der Handschrifterkennung.

Die Intelligenz der Algorithmen ist allerdings noch stark beschränkt. So machte Google vor drei Jahren weltweit Schlagzeilen, als sein Fotodienst dunkelhäutige Menschen auf Bildern als Gorillas klassifizierte. Und Microsoft musste seinen Chatbot Tay von Twitter zurückziehen, weil er von Benutzern rassistische Bemerkungen gelernt hatte. (mge)

Mehr zum Thema:

Merkliste

Hier speichern Sie interessante Artikel, um sie später zu lesen.

  • Legen Sie Ihr persönliches Archiv an.
  • Finden Sie gespeicherte Artikel schnell und einfach.
  • Lesen Sie Ihre Artikel auf allen Geräten.