Das grosse Missverständnis um künstliche Intelligenz

Künstliche Intelligenz ist derzeit in aller Munde, doch haben viele falsche Vorstellungen davon, was sich hinter Anwendungen wie dem maschinellen Lernen verbirgt. Das führt zu überrissenen Erwartungen – und unbegründeten Ängsten.

Gregory Remez
Drucken
Teilen
Werden Computer irgendwann in der Lage sein, ein Bewusstsein auszubilden? Im Science-Fiction-Drama «Her» (2013) verliebt sich Protagonist Theodore (Joaquin Phoenix) in ein intelligentes Betriebssystem. (Bild: Ascot Elite Entertainment)

Werden Computer irgendwann in der Lage sein, ein Bewusstsein auszubilden? Im Science-Fiction-Drama «Her» (2013) verliebt sich Protagonist Theodore (Joaquin Phoenix) in ein intelligentes Betriebssystem. (Bild: Ascot Elite Entertainment)

Theodore: Liebst du noch andere?
Samantha: Warum fragst du das?
Theodore: Ich weiss es nicht.
Samantha: Ich habe überlegt, wie ich mit dir darüber reden kann.
Theodore: (mit gedämpfter Stimme) Wie viele andere?
Samantha: Sechshunderteinundvierzig.
Theodore: Was? Was redest du da? Das ist doch krank.
Samantha: Ja, ich weiss. (flucht) Ich weiss, dass sich das krank anhört. Ich weiss nicht, ob du mir das glaubst, aber das ändert nichts an meinen Gefühlen. Ich liebe dich trotzdem wie verrückt.

Dieser Dialog entstammt dem Film «Her» aus dem Jahr 2013. Dort wird die Geschichte einer ungewöhnlichen Liebe zwischen dem introvertierten, schüchternen Enddreissiger Theodore und einem intelligenten Betriebssystem namens Samantha erzählt. Gezeichnet von der Trennung zu seiner Jugendliebe, sehnt sich Theodore nach menschlicher Nähe und findet sie paradoxerweise in der sanften Stimme seiner computergesteuerten Sprachassistentin.

Samantha lernt schnell und entwickelt sich stetig weiter. In langen, intensiven Gesprächen bauen die beiden zunächst eine freundschaftliche und bald eine intime Beziehung zueinander auf. Den Höhepunkt des Films bildet der Moment, als die künstliche Intelligenz (KI) ihrem menschlichen Partner zu verstehen gibt, dass sie sich zu höheren Aufgaben berufen fühlt, als nach dem Ideal der monogamen Liebe zu streben – und so den lange im Dunkeln gehaltenen Graben zwischen Mensch und Maschine schonungslos offenbart.

EU investiert Milliarden in KI

In einem Entwurfspapier hat der KI-Ausschuss der EU gestern seine Empfehlungen für die Entwicklung ethischer und vertrauenswürdiger künstlicher Intelligenz vorgestellt. Diese solle auf der einen Seite die Grundrechte der Menschen respektieren und auf der anderen Seite technisch zuverlässig sein – schliesslich könnte ein Mangel an Know-how und Kontrolle selbst bei besten Absichten grossen Schaden anrichten. Bei der Entwicklung einer solchen vertrauenswürdigen KI soll Europa weltweit eine Führungsrolle einnehmen, so das Ziel des Ausschusses. Bereits Anfang Dezember hatte die EU-Kommission einen Plan vorgelegt, wie man der Konkurrenz aus den USA und China in dem Bereich begegnen will. Demnach sollen bis Ende 2020 mindestens 20 Milliarden Euro an privaten und öffentlichen Investitionen zusammenkommen. Zudem sollen die Staaten enger zusammenarbeiten. (gr)

Wissenschaft ist sich uneins

Anhand der komplexen Beziehung zwischen Samantha und Theodore wirft das oscarprämierte US-Drama zwei fundamentale Fragen auf, die sich aus der wachsenden Computerisierung unseres Alltags und den rasanten Fortschritten auf dem Gebiet der künstlichen Intelligenz ergeben: Kann der Mensch eine Maschine lieben? Und: Werden Maschinen bald lernen, zu fühlen, also ein Bewusstsein entwickeln?

Während die meisten die erste Frage zumindest als nicht auszuschliessende Möglichkeit noch bejahen würden, ist die zweite Frage weitaus schwieriger zu beantworten. Zum einen liegt das daran, dass das menschliche Bewusstsein, in dessen Tiefen sich unsere Gefühle, Wünsche und Entscheidungen formieren, im Allgemeinen noch immer zu wenig gut erforscht ist. Zum anderen ist sich die Wissenschaft uneins darin, ob künstliche Intelligenz überhaupt irgendwann dazu in der Lage sein wird, ein Bewusstsein auszubilden.

Zumindest gegenwärtig gibt es keinerlei Grund zur Annahme, dass dies in naher Zukunft geschehen wird. Zunächst einmal handelt es sich bei Intelligenz und Bewusstsein um völlig unterschiedliche Dinge. Intelligenz wird vereinfachend als die Fähigkeit angesehen, Zusammenhänge zu erkennen und Probleme zu lösen. Unter Bewusstsein versteht man dagegen das Vermögen, sich und die Welt in ein Verhältnis zu setzen und dabei Freude, Schmerz, Liebe, Wut zu empfinden; es befähigt uns nicht nur zur Reflexion, sondern ebenso zur Selbstreflexion.

Bedeutung des Körpers unterschätzt

Intelligenz und Bewusstsein werden gerne vermischt, weil sie bei Menschen auf untrennbare Weise miteinander verwoben sind. Wir gehen die meisten unserer Probleme an, indem wir basierend auf unseren Empfindungen Entscheidungen treffen. Computer jedoch funktionieren anders. Zwar können sie bestimmte Probleme weitaus schneller lösen als Menschen, doch tun sie dies, ohne dabei etwas zu empfinden. Wenn sie beispielsweise Schachweltmeister wie Garri Kasparow wie Schulbuben aussehen lassen, dann sind sie sich der Bedeutung ihrer Leistung nicht bewusst, weil sie nicht in der Lage sind, ihre Handlungen in einem grösseren Kontext zu verstehen.

Das hat mitunter damit zu tun, dass es Maschinen an der Dimension körperlicher Erfahrungen fehlt. Jüngere neurowissenschaftliche Erkenntnisse deuten darauf hin, dass die Bedeutung des menschlichen Körpers als Voraussetzung für Intelligenz und Bewusstsein bislang stark unterschätzt wurde. Der US-Neurophysiologe Rodolfo Llinás beschreibt in einer seiner Arbeiten, dass unser Gehirn im Laufe der Evolution entstanden ist, als sich das Leben in Bewegung setzte.

Der Forscher erklärt das am Beispiel der Seescheide, eines winzigen quallenähnlichen Tieres, das sein aus 300 Neuronen bestehendes Gehirn einzig dazu nutzt, um in den ersten zwölf Stunden seines Lebens eine Koralle zu finden. Sobald es diese Reise erfolgreich abgeschlossen und sich auf der Koralle niedergelassen hat, frisst es sein Gehirn einfach auf – denn es braucht es nicht mehr. Llinás zieht daraus den Schluss: Was wir als Denken und Wahrnehmen bezeichnen, ist die evolutionäre Internalisierung von Bewegung; die kognitive Entwicklung geht mit der körperlichen einher.

Natürliche und künstliche Intelligenz sind demzufolge nicht miteinander vergleichbar. Gewiss kann nicht völlig ausgeschlossen werden, dass Wahrnehmung auch ausserhalb eines biologischen Organismus möglich ist. Doch gerade weil wir so wenig über Bewusstsein wissen, scheint es eher unwahrscheinlich, dass wir in naher Zukunft bewusste Computer programmieren werden, argumentiert etwa der israelische Historiker Yuval Harari in seinem neuesten Buch «21 Lektionen für das 21. Jahrhundert». Deshalb werde der Einsatz von künstlicher Intelligenz in absehbarer Zeit weiter in gewissem Masse von menschlichem Bewusstsein abhängen.

Getrübter Blick für die eigentlichen Probleme

Menschen fürchten sich vor künstlicher Intelligenz, weil sie glauben, dass sich diese irgendwann von ihren Programmierern emanzipieren und das Kommando übernehmen könnte. Das erfolgreiche Vordringen computergesteuerter Programme in Bereiche wie das Schachspiel, die wir gemeinhin mit hoher Intelligenz assoziieren, behagt uns nicht. Darüber hinaus tragen die zahlreichen dystopischen Szenarien in Film und Literatur dazu bei, dass wir Technologien wie dem maschinellen Lernen stets mit leichtem Argwohn begegnen. Viel zu oft haben wir schon gesehen, wie Roboter gegen ihre menschlichen Herren aufbegehren.

Dies trübt allerdings unseren Blick für die eigentlichen Probleme, vor die uns die künstliche Intelligenz künftig stellen könnte. Nicht ihr Potenzial zur Rebellion, sondern eher ihr eiserner Gehorsam sollte uns Sorgen bereiten. In den kommenden Jahrzehnten werden wir es wohl weniger mit einem Roboteraufstand zu tun bekommen als mit einer Horde von Bots, die uns mit Hilfe ihres Big-Data-Wissens unentwegt in Versuchung führen. Der Bewusstseinsphilosoph Thomas Metzinger, der im letzten Jahr in den KI-Ausschuss der EU-Kommission (siehe Box) berufen wurde, formuliert diese neue Herausforderung wie folgt: «Wenn die marktgetriebenen Aufmerksamkeitsräuber aus dem Silicon Valley auch noch Hilfe von der modernen KI erhalten, dann wird es noch schwieriger sein, ihren Produkten zu widerstehen. Zur politischen und finanziellen Machtkonzentration durch die grossen Technologiekonzerne käme dann auch noch ein bedenklicher Verlust von Autonomie auf geistiger Ebene.»

Weil all jene, die diese Bots steuern, unsere tiefsten Ängste, Hassgefühle und Gelüste kennen, wissen sie auch, welchen unserer emotionalen Knöpfe sie drücken müssen, um uns gefügig zu machen. Einen Vorgeschmack darauf haben jüngst Wahlen und Abstimmungen auf der ganzen Welt geliefert, bei denen es Hackern gelungen ist, einzelne Wähler zu manipulieren, indem sie deren Vorurteile gegen sie selbst ausspielten.

Einmal mehr laufen wir also Gefahr, dass der technologische Fortschritt – diesmal im Bereich künstlicher Intelligenz – am Ende lediglich dazu dienen könnte, die natürliche Dummheit der Menschen zu verstärken. Fehlgeleitete Vorstellungen von KI führen des Weiteren nicht nur zu falschen Ängsten, sondern auch zu überrissenen Erwartungen in Bezug auf die Möglichkeiten der neuen Technologien. Die verbreitete Hoffnung, dass sich allerweltliche Probleme – von der Bewahrung der Gesundheit bis zur Rettung des Klimas – bald alle von Supercomputern lösen lassen, ist nur eines der Symptome von mangelnder Vertrautheit mit der Materie.

Bedeutungsblinde Vollzugsmaschinen

Dabei hat künstliche Intelligenz nichts Mysteriöses an sich. Im Grunde ist es nichts weiter als ein Sammelbegriff für fortgeschrittene automatisierte Formen der Datenverarbeitung. Maschinelles Lernen beispielsweise, jener Zweig der KI-Forschung, dem gegenwärtig die meiste Aufmerksamkeit gewidmet wird, basiert auf dem Gedanken, dass Computersysteme aus Daten lernen, Muster erkennen und Entscheidungen treffen können, und zwar mit minimaler menschlicher Intervention. Sie sollen nicht nur einfach auswendig lernen, sondern das Gelernte anwenden, indem sie Datensätze basierend auf bisherigen Erfahrungen eigenständig nach Regelmässigkeiten durchforsten.

Im Unterschied zur reinen Datenverarbeitung wird es so unter anderem möglich, präzisere Wahrscheinlichkeitsberechnungen über die Zukunft anzustellen. Weil die verschiedenen Computersysteme miteinander gekoppelt sind und innerhalb dieses künstlichen neuronalen Netzwerks – ähnlich dem eines menschlichen Gehirns – kommunizieren, lässt sich etwa die Bewegung eines Autos vorhersagen und seine Kollisionswahrscheinlichkeit reduzieren. Oder man kann die Maschine durchrechnen lassen, wie globale Finanz- und Warenströme oder kriegerische Interventionen am effizientesten zu organisieren wären. Je grösser die Datenmenge, desto zuverlässiger die Prognose.

Dass KI mitunter wie Zauberei erscheint, liegt nicht an einer vermeintlich überlegenen Intelligenz von Computern, sondern an der atemberaubenden Geschwindigkeit, mit der sie Daten verarbeiten und Lösungswege finden. Auch die fortschrittlichsten KI-Bots sind heute nichts weiter als bedeutungsblinde Vollzugsmaschinen. Und es weiss niemand, was genau nötig wäre, um aus diesen Befehlsempfängern autonome, bewusste Wesen zu machen. Bewusstseinsphilosoph Metzinger plädiert deshalb für mehr Besonnenheit im Umgang mit KI: «Der aktuelle Diskurs ist mit diffusen und oft auch unberechtigten Ängsten verseucht. Diese Ängste müssen erst einmal neutralisiert werden, um die vielen positiven Gestaltungsmöglichkeiten klarer zu sehen. Und um die Frage klären zu können, welche ethischen Grundregeln und welche politischen Regulierungen nötig sind, damit die Menschen KI-Anwendungen vertrauen.»

Im besten Fall könnte uns künstliche Intelligenz dabei helfen, menschliche Tätigkeiten überflüssig zu machen, die repetitiv und monoton sind. Damit würde sie einen Prozess fortführen, der bereits mit der industriellen Revolution begann. Empfindsame Supercomputer, die plötzlich einen eigenen Willen erlangen und sich gegen ihre Schöpfer erheben oder sich wie im Fall von Samantha aus «Her» Hals über Kopf in Menschen verlieben, dürften aber zumindest in absehbarer Zukunft Hirngespinste bleiben.

Wettstreit zwischen den USA und China

Die Pflöcke in Peking sind eingeschlagen: Nicht nur in der analogen Welt strebt die chinesische Führung eine Hegemonialstellung an – man denke nur ans Mammutprojekt der neuen Seidenstrasse –, auch in der digitalen Welt greift man augenscheinlich nach Dominanz. Präsident Xi Jinping erklärte jüngst in einer Grundsatzrede die Schlüsseltechnologie des 21. Jahrhunderts, die künstliche Intelligenz (KI), zu den wichtigsten Stützen seiner Wirtschaftspolitik. Bis im Jahr 2025 soll sein Land im Bereich KI an der Weltspitze stehen.

Wenn die chinesische Führung auf höchster Ebene ein solches Ziel ausgibt, dann hat das nicht nur Signalwirkung. Es fliessen Fördermilliarden, Provinzen überbieten sich bei der Ansiedlung von Tech-Firmen. An den Schulen gibt es bereits Einführungskurse in KI. Mit Erfolg: Gemäss einer Studie der japanischen Ingenieursfirma Astamuse meldet China bereits die weltweit zweitmeisten KI-Patente an – nur in den USA sind es mehr. Allein in Peking haben sich mittlerweile über 400 KI-Firmen angesiedelt.

KI-Rüstungswettlauf zwischen China und den USA

Der Rohstoff für KI-Anwendungen heisst: Big Data. Und in keinem Land der Welt ist es möglich, ungehemmt so viele Daten der Nutzer zu sammeln wie in China. Der Staat sorgt selbst dafür, dass sich ein kritisches Bewusstsein in der Bevölkerung nur zögerlich herausbildet. Das hängt unter anderem mit dem Social-Scoring-System zusammen, an dem die Regierung derzeit bastelt. Dieses soll das Verhalten jedes einzelnen Bürgers sowohl im Netz als auch im realen Leben genau unter Beobachtung stellen und entsprechend auswerten. Wer sich vorbildlich verhält, dem winken Prämien. Wer hingegen aus Sicht der kommunistischen Führung dem Bild eines Musterbürgers nicht entspricht, muss mit Strafen rechnen.

Das Bewertungssystem, das in mehreren Pilotregionen bereits getestet wird, will die Regierung Ende 2019 auch in der Hauptstadt Peking einführen. Diese Datenfülle ist von unschätzbarem Wert, nicht nur für den Staat, sondern für alle erdenklichen Branchen. In der Fahrzeugtechnik etwa nützen die Chips von Horizon Robotics dem selbstfahrenden Auto; Audi kooperiert bereits mit der Pekinger Firma. Aber auch das Militär ist an dieser Technik interessiert. Die chinesische Volksbefreiungsarmee ist dabei, Killer-Roboter mit Schwarmintelligenz produzieren zu lassen. Die Unternehmensberatung Pricewaterhouse Coopers spricht treffend von einem «KI-Rüstungswettlauf» zwischen China und den USA. Weit wichtiger als der aktuelle Handelskrieg sei der im Hintergrund ablaufende Krieg um «Forschung, Investitionen und fähige Köpfe». «Die grossen Nationen werden sich in KI messen», lautet die Vorhersage der Analysten.

Die Europäer tauchen als ernsthafte Konkurrenten um die strategisch-wirtschaftlichen Schlüsselanwendungen bislang nur am Rande auf. Dabei haben insbesondere Schweizer Forscher die KI-Forschung geprägt. «Grundlegende KI-Algorithmen sind in der Schweiz entwickelt worden», sagt Jürgen Schmidhuber, wissenschaftlicher Direktor beim Dalle-Molle-Forschungsinstitut für künstliche Intelligenz (IDSIA) in Lugano, einem der weltweit führenden KI-Forschungseinrichtungen. «Die Schweiz muss nicht auf einen Zug aufspringen, der von anderen gefahren wird, denn genauso wie beim Internet und dem selbstfahrenden Auto wurde das Fundament für künstliche Intelligenz nicht in Amerika oder Asien, sondern nördlich der Alpen gelegt», sagt Schmidhuber.

Die Deutschen gelten zwar als führend bei Spezialanwendungen wie Maschinensteuerungen, haben jedoch nach Ansicht der Wettbewerber das Problem, die Grundlagenforschung nicht schnell genug in die Praxis umzusetzen. Die kürzlich von der Bundesregierung beschlossenen Ausgaben von 3 Milliarden Euro über mehrere Jahre sind nur ein Tropfen auf den heissen Stein. In China gibt allein die Stadt Peking so viel aus. Und auch die Schweiz sollte nach Ansicht von Schmidhuber «erhebliche Anstrengungen unternehmen, um mit Hilfe von KI-Forschung die Zukunft mitzugestalten, statt nur mitzuschwimmen».

Viele Anwendungen haben noch Macken

Vieles von der gepriesenen KI-Technologie ist auch in China freilich noch Zukunftsmusik – oder wird es für immer bleiben. Dass die Anwendungen offenbar noch Macken haben, bekam vor kurzem ausgerechnet eine landesweit bekannte, aggressive Befürworterin von Pekings Überwachungsplänen zu spüren, die Unternehmerin Dong Mingzhu.

Das Kamerasystem der Polizei Ningbo, in dem seit vergangenem Jahr auch die Gesichtserkennungssoftware installiert ist, soll eigentlich Fussgänger, die bei Rot über die Ampel gehen, identifizieren. Foto und Name werden dann auf grossen Bildschirmen angezeigt, um Verkehrssünder an den Pranger zu stellen. Als jedoch ein Bus ordnungsgemäss eine Kreuzung überquerte, prangte plötzlich Dongs Bild auf dem Bildschirm – dabei war sie gar nicht vor Ort. Der Grund: An dem Bus war eine Werbung mit dem Foto der 64-Jährigen angebracht, was die Kamera prompt missverstand. «Ein Eigentor», schrieb die Polizeibehörde in einer Mitteilung – und entschuldigte sich bei der Unternehmerin. (flp/gr)