Künstliche Intelligenz
«KI-Wettkampf ausser Kontrolle»: Tech-Elite um Elon Musk und Co. ist besorgt
Über tausend hochrangige Tech-Experten fordern in einem offenen Brief ein Moratorium für die Weiterentwicklung von Systemen der künstlichen Intelligenz (KI). Sie sehen unberechenbare Gefahren aufgrund der derzeit rasanten Fortschritte.
Führende Persönlichkeiten der Tech-Branche sind besorgt über die jüngsten Fortschritte bei der künstlichen Intelligenz.
Mittlerweile haben mehr als 1300 führende Tech-Expertinnen und -Experten aus aller Welt den Brief unterzeichnet, darunter Tesla- und Twitter-Chef Elon Musk, der Apple-Mitbegründer Steve Wozniak und der Historiker Yuval Noah Harari. Sie fordern darin eine Denkpause von mindestens sechs Monaten, bevor an leistungsstarken KI-Tools weitergetüftelt wird. Dieser Stopp solle den gefährlichen Wettlauf zu immer grösseren, unberechenbaren Blackbox-Modellen mit unvorhersehbaren Fähigkeiten beenden. Die Branche brauche Zeit, Sicherheitsstandards für die neue Technologie festzulegen und mögliche Schäden durch die riskantesten Anwendungen von KI abzuwenden.
Die von den Unterzeichnern geforderten sechs Monate KI-Entwicklungsstopp bedeutet ihnen zufolge aber keine generelle Pausierung, «sondern lediglich eine Abkehr vom gefährlichen Wettlauf zu immer grösseren, unberechenbaren Blackbox-Modellen mit unvorhersehbaren Fähigkeiten.»
Seit der Veröffentlichung von ChatGPT im vergangenen November begeistert das Thema «künstliche Intelligenz» die Öffentlichkeit. Inzwischen wurde der eloquente Sprachroboter in Bing, die Suchmaschine von Microsoft, integriert. Google konterte bereits mit seinem eigenen Chat-Roboter Bard.
Das Dilemma mit den unabsehbaren Folgen
In dem Manifest warnen die Forschenden, dass KI-Systeme mit einer dem Menschen ebenbürtigen Intelligenz tiefgreifende Risiken für die Gesellschaft und die Menschheit darstellen könnten. Sie fordern, dass solche leistungsstarken Systeme erst dann entwickelt werden , «wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sind».
Diese Bedenken sind nicht neu, wenn es um neue Technologien geht. Sie münden aber oftmals in einem Dilemma, das nach dem britischen Soziologen David Collingridge benannt ist. Das «Collingridge-Dilemma» besagt, dass in der Anfangsphase einer neuen Technologie nicht genug über ihre potenziell schädlichen Folgen bekannt ist. Bis diese deutlich werden, ist die Technologie bereits so fest in der Gesellschaft verankert, dass sie sich nicht mehr verändern, regulieren oder kontrollieren lässt.
Dem möchten die Unterzeichner offenbar vorgreifen und insbesondere eine gesellschaftliche Debatte über KI lancieren. Denn grundsätzlich sehen sie in der Technologie durchaus das Potenzial für «eine blühende Zukunft» für die Menschheit. Umso wichtiger sei es deshalb, die Systeme zum klaren Nutzen aller zu entwickeln und der Gesellschaft die Chance zu geben, sich anzupassen.
