Es scheint, als würde ein Monat nicht vergehen, in dem nicht eine hochkarätige Person das Potenzial für Maschinen mit künstlicher Intelligenz kommentiert, die Welt zu erobern. Elon Musk ist bekannt, dass KI-Systeme "potenziell gefährlicher als Atomwaffen" sind. Stephen Hawking ist jedoch nicht der Einzige. "Die Entwicklung einer vollständigen künstlichen Intelligenz könnte das Ende der Menschheit bedeuten." Professor Hawking erzählte der BBC. "Es würde von alleine abheben und sich immer schneller selbst umgestalten." Sogar Bill Gates ist besorgt: "Ich bin in dem Lager, in dem es um Superintelligenz geht. Ich stimme Elon Musk und einigen anderen darin zu und verstehe nicht, warum manche Menschen nicht betroffen sind. "

Sie alle äußern Bedenken hinsichtlich der Möglichkeit, dass leistungsfähige KI-Systeme unbeabsichtigte oder sogar potenziell katastrophale Folgen haben könnten. Bereits im Januar spendete Elon Musk 10 Millionen US-Dollar an das Future of Life Institute (FLI), um ein globales Forschungsprogramm durchzuführen, das darauf abzielt, die KI für die Menschheit von Nutzen zu halten.

Das Future of Life Institute hat heute bekannt gegeben, dass es 37 Forschungsteams auf der ganzen Welt Mittel in Höhe von 7 Millionen US-Dollar zur Verfügung gestellt hat, damit die Gesellschaft die Vorteile der KI nutzen und gleichzeitig die Apokalypse und das Ende des Lebens auf der Erde vermeiden kann.

Die Gefahr mit dem Terminator-Szenario besteht nicht darin, dass es passieren wird, sondern dass es von den tatsächlichen Problemen ablenkt, die sich aus der zukünftigen KI ergeben.

Jaan Tallin, eines der Gründungsmitglieder des FLI und derjenige, der die Originalversion von Skype geschrieben hat, sagte über die neuen Forschungsergebnisse: „Fortgeschrittene KI zu bauen ist wie das Abfeuern einer Rakete. Die erste Herausforderung besteht darin, die Beschleunigung zu maximieren, aber sobald die Geschwindigkeit steigt, müssen Sie sich auch auf das Lenken konzentrieren. “

Unter den 37 Projekten befassen sich drei mit Techniken, mit denen KI-Systeme lernen können, was Menschen bevorzugen, um unser Verhalten zu beobachten. Eines dieser Projekte wird an der UC Berkeley und eines an der Universität Oxford durchgeführt.

Benja Fallenstein vom Machine Intelligence Research Institute erhält 250.000 US-Dollar für Forschungsarbeiten, um die Interessen superintelligenter Systeme an den menschlichen Werten auszurichten. Während das Team von Manuela Veloso von der Carnegie-Mellon University 200.000 US-Dollar erhält, um zu sehen, wie KI-Systeme Menschen ihre Entscheidungen erklären können.

Weitere Projekte sind eine Studie von Michael Webb von der Stanford University, in der untersucht wird, wie die wirtschaftlichen Auswirkungen der KI von Vorteil sind, ein Projekt, wie KI-gesteuerte Waffen unter „sinnvoller menschlicher Kontrolle“ gehalten werden können, und ein neues Oxford-Cambridge-Forschungszentrum für KI-Studien -relevante Politik.

Letzteres ist der große Jackpot. Das neue Zentrum mit dem Namen "Strategic Research Center for Artificial Intelligence" wird von Nick Bostrom geleitet, der das Buch geschrieben hat, das Elon in Panik über die Zukunft der Menschheit versetzt hat. Um das Zentrum zu errichten, gibt das FLI Bostrom coole 1,5 Millionen Dollar. Wer hat gesagt, dass es kein Geld gibt, wenn man über Roboter schreibt, die die Welt erobern? Nun, eigentlich niemand, schau dir nur an, wie viel Geld Hollywood mit diesem Genre verdient!

Apropos Hollywood: Das FLI versucht, sich von der Apokalypse zu lösen. Das FLI möchte betonen, wie wichtig es ist, Fakten von Fiktionen zu trennen. "Die Gefahr mit dem Terminator-Szenario ist nicht, dass es passieren wird, sondern dass es von den tatsächlichen Problemen ablenkt, die die zukünftige KI aufwirft", sagte FLI-Präsident Max Tegmark. "Wir bleiben fokussiert und die 37 Teams, die durch die heutigen Zuschüsse unterstützt werden, sollten helfen, solche echten Probleme zu lösen."

Was denkst du? Geld gut ausgegeben?