Joseph Norman
0 
1557
87
Es ist Elon Musk bei seinem Elon Musk-iest: Nachrichten zufolge traf der Weltraum- und Elektroauto-Unternehmer seine derzeitige Freundin, indem er einen Witz über tückische künstliche Intelligenz machte.
Musk und der Musiker Grimes, mit bürgerlichem Namen Claire Boucher, gingen am Montag (7. Mai) als Paar zur Met Gala. Laut der Klatschpublikation Seite 6 trafen sich die beiden über Twitter, als Musk überlegte, ein Wortspiel über "Rokokos Basilisk" zu machen, ein Mashup des Gedankenexperiments "Rokos Basilisk" und des kunstvoll dekorativen Stils aus dem Frankreich des 18. Jahrhunderts.
Musk erfuhr bald, dass Grimes 2015 in einem Musikvideo das gleiche Wortspiel gemacht hatte, und der Rest ist romantische Geschichte. Rokos Basilisk hingegen ist eine schreckliche Zukunftsvision und das Zentrum eines jahrelangen Strudels der Online-Subkultur.
Der Anfang
Das Ganze begann im Jahr 2010, als eine Person, die an Roko vorbeikam, ein Gedankenexperiment auf der Website LessWrong veröffentlichte, einem Forum, in dem Menschen über alles diskutieren, von Philosophie über künstliche Intelligenz (KI) bis hin zu Kognitionswissenschaft. Der Beitrag wurde gelöscht, aber RationalWiki hat eine Kopie erhalten. Rokos Idee war, dass wenn in Zukunft eine superintelligente KI entstehen sollte, die das Gemeinwohl maximieren soll, sie jeden bestrafen könnte, der nicht zu ihrer Existenz beigetragen hat. [Superintelligente Maschinen: 7 Roboter-Futures]
"Natürlich wäre das ungerecht, aber es ist die Art von Ungerechtigkeit, die ach so sehr nützlich ist", argumentierte Roko.
Diese Hypothese würde nach der Singularität stattfinden, dem Punkt, an dem künstliche Intelligenz nicht mehr vom Leben selbst zu unterscheiden ist - tatsächlich besser als das Leben selbst, weil sie Dinge wie das unbegrenzte Hochladen tun kann, um eine Art Silizium-Unsterblichkeit zu erreichen. Wenn diese gottähnliche Kraft entdeckt, dass Sie nicht geholfen haben, sie zu erschaffen, meine Güte. Es könnte einfach entscheiden, dass Ihre gerechte Belohnung ewige Qual ist. Eine kurze Geschichte der künstlichen Intelligenz
Der Name "Basilisk" stammt aus einer mittelalterlichen Legende über eine Schlange, die mit einem Blick töten könnte.
Hier ist jedoch die Falle: Wenn Sie nicht über die Möglichkeit von Rokos Basilisk Bescheid wussten, sind Sie im klaren - die KI wird wahrscheinlich nur nach denen kommen, die ihre Existenz vorhergesagt haben, sich aber entschieden haben, nicht alle ihre Einwegartikel zu spenden Einkommen, um es zu erreichen. Wenn Sie nur über die Möglichkeit von Rokos Basilisk lesen, haben Sie sich selbst zum Scheitern verurteilt. (Es tut uns leid.)
Kurz gesagt, mit dieser Einschränkung begann der Online-Strudel. Der Gründer von LessWrong, Eliezer Yudkowsky, bezeichnete den Posten als "DUMM" und "wirklich gefährlich". Nur indem er genau darüber nachdachte, wie eine KI Sie erpressen könnte, hatte Roko sich selbst für die Erpressung eingerichtet und alle anderen eingerichtet, die den Beitrag lesen könnten.
"Ich verbiete diesen Beitrag, damit er (a) den Menschen keine schrecklichen Albträume beschert und (b) fernen Superintelligenzen ein Motiv gibt, Erpressung gegen Menschen durchzusetzen, die dumm genug sind, ausreichend detailliert über sie nachzudenken", schrieb Yudkowsky.
Von Roko zur Romantik
Das Verbot von Rokos Basilisk-Diskussion über LessWrong dauerte bis 2015. Yudkowsky schrieb später auf Reddit, dass er seine Reaktion bedauere, was den Anschein erweckte, als hätte er Roko für richtig gehalten; Er glaubt tatsächlich, dass keine künstliche Intelligenz, die im Interesse der Menschheit entwickelt wurde, Menschen foltern würde. Stattdessen habe er den Beitrag gelöscht, weil die Idee für niemanden einen potenziellen Nutzen habe.
Moschus mag Rokos Basilisk-Witze besonders gern, weil der ursprüngliche Beitrag ihn erwähnte. Roko schreibt, dass jemand wie Musk, der "im Alleingang die Gesichter von Industrien mit hohem Einfluss verändert", in der guten Gnade der theoretischen übermenschlichen KI wäre. Musk äußerte sich auch zu den möglichen Gefahren der KI und forderte erst letzten Monat Regulierung und Warnung, dass die KI ein "unsterblicher Diktator" werden könnte.
"Wenn KI ein Ziel hat und die Menschheit zufällig im Weg ist, wird sie die Menschheit selbstverständlich zerstören, ohne darüber nachzudenken. Keine harten Gefühle", sagte Musk in einem Dokumentarfilm mit dem Titel "Vertraust du diesem Computer?". "die im April veröffentlicht wurde. "Es ist nur so, als ob wir eine Straße bauen und ein Ameisenhaufen im Weg ist. Wir hassen Ameisen nicht, wir bauen nur eine Straße. Also, auf Wiedersehen, Ameisenhaufen."
Grimes ist ihrerseits eine kanadische Musikerin und bildende Künstlerin, die sich für ihr Musikvideo "Flesh Without Blood" das Wortspiel "Rococo Basilisk" ausgedacht hat. Das Video zeigt eine Figur, die Perücken im Rokoko-Stil und voluminöse Kleider trägt und auf einem Tennisplatz in den Darm gestochen und mit Blut bedeckt wird.
"Sie ist dazu verdammt, für immer von einer künstlichen Intelligenz gefoltert zu werden, aber sie ist auch ein bisschen wie Marie Antoinette", sagte Grimes zu FuseTV.
Originalartikel über .