Phillip Hopkins
0 
4944
59
Det är Elon Musk på sin Elon Musk-iest: Enligt nyhetsrapporter träffade entreprenören för rymd-och elbil sin nuvarande flickvän genom att göra ett skämt om förrädisk konstgjord intelligens.
Musk och musiker Grimes, vars riktiga namn är Claire Boucher, gick till Met Gala som ett par måndag (7 maj). Enligt skvallerpublikationen Page Six träffades de två via Twitter, när Musk tänkte göra ett ordspel om "Rococos basilisk", en mashup av tankeexperimentet "Rokos basilisk" och den utarbetande prydnadsstil som sågs i 1700-talets Frankrike.
Musk fick snart veta att Grimes hade gjort samma ordspel i en musikvideo 2015, och resten är romantisk historia. Rokos Basilisk, å andra sidan, är en skrämmande vision om framtiden och centrum för ett årslångt online subkulturmjölström.
Början
Hela saken började 2010, då en person som gick av Roko publicerade ett tankeexperiment till webbplatsen LessWrong, ett forum där människor diskuterar allt från filosofi till artificiell intelligens (AI) till kognitiv vetenskap. Inlägget raderades, men RationalWiki bevarade en kopia. Rokos idé var att om det i framtiden skulle bli en superintelligent AI utformad för att maximera det gemensamma godet, skulle det kunna straffa alla som inte bidrog till dess existens. [Superintelligenta maskiner: 7 Robotic Futures]
"Naturligtvis skulle detta vara orättvist, men det är den orättvisa saken som är oh-så-mycket utilitaristisk," resonerade Roko.
Denna hypotetiska skulle äga rum efter singulariteten, den punkt där artificiell intelligens blir oskiljbar från själva livet - i själva verket bättre än själva livet, eftersom det kan göra saker som att ladda upp sig på obestämd tid, och uppnå en slags kisel odödlighet. Om denna gudaktiga makt upptäcker hjälpte du inte att skapa den, ja, sheesh. Det kan bara bestämma att din rättvisa belöning är evig plåga. [En kort historia om konstgjord intelligens]
"Basilisk" -namnet kom från en medeltida legende om en orm som kunde döda med en blick.
Men här är fällan: Om du inte visste om möjligheten till Rokos basilisk, är du klar: AI kommer troligen bara att komma efter de som förutspådde dess existens men valde att inte säga, donera allt sitt engångsbruk inkomst för att hjälpa till att få till det. Bara genom att läsa om Rokos basilisk, har du dömt dig själv. (Förlåt.)
Denna varning, i ett nötskal, är där online malströmmen startade. Grundaren av LessWrong, Eliezer Yudkowsky, uttalade posten som "STUPID" och "genuint farligt." Bara genom att tänka i detalj på hur en AI skulle kunna utpressa dig, hade Roko ställt honom eller henne upp för att bli utpressad, samt ställa in alla andra som kanske läste inlägget.
"Jag förbjuder detta inlägg så att det inte (a) ger människor hemska mardrömmar och (b) ger avlägsna superintelligencer ett motiv att följa genom utpressning mot människor som är stumma nog att tänka på dem i tillräcklig detalj," skrev Yudkowsky.
Från Roko till romantik
Förbudet mot Rokos basilisk-diskussion om LessWrong varade till 2015. Yudkowsky skrev senare på Reddit att han ångrade sin reaktion, vilket gjorde att det verkade som om han tyckte Roko hade rätt; han tror faktiskt att ingen artificiell intelligens utformad med mänsklighetens bästa intresse i slutet skulle tortera människor. Istället, skrev han, raderade han inlägget eftersom idén inte hade någon potentiell fördel för någon.
Musk kanske är särskilt förtjust i Rokos Basilisk skämt eftersom det ursprungliga inlägget nämnde honom. Roko skriver att någon som Musk, som "på egen hand förändrar ansikten från högeffektiva industrier", skulle vara i de goda graderna i den teoretiska övermänskliga AI. Musk har också talat om de potentiella farorna med AI och krävde reglering och varning just förra månaden att AI skulle kunna bli en "odödlig diktator."
"Om AI har ett mål och mänskligheten bara råkar vara i vägen, kommer den att förstöra mänskligheten som en självklarhet utan att ens tänka på det. Inga svåra känslor," sade Musk i en dokumentär som heter "Förlitar du den här datorn ?, "som släpptes i april. "Det är precis som om vi bygger en väg och ett myrstock råkar vara i vägen. Vi hatar inte myror, vi bygger bara en väg. Så, adjö, myrta."
Grimes är för sin del en kanadensisk musiker och bildkonstnär som kom med "Rococo Basilisk" ordspelet för hennes musikvideo "Flesh Without Blood." Videon innehåller en karaktär som bär rokoko-peruker och voluminösa klänningar och hamnar i tarm och täckt av blod på en tennisbana.
"Hon är dömd att evigt torteras av en konstgjord intelligens, men hon är också typ av Marie Antoinette," sa Grimes till FuseTV.
Originalartikel om .