Vova Krasen
0 
4149
434
Föreställ dig din världens ledande minst favorit. (Ta så mycket tid du behöver.)
Föreställ dig nu om den personen inte var en människa utan ett nätverk av miljontals datorer runt om i världen. Denna digi-diktator har omedelbar tillgång till varje skrot av inspelad information om varje person som någonsin har bott. Det kan göra miljoner beräkningar på en bråkdel av en sekund, kontrollerar världens ekonomi och vapensystem med gudlik autonomi och - skrämmande av allt - kan aldrig, någonsin dö.
Denna okränkbara digitala diktator, enligt Tesla och SpaceX-grundaren Elon Musk, är ett av de mörkare scenarierna som väntar på mänsklighetens framtid om forskning om artificiell intelligens fortsätter utan allvarlig reglering. [Superintelligenta maskiner: 7 Robotic Futures]
"Vi är snabbt på väg mot digital superintelligens som långt överskrider alla människor, jag tycker att det är ganska uppenbart," sade Musk i en ny AI-dokumentär som heter "Förlitar du den här datorn?" regisserad av Chris Paine (som tidigare intervjuat Musk för dokumentären "Who Killed The Electric Car?"). "Om ett företag eller en liten grupp människor lyckas utveckla gudlig digital superintelligens kan de ta över världen."
Människor har försökt ta över världen tidigare. Men en auktoritär AI skulle ha en fruktansvärd fördel jämfört med likasinnade människor, sade Musk.
"Åtminstone när det finns en ond diktator kommer den människan att dö," tillade Musk. "Men för en AI skulle det inte vara någon död. Den skulle leva för evigt, och då skulle du ha en odödlig diktator, från vilken vi aldrig kunde fly."
Och denna hypotetiska AI-diktator behöver inte ens vara ond för att utgöra ett hot mot människor, tillade Musk. Allt det måste bestämmas.
"Om AI har ett mål och mänskligheten bara råkar vara i vägen, kommer det att förstöra mänskligheten som en självklarhet utan att ens tänka på det. Inga svåra känslor," sade Musk. "Det är precis som om vi bygger en väg och ett myrstock råkar vara i vägen. Vi hatar inte myror, vi bygger bara en väg. Så, adjö, myrta."
De som följer nyheter från Musk-versen kommer inte att bli förvånade över hans åsikter i den nya dokumentären; den tekniska mogulen har länge varit en sångkritiker av okontrollerad konstgjord intelligens. 2014 kallade Musk AI-mänsklighetens ”största existentiella hot”, och 2015 gick han med i en handfull andra tekniska armaturer och forskare, inklusive Stephen Hawking, för att uppmana FN att förbjuda mördarerobotar. Han har sagt att oreglerade AI utgör "mycket större risk än Nordkorea" och föreslagit att starta ett slags federalt övervakningsprogram för att övervaka teknikens tillväxt.
"Offentliga risker kräver offentlig tillsyn," twitrade han. "Att bli av med FAA [skulle inte] göra flyget säkrare. De är där med goda skäl."
"Lita du på den här datorn?" fokuserar på de växande problem som rör folkhälsa och säkerhet kopplade till ökningen av AI och innehåller intervjuer med många andra tekniska moguler, forskare och Erica, den läskiga nyhetsbesöktroboten. Dokumentaren kan ses gratis här fram till söndag (8 april).