Vova Krasen
0 
2699
594
När människor ser maskiner som svarar som människor, eller datorer som utför strategier och kognition som efterliknar mänsklig uppfinningsrikedom, skämmer de ibland om en framtid där mänskligheten kommer att behöva acceptera robotherrar.
Men begravd i skämtet är ett frö av oro. Science-fictionskrivning och populära filmer, från "2001: A Space Odyssey" (1968) till "Avengers: Age of Ultron" (2015), har spekulerat om artificiell intelligens (AI) som överträffar skaparnas förväntningar och undgår deras kontroll , så småningom outcompeting och slaveri människor eller riktar dem för utrotning.
Konflikten mellan människor och AI är front och center i AMC: s sci-fi-serie "Humans", som återvände för sin tredje säsong på tisdag (5 juni). I de nya avsnitten möter medvetna syntetiska människor fientliga människor som behandlar dem med misstänksamhet, rädsla och hat. Våld ryser när Synths befinner sig kämpa för inte bara grundläggande rättigheter utan deras själva överlevnad, mot dem som ser dem som mindre än mänskligt och som ett farligt hot. [Kan maskiner vara kreativa? Möt 9 AI 'artister']
Även i den verkliga världen är inte alla redo att välkomna AI med öppna armar. Under de senaste åren, eftersom datavetare har drivit gränserna för vad AI kan åstadkomma, har ledande personer inom teknik och vetenskap varnat för de hotande farorna som konstgjord intelligens kan innebära för mänskligheten, till och med antydande att AI-kapaciteter kan döma mänskligheten.
Men varför är människor inte så nervösa av idén om AI?
Ett "existentiellt hot"
Elon Musk är en av de framträdande rösterna som har lyft röda flaggor om AI. I juli 2017 berättade Musk för deltagarna vid ett möte i National Governors Association, "Jag har exponering för den mycket banbrytande AI, och jag tycker att människor borde vara verkligen bekymrade över det."
"Jag fortsätter att låta larmklockan," tillade Musk. "Men tills folk ser robotar gå ner på gatan dödar människor, vet de inte hur de ska reagera, eftersom det verkar så eteriskt."
Tidigare, 2014, hade Musk märkt AI "vårt största existentiella hot", och i augusti 2017 förklarade han att mänskligheten står inför en större risk från AI än från Nordkorea.
Fysikern Stephen Hawking, som dog 14 mars, uttryckte också oro över ondskapsfull AI och berättade för BBC 2014 att "utvecklingen av full konstgjord intelligens skulle kunna stava slutet på mänskligheten."
Det är också mindre än lugnande att vissa programmerare - särskilt de med MIT Media Lab i Cambridge, Massachusetts - verkar fast beslutna att bevisa att AI kan vara skrämmande.
Ett neuralt nätverk som heter "Nightmare Machine", som introducerades av MIT-datorforskare 2016, omvandlade vanliga foton till ghoulish, oroande hellscapes. En AI som MIT-gruppen kallade "Shelley" komponerade skrämmande berättelser, utbildade på 140 000 berättelser om skräck som Reddit-användare publicerade i forumet r / nosleep.
"Vi är intresserade av hur AI framkallar känslor - rädsla, i det här fallet," berättade Manuel Cebrian, en forskningsansvarig på MIT Media Lab, tidigare i ett e-postmeddelande om Shelleys skrämmande berättelser.
Rädsla och avsky
Negativa känslor om AI kan generellt delas in i två kategorier: tanken att AI kommer att bli medvetna och försöka förstöra oss, och tanken att omoraliska människor kommer att använda AI för onda syften, Kilian Weinberger, docent vid Institutionen för datavetenskap vid Cornell University, berättade. [Artificiell intelligens: vänlig eller skrämmande?]
"En sak som människor är rädda för är att om superintelligent AI - mer intelligent än oss - blir medveten, kan det behandla oss som lägre varelser, som vi behandlar apor," sade han. "Det skulle verkligen vara oönskat."
Men rädsla för att AI kommer att utveckla medvetenhet och störta mänskligheten är baserade på missuppfattningar om vad AI är, konstaterade Weinberger. AI fungerar under mycket specifika begränsningar definierade av algoritmerna som dikterar dess beteende. Vissa typer av problem kartlägger väl AI: s färdighetsuppsättningar, vilket gör vissa uppgifter relativt enkla för AI att slutföra. "Men de flesta saker kartlägger inte detta, och de är inte tillämpliga," sade han.
Detta innebär att även om AI kan ha imponerande spel inom noggrant avgränsade gränser - spela ett schackspel på masternivå eller snabbt identifiera objekt i bilder, är det där dess förmågor slutar.
"AI når medvetande - det har absolut inte gjorts några framsteg inom forskning på det området," sade Weinberger. "Jag tror inte att det är någonstans i vår närmaste framtid."
Den andra oroande idén - att en samvetslös människa skulle utnyttja AI av skadliga skäl - är tyvärr mycket mer trolig, tillade Weinberger. Ganska mycket vilken typ av maskin eller verktyg som helst kan användas för antingen goda eller dåliga ändamål, beroende på användarens avsikt, och utsikterna att vapen utnyttjar konstgjord intelligens är verkligen skrämmande och skulle dra nytta av strikta myndighetsregler, sade Weinberger.
Kanske, om människor kunde lägga undan sin rädsla för fientlig AI, skulle de vara mer öppna för att erkänna dess fördelar, föreslog Weinberger. Förbättrade bildigenkänningsalgoritmer, till exempel, kan hjälpa hudläkare att identifiera mul som är cancerframkallande, medan självkörande bilar en dag kan minska antalet dödsfall från bilolyckor, av vilka många orsakas av mänskliga misstag, berättade han .
Men i den "mänskliga" världen av självmedvetna synter, orsakar rädsla för medvetna AI våldsamma konfrontationer mellan synter och människor, och kampen mellan människor och AI kommer sannolikt att fortsätta att rensa och eskalera - under den nuvarande säsongen, åtminstone.
Redaktörens anmärkning: Detta är den sista funktionen i en tredelad serie artiklar relaterade till AMC: s "Människor." Den tredje säsongen debuterade den 5 juni klockan 10 EDT / 9 p.m. CDT.
Originalartikel om .