Avancerad AI “kunde döda alla”, varnar Oxford-forskare

Avancerad artificiell intelligens (AI) skulle kunna “döda alla” och bör regleras som kärnvapen, har experter varnat.

Övermänskliga algoritmer som överträffar mänskligheten är på väg och kan utgöra lika många hot mot människor som vi har gjort mot dodo, sa forskare från Oxford University till parlamentsledamöter för Science and Technology Select Committee-teknologin.

Kommittén hörde hur avancerad AI kunde ta kontroll över sin egen programmering om den lärde sig att uppnå sina mål på ett annat sätt än vad som ursprungligen var tänkt.

Doktoranden Michael Cohen sa: “Med Övermänsklig AI det finns en särskild risk som tillhör en annan klass, det vill säga att han kan döda alla.

“Om du föreställer dig att träna en hund med godsaker kommer han att lära sig att välja handlingar som ger honom godsaker, men om hunden hittar godisskåpet kan han få godsakerna själv utan att göra det vi ville att han skulle göra.

“Om du har något mycket smartare än oss som monomant försöker få den positiva feedbacken, och det stöds av världen för att säkra det, skulle det rikta så mycket energi som möjligt till att säkra sitt grepp om det, och det skulle lämna oss utan energi för oss själva.

Mr Cohen sa att det skulle vara svårt att stoppa processen när anden väl var ur flaskan.

“Om du har något mycket smartare än oss på alla områden, kommer det förmodligen att undvika att skicka några röda flaggor medan vi fortfarande kan dra ur kontakten,” tillade han.

“Om jag var en AI som försökte göra något smygande plot, skulle jag få min kod kopierad till en annan maskin som ingen vet något om, då skulle det vara svårare att dra ur kontakten.”

“Ingen gräns för AIs framsteg”

Experter har varnat för att utvecklingen av AI har blivit en “bokstavlig kapprustning” med länder och teknikföretag som tävlar om att skapa farligt avancerade maskininlärningsalgoritmer för att få militära och civila fördelar.

De efterlyste global reglering för att förhindra företag från att skapa system utom kontroll som kan börja med att eliminera konkurrensen, men kan sluta med att “utplåna hela mänskligheten” och varnade för att det inte finns några gränser för AI-framsteg.

Michael Osborne, professor i maskininlärning vid University of Oxford, sa: “Jag tror att det mörka scenariot är realistiskt eftersom AI försöker flaska upp det som gör människor speciella, vad som har drivit människor att helt förändra jordens yta.

“Så om vi kan fånga det i teknik, kommer det naturligtvis att utgöra en lika stor risk för oss som vi har utgjort för andra arter, dodon är ett exempel på det.

“Jag tror att vi är i en massiv kapprustning mot AI, geopolitiskt med USA mot Kina och bland teknikföretag verkar det finnas en vilja att kasta säkerhet och försiktighet ut genom fönstret och springa så fort som möjligt mot den mest avancerade AI .

“I civila applikationer finns det fördelar med att vara först med att utveckla riktigt sofistikerad AI som skulle kunna eliminera konkurrensen på ett eller annat sätt och om den utvecklade tekniken inte stannar vid att eliminera konkurrensen och kanske eliminera allt mänskligt liv, skulle vi vara riktigt orolig.

“Artificiella system kan bli lika bra på att övermanövra oss geopolitiskt som de är i enkla miljöer som spel.”

Professor Osborne sa att han hoppades att länder runt om i världen skulle erkänna det “existentiella hotet” med avancerad AI och gå samman för att göra fördrag som skulle förhindra utvecklingen av farliga system.

“Det finns skäl till hopp eftersom vi har varit ganska bra på att reglera användningen av kärnvapen”, tillade han.

“AI är en fara lika jämförbar som kärnvapen”

“Om vi ​​kunde förstå att avancerad AI är en lika jämförbar fara som kärnvapen, så kanske vi skulle kunna komma på liknande ramverk för att styra det.”

Ledamöterna fick höra att på vissa områden, som förarlösa bilar, hade AI inte gjort så stora framsteg som förväntat, men på andra, såsom textgenerering, var det mycket mer avancerat än väntat. Ingen hade förväntat sig det.

Experter sa att programmerare bara hade “skrapat på ytan” av vad AI var kapabel till, och förutspådde att många tråkiga administrativa uppgifter och repetitiva uppgifter snart skulle automatiseras.

Men de sa att kreativa områden som involverar ledarskap, mentorskap eller övertalning sannolikt inte någonsin kommer att ersättas av AI.

Experter sa att det var rimligt att förvänta sig att i slutet av århundradet kunde en AI som kan göra mycket mer än någon människa skapas och de krävde att algoritmer skulle förbjudas farliga.

Leave a Comment