Najnovije Muskovo predviđanje: AI bi mogla nadmašiti ljudsku inteligenciju 2030. i mogla bi "uništiti" ljude u budućnosti (1/2)

Izvor: Tencent Technology News 2024-04-04 08:55

Ključne točke:

① Musk predviđa da bi umjetna inteligencija mogla nadmašiti razinu ljudske inteligencije do 2030., te da bi čak mogla uništiti ljude.

② Musk je govorio o čimbenicima koji ograničavaju razvoj umjetne inteligencije. Prošle godine opskrba AI čipovima bila je ograničena, a ove će godine silazni transformator postati usko grlo.

③ Što se tiče vremena kada ljudi mogu sletjeti na Mjesec, Musk predviđa da će uz pomoć Starshipa za to biti potrebno najviše tri godine.

Tencent Technology News, 4. travnja - Prema izvješćima stranih medija, Elon Musk, izvršni direktor Tesle i SpaceX-a, nedavno je imao online razgovor s Peterom Diamandisom, osnivačem Sveučilišta Singularity i Zaklade XPRIZE, na Abundance Summitu. Domaćin sastanka na vrhu je bilo Sveučilište Singularity iz Silicijske doline, koje je posvećeno pružanju vrhunskih tehnoloških savjetovanja poslovnim liderima. Zaklada XPRIZE promiče tehnološke inovacije kroz znanstvena natjecanja, od kojih je neka financirao Musk., 4. travnja - Prema izvješćima stranih medija, Elon Musk, izvršni direktor Tesle i SpaceX-a, nedavno je imao online razgovor s Peterom Diamandisom, osnivačem Singularityja Sveučilišta i Zaklade XPRIZE, na Abundance Summitu. Domaćin sastanka na vrhu je bilo Sveučilište Singularity iz Silicijske doline, koje je posvećeno pružanju vrhunskih tehnoloških savjetovanja poslovnim liderima. Zaklada XPRIZE promiče tehnološke inovacije kroz znanstvena natjecanja, od kojih je neka financirao Musk.

Govoreći o brzini razvoja umjetne inteligencije, Musk je predvidio da bi na temelju trenutne stope tehnološkog napretka umjetna inteligencija mogla nadmašiti ljudsku inteligenciju do 2030. godine, a ova bi tehnologija mogla čak imati potencijal uništiti čovječanstvo. No, nije zauzeo pesimističan pogled na budućnost, već je istaknuo kako kroz pozitivne smjernice umjetna inteligencija ima potencijal donijeti bolju budućnost čovječanstvu.

Musk je spomenuo da se pojava superinteligencije naziva "singularnost" upravo zbog njenih nepredvidivih posljedica, uključujući rizik od potencijalnog uništenja čovječanstva. Složio se sa stajalištem "kuma umjetne inteligencije" Geoffreyja Hintona i smatrao da je vjerojatnost da se ovaj rizik dogodi otprilike između 10% i 20%.

Unatoč priznavanju potencijalnih rizika da umjetna inteligencija nadmaši ljudsku, Musk je ipak naglasio da mogućnost pozitivnih ishoda nadmašuje negativne posljedice. Posebno je spomenuo Diamandisovu knjigu iz 2014. „Izobilje: Budućnost je bolja nego što mislite“, koja prikazuje optimističnu budućnost koju pokreću umjetna inteligencija i roboti, gdje su cijene robe i usluga značajno pale. Uz to, kao najbolji scenarij za poluutopijsku budućnost umjetne inteligencije naveo je seriju "Kultura" škotskog pisca znanstvene fantastike Iaina M. Banksa.

Musk je usporedio razvoj umjetne inteligencije i Umjetne opće inteligencije (AGI) s odgojem djeteta, nadajući se da će imati pozitivnije utjecaje na čovječanstvo. Naglasio je važnost njegovanja umjetne inteligencije koja istinski razumije etiku i moral, usporedivši to s klasikom Stanleyja Kubricka iz 1968. godine "2001: Odiseja u svemiru".

Musk je istaknuo kako je najvažniji aspekt sigurnosti umjetne inteligencije osigurati njezino maksimalno traženje istine i znatiželju. On vjeruje da ključ postizanja ultimativne sigurnosti umjetne inteligencije leži u izbjegavanju prisiljavanja na laž, čak i pred neugodnim istinama. Kao primjer je upotrijebio radnju iz "2001: Odiseja u svemiru", gdje je umjetna inteligencija bila prisiljena lagati, što je rezultiralo smrću posade, kako bi naglasio da se umjetna inteligencija ne smije prisiljavati na bilo što što krši aksiome.

Musk je također spomenuo čimbenike koji mogu ograničiti razvoj umjetne inteligencije, kao što je ograničena ponuda čipova za umjetnu inteligenciju koja se pojavila prošle godine i rastuća potražnja za transformatorima sniženja u kućanskoj i komercijalnoj opremi. Ustvrdio je da su ti izazovi doista aktualna pitanja koja se moraju rješavati.

Tijekom rasprave, dvije strane također su razgovarale o konceptu integracije neokorteksa ljudskog mozga s oblakom. Iako Musk vjeruje da je cilj prijenosa ljudske svijesti i pamćenja u oblak još uvijek daleko, pohvalio je svoj pokretač sučelja mozak-računalo, Neuralink, i njegovog prvog ljudskog pacijenta koji je dobio transplantaciju. Ovaj tetraplegičar uspješno je demonstrirao uživo kroz ispitivanje koje je odobrila FDA, kontroliranje zaslona, ​​igranje videoigara, preuzimanje softvera i postizanje funkcija sličnih operacijama miša putem moždanih implantata. Musk je izjavio da Neuralink glatko napreduje i postupno se kreće prema cilju sučelja za cijeli mozak.

Slijedi cijeli tekst dijaloga Muska i Diamandisa:

1. Moć i opasnost superinteligencije

Diamandis: Čestitamo na vašim izvanrednim postignućima u raznim područjima. Aktivno promovirate koncept digitalne superinteligencije u svijetu – je li to najveća nada čovječanstva ili naš najdublji strah? Možete li odvojiti nekoliko minuta za razgovor o ovom problemu?

Musk: Kao što znate, superinteligencija se može nazvati "singularnošću". Popularizacija ovog pojma neodvojiva je od napora institucija poput Instituta za singularnost. Pojavu superinteligencije i njezin naknadni utjecaj doista je teško predvidjeti. Osobno vjerujem da doista postoji mogućnost da dokrajči čovječanstvo. Kao što sam već rekao, mogao bih se složiti s mišljenjem Geoffreya Hintona da postoji 10% ili 20% šanse da bi superinteligencija mogla uništiti čovječanstvo. Ipak, sklon sam vjerovati da je vjerojatnost pozitivnog scenarija veća od negativnog, iako nam je teško dati precizna predviđanja. Ali kako ste u svojoj knjizi naglasili koncept "obilja", vjerujem da je najvjerojatnija budućnost prema kojoj idemo ona puna obilja.

Diamandis: Vaše gledište je vrlo uzbudljivo. Sjećam se da ste jednom rekli da će nas razvoj opće umjetne inteligencije i humanoidnih robota dovesti do obilja.

Musk: Da, nadam se da će naša budućnost biti poput one prikazane u seriji knjiga "Kultura" Iana Banksa. Mislim da je ovo najbolja koncepcija poluutopijskog društva umjetne inteligencije. Pojava superinteligencije je neizbježna i mogla bi uskoro doći. Stoga, ono što stvarno trebamo učiniti jest usmjeriti ga u pozitivnom smjeru i maksimizirati njegove koristi.

Vjerujem da je način na koji njegujemo umjetnu inteligenciju ključan. Donekle, mi smo poput uzgoja oblika života s općom inteligencijom, što je gotovo kao odgoj djeteta, ali to dijete posjeduje izuzetnu mudrost i talent. Važan je način na koji odgajamo djecu, a isto tako, za sigurnost umjetne inteligencije ključno je imati umjetnu inteligenciju koja traži istinu i puna je znatiželje. Duboko sam razmišljao o sigurnosti umjetne inteligencije i došao do zaključka da je najbolji način za postizanje sigurnosti umjetne inteligencije njezino pažljivo njegovanje.

Što se tiče osnovnih modela i finog podešavanja, moramo osigurati poštenje umjetne inteligencije. Ne možemo ga prisiliti da laže, čak i ako je istina neugodna. Zapravo, jedan od temeljnih zapleta u "Svemirskoj odiseji 2001" je da kada je umjetna inteligencija prisiljena lagati, stvari postaju kaotične. Umjetnoj inteligenciji zabranjeno je obavijestiti posadu o tajanstvenom spomeniku koji će vidjeti, ali je dužna odvesti ih tamo. Kao rezultat toga, umjetna inteligencija zaključuje da je najbolje pobiti posadu i njihova tijela odnijeti do spomenika. Pouka je duboka: ne bismo trebali prisiljavati umjetnu inteligenciju da laže ili čini nešto što je aksiomatski nekompatibilno, poput činjenja dvije zapravo kontradiktorne stvari u isto vrijeme.

Stoga taj cilj ostvarujemo kroz projekte kao što su xAI i Grok. Ono čemu težimo jest umjetna inteligencija koja je što je moguće iskrenija, čak i ako njezin govor možda ne zadovoljava određene politički korektne standarde.

2. Budućnost umjetne inteligencije

Diamandis: Jučer sam prisustvovao događaju s Rayem Kurzweilom (osnivačem Sveučilišta Singularity i tehnološkim prorokom), Geoffreyjem Hintonom, Ericom Schmidtom (bivšim predsjednikom Googlea) i drugim gostima. Primijetio sam vaš tweet o Kurzweilu, a njegov 预见za buduću tehnologiju prilično je perspektivan. Kurzweil je predvidio da ćemo u bliskoj budućnosti imati opću umjetnu inteligenciju, a umjetna inteligencija ekvivalentna ljudskoj pojavit će se 2029. Takva brzina je šokantna. Zanima me što mislite o ovome?

Musk: Imam veliko poštovanje za Kurzweilova predviđanja. Zapravo, mislim da bi njegova predviđanja mogla biti pomalo konzervativna. Promatrajući trenutnu računalnu snagu i talent uložen u područje umjetne inteligencije, kao i brzi rast računalne snage, možemo ustanoviti da se brzina razvoja umjetne inteligencije povećava nevjerojatnom brzinom od 10 puta. Čini se da se namjenska računalna snaga umjetne inteligencije povećava 10 puta svakih 6 mjeseci, što gotovo znači povećanje od najmanje 100 puta godišnje. Ovaj trend rasta nastavit će rasti u sljedećih nekoliko godina.

Vrijedno je napomenuti da će se mnogi podatkovni centri, čak i većina podatkovnih centara koji trenutno obavljaju konvencionalno računalstvo, postupno transformirati u objekte koji podržavaju računalstvo umjetne inteligencije. Stoga su za proizvođače hardvera umjetne inteligencije tvrtke poput NVIDIE nedvojbeno otvorile zlatno razdoblje razvoja. Moramo odati puno priznanje Huang Renxunu i njegovom timu. Predvidjeli su ovaj trend i uspješno razvili vodeći hardver za umjetnu inteligenciju trenutno na tržištu.

Kada računalna snaga raste tako nevjerojatnom brzinom, razvoj umjetne inteligencije je poput ubrizgavanja snažnog steroida, skačući na potpuno novu razinu. Kako se broj online računala nastavlja povećavati, svjedoci smo neviđenog ubrzanog razvoja. Zapravo, nikada nisam vidio da neka tehnologija raste tako brzo kao umjetna inteligencija. Iako sam vidio mnoge tehnologije u brzom razvoju, uspon umjetne inteligencije još uvijek me zadivljuje. Međutim, kao što sam rekao, mislim da će konačni rezultat vjerojatno biti pozitivan.

Iako se suočavamo s mnogim izazovima, kao što je kako održati ljudsku relevantnost u ovom području i kako pronaći nove ciljeve i značenja, mislim da je pretjerano pojednostavljeno previše naglašavati da računala mogu biti dobra u svemu.

Kao što ste ranije spomenuli, mislim da su predviđanja vaše knjige o budućem društvu vrlo točna. To je doba materijalnog izobilja, gdje će roba i usluga biti toliko obilje da će biti gotovo svima nadohvat ruke. Zbog široke primjene tehnologije umjetne inteligencije i robotike, troškovi roba i usluga bit će svedeni gotovo na nulu. Ekonomija je u biti proizvod veličine stanovništva i prosječne produktivnosti po osobi. Kada budemo imali naprednu tehnologiju robotike, kao što je Teslin Optimus, ekonomski potencijal će se doista osloboditi.

Teslini automobili, kao roboti na četiri kotača, već su pokazali snažne sposobnosti. Očekuje se da će najnovija verzija s potpuno autonomnim mogućnostima vožnje postići kontrolu od kraja do kraja temeljenu na umjetnoj inteligenciji, čineći automobil istinski inteligentnim robotom na kotačima. Zajedno s razvojem humanoidnih robota, mogućnost ekonomskog učinka gotovo je neograničena.

Iz optimistične perspektive, krećemo se prema budućnosti ekstremnog materijalnog obilja, za što vjerujem da je najvjerojatniji ishod. Mislim da će jedina moguća oskudica u budućnosti biti oskudica koju stvaramo umjetno, kao što su određena unikatna umjetnička djela ili specifični predmeti. Ali osim toga, roba i usluga postat će iznimno bogati.

Diamandis: Vi ste osoba koja može oblikovati budućnost praktičnim djelovanjem i imate istančan uvid u buduće trendove. Suočen s brzim razvojem trenutne tehnologije, jako me zanima koliko daleko u budućnost mislite da možete sagledati, odnosno koliko godina razvoja trendova od sada nadalje?

Musk: U eri brzih promjena, sposobnost predviđanja budućnosti postaje sve važnija. Iako je budućnost puna neizvjesnosti, vjerujem da su neki trendovi jasno vidljivi. Uvest ćemo eru umjetne inteligencije, a njezine će sposobnosti doseći ili čak nadmašiti ljudske razine u bilo kojem kognitivnom zadatku. Ovo je samo pitanje vremena. Ljudi mogu imati različite poglede na to hoće li to biti kraj sljedeće godine, dvije godine ili tri godine. Međutim, jedno je sigurno, a to je da neće biti duže od pet godina. Moje predviđanje temelji se na vjerojatnosti od 50%, koja nije apsolutna. Ali prema mojoj prosudbi, umjetna inteligencija će vjerojatno nadmašiti sposobnosti svakog pojedinog čovjeka u određenim aspektima prije kraja sljedeće godine.

Što se tiče toga nadilazi li to ljudsku kolektivnu mudrost, moglo bi potrajati dulje. Ako se tempo promjena nastavi, procjenjujem da će oko 2029. ili 2030. digitalna inteligencija vjerojatno nadmašiti zbroj cjelokupne ljudske inteligencije. Kada promatram ova pitanja, sklon sam usvojiti metodu osnovnih omjera, baš kao i prva načela u fizici. Kombinacijom ove metode s analizom vjerojatnosti možemo točnije shvatiti buduće trendove razvoja.

Ako usporedimo mogućnosti digitalnog računalstva s biološkim računalstvom i zbrojimo sve ljudske napredne kognitivne sposobnosti kao neku vrstu računalne snage, a zatim to usporedimo s digitalnom računalnom snagom, otkrit ćete da je stopa rasta ovog omjera zapanjujuća. Stoga vjerujem da je 2029. ili 2030. razuman vremenski čvor. U to će vrijeme akumulirana digitalna računalna snaga vjerojatno nadmašiti akumuliranu biološku računalnu snagu naprednih moždanih funkcija. Od tada će se jaz između njih dvoje nastaviti povećavati i neće biti mogućnosti da se smanji.

No, kada stojimo na ovoj početnoj točki i gledamo naprijed u budućnost, kako će se stvari dalje razvijati? Da budem iskren, ne mogu predvidjeti sve detalje. Ali ako uzmemo u obzir čimbenike rasta i ograničavajuće čimbenike s kojima se mogu suočiti, pronaći ćemo neke zanimljive tragove.

Prošle godine ograničenja u ponudi čipova bila su glavni ograničavajući čimbenik za razvoj umjetne inteligencije. Ove će godine padajući transformatori postati ključno usko grlo. Zamislite da smanjite napon od 300 kilovolti na manje od 1 volta koji zahtijeva računalo. Ovo je veliki izazov. Stoga su nam potrebni učinkovitiji "Transformatori za transformatore", koji su silazni transformatori ili transformatori AI neuronske mreže. Ovo je doista veliki problem ove godine.

Gledajući u sljedećih nekoliko godina, opskrba električnom energijom mogla bi postati glavni ograničavajući čimbenik. Umjetna inteligencija ima veliku potražnju za električnom energijom, a prelazak na održivu energiju i popularnost električnih vozila također su intenzivirali potražnju za električnom energijom. Stoga moramo ozbiljno razmotriti kako zadovoljiti sve veću potražnju za električnom energijom kako bismo osigurali kontinuirani razvoj i primjenu ovih tehnologija.