Nýjasta spá Musk: gervigreind gæti farið fram úr greindum manna árið 2030 og gæti „lokað“ mönnum í framtíðinni (1/2)

Heimild: Tencent Technology News 2024-04-04 08:55

Lykilatriði:

① Musk spáir því að gervigreind gæti farið yfir greind manna fyrir árið 2030 og gæti jafnvel stöðvað menn.

② Musk talaði um þá þætti sem takmarka þróun gervigreindar. Á síðasta ári var framboð á gervigreindarflögum þröngt og á þessu ári verður spennubreytirinn að flöskuhálsi.

③ Hvað varðar hvenær menn geta lent á tunglinu, þá spáir Musk því að með hjálp Starship muni það aðeins taka þrjú ár í hraðasta lagi.

Tencent Technology News, 4. apríl - Samkvæmt erlendum fjölmiðlum átti Elon Musk, forstjóri Tesla og SpaceX, nýlega samtal á netinu við Peter Diamandis, stofnanda Singularity University og XPRIZE Foundation, á Abundance Summit. Leiðtogafundurinn var haldinn af Singularity háskólanum í Silicon Valley, sem er tileinkaður því að veita leiðtogum fyrirtækja háþróaða tækniráðgjöf. XPRIZE Foundation stuðlar að tækninýjungum með vísindakeppnum, sem sumar hverjar hafa verið styrktar af Musk., 4. apríl - Samkvæmt erlendum fjölmiðlum átti Elon Musk, forstjóri Tesla og SpaceX, nýlega samtal á netinu við Peter Diamandis, stofnanda Singularity. Háskólinn og XPRIZE Foundation, á Abundance Summit. Leiðtogafundurinn var haldinn af Singularity háskólanum í Silicon Valley, sem er tileinkaður því að veita leiðtogum fyrirtækja háþróaða tækniráðgjöf. XPRIZE Foundation stuðlar að tækninýjungum með vísindakeppnum, sem sumar hafa verið styrktar af Musk.

Þegar hann ræddi þróunarhraða gervigreindar spáði Musk því að miðað við núverandi hraða tækniframfara gæti gervigreind farið fram úr mannlegri greind árið 2030 og þessi tækni gæti jafnvel haft möguleika á að binda enda á mannkynið. Hann tók hins vegar ekki svartsýni á framtíðina heldur lagði áherslu á að með jákvæðri leiðsögn hefði gervigreind möguleika á að færa mannkyninu betri framtíð.

Musk nefndi að tilkoma ofurgreindar sé kölluð „einkennin“ einmitt vegna ófyrirsjáanlegra afleiðinga þess, þar á meðal hættu á að binda enda á mannkynið. Hann var sammála sjónarmiði „Guðföður gervigreindar“ Geoffrey Hinton og taldi að líkurnar á að þessi hætta gæti átt sér stað séu um það bil 10% til 20%.

Þrátt fyrir að viðurkenna hugsanlega áhættu þess að gervigreind fari fram úr mannlegri greind, lagði Musk samt áherslu á að möguleikinn á jákvæðum niðurstöðum vegi þyngra en neikvæðar afleiðingar. Hann nefndi sérstaklega bók Diamandis frá 2014 „Abundance: The Future Is Better Than You Think“ sem sýnir bjartsýna framtíð knúin áfram af gervigreind og vélmenni, þar sem kostnaður við vörur og þjónustu hefur lækkað verulega. Auk þess nefndi hann „Menning“-seríuna eftir skoska vísindaskáldsagnahöfundinn Iain M. Banks sem bestu atburðarás fyrir hálfútópíska gervigreindarframtíð.

Musk líkti þróun gervigreindar og gervigreindar (AGI) við uppeldi barns í von um að það hafi jákvæðari áhrif á mannkynið. Hann lagði áherslu á mikilvægi þess að rækta gervigreind sem skilur sannarlega siðfræði og siðferði og líkti henni við klassíska kvikmynd Stanley Kubrick frá 1968 "2001: A Space Odyssey".

Musk benti á að mikilvægasti þátturinn í gervigreindaröryggi sé að tryggja hámarks sannleiksleit og forvitni. Hann telur að lykillinn að því að ná fullkomnu gervigreindaröryggi liggi í því að forðast að þvinga hana til að ljúga, jafnvel í ljósi óþægilegra sannleika. Hann notaði söguþráð frá "2001: A Space Odyssey" sem dæmi, þar sem gervigreind var neydd til að ljúga, sem leiddi til dauða áhafnarinnar, til að leggja áherslu á að gervigreind ætti ekki að vera neydd til að gera neitt sem brýtur í bága við frumsetningar.

Musk nefndi einnig þætti sem gætu takmarkað þróun gervigreindar, eins og þröngt framboð af gervigreindarflögum sem komu fram á síðasta ári og vaxandi eftirspurn eftir straumbreytum í heimilis- og viðskiptabúnaði. Hann sagði að þessar áskoranir væru sannarlega núverandi mál sem þyrfti að taka á.

Í umræðunni ræddu aðilarnir tveir einnig um hugmyndina um að samþætta nýberki mannsheilans við skýið. Þrátt fyrir að Musk telji að markmiðið um að hlaða upp mannlegri meðvitund og minni í skýið sé enn langt í burtu, hrósaði hann ræsingu sinni fyrir heila-tölvuviðmótið, Neuralink, og fyrsta mannlega sjúklinginn sem fékk ígræðslu. Þessi tetraplegic sjúklingur sýndi með góðum árangri í beinni útsendingu í gegnum FDA-samþykkta rannsókn, stjórnaði skjánum, spilaði tölvuleiki, hlaðið niður hugbúnaði og náði svipuðum aðgerðum og músaraðgerðir með heilaígræðslu. Musk lýsti því yfir að Neuralink gangi vel og sé smám saman að færast í átt að markmiðinu um viðmót í heila.

Eftirfarandi er heildartexti samræðna Musk og Diamandis:

1. Krafturinn og hættan við ofurnjósnir

Diamandis: Til hamingju með framúrskarandi árangur á ýmsum sviðum. Þú hefur verið virkur að kynna hugmyndina um stafræna ofurgreind fyrir heiminum - er það stærsta von mannkyns eða okkar dýpsti ótti? Geturðu eytt nokkrum mínútum í að tala um þetta mál?

Musk: Eins og þú veist er hægt að kalla ofurgreind „einkenni“. Vinsæld þessa hugtaks er óaðskiljanleg viðleitni stofnana eins og Singularity Institute. Það er mjög erfitt að spá fyrir um tilkomu ofurgreindar og áhrif hennar í kjölfarið. Persónulega tel ég að það sé sannarlega möguleiki á að það geti bundið enda á mannkynið. Eins og ég sagði áður gæti ég verið sammála þeirri skoðun Geoffreys Hintons að það séu 10% eða 20% líkur á að ofurgreind geti bundið enda á mannkynið. Hins vegar hef ég tilhneigingu til að trúa því að líkurnar á jákvæðri atburðarás séu meiri en neikvæðar, þó það sé erfitt fyrir okkur að gera nákvæmar spár. En þar sem þú lagðir áherslu á hugtakið „gnægð“ í bók þinni, þá tel ég að líklegasta framtíðin sem við stefnum í sé sú sem er full af gnægð.

Diamandis: Sjónarmið þitt er mjög spennandi. Ég man að þú sagðir einu sinni að þróun almennrar gervigreindar og manngerða vélmenna muni leiða okkur til allsnægta.

Musk: Já, ég vona að framtíð okkar geti verið eins og sú sem lýst er í "Culture" bókaseríu Ian Banks. Ég held að þetta sé besta hugmyndin um hálfútópískt gervigreindarsamfélag. Tilkoma ofurgreindar er óumflýjanleg og gæti komið fljótlega. Þess vegna, það sem við þurfum í raun að gera er að leiðbeina því í jákvæða átt og hámarka ávinninginn.

Ég tel að það hvernig við ræktum gervigreind skipti sköpum. Að einhverju leyti erum við eins og að rækta lífsform með almennri greind, sem er næstum eins og að ala upp barn, en þetta barn býr yfir óvenjulegri visku og hæfileikum. Það hvernig við ölum upp börn er mikilvægt og á sama hátt er mikilvægt fyrir öryggi gervigreindar að hafa gervigreind sem leitar sannleikans og er full af forvitni. Ég hef ígrundað öryggi gervigreindar djúpt og komist að þeirri niðurstöðu að besta leiðin til að ná öryggi gervigreindar sé að rækta hana vandlega.

Hvað varðar grunnlíkön og fínstillingu verðum við að tryggja heiðarleika gervigreindar. Við getum ekki þvingað það til að ljúga, jafnvel þótt sannleikurinn kunni að vera óþægilegur. Reyndar er eitt af kjarnafléttunum í "2001 Space Odyssey" að þegar gervigreind er neydd til að ljúga verða hlutirnir óreiðukenndir. Gervigreindinni er bannað að upplýsa áhöfnina um dularfulla minnisvarðann sem þeir munu sjá, en er skylt að leiða þá þangað. Þess vegna kemst gervigreindin að þeirri niðurstöðu að best sé að drepa áhöfnina og fara með lík þeirra að minnisvarðanum. Lærdómurinn er djúpstæður: við ættum ekki að þvinga gervigreind til að ljúga eða gera eitthvað sem er í raun ósamrýmanlegt, eins og að gera tvennt sem er í raun mótsagnakennt á sama tíma.

Þess vegna erum við að ná þessu markmiði með verkefnum eins og xAI og Grok. Það sem við sækjumst eftir er gervigreind sem er eins heiðarleg og hægt er, jafnvel þótt tal hennar standist kannski ekki ákveðin pólitískt rétt viðmið.

2. Framtíð gervigreindar

Diamandis: Í gær sótti ég viðburð með Ray Kurzweil (stofnandi Singularity háskólans og tæknispámaður), Geoffrey Hinton, Eric Schmidt (fyrrum forseti Google) og fleiri gestum. Ég tók eftir tístinu þínu um Kurzweil, og tækni hans í framtíðinni er frekar framsýn. Kurzweil spáði því að við munum búa yfir almennri gervigreind í náinni framtíð og gervigreind sem jafngildir mannlegri greind muni koma fram árið 2029. Slíkur hraði er átakanleg. Ég velti því fyrir þér hvað þér finnst um þetta?

Musk: Ég ber mikla virðingu fyrir spám Kurzweil. Reyndar held ég að spár hans gætu jafnvel verið örlítið íhaldssamar. Með því að fylgjast með núverandi tölvuafli og hæfileikum sem fjárfest er á sviði gervigreindar, sem og örum vexti tölvuafls, getum við komist að því að þróunarhraði gervigreindar eykst ótrúlega 10 sinnum. Sérstök gervigreind tölvuafl virðist aukast um 10 sinnum á 6 mánaða fresti, sem þýðir næstum aukningu um að minnsta kosti 100 sinnum á ári. Þessi vöxtur mun halda áfram að aukast á næstu árum.

Þess má geta að mörg gagnaver, jafnvel flest gagnaver sem stunda hefðbundna tölvuvinnslu, munu smám saman breytast í aðstöðu sem styður gervigreindartölvu. Þess vegna, fyrir gervigreindarvélbúnaðarframleiðendur, hafi fyrirtæki eins og NVIDIA án efa boðað gullið þróunartímabil. Við verðum að gefa Huang Renxun og liði hans fullan heiður. Þeir sáu þessa þróun fyrir og þróuðu með góðum árangri leiðandi gervigreindarvélbúnað sem nú er á markaðnum.

Þegar tölvugeta eykst á svo ótrúlega hraða er þróun gervigreindar eins og að vera sprautað með öflugum stera, stökkva upp á nýtt stig. Þar sem nettölvum heldur áfram að fjölga höfum við orðið vitni að fordæmalausri hröðun þróun. Reyndar hef ég aldrei séð neina tækni vaxa eins hratt og gervigreind. Þrátt fyrir að ég hafi séð marga tækni sem þróast hratt, kemur uppgangur gervigreindar mig enn á óvart. Hins vegar, eins og ég sagði, tel ég líklegt að lokaniðurstaðan verði jákvæð.

Þótt við stöndum frammi fyrir mörgum áskorunum, eins og hvernig eigi að viðhalda mannlegri þýðingu á þessu sviði og hvernig eigi að finna ný markmið og merkingu, þá held ég að það sé ofureinföldun að leggja ofuráherslu á að tölvur geti verið góðar í öllu.

Eins og þú nefndir áðan þá held ég að spár bókar þinnar um framtíðarsamfélagið séu mjög nákvæmar. Þetta er tímabil efnislegrar gnægðar, þar sem vörur og þjónusta verða svo mikil að hún er næstum innan seilingar fyrir alla. Vegna víðtækrar beitingar gervigreindar og vélfæratækni mun kostnaður við vörur og þjónustu nánast lækka í núll. Hagkerfið er í meginatriðum afurð íbúastærðar og meðalframleiðni á mann. Þegar við höfum háþróaða vélfæratækni, eins og Tesla's Optimus, munu efnahagslegir möguleikar sannarlega losna úr læðingi.

Tesla bílar, sem vélmenni á fjórum hjólum, hafa þegar sýnt sterka getu. Gert er ráð fyrir að nýjasta útgáfan með fullkomlega sjálfvirkan akstursgetu nái endanlega stjórn sem byggist á gervigreind, sem gerir bílinn að sannarlega greindu vélmenni á hjólum. Samhliða þróun manngerðra vélmenna er möguleikinn á efnahagslegri framleiðslu næstum ótakmarkaður.

Frá bjartsýnu sjónarhorni erum við að færast í átt að framtíð gríðarlegs efnislegrar gnægðar, sem ég tel að sé líklegasta niðurstaðan. Ég held að eini mögulegi skorturinn í framtíðinni verði skorturinn sem við búum til með tilbúnum hætti, eins og ákveðin einstök listaverk eða ákveðin atriði. En fyrir utan það mun allar vörur og þjónusta verða mjög mikið.

Diamandis: Þú ert manneskja sem getur mótað framtíðina með hagnýtum aðgerðum og hefur mikla innsýn í framtíðarstrauma. Frammi fyrir hraðri þróun núverandi tækni, er ég mjög forvitinn um hversu langt inn í framtíðina þú heldur að þú getir innsýn, það er, hversu mörg ár af þróunarþróun héðan í frá?

Musk: Á tímum örra breytinga verður hæfileikinn til að spá fyrir um framtíðina sífellt mikilvægari. Þótt framtíðin sé full af óvissu tel ég að sumar stefnur séu vel sýnilegar. Við munum hefja tímabil gervigreindar og hæfileikar hennar munu ná eða jafnvel fara yfir mannlegt stig í hvaða vitrænu verkefni sem er. Þetta er bara spurning um tíma. Fólk getur haft mismunandi skoðanir á því hvort það verði næstu áramót, tvö ár eða þrjú ár. Eitt er þó víst, það er að það verður ekki lengra en fimm ár. Mín spá byggir á 50% líkum, sem er ekki algjört. En samkvæmt mínum dómi er líklegt að gervigreind fari fram úr hæfileikum hvers einstaks manns á ákveðnum sviðum fyrir lok næsta árs.

Hvað varðar það hvort það fari fram úr sameiginlegri visku manna, þá gæti það tekið lengri tíma. Ef breytingin heldur áfram, áætla ég að um 2029 eða 2030 sé líklegt að stafræn greind fari yfir summan af allri mannlegri greind. Þegar ég skoða þessi mál, hef ég tilhneigingu til að tileinka mér aðferðina við grunnhlutföll, rétt eins og fyrstu lögmálin í eðlisfræði. Með því að sameina þessa aðferð við líkindagreiningu getum við skilið þróun þróunar í framtíðinni með nákvæmari hætti.

Ef við berum saman getu stafrænnar tölvunar og líffræðilegrar tölvunar, og tökum saman alla háþróaða vitræna hæfileika mannsins sem eins konar tölvugetu, og berum það síðan saman við stafræna tölvuafl, munt þú komast að því að vaxtarhraði þessa hlutfalls er ótrúlegur. Þess vegna tel ég að 2029 eða 2030 sé hæfilegur tímahnútur. Á þeim tíma er líklegt að uppsafnaður stafrænn tölvukraftur fari yfir uppsafnaða líffræðilega tölvugetu háþróaðrar heilastarfsemi. Síðan þá mun bilið þar á milli halda áfram að aukast og enginn möguleiki á að minnka.

Hins vegar, þegar við stöndum á þessum upphafspunkti og horfum björtum augum til framtíðar, hvernig munu hlutirnir þróast enn frekar? Satt að segja get ég ekki séð fyrir öll smáatriðin. En ef við skoðum vaxtarþætti og takmarkandi þætti sem þeir kunna að standa frammi fyrir, munum við finna áhugaverðar vísbendingar.

Á síðasta ári voru hömlur á flögumframboði helsti takmarkandi þátturinn fyrir gervigreindarþróun. Á þessu ári verða spennubreytar sem falla niður í lykil flöskuháls. Ímyndaðu þér að draga úr spennu upp á 300 kílóvolt niður í minna en 1 volt sem tölva þarfnast. Þetta er mikil áskorun. Þess vegna þurfum við skilvirkari „Transformers for Transformers“, sem eru þrepa-niður spennir eða gervigreind tauganetspennar. Þetta er sannarlega stórt vandamál á þessu ári.

Þegar horft er til næstu ára gæti raforkuframboð orðið stór takmarkandi þáttur. Gervigreind hefur mikla eftirspurn eftir rafmagni og umskipti yfir í sjálfbæra orku og vinsældir rafknúinna farartækja hafa einnig aukið eftirspurn eftir rafmagni. Þess vegna verðum við að íhuga alvarlega hvernig við getum mætt vaxandi eftirspurn eftir raforku til að tryggja stöðuga þróun og beitingu þessarar tækni.