Kaum ob ntawm cov kws txawj ntse txawj ntse (AI) cov kws tshaj lij, suav nrog CEOs ntawm OpenAI, Google DeepMind thiab Anthropic, tsis ntev los no tau kos npe rau tsab ntawv qhib los ntawm Lub Chaw rau AI Kev Nyab Xeeb (CAIS).
Peb tsuas yog tso tawm ib nqe lus:
"Kev txo qis kev pheej hmoo ntawm kev ploj tuag los ntawm AI yuav tsum yog qhov tseem ceeb hauv ntiaj teb nrog rau lwm yam kev pheej hmoo hauv zej zog xws li kev sib kis thiab kev ua tsov rog nuclear."
Cov neeg kos npe suav nrog Hinton, Bengio, Altman, Hassabis, Nkauj, thiab lwm yam.https://t.co/N9f6hs4bpa
(1 / 6)
— Dan Hendrycks (@DanHendrycks) Tej zaum 30, 2023
Nqe lus muaj ib kab lus:
"Kev txo qis kev pheej hmoo ntawm kev ploj tuag los ntawm AI yuav tsum yog qhov tseem ceeb hauv ntiaj teb nrog rau lwm yam kev pheej hmoo hauv zej zog xws li kev sib kis thiab kev ua tsov rog nuclear."
Ntawm cov ntaub ntawv kos npe yog qhov tseeb "leej twg yog leej twg" ntawm AI luminaries, suav nrog "Godfather" ntawm AI, Geoffrey Hinton; University of California, Berkeley's Stuart Russell; thiab Massachusetts Institute of Technology's Lex Fridman. Suab paj nruag Grimes kuj yog ib tug kos npe, teev nyob rau hauv "lwm cov nuj nqis tseem ceeb" qeb.
Related: Tus kws ntaus suab paj nruag Grimes kam 'sib faib 50% royalties' nrog AI-tsim suab paj nruag
Txawm hais tias cov lus tshaj tawm tuaj yeem tshwm sim tsis muaj teeb meem ntawm qhov chaw, cov lus hauv qab yog qhov tsis sib haum xeeb hauv zej zog AI.
Cov kws tshaj lij zoo li coob zuj zus ntseeg tias cov thev naus laus zis tam sim no tuaj yeem ua rau muaj kev tshwm sim lossis kev loj hlob ntawm AI system uas muaj peev xwm ua rau muaj kev hem thawj rau tib neeg hom.
Lawv cov kev xav, txawm li cas los xij, raug tawm tsam los ntawm cov kws tshaj lij nrog cov lus tawm tsam diametrically. Meta tus kws tshawb fawb AI Yann LeCun, piv txwv li, tau sau tseg rau ntau lub sijhawm uas nws tsis tas ntseeg tias AI yuav dhau los ua tsis tau.
Super-tib neeg AI yog tam sim no nyob ze rau saum ntawm cov npe ntawm cov kev pheej hmoo tshwm sim.
Feem ntau vim nws tseem tsis tau muaj.Txog thaum peb muaj ib qho qauv tsim rau tus dev-theem AI (cia tib neeg theem), sib tham txog yuav ua li cas kom nws muaj kev nyab xeeb yog ntxov ntxov. https://t.co/ClkZxfofV9
— Yann LeCun (@yecun) Tej zaum 30, 2023
Rau nws thiab lwm tus neeg uas tsis pom zoo nrog "kev ploj tuag" rhetoric, xws li Andrew Ng, tus tsim ntawm Google Brain thiab yav tas los tus kws tshawb fawb ntawm Baidu, AI tsis yog qhov teeb meem, nws yog cov lus teb.
Ntawm qhov kev sib cav, cov kws tshaj lij xws li Hinton thiab Conjecture CEO Connor Leahy ntseeg tias tib neeg qib AI yog qhov kev zam tsis tau thiab, yog li ntawd, lub sijhawm los ua tam sim no.
Lub taub hau ntawm txhua lub chaw AI loj tau kos npe rau tsab ntawv no qhia meej txog qhov kev pheej hmoo ntawm kev ploj tuag los ntawm AGI.
Ib kauj ruam zoo kawg nkaus rau pem hauv ntej, ua kev zoo siab rau Dan rau nws txoj haujlwm zoo kawg uas muab qhov no ua ke thiab ua tsaug rau txhua tus neeg kos npe ua lawv txoj haujlwm rau yav tom ntej zoo dua! https://t.co/KDkqWvdJcH
- Connor Leahy (@NPCollapse) Tej zaum 30, 2023
Txawm li cas los xij, nws tseem tsis tau paub meej tias yuav ua li cas cov lus tshaj tawm cov neeg kos npe tau hu rau. Cov CEOs thiab / lossis cov thawj coj ntawm AI rau ze li txhua lub tuam txhab AI loj, nrog rau cov kws tshawb fawb nto moo los ntawm thoob plaws kev kawm, yog cov uas tau kos npe, ua kom pom tseeb tias lub hom phiaj tsis yog los txwv txoj kev loj hlob ntawm cov kab ke txaus ntshai no.
Nyuam qhuav pib lub hlis no, OpenAI CEO Sam Altman, ib qho ntawm cov lus hais saum toj no tus neeg kos npe, tau ua nws thawj zaug tshwm sim ua ntej Congress thaum lub rooj sib hais Senate los tham txog AI txoj cai. Nws cov lus pov thawj ua rau muaj xov xwm tom qab nws siv feem ntau ntawm nws hais kom cov neeg tsim cai tswj hwm nws txoj kev lag luam.
Altman's Worldcoin, ib txoj haujlwm sib koom ua ke cryptocurrency thiab pov thawj ntawm tus kheej, kuj tseem tsis ntev los no tau tshaj tawm xov xwm tom qab nce $ 115 lab hauv Series C nyiaj, nqa nws cov nyiaj tag nrho tom qab peb puag ncig rau $ 240 lab.
Tau qhov twg los: https://cointelegraph.com/news/ai-experts-sign-doc-comparing-risk-of-extinction-from-ai-to-pandemics-nuclear-war