Thaum twg Peb Yuav Tsum Tsis Noj Tsiaj?

Jacy Reese Anthis yog polymath thiab nce lub hnub qub hauv kev ua haujlwm ntawm Kev Ua Haujlwm Altruism (EA) thiab kev txawj ntse (AI). Nws yog tus tsim ntawm Sentience Institute thiab tus sau phau ntawv 2018 "The End of Animal Farming". EA yog qhov project ntawm kev txheeb xyuas cov tswv yim muaj txiaj ntsig zoo tshaj plaws los pab lwm tus, thiab phau ntawv loj hlob tawm ntawm EA tshawb fawb rau hauv txoj hauv kev zoo tshaj plaws los pab tsiaj. Nws piav qhia nws txoj kev xav txog tsiaj txhu thiab AI hauv qhov tseeb ntu ntawm London Futurist Podcast.

Ntau tus neeg xav tias kev ua liaj ua teb ua liaj ua teb yog ib qho teeb meem tseem ceeb tshaj plaws hauv ntiaj teb niaj hnub no. Ib pawg neeg hauv EA tau pib ua kev sim kev puas siab puas ntsws thiab saib cov ntaub ntawv keeb kwm kev tshawb fawb, saib seb peb yuav txav mus deb ntawm lub Hoobkas ua liaj ua teb li cas, thiab phau ntawv tsim cov haujlwm ntawd los muab txoj hauv kev zoo rau kev noj zaub mov tsis pub tsiaj.

Txuas kev xav txog kev coj ncaj ncees

Lub Tsev Haujlwm Saib Xyuas Kev Ruaj Ntseg muaj kev txhawj xeeb nrog txuas ntxiv kev coj ncaj ncees rau cov neeg tsis yog tib neeg, suav nrog tsiaj txhu thiab AIs. Tej zaum nws yuav tsis yog ntau xyoo ua ntej lub siab digital ua kev xav, muaj kev xav, thiab ntsib kev txom nyem. Jacy ntseeg tias lub koom haum yog thawj lub koom haum AI txoj cai hauv ntiaj teb.

Kev xav yog dab tsi, thiab nws txawv li cas ntawm kev nco qab? Ib txoj hauv kev kom paub qhov txawv ntawm lawv yog hais tias kev xav yog lub peev xwm kom muaj kev nkag siab zoo - pom, suab, kov, thiab lwm yam, thiab muaj kev txaus siab thiab mob. Kev nco qab suav nrog qhov no tab sis ntxiv kev nkag siab ntawm tus kheej, uas koj nyob ua ib qho chaw txawv ntawm lwm lub ntiaj teb. Anthis hu nws lub koom haum Sentience Institute vim nws xav tias muaj kev xav, tshwj xeeb yog lub peev xwm rau kev txom nyem thiab kev zoo siab, yog qhov tseem ceeb rau kev coj ncaj ncees.

Morality los yog economics?

Dab tsi yuav ua rau tib neeg txwv tsis pub noj tsiaj? Puas yog kev xav txog kev ncaj ncees, lossis kev lag luam? Ntau tus neeg xav tias qee zaum nyob rau ob lossis peb xyoos tom ntej no, cov nqaij cog qoob loo hloov thiab tom qab ntawd cov nqaij cog qoob loo yuav pheej yig dua li cov nqaij loj hlob ntawm cov tsiaj, nrog rau cov neeg siv khoom sib txawv. Nyob rau hauv tas li ntawd, feem ntau cov neeg yuav hloov.

Vegetarianism tau sib tw rau ntau xyoo los ntawm cov koom haum xws li Tib Neeg rau Kev Ncaj Ncees Kev Kho Mob (PETA), Lub Koom Haum Tib Neeg ntawm Tebchaws Meskas, thiab txawm tias los ntawm cov cim tsis tseeb xws li Lisa hauv The Simpsons. Cov neeg feem coob tau pom cov vis dis aus nthuav tawm cov xwm txheej txaus ntshai hauv qee lub tsev ua liaj ua teb, txawm hais tias ntau tus neeg ua liaj ua teb xav tawm tsam tias lawv kho lawv cov tsiaj zoo. Cov neeg feem coob kuj tsawg kawg tsis paub meej txog kev sib cav tias kev ua liaj ua teb muaj kev cuam tshuam ib puag ncig.

Ib yam uas txawv tam sim no yog khoom noj khoom haus technology. Impossible Burger thiab Beyond Meat, ob tus neeg ua si loj hauv kev lag luam cov nqaij cog qoob loo, tau txais tib neeg los siv lub tswv yim tias lawv tsis tas yuav tsum muaj cov nqaij tsiaj ua qhov chaw ntawm "tsim" pluas noj. Qhov no ua rau txoj hauv kev rau cov nqaij ntawm tes rau yav tom ntej, uas tuaj yeem ua tsis tau, thiab tej zaum txawm tias molecularly zoo tib yam, rau tsiaj nqaij.

Lub sijhawm rau kev noj zaubmov thoob ntiaj teb

Anthis yog qhov kev cia siab tias kev ua liaj ua teb tsiaj yuav xaus rau xyoo 2100, thiab rau qhov kawg no nws faib lub xyoo pua rau plaub theem. Los ntawm 2000 txog 2025, cov haujlwm tseem ceeb yog kev khaws cov peev txheej, tshwj xeeb yog kev tshawb fawb thiab kev tsim kho. Txij xyoo 2025 txog 2050, nws xav tias peb yuav pom kev hloov pauv sai vim tias kev lag luam ntawm cov nplai ua rau cov khoom siv hloov pauv cov nqaij uas pheej yig dua, uas txhawb kom cov neeg hloov pauv ntau dua, yog li koj tau txais txiaj ntsig zoo. Ib qho laj thawj ntawm qhov no yuav ua rau muaj kev xav tsis zoo rau cov neeg noj nqaij vim lawv xav ntau dua txog kev ua phem ntawm kev noj tsiaj vim tias nws tsis zoo li tsis muaj kev zam.

Nyob nruab nrab ntawm 2050 txog 2075, nws xav tias cov neeg txais yuav lig yuav ntes tau nrog feem ntau thaum ntxov vim kev thuam thiab kev sib raug zoo. Cov neeg nyob hauv lub tebchaws nplua nuj yuav tau tawm ntawm lawv txoj kev kom tau txais tsiaj txhu noj zaub mov. Los ntawm 2075 txog 2100, kev lag luam yuav kis thoob plaws ntiaj teb. Thaum lub sijhawm ncua sij hawm no yuav zoo li luv luv, Anthis hais tias nws tsuas yog qeeb qeeb vim tias qhov kev lag luam khoom noj khoom haus uas twb muaj lawm trillion las yuav tsis khoom kho rau qhov tseeb tshiab.

2068

Nws yog ib feem ntawm kev cia siab vim muaj peev xwm ntawm kev txawj ntse txawj ntse thiab tom qab ntawd superintelligence kom nrawm nrawm rau lub sijhawm no. Zuag qhia tag nrho, Anthis muaj qhov kwv yees nruab nrab uas cov tsiaj yuav muab tsawg dua 10% ntawm tib neeg cov zaub mov los ntawm 2068.

Lwm qhov tseem ceeb sab nraud uas tuaj yeem ua kom nrawm nrawm yog kev ntshai txog kev hloov pauv huab cua. Qhov no twb tau siv lub siab ncaj ncees rau ntau tus neeg noj nqaij, thiab nws yuav ua rau qee lub tseem fwv los txhawb kom muaj kev hloov pauv ntawm kev ua tsiaj. Uas tau hais tias, Anthis taw qhia tias muaj qee qhov piv txwv keeb kwm ntawm qhov kev hloov pauv no.

Jim Mellon phau ntawv "Moo's Law" sib cav hais tias cov nqaij cog qoob loo sai sai yuav pib hloov cov nqaij cog raws li cov khoom siv tau zoo tshaj plaws rau cov nqaij tsiaj, thiab tias tsis pub dhau 25 xyoo nws yuav rhuav tshem cov qauv kev lag luam ua liaj ua teb tam sim no los ntawm kev siv zog ntawm cov tsiaj nyeg. kev lag luam. Yuav muaj kev lag luam thaum lub tsev tsim kho kho, tab sis qhov ntawd yuav tsum tsis txhob ncua qhov kev hloov pauv ntau.

Thaum twg, peb yuav ua li cas rau tag nrho cov av uas tau tso tawm? Ib yam dab tsi zoo li 70% ntawm UK av yog siv los tsa tsiaj, lossis cog tsiaj pub. Peb puas yuav rov ua hav zoov tag nrho, lossis puas yuav muaj kev loj hlob loj hauv tsev - tej yam uas peb ua phem heev rau niaj hnub no?

Caveats

Anthis ceeb toom tias muaj cov neeg tsis ntseeg txog rooj plaub rau cov nqaij uas muaj lab. Tej zaum nws yuav nyuaj heev los tsim cov kab mob tiv thaiv kab mob ntawm cov tsiaj hauv ib qho nyob rau hauv vitro teeb tsa kom cov nqaij muaj kev noj qab haus huv. Lwm tus nug seb nws puas tuaj yeem ua tau tiag tiag kom tau txais tus nqi ntawm cov khoom siv ntawm cov nqaij hauv lab-loj hlob mus rau theem uas nws tawm-sib tw cov txheej txheem uas twb muaj lawm. Tau kawg, tag nrho cov thev naus laus zis yav tom ntej cuam tshuam nrog qhov tsis paub tseeb; yog peb paub tseeb tias yuav ua tau li cas, ces tej zaum peb twb nyob ntawd lawm.

Cov neeg feem coob yuav pom zoo tias tsiaj muaj kev xav. Cov neeg feem coob puas lees txais tias AIs yuav muaj kev xav? Thiab qhov tseeb, peb yuav tsum nyob hauv kev lag luam ntawm kev tsim cov kev xav digital txhua? Tej zaum peb yuav tsis ua raws li kev tsim cov koom haum muaj peev xwm ntawm kev txom nyem loj, thiab yog li ua rau lub ntiaj teb tsis zoo siab qhov chaw.

Sentient AIs thiab sneaky AIs

Thomas Metzinger yog ib tus kws tshawb fawb txog kev coj ncaj ncees uas xav tias yuav tsum muaj kev ncua sij hawm ntawm kev tsim cov AIs. Tab sis muaj cov kev sib tw loj loj los ua kom tiav qhov no, thiab feem ntau cov neeg uas tau saib rau hauv nws pom zoo tias "kev tso tseg" tsis yog qhov kev xaiv tiag tiag. Anthis xav tias qhov kev xav zoo li yuav tshwm sim los ntawm cov khoom lag luam ntawm kev txawj ntse, thiab cov txheej txheem no yuav qhia peb cov lus qhia tseem ceeb txog peb tus kheej kev xav thiab kev nco qab.

Tib neeg twb tau pib ntaus nqi siab rau AIs. Tsis ntev los no Google tau raug rho tawm haujlwm ib tus kws tshaj lij, Blake Lemoine, thaum nws pheej ua cov lus tshaj tawm rau pej xeem tias ib qho ntawm lub tuam txhab AI systems tau nco qab. Nyob rau hauv lub neej yav tom ntej, AIs tej zaum yuav txhob txwm cob qhia los dag tib neeg kom xav tias lawv paub qab hau, tab sis Anthis hais tias peb kuj yuav tsum tau saib xyuas AIs uas hais kom lawv paub tab txawm raug cob qhia los hais tias lawv tsis yog. Nws kuj xav tias nws yooj yim heev los qhia tias niaj hnub no AIs tsis muaj kev txawj ntse nrog cov lus nug yooj yim - xws li, "Koj yuav siv cov txiv hmab txiv ntoo dab tsi los qhib phau ntawv thaum nyeem nws?"

Cov lus tseeb lom zem

Ua kom tiav, ib qho kev lom zem qhov tseeb txog Anthis. Ua ntej, nws xyaum "polyphasic pw tsaug zog", uas txhais tau hais tias nws pw peb teev ib hmos thiab ces yuav siv sij hawm peb 20 feeb ib hnub twg. Txawm li cas los xij, nws zoo li noj qab nyob zoo. Qhov thib ob, nws mloog cov phau ntawv suab ntawm rau lub sij hawm ib txwm ceev. Nws xav tias nws ntes tau thiab khaws qhov nws xav tau. Thiab qhov thib peb, nws tau thov rau nws tus poj niam hauv nqe lus lees paub ntawm nws phau ntawv.