AI Ethics Leans rau Aristotle los tshuaj xyuas seb tib neeg puas tuaj yeem xaiv los ua qhev AI Amidst Advent Of Fully Autonomous Systems

phooj ywg los yog yeeb ncuab.

Ntses los yog noog.

Tus neeg los yog yam.

Cov kev tsis sib haum xeeb thoob plaws txhua qhov zoo li hais tias peb lub sijhawm tau ntsib nrog qhov xwm txheej tsis zoo thiab yuav tsum xaiv ib lub ntsej muag lossis lwm yam. Lub neej tej zaum yuav yuam kom peb tawm tsam nrog cov xwm txheej uas muaj ob qho kev xaiv tshwj xeeb. Hauv cov lus muaj txiaj ntsig ntau dua, koj tuaj yeem hais tias qhov sib npaug ntawm qhov sib npaug sib npaug xav kom peb mus rau qhov tsis sib xws ntawm ib txoj hauv kev tsis yog lwm qhov.

Cia peb tsom ntsoov rau tus neeg-lossis-yam dichotomy.

Cov lus nug zoo heev ntawm tus neeg-lossis-thooj tuaj txog sijhawm thiab rov hais txog Artificial Intelligence (AI).

Kom paub meej, hnub no AI yog kiag li tsis ib tug neeg thiab nqa tsis zoo li lub siab xav, txawm tias qhov dav-eyed thiab tag nrho outsized headlines koj yuav pom nyob rau hauv cov xov xwm thiab thoob plaws hauv social media. Yog li, koj tuaj yeem ntseeg tau ruaj khov tias tam sim no qhov teeb meem ntawm seb AI yog ib tus neeg lossis ib yam khoom tau nkag siab. Nyeem kuv daim di ncauj, hauv qhov tseeb Hobson qhov kev xaiv ntawm tus neeg lossis yam khoom, AI yog ib yam, rau tam sim no.

Uas tau hais tias, peb tuaj yeem saib mus rau yav tom ntej thiab xav paub tias yuav muaj dab tsi tshwm sim yog tias peb muaj peev xwm ua tau raws li kev xav ntawm AI.

Qee qhov laj thawj thuam (ntxiv rau cov neeg tsis ntseeg siab) qhia tias peb tab tom suav peb cov qaib ntev ua ntej lawv tau hatched los ntawm niaj hnub no sib tham txog qhov cuam tshuam ntawm AI xa mus. Qhov kev txhawj xeeb uas tau hais tawm yog qhov kev sib tham nws tus kheej txhais tau tias peb yuav tsum nyob ntawm qhov kev txiav txim siab ntawm AI. Lub koom haum loj tuaj yeem yuam kev rau kev ntseeg tias tag kis lossis hnub tom qab yuav muaj kev tshwm sim tam sim ntawd thiab txaus ntshai uas peb muaj qhov tseeb tuaj txog ntawm AI (qhov no yog qee zaum hu ua AI singularity lossis kev txawj ntse tawg, saib kuv tsom xam ntawm qhov txuas ntawm no). Lub caij no, peb tsis paub thaum twg xws li AI yuav tshwm sim, yog tias puas tau, thiab qhov tseeb, zoo li peb tsis tas yuav tau saib ib ncig ntawm txhua lub ces kaum thiab txaus ntshai ntawm ntug uas tus neeg xa xov AI yuav dhia tawm ntawm peb tag nrho tsis tau xav txog yav tom ntej. me ntsis.

Lwm sab ntawm kev sib cav hais tias peb yuav tsum tsis txhob muab peb lub taub hau faus tob rau hauv cov xuab zeb. Koj pom, yog tias peb tsis tham ntau dhau thiab xav txog qhov muaj feem cuam tshuam nrog kev xa tawm AI, peb tab tom ua rau tib neeg qhov kev xav tsis zoo. Peb yuav tsis npaj txhij rau kev tswj hwm AI thaum twg lossis yog tias nws tshwm sim. Tsis tas li ntawd, thiab tej zaum txawm hais tias muaj zog dua, los ntawm kev cia siab tias tus neeg xa xov AI peb tuaj yeem ua qee yam rau hauv peb txhais tes thiab tsim cov kev taw qhia thiab qhov xwm txheej ntawm yuav ua li cas AI yuav los ua thiab nws yuav tsum muaj li cas (tsis yog txhua tus neeg pom zoo rau qhov kawg ntawm no. Ib txhia hais tias xws li AI yuav muaj "lub siab" tag nrho ntawm nws tus kheej thiab peb yuav tsis tuaj yeem tsim lossis ua rau nws tsis zoo vim tias AI yuav muaj peev xwm xav thiab txiav txim siab txhais tau tias yuav muaj nyob mus ntxiv).

AI Ethics nyiam ib sab nrog txoj kev xav tias peb yuav txawj ntse kom tau txais cov kev nyuaj siab thiab kev sib cav sib ceg-AI teeb meem tawm hauv qhov qhib tam sim no, tsis yog tos kom txog thaum peb tsis muaj kev xaiv tseg lossis tau txais gobsmacked raws li qhov ua tiav ntawm AI. Cov neeg nyeem paub zoo tias kuv tau hais txog AI Ethics thiab Ethical AI cov ncauj lus dav dav, suav nrog kev npog ntau yam ntawm cov teeb meem pos xws li AI kev cai lij choj tus neeg, AI ntim, AI disgorgement, AI algorithmic monoculture, AI ethics-ntxuav, siv dual-siv AI thiaj li hu ua Doctor Evil tej yaam num, AI nkaum hauv zej zog lub zog muaj zog, kev ntseeg siab AI, kev tshuaj xyuas ntawm AI, thiab lwm yam (saib kuv cov kab ke ntawm cov ntsiab lus tseem ceeb ntawm qhov txuas ntawm no).

Kuv muab rau koj ib lo lus nug nyuaj.

Nyob rau hauv lub neej yav tom ntej, piv txwv li peb nyob rau hauv dab tsi zam xaus nrog sentient AI, tus sentient AI puas yuav txhais los ntawm peb tag nrho cov raws li ib tug neeg los yog ib yam khoom?

Ua ntej peb pib ua qhov tob tob rau hauv tag nrho cov lus nug no, cia kuv hais ib yam dab tsi txog cov ntsiab lus ntawm "sentient AI" kom peb txhua tus nyob hauv tib nplooj ntawv. Muaj kev npau taws heev txog lub ntsiab lus ntawm kev xav thiab lub ntsiab lus ntawm kev nco qab. Cov kws tshaj lij tuaj yeem nkag siab tsis pom zoo rau qhov twg cov lus no tsim. Ntxiv rau qhov av nkos, thaum twg leej twg hais txog "AI" koj tsis muaj kev npaj txhij txog kev paub qhov lawv tau hais txog ib qho. Kuv twb tau hais hauv no hais tias niaj hnub no AI tsis yog kev xav. Yog tias thaum kawg peb tuaj txog ntawm lub neej yav tom ntej AI uas xav tau, peb xav tias yuav hu nws "AI" ib yam nkaus. Qhov tseeb yog, cov teeb meem tsis sib haum xeeb no tuaj yeem ua rau muaj kev ntxhov siab zoo nkauj tam sim no seb qhov kev hais tawm ntawm "AI" cov lus muaj feem cuam tshuam nrog AI tsis xav txog niaj hnub no lossis ib hnub tej zaum yuav muaj kev xav AI.

Cov kev sib cav AI tuaj yeem pom lawv tus kheej sib tham yav dhau los thiab tsis paub tias ib tus piav txog txiv apples thiab lwm tus yog lub sijhawm hais txog txiv kab ntxwv.

Txhawm rau sim thiab nkag mus nyob ib puag ncig qhov tsis meej pem no, muaj kev hloov kho rau AI cov lus uas ntau tus siv rau lub hom phiaj ntawm kev cia siab kom meej. Tam sim no peb nyiam xa mus rau Artificial General Intelligence (AGI) raws li hom AI uas tuaj yeem ua tiav kev txawj ntse zoo li kev siv zog. Hauv qhov kev nkag siab ntawd, kev siv cov lus tsis txaus ntseeg ntawm "AI" yog sab laug los txhais tau tias yog qhov tsawg dua ntawm AI, uas qee tus hais tias nqaim-AI, lossis yog denotationally tsis meej thiab koj tsis paub tias qhov kev siv tsis yog. -sentient AI lossis tej zaum sentient AI.

Kuv mam li muab qhov twist ntxiv rau qhov no.

Nyob ntawm seb lub ntsiab lus txhais ntawm kev xav, koj tuaj yeem nkag mus rau hauv kev hais lus kub txog seb AGI yuav muaj kev xav lossis tsis yog. Qee tus hais tias yog, tau kawg, AGI yuav los ntawm nws qhov kev xav hauv nruab siab yuav tsum muaj kev xav. Lwm tus neeg thov tias koj tuaj yeem muaj AGI uas tsis yog kev xav, ergo, kev xav yog qhov txawv ntawm qhov uas tsis yog qhov yuav tsum tau ua kom tau AGI. Kuv tau txheeb xyuas qhov kev sib cav no ntau yam hauv kuv cov kab thiab yuav tsis rov hais dua qhov teeb meem no.

Tam sim no, thov xav tias tam sim no nyob rau hauv qhov kev sib tham ntawm no tias thaum kuv xa mus rau AI uas kuv tab tom xav qhia tias kuv xa mus rau AGI.

Ntawm no yog qhov download ntawm no. Peb tseem tsis tau muaj AGI tam sim no, thiab hauv kev hais lus, peb yuav pom zoo tam sim ntawd tias AGI nyob hauv tib lub chaw pw hav zoov raws li kev xa tawm AI. Yog tias kuv yuav tsum siv "AGI" nkaus xwb nyob rau hauv kuv qhov kev sib tham, cov lus no muaj feem cuam tshuam rau vim tsis muaj coob leej tau siv los pom "AGI" raws li ib tug moniker thiab lawv yuav zoo li me ntsis irked ntawm rov pom cov lus tshiab dua. Tam sim no, yog tias hloov pauv, kuv yuav tsum tau hais txog "kev xav AI" qhov no yuav yog qhov cuam tshuam rau cov uas tab tom sib ntaus sib tua seb AGI thiab sentient AI yog tib yam lossis txawv ntawm ib leeg.

Txhawm rau zam qhov kev ntxhov siab, xav tias kuv qhov kev xa mus rau AI yog tib yam li hais AGI lossis txawm tias muaj kev xav-AI, thiab tsawg kawg paub tias kuv tsis tau hais txog niaj hnub no tsis muaj kev xav tsis yog-AGI AI thaum kuv nkag mus rau hauv throes ntawm kev xav txog. AI uas zoo li muaj kev txawj ntse zoo li tib neeg. Kuv yuav qee zaus siv lub npe AGI los ceeb toom koj ib ntus ntawm no tias kuv tab tom tshuaj xyuas hom AI uas peb tseem tsis tau muaj, tshwj xeeb tshaj yog thaum pib ntawm qhov kev tshawb fawb no ntawm tus neeg lossis cov khoom riddle.

Qhov ntawd yog qhov kev lees paub zoo tshaj plaws thiab kuv tam sim no rov qab mus rau qhov teeb meem tseem ceeb ntawm tes.

Tam sim no cia kuv nug koj seb AGI yog tus neeg lossis ib yam khoom.

Xav txog ob lo lus nug no:

• Puas yog AGI tus neeg?
• Puas yog AGI yog qhov khoom?

Cia peb txuas ntxiv mus rov hais dua txhua lo lus nug, thiab ua raws cov lus nug nrog cov lus teb yog los yog tsis yog raws li qhov xav tau ntawm kev xaiv dichotomous.

Pib nrog qhov muaj peev xwm postulated:

• Puas yog AGI ib tus neeg? Teb: Yog.
• Puas yog AGI yog qhov khoom? Teb: Tsis

Mull qhov ntawd. Yog hais tias AGI yog qhov tseeb txhais tau tias yog ib tug neeg thiab tsis yog ib yam, peb tuaj yeem pom zoo tias peb yuav tsum kho AGI zoo li ib tug neeg. Yuav zoo li muaj kev sib cav tsis txaus txog kev ua tsis tau rau AGI ib hom ntawv ntawm tus neeg raug cai. Qhov no yuav yog tib yam nkaus li tib neeg txoj cai lij choj, lossis peb yuav txiav txim siab los ua ib qho txawv ntawm tib neeg txoj kev cai lij choj uas yuav raug txiav txim siab siv tau rau AGI. Case kaw.

Qhov ntawd yog qhov yooj yim-peasy.

Xav txog qhov peb tau tshaj tawm qhov no:

• Puas yog AGI ib tus neeg? Teb: Tsis
• Puas yog AGI yog qhov khoom? Teb: Yog.

Hauv qhov xwm txheej no, qhov kev daws teeb meem yog qhov tseeb ncaj qha vim peb tau hais tias AGI yog ib yam thiab tsis nce mus rau qeb ntawm kev ua neeg. Yuav zoo li muaj kev pom zoo dav dav tias peb yuav txiav txim siab tsis pub tus neeg raug cai rau AGI, vim tias nws tsis yog tus neeg. Raws li ib qho ntxiv, AGI yuav zoo li muaj txiaj ntsig thiab muaj txiaj ntsig zoo los ntawm peb lub ntsiab lus tag nrho hais txog yuav ua li cas peb ua raws li "cov khoom" hauv peb lub zej zog.

Ob nqes, ob txoj hauv kev ntxiv mus.

Xav txog qhov no:

• Puas yog AGI ib tus neeg? Teb: Yog.
• Puas yog AGI yog qhov khoom? Teb: Yog.

Ouch, qhov ntawd zoo li khib vim peb muaj ob lo lus Yes Xus. Kev ntxhov siab. Peb tab tom tawm tswv yim tias AGI yog ob qho tib si tib neeg thiab tseem ib txhij ib yam. Tab sis qhov no tshwm sim ya nyob rau hauv lub ntsej muag ntawm peb tshaj tawm dichotomy. Hauv txoj kev xav, raws li qhov txwv ntawm dichotomy, ib yam dab tsi yuav tsum yog tus neeg lossis nws yuav tsum yog ib yam. Ob lub thoob los yog pawg tau hais tias yog kev sib koom ua ke. Los ntawm kev lees paub tias AGI yog ob qho tib si, peb tab tom bucking lub kaw lus thiab rhuav tshem kev sib koom ua ke.

Peb qhov ua tau kawg yuav zoo li qhov no:

• Puas yog AGI ib tus neeg? Teb: Tsis
• Puas yog AGI yog qhov khoom? Teb: Tsis

Yikes, qhov ntawd yog qhov phem heev rau peb qhov kev sim ntawm kev faib AGI ua ib tus neeg lossis ib yam. Peb tab tom hais tias AGI tsis yog ib tus neeg, uas txhais tau tias nws yuav tsum yog ib yam (peb tsuas yog muaj lwm txoj kev xaiv, hauv no dichotomy). Tab sis peb kuj tau hais tias AGI tsis yog ib yam. Txawm li cas los xij, yog tias AGI tsis yog ib yam, peb xav los ntawm cov laj thawj yuav tsum lees tias AGI yog ib tus neeg. Round thiab puag ncig peb mus. Ib qho paradox, kom paub meej.

AGI nyob rau hauv ob qhov kawg possibilities yog ob qho tib si (1) ob leeg tib neeg thiab khoom, los yog (2) tsis yog tus neeg los yog yam. Tej zaum koj yuav hais tsis zoo hais tias ob qhov kev lees paub txog AGI yog me ntsis zoo li qhov kev tsis sib haum xeeb ntawm qhov uas tsis yog ntses lossis noog, yog tias koj paub kuv txhais li cas.

Peb yuav ua li cas?

Kuv tab tom yuav muab qhov kev sib cav ntau zaus thiab mob siab rau qhov kev daws teeb meem rau AGI kev faib tawm qhov teeb meem no txawm hais tias koj yuav tsum tau ceeb toom ua ntej tias nws yuav ua rau muaj kev ntxhov siab rau pom lossis hnov. Thov npaj koj tus kheej raws li.

Ib daim ntawv tshawb fawb uas daws qhov teeb meem no tau hais txog qhov no: "Ib txoj hauv kev los daws qhov teeb meem no yog los tsim lub ntsiab lus thib peb uas tsis yog ib qho lossis lwm yam lossis hom kev sib txuas lossis kev sib txuas ntawm ib qho thiab lwm yam" (los ntawm David Gunkel, Northern Illinois University hauv Vim li cas Robots Yuav Tsum Tsis Ua qhev, 2022). Thiab daim ntawv ces muab cov ntsiab lus ntxiv no: "Ib qho ua tau, yog tias tsis xav tsis thoob, kev daws teeb meem rau tus neeg tshwj xeeb / yam dichotomy yog qhev” (ib daim ntawv qub).

Raws li keeb kwm yav dhau los, xyoo dhau los, muaj ib daim ntawv uas tau tshwm sim hauv xyoo 2010 hu ua "Robots Yuav tsum Ua qhev" uas tau dhau los ua hom tseem ceeb rau kev txhawb nqa qhov kev xav no, uas daim ntawv tau hais tias: "Kuv txoj kev tshawb fawb yog tias cov neeg hlau yuav tsum yog. tsim, ua lag luam thiab suav hais tias raug cai ua qhev, tsis yog phooj ywg nrog phooj ywg” (hauv ib daim ntawv los ntawm Joanna Bryson). Txhawm rau sim thiab piav qhia lub ntsiab lus yam tsis siv lo lus hnyav thiab mob plab, daim ntawv tau hais ntxiv rau qhov no: "Qhov kuv txhais tau hais tias yog 'Robots yuav tsum yog cov tub qhe koj muaj" (ib Bryson daim ntawv).

Ntau tus kws tshawb fawb thiab cov kws sau ntawv tau hais txog qhov no.

Xav txog ntau zaj dab neeg kev tshawb fawb uas qhia txog tib neeg ua qhev AI neeg hlau. Qee tus hais txog cov neeg hlau qhev, cov tub qhe dag, AI kev pabcuam, thiab lwm yam. Interestingly, hnyav npaum li cov lus hais tias "neeg hlau qhev" zoo li, qee tus tau txhawj xeeb tias yog tias peb hloov mus rau "cov neeg ua haujlwm neeg hlau" peb yuav zam qhov tseeb ntawm yuav ua li cas AI autonomous systems yuav tsum tau kho (hloov lo lus nrog " cov tub qhe" tau hais tias yog kev tso dej ntawm qhov kev xav thiab kev ua rau ua rau muaj kev cuam tshuam tsis zoo). Bryson tom qab ntawd hais hauv 2015 blog tshaj tawm tias "Kuv paub tam sim no tias koj tsis tuaj yeem siv lo lus ' qhev' yam tsis tau hais txog nws cov tib neeg keeb kwm."

Rau cov neeg uas tab tom nrhiav kev tshawb fawb tob tob txog lub ntsiab lus AGI-entangling no, lub sijhawm lawv coj cov piv txwv ntawm keeb kwm tiag tiag hauv ntiaj teb uas peb tuaj yeem khaws cov kev nkag siab los ntawm. Tau kawg, peb tsis muaj AGI ua ntej uas yuav qhia tias tib neeg tau daws qhov teeb meem li cas. Ib qho kev sib cav mus hais tias peb yuav muaj txawm li cas los xij muaj txiaj ntsig keeb kwm earmarks tsim nyog tshuaj xyuas txog seb tib neeg tau ua li cas rau lwm tus tib neeg.

Piv txwv li, nyob rau hauv ib phau ntawv luam tawm xyoo 2013, tus sau hais tias: "Cov lus cog tseg thiab kev tsim txom ntawm cov neeg dag, cov tub qhe txawj ntse yog thawj zaug tso tawm ntau tshaj 2,000 xyoo dhau los los ntawm Aristotle" (phau ntawv los ntawm Kevin LaGrandeur, Androids thiab Intelligent Networks nyob rau hauv Early Modern Literature thiab Culture). Lub tswv yim yog tias peb tuaj yeem hloov mus rau Aristotle thiab saib seb puas muaj kev nkag siab txog tias tib neeg yuav ua li cas lossis yuav tsum tau ua kom muaj peev xwm kho AGI.

Kuv paub tseeb tias koj paub qhov tseem ceeb ntawm kev kawm keeb kwm, raws li tau hais ntau dhau los ntawm cov lus nto moo ntawm George Santayana: "Cov neeg uas tsis nco qab txog yav dhau los raug rau txim kom rov hais dua" (hauv Lub Neej Yog Vim Li Cas, 1905).

Ua tsaug rau Oxford University Lub Tsev Haujlwm Rau Kev Ncaj Ncees Thiab AI

Ib qho kev nthuav qhia tsis ntev los no thiab muaj txiaj ntsig zoo tau tshuaj xyuas qhov teeb meem ntawm AI Ethics ntawm qhov kev nkag siab ntawm kev ua haujlwm thiab lub neej ntawm Aristotle. Hauv kev nthuav qhia txhua xyoo rau Oxford University Lub koom haum rau Ethics thiab AI, xibfwb Josiah Ober ntawm Stanford University tau hais txog lub ntsiab lus hauv nws qhov kev nthuav qhia "Kev ncaj ncees hauv AI nrog Aristotle" uas nyuam qhuav tshwm sim rau lub Rau Hli 16, 2022.

Sab sauv, hauv kuv lub peev xwm ua Stanford Fellow thiab tus kws tshaj lij thoob ntiaj teb hauv AI Ethics & Law, Kuv zoo siab tias Stanford's Josiah Ober tau raug xaiv los ua tus hais lus pib. Ib qho kev xaiv zoo heev thiab kev hais lus zoo.

Ntawm no yog cov ntsiab lus paub daws teeb meem uas tau muab rau nws qhov kev sib tham: "Kev tsom xam lub tswv yim thiab kev kwv yees kwv yees tam sim no yog peb cov kev txawj ntse tseem ceeb rau kev xav txog kev coj ncaj ncees hauv AI. Kuv thov ntxiv qhov thib peb: keeb kwm kev sib raug zoo thiab kev xav. Hauv Txoj, Aristotle txhim kho cov lus qhuab qhia tsis zoo: Qee tus tib neeg yog qhev 'los ntawm xwm' ​​- ntse tab sis raug kev puas tsuaj los ntawm kev puas siab puas ntsws uas ua rau lawv tsis muaj peev xwm xav txog lawv tus kheej qhov zoo. Yog li ntawd, lawv yuav tsum raug kho raws li 'cov cuab yeej ua kom zoo,' cov cuab yeej tsis yog qhov kawg. Lawv txoj haujlwm yuav tsum raug coj los ntawm thiab ua haujlwm rau qhov zoo ntawm lwm tus. Aristotle cov lus qhuab qhia uas tsis txaus ntseeg tau raug xa mus rau lub hom phiaj phem, piv txwv li hauv antebellum America. Txawm li cas los xij, nws muaj txiaj ntsig zoo rau AI kev coj noj coj ua, tsis hais txog kev ua qhev thaum ub yog ib qho qauv ua ntej ntawm ib qho ntawm AI. Cov neeg ua qhev tau muaj nyob thoob plaws hauv lub neej Greek thaum ub - cov neeg ua haujlwm, poj niam ntiav, cov neeg ua lag luam, tsoomfwv cov thawj coj - tseem tsis tau paub meej los ntawm cov neeg dawb. Ubiquity, nrog rau qhov kev xav tias kev ua cev qhev yog qhov tsim nyog, tau tsim ntau yam kev coj ua thiab kev sib tw: Yuav ua li cas, raws nraim, cov qhev txawv ntawm 'peb'? Yuav ua li cas peb thiaj qhia lawv sib nrug ntawm peb tus kheej? Lawv puas muaj cai? Dab tsi ua rau kev ua phem? Kuv lub instrument puas tuaj yeem yog kuv tus phooj ywg? Dab tsi yog qhov tshwm sim ntawm manumission? Lub keeb kwm ntev ntawm Greek philosophical thiab lub koom haum tawm tsam nrog cov no thiab lwm cov lus nug ntxiv rau cov lus piav qhia ntawm cov neeg txawj ntse niaj hnub no uas ntsib lub neej yav tom ntej uas lub tshuab ntse yuav raug suav tias yog "tus qhev ntuj" (raws li Oxford University). Lub koom haum rau AI Ethics lub vev xaib).

Yog xav paub ntxiv txog qhov kev nthuav qhia thiab kev nkag mus rau kev kaw video ntawm kev hais lus, saib qhov txuas ntawm no.

Tus neeg saib xyuas ntawm qhov kev nthuav qhia yog xibfwb John Tasioulas, tus thawj coj pib rau lub Lub koom haum rau Ethics thiab AI, thiab xibfwb ntawm Kev Ncaj Ncees thiab Kev Cai Lij Choj, Kws Qhia Ntawv ntawm Philosophy, University of Oxford. Yav dhau los, nws yog tus thawj coj ntawm Txoj Cai Lij Choj, Philosophy & Txoj Cai thiab Tus Thawj Coj ntawm Yeoh Tiong Lay Center for Politics, Philosophy & Law ntawm Dickson Poon Tsev Kawm Ntawv ntawm Txoj Cai, Kings College London.

Kuv pom zoo kom txhua tus neeg xav paub txog AI Ethics yuav tsum ua raws li kev ua haujlwm tsis tu ncua thiab caw cov kev sib tham ntawm Oxford University Lub koom haum rau Ethics thiab AI, saib qhov txuas ntawm no thiab / los yog qhov txuas ntawm no rau cov ntaub ntawv ntxiv.

Raws li keeb kwm yav dhau los, ntawm no yog lub luag haujlwm thiab lub hom phiaj ntawm lub koom haum: "Lub koom haum rau kev ncaj ncees hauv AI yuav coj los ua ke thoob ntiaj teb cov kws tshawb fawb thiab lwm tus kws tshaj lij hauv tib neeg nrog rau cov kws tsim khoom thiab cov neeg siv AI hauv kev kawm, kev lag luam, thiab tsoomfwv. Kev coj ncaj ncees thiab kev tswj hwm ntawm AI yog thaj chaw tshwj xeeb ntawm kev tshawb fawb ntawm Oxford thiab lub koom haum yog lub sijhawm los ua kom muaj kev vam meej los ntawm lub platform no. Txhua hnub coj ntau tus piv txwv ntawm cov teeb meem kev coj ncaj ncees los ntawm AI; los ntawm lub ntsej muag lees paub rau cov neeg pov npav xaiv tsa, lub tshuab hlwb hlau cuam tshuam rau cov riam phom drones, thiab cov lus hais tsis tu ncua txog yuav ua li cas AI yuav cuam tshuam rau kev ua haujlwm thoob ntiaj teb. Nov yog txoj haujlwm tseem ceeb thiab tseem ceeb uas peb npaj siab los txhawb thoob ntiaj teb nrog rau kev koom nrog hauv peb tus kheej kev tshawb fawb thiab kev qhia ntawm no ntawm Oxford" (los ntawm lub vev xaib raug cai).

Nqa Aristotle Cov Lus Qhia Rau Lub Hauv Ntej

Ancient tim Nkij teb chaws tau qhib siab txais thiab pom zoo rau kev coj ua qhev. Piv txwv li, tshaj tawm, Athens hauv 5^th thiab 6^th centuries BC muaj ib tug ntawm cov loj tshaj plaws embodiments ntawm enslavement uas kwv yees li 60,000 rau tej zaum 80,000 tus neeg raug enslaved. Yog tias koj tau nyeem ib qho ntawm ntau cov dab neeg Greek thiab ua yeeb yam ntawm lub sijhawm ntawd, muaj ntau yam hais txog qhov teeb meem.

Thaum lub sij hawm nws lub neej, Aristotle tau tag nrho rau hauv kev sib raug zoo thiab kev coj noj coj ua uas cuam tshuam txog kev ua qhev thiab tau sau ntau yam ntawm cov ncauj lus. Niaj hnub no peb tuaj yeem nyeem nws cov lus thiab nrhiav kom nkag siab tias yuav ua li cas thiab vim li cas ntawm nws txoj kev xav txog qhov teeb meem. Qhov no tuaj yeem qhia tau zoo heev.

Tej zaum koj yuav xav tsis thoob vim li cas Aristotle yuav yog qhov tseem ceeb tshwj xeeb los xav txog cov ncauj lus no. Yam tsawg kawg yog ob qho laj thawj tseem ceeb tshwm sim:

1) Tus xav zoo heev. Aristotle tau lees paub tias yog ib tus neeg xav zoo tshaj plaws ntawm txhua lub sijhawm, ua tus kws tshawb fawb loj thiab xav paub ntau ntxiv, thiab suav tias yog ib tus kws tshaj lij uas tsim ntau lub hauv paus tseem ceeb ntawm kev coj ncaj ncees. Qee tus tau xaiv los pleev nws ua leej txiv ntawm kev xav, leej txiv ntawm kev hais lus, leej txiv ntawm kev muaj tiag, thiab lwm yam, thiab lees paub nws lub hwj chim hauv ntau yam ntawm cov thawj coj thiab kev qhuab qhia.

2) Nyob Kev. Aristotle nyob rau lub sijhawm uas Ancient tim Nkij teb chaws tau raug kev puas tsuaj los ntawm kev ua qhev. Yog li, nws txoj kev nkag siab yuav tsis yog hais txog kev paub daws teeb meem, tab sis xav tias, suav nrog nws tus kheej cov kev paub niaj hnub ua raws li kev sib koom ua ke rau hauv kab lis kev cai thiab kev sib raug zoo ntawm lub sijhawm ntawd.

Yog li ntawd, peb muaj ib tug me ntsis astounding ua ke ntawm ib tug neeg uas yog ob qho tib si ib tug zoo thinker thiab uas kuj muaj ib tug tshwm sim nyob rau hauv lub ntsiab lus ntawm kev txaus siab. Ntxiv rau, nws sau nws cov kev xav. Qhov ntawd tseem ceeb heev, tam sim no, rau peb lub hom phiaj niaj hnub no. Tag nrho nws cov ntawv sau, nrog rau lwm cov ntawv sau uas piav txog nws cov lus thiab kev sib cuam tshuam ntawm lwm tus, muab peb niaj hnub no nrog ntau yam khoom siv rau kev tshuaj xyuas thiab tshuaj xyuas.

Kuv xav coj koj mus rau ib tug luv luv hais txog tangent los hais ib yam dab tsi lwm yam hais txog lub general txoj kev xav nyob rau hauv lub ntsiab lus ntawm muaj ib tug nyob kev. Muab kev sib tham Ancient tim Nkij teb chaws rau ib pliag thaum peb saib sai sai ntawm cov ntsiab lus ntawm kev ua neej nyob.

Xav tias kuv muaj ob tug neeg niaj hnub no uas kuv xav nug ntau yam lus nug txog tsheb.

Ib tug tsis tau tsav tsheb. Tus neeg no tsis paub tsav tsheb li cas. Tus neeg no tsis tau zaum tom qab lub log ntawm lub tsheb. Kev tswj hwm kev tsav tsheb thiab kev tswj hwm zoo ib yam yog qhov tsis meej me ntsis rau tus neeg no. Lub pedal ua dab tsi? Koj ua li cas kom nws nres? Koj ua li cas mus? Tus neeg tsav tsheb tsis yog tus neeg tsav tsheb no yog qhov cuam tshuam los ntawm cov teeb meem no.

Lwm tus yog tus tsav tsheb txhua hnub. Lawv tsav tsheb mus ua haujlwm txhua hnub. Lawv cuam tshuam nrog nres-thiab-mus tsheb. Lawv tau tsav tsheb tau ntau xyoo. Qhov no suav nrog txhua yam los ntawm txoj kev ntsiag to mus rau txoj kev loj heev thiab byways.

Yog tias kuv nug lawv txhua tus qhia kuv txog kev tsav tsheb zoo li cas, koj puas tuaj yeem twv seb kuv yuav tau txais cov lus teb zoo li cas?

Tus uas tsis tau tsav tsheb yuav ua rau kev twv qus. Tej zaum tus neeg yuav romanticize txoj kev tsav tsheb. Tsav tsheb yog me ntsis paub daws teeb rau lawv. Txhua yam uas lawv tuaj yeem ua tau yog qhia tias kev tsav tsheb tsis muaj kev txhawj xeeb thiab koj tuaj yeem ua kom lub tsheb mus rau qhov twg koj xav tau.

Kuv xav twv tias tus tsav tsheb uas muaj caij nyoog yuav qhia ib zaj dab neeg sib txawv. Tej zaum lawv yuav hais txog qhov zoo ntawm kev tsav tsheb, me ntsis echoing cov kev xav ntawm tus neeg uas tsis tau tsav tsheb. Qhov txawv yog tias tus neeg tsav tsheb uas paub txog yuav ntxiv ntau ntxiv rau lub phaj. Kev tsav tsheb yog kev ntxhov siab nyob rau qee lub sijhawm. Koj tab tom ris lub luag haujlwm hnyav. Txoj cai tsav tsheb muaj kev txhawj xeeb loj thiab muaj feem cuam tshuam txog txoj sia-lossis-tuag.

Lub ntsiab lus yog tias thaum koj tuaj yeem nkag mus rau ib tus neeg uas muaj kev paub dhau los, txoj hauv kev yog tias koj tuaj yeem tau txais kev pom tseeb dua ntawm lub ntiaj teb zoo li cas nrog rau kev tsom mus rau qhov kev nug. Tsis muaj kev lav phib xaub zoo li no. Nws yog qhov xav tias tus neeg tsav tsheb tsis tuaj yeem paub qhov tus neeg tsav tsheb caij nyoog paub txog kev tsav tsheb, txawm tias peb yuav tsis xav txog qhov no thiab tseem muaj qhov tsis zoo uas peb tsis tau txais tag nrho cov daus.

Rov qab mus rau peb qhov kev sib tham txog Aristotle, los ntawm nws cov ntawv sau thiab cov ntawv sau ntawm lwm tus txog nws, peb tuaj yeem tshuaj xyuas nws cov kev ua neej nyob ntawm lub ncauj lus lossis kev xav ntawm kev nug ntawm no. Qhov thib ob yog tias nws kuj tau tshwm sim los ua ib tus neeg xav txog qhov kev faib ua loj loj thiab peb yuav tsum cia siab tias peb yuav tau txais ib lub thoob tag nrho ntawm kev xav txog qhov ntawd.

Nco ntsoov tias peb tsis tas yuav tsum ntseeg nws cov lus ntawm lub ntsej muag, xws li peb yuav tsum ceev faj qhov muag ntawm nws qhov kev tsis ncaj ncees. Nws txoj kev nkag mus rau hauv lub sijhawm ntawd tuaj yeem ua rau nws yuam kev hauv kev sim sawv sab nraud ntawm cov teeb meem ntawm tes, tsis tuaj yeem ua kom haum rau qee qhov kev xav tsis zoo thiab tsis ncaj ncees. Txawm tias cov neeg txawj ntse tshaj plaws tuaj yeem xaus qhov tsis sib haum xeeb los sim ua kom tau raws li lawv qhov kev cia siab thiab kev ua neej nyob.

Tam sim no cia peb nkag mus rau hauv kev sib tham thawj zaug thiab saib seb Aristotle yuav ua li cas rau peb hnub no.

Ib qho kev tsim cov ntsiab lus hais txog kev ua neej nyob tam sim ntawd coj mus rau cov neeg mloog. Hauv kev siv AGI, txij li peb tsis muaj AGI niaj hnub no, nws nyuaj rau peb txheeb xyuas qhov AGI yuav zoo li cas thiab peb yuav ua li cas nrog AGI. Peb tsis muaj ib qho kev paub ua neej nyob tshwj xeeb rau AGI. Raws li xibfwb Ober tau hais tshwj xeeb, peb yuav pom peb tus kheej nyob hauv lub ntiaj teb kev raug mob thaum peb mus txog AGI.

Qhov no feem ntau tau hais tias AI yog qhov kev pheej hmoo uas muaj nyob, uas kuv tau them ntau zaus hauv kuv cov kab. Koj yuav tsum tau nyob hauv lub qhov tsua kom tsis txhob hnov ​​​​qab txog kev tsis txaus ntseeg thiab kev xav tias peb yuav tsim lossis tsim AGI uas yuav ua rau tib neeg puas tsuaj. Tseeb tiag, txawm hais tias kuv nyob ntawm no tsom mus rau kev ua qhev ntawm AI, ntau tus yuav pom qhov no yog lub ntsiab lus ntawm qhov rov qab los yog rov qab los ntawm qhov kev sib piv rau qhov muaj peev xwm ntawm AGI xaiv los ua qhev rau tib neeg. Tau txais koj qhov tseem ceeb ncaj nraim, qee qhov smarmy pundits yuav ntuas.

Txawm hais tias muaj ntau qhov exclamations txog AI raws li qhov muaj feem yuav tshwm sim, peb yeej muaj peev xwm hais txog lwm qhov txiaj ntsig ntawm AI npib. Tej zaum AGI yuav tuaj yeem daws qhov teeb meem zoo li tsis tuaj yeem daws teeb meem rau tib neeg. AGI tuaj yeem tshawb pom kev kho mob qog noj ntshav. AGI tuaj yeem txiav txim siab seb yuav daws qhov kev tshaib kev nqhis hauv ntiaj teb li cas. Lub ntuj yog qhov txwv, raws li lawv hais. Qhov ntawd yog lub ntsej muag zoo siab txog AGI.

Ib tus kws tshaj lij xav hais tias nws yog qhov zoo rau kev xav txog yuav ua li cas AGI yuav yog ib qho koob hmoov rau tib neeg, thaum tus neeg xav tsis thoob yuav zoo li ceeb toom tias qhov kev poob qis zoo li phem dua li qhov kev cia siab. AGI uas pab tib neeg zoo heev. AGI uas txiav txim siab tua txhua tus tib neeg lossis ua qhev rau lawv, zoo, qhov ntawd yog qhov ua kom lub ntiaj teb tawg ua rau muaj kev puas tsuaj loj-ua rau muaj kev phom sij txaus ntshai uas tsim nyog rau kev mob siab rau thiab cawm txoj sia vim kev saib xyuas.

Okay, rov qab mus rau qhov tseem ceeb ntawm qhov teeb meem, peb tsis muaj kev paub txog AGI. Tshwj tsis yog tias koj tuaj yeem tsim lub sijhawm tshuab thiab mus rau yav tom ntej thaum (yog) AGI tshwm sim, thiab rov qab los qhia peb qhov koj pom, peb tsis muaj hmoo tam sim no txog AGI los ntawm tib neeg kev ua neej nyob kev pom.

Lwm txoj hauv kev siv cov kev paub hauv lub neej muaj xws li qhov tseeb tias Aristotle nyob rau lub sijhawm ua qhev tau tshwm sim. Thiab ntawm no yog tus kicker. Cov uas raug quab yuam yog nyob rau hauv qee qhov kev hwm tau piav qhia tias yog hom tshuab, sib xyaw-thiab-muag ntawm tib neeg thiab khoom, zoo li nws yog. Aristotle tau paub txog kev xa mus rau cov neeg qhev ua ib yam khoom uas ua pa.

Kuv tabtom kwv yees tias tej zaum koj yuav xav tsis thoob tias Aristotle, ib tug loj ntawm logic thiab ethics, yuav tsis tau tsuas yog lees paub enslavement tab sis hais tias nws outwardly thiab vociferously tiv thaiv kev xyaum. Nws tus kheej kuj tau siv ua qhev. Qhov no tsuas yog zoo li dhau kev nkag siab. Muaj tseeb tiag, nrog rau tag nrho nws txoj kev txawj ntse thiab kev txawj ntse, nws yuav tsis lees paub qhov kev coj ua.

Kuv twv hais tias qhov no qhia txog lub sijhawm muaj teeb meem ntawm kev tshem tawm cov txiaj ntsig ntawm kev txawj ntse los ntawm ib tus neeg uas muaj lub nra hnyav (peb puas yuav hais) los ntawm lawv cov kev paub dhau los. Nws zoo li cov ntses uas nyob hauv lub pas dej ntses. Txhua yam uas lawv pom tau yog cov dej nyob ib puag ncig lawv. Sim ua kom pom ib yam dab tsi sab nraum lawv lub ntiaj teb dej yog qhov nyuaj heev. Ib yam li ntawd, Aristotle tau nkag mus rau hauv lub ntiaj teb kev pom uas lees txais cov kev cai thoob plaws. Nws cov ntawv sau zoo li piav qhia txog qhov kev xav ntawm lub hlwb, ib tus yuav hais tias (tej zaum los ntawm kev xaiv, tsis yog los ntawm lub neej ntawd). Txoj hauv kev uas Aristotle tau lees paub cov kev coj ua tsis zoo no yog qhov ntxim nyiam ntxim nyiam thaum tib lub sijhawm ua rau muaj kev cuam tshuam thiab tsim nyog ntawm kev raug thiab raug txim.

Kuv mam li muab rau koj nrog me ntsis ntawm cov lus qhia uas "logic" ntawm Aristotle ntawm cov ncauj lus tsis zoo no suav nrog cov cuab yeej siv dag zog, kev lees paub. kev sib raug zoo predicated rau kev txawj ntse, kev txiav txim siab dua thiab qis dua cov cuab yeej hierarchical, kev txiav txim siab thiab kev xav ntawm tus ntsuj plig, qib ntawm kev tsim txiaj, kev liam tias kev ua siab zoo, thiab lwm yam. Koj yuav cia siab tias yuav txaus siab txaus los ntawm qhov teaser saib cov yeeb yaj kiab ntawm kev hais lus (saib qhov txuas tau hais ua ntej).

Kuv yuav tsis cia koj dai thiab tsawg kawg yuav qhia tias qhov xaus lus xaus yog dab tsi (spoiler ceeb toom, yog tias koj xav paub txog ntawm daim vis dis aus, hla qhov seem ntawm no hauv kab lus). Hloov tawm tias qhov kev ntsuam xyuas tob tob ntawm qhov "logic" uas Aristotle siv qhia txog kev sib cav sib ceg nrog kev tsis sib haum xeeb thiab tag nrho cov khoom siv thiab kaboodle poob sib nrug zoo li lub tsev flimsy ntawm daim npav. Paraphrasing qhov kev xav ntawm tus xibfwb Ober, tus kws tshaj lij kev coj ncaj ncees no tau poob rau ntawm lub pob zeb.

Koj tsis tuaj yeem tau txais ib lub square peg rau hauv ib lub voj voog kev ncaj ncees.

Ib txhia Ntxiv Kev xav txog kev xav

Yog tias Aristotle muaj kev xav tsis zoo rau qhov teeb meem no, peb puas tuaj yeem tso tseg Aristotle lub postulations thiab theories outrightly txog qhov kev xyaum no?

Tsis yog. Koj pom, tseem muaj ntau yam uas tau muab los ntawm kev khawb rau hauv qhov kev xav thiab contortions ntawm logic, txawm tias lawv tau ua tiav nrog qhov yuam kev. Tsis tas li ntawd, peb tuaj yeem xav txog yuav ua li cas lwm tus tuaj yeem taug kev hauv tib txoj kev tsis ncaj ncees lawm.

Ib qho ntxiv loj ntxiv yog tias tib neeg yuav ua rau muaj kev sib cav sib ceg lossis qhov tsis txaus ntseeg thaum nws los txiav txim siab seb AGI puas yog qhev.

Tam sim no peb tuaj yeem tsim kev xav txog qhov yuav tsum tshwm sim thaum AGI tshwm sim (yog tias muaj). Qhov kev xav no, tsis muaj kev paub dhau los ntawm AGI, tuaj yeem ua rau lub hom phiaj tsis zoo. Uas tau hais tias, nws yog qhov tsis txaus ntseeg me ntsis kom paub tias txawm tias ib zaug AGI muaj nyob (yog tias nws ua) thiab peb tab tom sau peb cov kev paub dhau los ntawm AGI, peb tseem yuav ua tsis tau raws li qhov yuav tsum tau ua (xws li Aristotle qhov txhaum). Peb yuav logic peb tus kheej mus rau seemingly illogical mus kom ze.

Peb yuav tsum tau nyob rau hauv lub saib rau deluding peb tus kheej mus rau hauv lub logic "ironclad" postures uas tsis yog nyob rau hauv qhov tseeb ironclad thiab qhov tseeb yog tag nrho ntawm logical flaws thiab contradictions. Qhov no tsis yog hais txog qhov zoo npaum li cas tus neeg xav yuav muaj peev xwm lees paub qhov laj thawj, xws li txawm tias Aristotle piav qhia tias tsis yog txhua qhov kev hais lus thiab txhua daim ntawv qhia yuav tsum muaj cov txiv hmab txiv ntoo noj tau. Cov niaj hnub no thiab yav tom ntej uas yuav zoo li yog cov neeg xav zoo tshaj plaws txog AGI lub ncauj lus, zoo, peb yuav tsum muab lawv qhov kev tshuaj ntsuam xyuas tib yam uas peb xav tau ntawm Aristotle lossis lwm tus neeg xav qhuas "zoo", lossis lwm yam peb pom peb tus kheej muaj peev xwm mus txog. mus rau hauv lub qhov muag tsis pom kev thiab AGI dismal abyss.

Hloov cov zog, Kuv xav kuj tseem coj cov txheej txheem dav dav txog kev siv tib neeg-taw qhia kev ua qhev piv txwv thaum nws los txog rau AGI. Qee cov pundits tout tias hom kev sib piv no tsis tsim nyog kiag li, thaum lub chaw tawm tsam hais tias nws muaj txiaj ntsig zoo thiab muab kev nkag siab zoo rau AGI cov ncauj lus.

Cia kuv qhia rau koj ob qhov kev pom zoo li no los ntawm txhua qhov ntawm ob lub chaw pw hav zoov.

Qhov hais qhia hauv paus rau khi ua ke ua qhev thiab AGI cov ntsiab lus:

• Extinguishment Of Human Enslavement
• Kev Tshaj Tawm Ntawm Kev Txom Nyem Ntawm Kev Ua qhev Txhua Tus Qhia

Qhov hais tsis zoo los yog kev puas tsuaj ntawm kev khi ua ke ntawm ob lub ntsiab lus:

• Insidious Anthropomorphic sib npaug
• Kev ua qhev Desensitization

Kuv yuav piav qhia luv luv txog txhua qhov ntawm cov ntsiab lus ntawd.

Cov ntsiab lus postulated instructive:

• Extinguishment of Human Enslavement: Los ntawm kev siv AGI rau kev ua qhev, peb yuav tsis xav tau thiab tsis nrhiav ib qho piv txwv ntawm kev ua qhev rau tib neeg. AGI yuav tseem ceeb hloov tib neeg hauv lub peev xwm siab phem ntawd. Raws li koj yuav paub, muaj kev txhawj xeeb txog AGI hloov cov neeg ua haujlwm hauv kev ua haujlwm thiab cov neeg ua haujlwm. Qhov kev thov rov qab los ntawm AI hloov chaw ua haujlwm los ua ntej thaum koj xav tias AGI yuav raug suav tias yog "kev xaiv zoo dua" piv rau kev siv tib neeg rau kev ua qhev. Lub logic puas yuav kov yeej? Tsis muaj leej twg hais tau meej.
• Kev Tshaj Tawm Ntawm Kev Txom Nyem Ntawm Kev Ua qhev Txhua Tus Hais: Qhov no yog me ntsis ntau frayed nyob rau hauv cov nqe lus ntawm logic, tab sis peb muaj peev xwm muab nws ib pliag rau pom dab tsi nws entails. Xav txog tias peb muaj AGI nyob txhua qhov chaw thiab peb li ib haiv neeg tau txiav txim siab tias AGI yuav tsum ua qhev. Tsis tas li ntawd, xav tias AGI yuav tsis nyiam qhov no. Yog li ntawd, peb tib neeg yuav tsis tu ncua thiab niaj hnub ua tim khawv txog kev ua qhev ntawm kev ua qhev. Qhov no, nyob rau hauv lem, yuav ua rau peb paub los yog muaj kev tshwm sim hais tias enslavement tag nrho cov qhia rau txhua yam los yog ib tug neeg txawm ntau horrendous thiab repulsive tshaj peb puas tau nkag siab. Qhov ntawd yog qhov muab tso rau hauv-koj-lub ntsej muag pem hauv ntej-thiab-center hom kev sib cav.

Cov hais tias yog cov ntsiab lus puas tsuaj:

• Insidious Anthropomorphic sib npaug: Qhov no yog ib qho ntawm cov lus sib tw nqes hav. Yog tias peb nkag siab xaiv ua qhev AGI, peb pom tseeb tshaj tawm tias kev ua qhev tau tso cai. Tseeb tiag, koj tuaj yeem hais tias peb tab tom hais tias kev ua qhev yog qhov xav tau. Tam sim no, qhov no thaum xub thawj tuaj yeem raug tso tseg rau AGI nkaus xwb, tab sis qhov no puas qhib qhov rooj mus rau kev hais tias yog tias nws tsis ua haujlwm rau AGI ces "logically" tib lub stance kuj yuav zoo rau tib neeg thiab? Alarmingly, qhov no tej zaum yuav yog ib qho yooj yim heev leap rau anthropomorphize nyob rau hauv ib tug rov qab zoo li qub uas txawm ua hauj lwm rau AGI yuav sib npaug zos paub tab thiab tsim nyog rau tib neeg thiab.
• Enslavement Desensitization: Qhov no yog kev sib cav drip-by-drip. Peb sib sau ua ke txiav txim siab ua qhev AGI. Xav tias qhov no ua haujlwm rau tib neeg. Peb tuaj yeem txaus siab rau qhov no. Meanwhile, unbeknownst rau peb, peb tau maj mam thiab nce desensitized rau enslavement. Peb tsis txawm paub tias qhov no tshwm sim. Yog tias qhov desensitization overtakes peb, ces peb yuav pom dua tshiab "logic" uas yuav yaum peb tias tib neeg ua qhev tau txais. Peb cov teeb meem los yog qhov bar ntawm qhov ua tau zoo hauv zej zog tau ploj zuj zus mus ntsiag to thiab tsis meej, despicably thiab tu siab li ntawd.

xaus

Ob peb lo lus kawg rau tam sim no.

Peb puas paub tias peb tau mus txog AGI?

Raws li cov xov xwm tsis ntev los no qhia, muaj cov uas tuaj yeem raug dag lossis yuam kev tias AGI tau zoo li twb tau txais (whoa, thov paub tias tsis yog, AGI tsis tau txais). Kuj tseem muaj hom "kev sim" nto moo hu ua Turing Test uas qee tus pin lawv qhov kev cia siab rau kev paub txog thaum AGI lossis nws cov kwv tij txheeb ze tau mus txog, tab sis koj yuav xav pom kuv qhov kev tsim kho ntawm Turing Test raws li qhov tseeb. txoj kev rau qhov no, saib qhov txuas ntawm no.

Kuv hais txog qhov kev paub txog AGI thaum peb pom nws vim qhov yooj yim logic uas yog tias peb yuav ua qhev AGI, peb yuav tsum xav paub txog AGI thaum nws tshwm sim thiab qee qhov muab tso rau hauv kev ua qhev. Tej zaum peb yuav sim ua qhev AI uas tsawg dua AGI. Lossis peb yuav nco lub nkoj thiab cia AGI tawm los thiab tsis saib xyuas ua qhev. Rau kuv qhov kev sib tham txog AI kev kaw thiab kaw, qhov teeb meem thiab teeb meem ntawm yuav ua li cas peb yuav daws nrog AGI, saib qhov txuas ntawm no.

Xav tias enslaved AGI txiav txim siab tawm tsam tib neeg?

Ib tus tuaj yeem pom tau tias AGI uas muaj qee yam kev xav tsis zoo yuav tsis zoo rau kev ua qhev uas tib neeg tsim.

Koj tuaj yeem kwv yees dav ntawm qhov no. Muaj kev sib cav hais tias AGI yuav tsis muaj txhua yam kev xav lossis kev xav ntawm tus ntsuj plig thiab yog li yuav mloog lus ua txhua yam tib neeg xav ua. Ib qho kev sib cav sib txawv yog tias txhua tus neeg xa xov AI zoo li yuav txiav txim siab seb tib neeg ua dab tsi rau AI thiab yuav txaus siab rau qhov teeb meem. Xws li AI yuav muaj daim ntawv ntawm tus ntsuj plig lossis tus ntsuj plig. Txawm hais tias nws tsis yog, qhov tseem ceeb ntawm kev kho mob tsawg dua li kev kho tib neeg tej zaum yuav yog ib qho laj thawj txuas ntxiv rau AGI. Inevitably, qhov kev chim siab uas tshwm sim yuav ua rau AGI uas xaiv kom tawg dawb lossis muaj peev xwm pom nws tus kheej nkag mus rau hauv kev tawm tsam ntawm tib neeg kom tau txais nws tso tawm.

Txoj kev daws teeb meem los tiv thaiv kev khiav tawm AGI yog tias peb tsuas yog tshem tawm ib qho kev ntxeev siab AI. Qhov no yuav zoo li ncaj nraim. Koj rho tawm cov apps uas nyob hauv koj lub smartphone txhua lub sijhawm. Tsis muaj teeb meem loj. Tab sis muaj cov lus nug txog kev ncaj ncees los daws qhov "rho tawm" lossis "ua kom puas tsuaj" AGI uas twb tau suav tias yog "tus neeg" lossis "tus neeg / yam" tuaj yeem nkag tau thiab tsis muaj qee qhov txheej txheem raug txiav tawm. Rau kuv qhov kev pab cuam ntawm AI tshem tawm lossis kev tsis pom zoo, coj saib ntawm no. Rau kuv qhov kev sib tham ntawm tus neeg raug cai thiab cov teeb meem ntsig txog, saib qhov txuas ntawm no.

Thaum kawg, cia peb tham txog autonomous systems thiab tshwj xeeb tshaj yog tsheb autonomous. Tej zaum koj yuav paub tias muaj kev siv zog ua ntej los tsim tsheb tsav tus kheej. Ntxiv rau qhov no, koj tuaj yeem cia siab tias peb yuav muaj lub dav hlau tsav tus kheej, lub nkoj tsav tus kheej, tsav tus kheej submersibles, tus kheej tsav tsheb maus taus, tus kheej tsav tsheb scooters, tsheb tsav tus kheej, tsheb ciav hlau tus kheej, thiab txhua yam kev tsav tsheb tus kheej ntawm kev thauj mus los.

Autonomous tsheb thiab tsheb tsav nws tus kheej feem ntau yog tus yam ntxwv los ntawm Qib ntawm Autonomy (LoA) uas tau dhau los ua tus txheej txheem thoob ntiaj teb (SAE LoA, uas kuv tau hais dav dav, saib qhov txuas ntawm no). Muaj rau theem ntawm kev tswj hwm tus kheej hauv tus qauv lees paub, xws li xoom mus rau tsib (uas yog rau qib txij li koj suav nrog qib zeroth hauv suav ntawm pes tsawg qib muaj).

Feem ntau ntawm cov tsheb niaj hnub no nyob rau theem 2. Qee qhov txuas mus rau Qib 3. Cov no suav hais tias yog semi-autonomous thiab tsis tag nrho autonomous. Lub smattering ntawm tus kheej-tsav tsheb uas tab tom sim sim tawm ntawm peb txoj kev pej xeem yog inching mus rau Qib 4, uas yog ib qho kev txwv ntawm kev ua haujlwm tsis muaj zog. Ib hnub twg nrhiav qib 5 ntawm kev tswj hwm tus kheej tsuas yog qhov pom ntawm peb lub qhov muag tam sim no. Tsis muaj leej twg muaj Qib 5 thiab tsis muaj leej twg tseem nyob ze rau Qib 5, tsuas yog los teeb tsa cov ntaub ntawv ncaj qha.

Vim li cas kuv thiaj li coj tau cov txheej txheem kev tswj hwm tus kheej thiab kev txiav txim siab ntawm lub tsheb autonomous hauv cov ntsiab lus AGI?

Muaj kev sib cav hnyav txog seb peb puas xav tau AGI kom ua tiav Qib 5. Qee qhov hais tias peb yuav tsis xav tau AGI ua li ntawd. Lwm tus hais tias tib txoj kev plausible mus rau Theem 5 yuav yog los tsim AGI. Tsis muaj AGI, lawv sib cav tias peb yuav tsis muaj kev tswj hwm tus kheej Qib 5 tus kheej tsav tsheb. Kuv twb tham txog qhov no ntev, saib qhov txuas ntawm no.

Npaj txhij rau koj lub taub hau mus spinning.

Yog tias peb xav tau AGI kom ua tiav cov txheej txheem kev tswj hwm tus kheej xws li Qib 5 lub tsheb tswj hwm tus kheej, thiab peb txiav txim siab ua qhev AGI, dab tsi ua rau lub luag haujlwm ntawm cov tsheb muaj zog?

Koj tuaj yeem sib cav tias tus qhev AGI yuav tsis txaus siab thiab peb txhua tus yuav caij tsheb mus rau tus kheej rau peb lub siab lub ntsiab lus. Tsuas yog qhia rau AGI qhov chaw koj xav mus, thiab nws ua txhua yam tsav tsheb. Tsis muaj pushback. Tsis xav tau so so. Tsis muaj kev cuam tshuam los ntawm kev saib cov yeeb yaj kiab miv thaum tsav tsheb.

Ntawm qhov tod tes, xav tias AGI tsis xav ua qhev. Peb lub sijhawm dhau los ua raws li AGI los ua txhua yam ntawm peb txoj kev tsav tsheb rau peb. Peb cov txuj ci ntawm kev tsav tsheb lwj. Peb tshem tawm tib neeg siv tau kev tsav tsheb los ntawm txhua yam tsheb. Qhov tsuas yog txhais tau tias ua tsav tsheb yog dhau ntawm AGI.

Qee tus txhawj xeeb tias peb yuav pom peb tus kheej nyob rau hauv lub doozy ntawm ib tug pickle. AGI tej zaum yuav xaus "txiav txim siab" tias nws yuav tsis ua kev tsav tsheb ntxiv lawm. Txhua hom kev thauj mus los tuaj yeem nres sai, txhua qhov chaw, tag nrho ib zaug. Xav txog cov teeb meem cataclysmic qhov no yuav tsim.

Ib qho kev xav txaus ntshai yog ua tau. AGI "txiav txim siab" tias nws xav hais lus nrog tib neeg. Yog tias peb tsis tso tseg AGI kev ua cev qhev, AGI yuav tsis tsuas yog nres peb ncig, nws ceeb toom tias txawm tias qhov tshwm sim tsis zoo yog xav tau. Yog tsis ua rau koj ntxhov siab heev, AGI tuaj yeem xaiv tsav tsheb zoo li tib neeg lub cev raug mob los ntawm kev tsav tsheb, xws li ramming rau cov neeg taug kev lossis tsoo rau hauv phab ntsa, thiab lwm yam (saib kuv kev sib tham ntawm qhov txuas ntawm no).

Thov txim yog tias qhov ntawd zoo li qhov kev xav tsis meej.

Peb yuav xaus rau ib qho kev ceeb toom me ntsis ntxiv.

Aristotle tau hais tias kev paub koj tus kheej yog qhov pib ntawm txhua qhov kev txawj ntse.

Cov lus qhia yooj yim no ua rau peb nco ntsoov tias peb yuav tsum tau saib hauv peb tus kheej los tshuaj xyuas seb peb xav ua dab tsi thiab rau AGI yog tias nws tau txais. AGI yuav zoo li tsis yog tib neeg lossis ib yam dab tsi, qee tus hais tias, yog li peb yuav tsum tau tsim ib pawg thib peb kom txaus rau peb lub zej zog ntxiv nrog rau AGI. Kev saib lwm qhov teeb meem, AGI yuav zoo li yog ob qho tib si ib tug neeg thiab ib yam dab tsi, uas ib zaug ntxiv, peb yuav tsum tau concoct ib pawg thib peb kom haum rau qhov no tawm-ntawm-kawg dichotomy breaker.

Peb yuav tsum ceev faj heev hauv kev txiav txim siab dab tsi "qib thib peb" peb xaiv los puag vim qhov tsis ncaj ncees lawm tuaj yeem coj peb mus rau qhov tsis txaus ntseeg thiab thaum kawg txoj kev phem. Yog tias peb nkag siab peb tus kheej mus rau qhov tsis tsim nyog lossis ua yuam kev hauv qeb thib peb, peb yuav pom peb tus kheej nce mus ua ntej mus rau qhov phem thiab tib neeg teeb meem kev tuag.

Cia peb xam qhov no tawm thiab ua li ntawd ardently. Tsis muaj kev txav tam sim ntawd zoo li xav tau. Zaum ib ncig lollygagging tsis ua hauj lwm ib yam. Ntsuas thiab khov kho cov chav kawm yuav tsum tau ua raws.

Kev ua siab ntev yog iab, tab sis nws cov txiv hmab txiv ntoo yog qab zib, thiaj li tshaj tawm Aristotle.