Dab tsi yog Pentagon Txoj Cai Hloov Kho Ntawm Killer Robots?

Lub Pentagon tau tshaj tawm hloov tshiab rau nws Cov Lus Qhia 3000.09, uas npog qhov lawv term Autonomy hauv riam phom Systems thiab lwm tus hu 'neeg tua neeg robots.' Tam sim no drones zoo li Air Force thiab CIA MQ-9 Reapers yog ua los ntawm cov chaw taws teeb tswj: ib tug neeg zaum pem hauv ntej ntawm ib qho screen video txheeb xyuas lub hom phiaj nyob rau hauv av ntau txhiab mais deb, muab lawv tso rau hauv crosshairs thiab tso tawm a Hellfire missile los yog lwm yam riam phom. Autonomous riam phom txawv: lawv xaiv lawv tus kheej lub hom phiaj yam tsis muaj kev cuam tshuam tib neeg. Cov kev cai meej yog xav tau thaum twg thiab yuav siv tau li cas, thiab cov lus qhia tshiab coj lawv mus ze dua.

Kaum xyoo dhau los thaum thawj version ntawm 3000.09 raug tso tawm, riam phom autonomous zoo li science ntawv tseeb. Tam sim no lawv muaj tiag tiag. UN tau lees tias Turkish-muab drones tawm tsam lub hom phiaj autonomously nyob rau hauv Libya xyoo 2020 thiab Russia tam sim no xa cov foob pob hluav taws hauv Ukraine nrog autonomous muaj peev xwm.

Muaj ntau activists, zoo li cov Kev sib tw kom Tsis txhob Killer Robots, xav kom muaj kev txwv ncaj qha rau riam phom autonomous, hais tias tej thaj chaw deb riam phom tseem nyob hauv qab lub ntsiab lus ntawm tib neeg tswj txhua lub sijhawm. UN tau sib cav hais tias yuav ua li cas tswj tej caj npab tau ntau xyoo.

Txawm li cas los xij, raws li cov lus qhia tshiab qhia meej, Pentagon tab tom ua raws li txoj kab sib txawv.

"DoD tau tawm tsam tsis tu ncua rau txoj cai tswjfwm ntawm 'kev tswj hwm tib neeg lub ntsiab lus' thaum nws los txog rau ob qho tib si kev tswj hwm thiab AI systems," Gregory Allen, tus thawj coj ntawm Txoj Haujlwm ntawm AI Kev Tswj Xyuas ntawm lub Chaw rau kev tshawb fawb thiab thoob ntiaj teb kev tshawb fawb, hais rau kuv. "Lub ntsiab lus DoD nyiam tshaj plaws ntawm kev kos duab yog 'cov theem tsim nyog ntawm tib neeg kev txiav txim,' uas qhia txog qhov tseeb tias qee zaum - kev tswj hwm lub dav hlau soj ntsuam thiab qee yam kev siv riam phom cyber, piv txwv li - qib tsim nyog ntawm tib neeg kev tswj yuav tsawg rau tsis muaj. ”

Tsuas yog cov riam phom autonomous yuav tso cai nyob rau hauv dab tsi tshwm sim? Allen ntseeg hais tias yav dhau los version ntawm cov lus qhia tsis paub meej tias nws cuam tshuam kev txhim kho hauv cheeb tsam no.

"Kev tsis sib haum xeeb tau nthuav dav heev - suav nrog qee tus thawj coj ntawm DoD cov thawj coj loj - uas cov thawj coj tau txwv tsis pub tsim qee lub tshuab uas tsis tsuas yog tso cai los ntawm txoj cai, tab sis kuj tau hais meej meej los ntawm kev soj ntsuam cov laus," Allen hais.

Tsis yog ib qho riam phom tau raug xa mus rau cov txheej txheem tshuaj xyuas rau cov riam phom autonomous nteg tawm hauv thawj 3000.09 hauv kaum xyoo txij li nws tau luam tawm.

Allen sau ib tsab ntawv ntawm no rau CSIS xyoo tas los, piav qhia txog plaub thaj chaw uas xav tau kev ua haujlwm - kev txiav txim siab txog kev siv riam phom uas muaj kev ywj pheej, hais tias "AI-enabled" txhais li cas rau txoj cai, yuav ua li cas cov txheej txheem tshuaj xyuas yuav ua li cas retraining tshuab kev kawm qauv, thiab qhia meej hom riam phom yuav tsum muaj. mus dhau qhov kev tshuaj xyuas nyuaj.

Allen hais tias "Lub DoD tau siv tag nrho lawv,"

Raws li txoj cai, qhov no yuav tsum ua kom ntseeg tau tias DoD lo lus "muaj zog thiab txuas ntxiv kev cog lus los ua tus thawj coj thoob ntiaj teb pob tshab hauv kev tsim cov cai tswj hwm kev siv tub rog ntawm kev tswj hwm kev tswj hwm."

Txawm li cas los xij, muaj qee qhov ntxiv uas yuav pom tau tias yog qhov khoob, xws li kev zam los ntawm kev tshuaj xyuas laus rau kev tswj hwm riam phom tiv thaiv drones uas tsis tsom rau tib neeg (' riam phom tiv thaiv ') thiab tab sis qhov twg yuav tso cai rau lub hom phiaj missiles, lwm yam drones. thiab tej zaum yuav muaj lwm yam systems.

"Lo lus 'tiv thaiv' ua haujlwm ntau heev," Zak Kallenborn, tus kws lij choj ntawm Schar Tsev Kawm Ntawv ntawm Txoj Cai thiab Tsoomfwv ntawm George Mason University hais rau kuv. "Yog tias lub drone ua haujlwm hauv cov yeeb ncuab thaj chaw, yuav luag txhua yam riam phom tuaj yeem txhais tau tias yog 'tiv thaiv' lub platform."

Kallenborn tseem sau tseg tias thaum muaj kev tswj hwm kev siv riam phom zoo li av mines tau siv rau ntau tshaj ib puas xyoo, cov toj roob hauv pes hloov pauv sai vim tias kev nce qib hauv AI thiab kev kawm tshwj xeeb ntawm tshuab. Cov no tau ua rau cov tshuab uas muaj peev xwm heev, tab sis technically nkig - thaum lawv ua tsis tiav, lawv ua tsis tau zoo nyob rau hauv txoj kev uas tsis muaj tib neeg xav tau, piv txwv li yuam kev tus vaub kib rau rab phom.

Kallenborn hais tias "Kev tswj hwm tus kheej los ntawm AI yeej tsim nyog tau txais kev txhawj xeeb ntxiv, muab qhov nkig thiab tsis muaj kev piav qhia ntawm tam sim no tswj hwm txoj hauv kev," Kallenborn hais.

Qhov hloov tshiab tsis yog ib qho loj. Tab sis nws qhia tau hais tias Pentagon txoj kev cog lus txuas ntxiv mus rau kev tsim riam phom muaj txiaj ntsig zoo thiab kev ntseeg lawv tuaj yeem ua raws. tseev tsim ntiaj teb tib neeg kev cai lij choj - cais cov pej xeem los ntawm cov tub rog tub rog, nrhiav kom tsis txhob ua phem rau cov pej xeem, thiab tsuas yog siv zog sib faib thiab tsim nyog.

Cov neeg tawm tsam ntseeg tias AI yuav tsis muaj qhov tsim nyog nkag siab los txiav txim siab ncaj ncees hauv kev ua tsov ua rog thiab muaj kev pheej hmoo tsim lub ntiaj teb uas muaj kev ua tsov rog automated thiab tib neeg tsis muaj kev tswj hwm. Lwm tus ntseeg tias cov tub rog Asmeskas yuav yog outmatched los ntawm cov neeg tawm tsam nrog riam phom autonomous tshwj tsis yog tias AI tau koom ua ke ntawm qib tactical, thiab kev koom tes ntau dhau ntawm tib neeg slows cov tub rog robots.

Qhov kev sib cav zoo li yuav txuas ntxiv mus txawm tias cov riam phom muaj zog pib tshwm sim, thiab cov txiaj ntsig yuav ua raws li ze. Txawm li cas los xij, zoo li cov neeg tua neeg tua neeg tuaj.