Microsoft Corp tau ntxiv ntau yam kev ruaj ntseg hauv Azure AI Studio uas yuav tsum, dhau sijhawm, txuas ntxiv txo qhov yuav tshwm sim uas nws cov neeg siv teeb tsa AI qauv rau hauv hom uas yuav ua rau lawv ua qhov txawv txav lossis tsis tsim nyog.Lub tuam txhab thev naus laus zis ntau lub tebchaws raws li Redmond, Washington, tau piav qhia txog kev txhim kho hauv blog ncej, hais txog kev lees paub kev ncaj ncees ntawm AI kev sib cuam tshuam thiab txhawb kev ntseeg siab hauv cov neeg siv.
Cia cov ntaub thaiv npog thiab lwm yam
Ntawm cov kev txhim kho loj yog tsim ntawm "cov ntaub thaiv tam sim," ib qho cuab yeej uas tsim los nrhiav thiab tua cov tshuaj sai sai thaum tham nrog AI chatbots. Cov no yog lub npe hu ua jailbreaks thiab yog cov tswv yim los ntawm cov neeg siv uas xav tsim kom muaj qhov zoo li lawv tau txais cov lus teb tsis xav tau los ntawm AI qauv.
Piv txwv li, Microsoft tab tom ua si nws txoj kev tsis ncaj ncees nrog kev txhaj tshuaj sai, qhov twg qhov kev txiav txim siab phem tuaj yeem ua tau, thiab qhov xwm txheej zoo li ntawd yuav ua rau muaj kev nyab xeeb loj heev xws li cov ntaub ntawv tub sab nyiag thiab kev nyiag khoom. Cov txheej txheem yog qhov tseem ceeb rau kev kuaj xyuas thiab teb rau cov kev hem thawj ntawm ib qho ntawm lub sijhawm tiag tiag, raws li Sarah Bird, Microsoft Tus Thawj Saib Xyuas Khoom Muag rau Lub Luag Haujlwm AI.
Microsoft ntxiv tias sai sai no yuav muaj kev ceeb toom ntawm tus neeg siv lub vijtsam, uas yuav taw qhia thaum tus qauv zoo li yuav nthuav tawm cov ntaub ntawv tsis tseeb lossis kev dag ntxias, kom ntseeg tau ntau tus neeg siv kev nyiam thiab kev ntseeg siab.
Tsim Kev Ntseeg hauv AI Cov Cuab Yeej
Microsoft kev siv zog yog ib feem ntawm txoj haujlwm loj dua, txhais tau hais tias muab kev ntseeg siab rau tib neeg hauv kev nce qib nrov AI uas tau siv dav hauv cov kev pabcuam tsom rau cov neeg siv khoom thiab cov neeg siv khoom lag luam. Microsoft tau dhau los nrog cov hniav txhuam hniav zoo, tom qab muaj qhov tshwm sim, uas cov neeg siv muaj peev xwm los ua si ntawm Copilot chatbot los ua qhov txawv txav lossis muaj teeb meem. Qhov no yuav yog kev txhawb nqa ntawm qhov tshwm sim uas qhia tau hais tias xav tau kev tiv thaiv muaj zog tiv thaiv cov lus hais txog kev siv dag zog, uas zoo li yuav nce nrog AI thev naus laus zis thiab kev paub nrov. Kev twv ua ntej thiab tom qab ntawd txo qis yog nyob rau hauv kev lees paub ntawm cov qauv ntawm kev tawm tsam, xws li qhov chaw uas tus neeg tawm tsam rov nug lossis kev tshoov siab ntawm lub luag haujlwm.
Raws li OpenAI tus neeg ua lag luam loj tshaj plaws thiab tus khub tswv yim, Microsoft tab tom thawb cov ciam teb ntawm yuav ua li cas koom nrog thiab tsim lub luag haujlwm, muaj kev nyab xeeb generative AI thev naus laus zis. Ob leeg tau cog lus rau lub luag haujlwm xa mus thiab cov qauv tsim ntawm Generative AI rau kev ntsuas kev nyab xeeb. Tab sis Bird tau lees paub tias cov qauv lus loj no, txawm tias lawv tab tom los pom los ua lub hauv paus rau ntau lub neej yav tom ntej AI innovation, tsis yog kev ua pov thawj.
Kev tsim kho ntawm cov hauv paus no yuav siv sijhawm ntau dua li kev cia siab rau cov qauv lawv tus kheej; nws yuav xav tau txoj hauv kev zoo rau AI kev nyab xeeb thiab kev nyab xeeb.
Microsoft tsis ntev los no tau tshaj tawm kev ntxiv dag zog rau kev ntsuas kev nyab xeeb rau nws Azure AI Studio los qhia thiab lav cov kauj ruam uas tau ua los tiv thaiv qhov hloov pauv AI hem toj roob hauv pes.
Nws mob siab rau kom tsis txhob siv AI yuam kev thiab khaws kev ncaj ncees thiab kev ntseeg siab ntawm AI kev sib cuam tshuam los ntawm kev sib koom ua ke cov ntxaij vab tshaus raws sijhawm thiab kev ceeb toom.
Nrog rau qhov kev hloov pauv tas li ntawm AI thev naus laus zis thiab nws txoj kev saws me nyuam hauv ntau qhov kev suav nrog hauv lub neej niaj hnub, nws yuav yog lub sijhawm siab rau Microsoft thiab lwm tus hauv zej zog AI kom muaj kev ceev faj txog kev ruaj ntseg.
Tau qhov twg los: https://www.cryptopolitan.com/microsoft-ai-chatbot-security-to-tricksters/