AlphaProof Code na Mawimbi: Uthibitisho wa usalama wa msimbo wa mashine uliokaguliwa na dhana zinazoaminika

Nini video hii inashughulikia

• Mawakala wa AI wanatoa uthibitisho unaowezekana; kernel ya Lean inakagua kama inathibitisha madai rasmi yaliyoidhinishwa na wanadamu.
• Lengo lililothibitishwa ni mfumo maalum wa libsignal CLI uliokusanywa, wenye semantiki inayoaminika na mikataba ya kielektroniki.
• Kuthibitisha binary iliyokusanywa huondoa mkusanyaji wa Rust kutoka msingi wa kuaminika kwa sifa zilizotajwa za binary hiyo.
• Watafiti wanaripoti kuanzishwa tena kwa kutengwa kwa hitilafu mbili zilizorekebishwa hapo awali ambazo zinakiuka nadharia yao ya usalama wa ishara.
• Kilinganishi kinakagua nadharia na kila ufafanuzi tegemezi dhidi ya vipimo vilivyoidhinishwa vilivyolindwa; marekebisho hupitia mchakato tofauti uliokaguliwa.

Nakala iliyotafsiriwa

Imetafsiriwa kutoka simulizi asili ya Kiingereza. Sauti na manukuu yanayopatikana yanadhibitiwa na YouTube.

Nani anakagua uthibitisho wa usalama wa AI?

0:00 Ukaguzi wa usalama wa AI bado unasikika kama kuamini chatbot. Matokeo mapya ya Google ya Signal yanakuja na uthibitisho wa hisabati, kernel tofauti inakagua. Katika video hii, Google ilithibitisha nini? Na wanawazuiaje mawakala kusonga malengo? Hapa kuna jibu muhimu. Mifumo huandika uthibitisho unaowezekana, na Lean inakagua uthibitisho dhidi ya madai yaliyoidhinishwa na binadamu kuhusu msimbo maalum uliokusanywa. Wanadamu bado wanamiliki madai na dhana.

0:21 Unaweza kukagua matokeo bila kuamini hotuba ya ushindi ya mfumo. Ukaguzi tofauti hubaini kubadili swali kimya kimya. Tutaufuata hadi kwenye ufafanuzi. Ni Jumanne, Novemba kumi, na huu ni The Daily Diff. AlphaProof Code ni mfumo wa Google wa kuandika vipimo vya programu na mwongozo wa binadamu na kuzalisha uthibitisho uliokaguliwa na mawakala wa AI. Utafiti huu unalenga libsignal, maktaba ya Rust inayotekeleza itifaki ya ujumbe ya Signal, ndani ya programu maalum ya mstari wa amri.

0:45 Google ilitangaza kazi hiyo leo. Karatasi yake inasema watafiti watano walifanya kazi kwa zaidi ya wiki nne. Mawakala waliandika uthibitisho, wakati wanadamu walitumia juhudi zao nyingi kwenye vipimo. Mahitaji yamepata njia ya kuwa ghali zaidi mikutano. Vipimo vinasema programu lazima ifanye nini,

Madai yanakuwaje lengo la uthibitisho?

0:59 mshambuliaji anadhibiti nini, na ni dhana gani hoja inahitaji. Wakaguzi huuliza kama inakamata usalama wanaojali watu. Jibu lililokaguliwa vizuri kwa swali dhaifu huacha swali hilo likiwa sawa. Timu inajenga juu ya utafiti wa awali kuhusu mkwamo wa Signal na ufunguo wa ujumbe wake ratchet. Uchambuzi rasmi tayari ulichunguza miundo hiyo. Madai ya Google yanaunganisha hoja zao za usalama na utekelezaji uliokusanywa wa maktaba ya uzalishaji isiyobadilishwa, ambapo muundo lazima uokoke mawasiliano na msimbo halisi. Afisa Mkuu wa Teknolojia wa Signal, Ehren Kret,

1:27 anaelezea upanuzi zaidi ya upeo mdogo wa uthibitishaji wa awali. Maelezo ya utekelezaji ni pamoja na ujumbe usiofuata mpangilio na vikao vilivyohifadhiwa kwa ujumbe uliochelewa. Programu halisi huweka risiti ulizotupa mchoro wako maridadi mbali. Watafiti wanajenga maktaba isiyobadilishwa ya Rust na kiunda programu cha kawaida

Kwa nini uthibitishe binary iliyokusanywa?

1:41 kuwa programu tekelezi ya Arm sixty-four Linux. Nadharia zao zinaelezea binary hiyo kwa kutumia mfano rasmi wa maelekezo, ikifikia pengo kati ya msimbo wa chanzo na msimbo wa mashine ulioundwa. Hitilafu ya mkusanyaji inayoathiri sifa iliyotajwa ingefanya nadharia yake kuwa ya uwongo. Kwa hivyo mkusanyaji huacha msingi wa kuaminika kwa binary hii. Bado unaamini mfano wa maelekezo na kikagua cha Lean. Mpaka wa uaminifu ulihamia, na una anwani. Takriban mistari milioni sita na nusu ya uthibitisho uliokaguliwa inatokana na takriban elfu ishirini na sita

2:06 mistari ya vipimo vya kuaminika na semantiki ya maelekezo. Hizi ni hesabu za vifaa. Kuzichukulia kama alama za akili ni kama kuorodhesha watengenezaji kwa ukubwa wa folda yao ya moduli za nodi.

Ni sifa gani za usalama zilizopona pengo la utekelezaji?

2:16 Hoja zinajumuisha usiri wa ujumbe na uthibitishaji, pamoja na usiri wa mbele na usalama baada ya kuathirika chini ya mifumo iliyotajwa. Hizo mbili za mwisho zinaelezea mipaka ya uharibifu wa ufunguo ulioibiwa na urejeshaji baada ya kubadilishana. Kila dhamana ina masharti kwa mshambuliaji na kikao. Vipengele vya msingi vya kriptografia viko nyuma ya mikataba inayoaminika. Uthibitisho unachukulia kwamba taratibu hizo hufanya kazi kama ilivyobainishwa na unategemea dhana za usalama wa kriptografia. Uthibitisho mmoja huweka kriptografia kuwa bora; mwingine hufikiria juu ya uwezekano wa mafanikio ya mshambuliaji.

2:42 Zote zina vikwazo juu ya matukio zinayoyahusu. Uliza ni toleo gani, sifa gani, na dhana gani. Matokeo haya yanahusu mfumo wa mstari wa amri wa watafiti. Ujumbe wa kikundi ni kazi ya baadaye, na mfano wa kompyuta haujumuishi hali ya vifaa vingi. Kuita kila usakinishaji wa Signal bila hitilafu kunatoka nje ya nadharia. Watafiti walileta tena hitilafu mbili za Signal zilizorekebishwa hapo awali kwenye

Je, vipimo vinaweza kukataa msimbo mbovu?

3:02 nakala zilizotengwa na kuzikusanya. Uthibitisho uliokaguliwa ulionyesha kuwa binary hizo zilivunja nadharia ya usalama ya ishara. Hiyo ilijaribu kama vipimo vinaweza kukataa utekelezaji mbaya halisi. Alama yako ya kijani inahitaji jaribio jekundu. Google inachapisha vipimo na uthibitisho na maelekezo ya kukagua. Hifadhi inasema ujenzi safi unachukua masaa na kumbukumbu kubwa. Kusoma tangazo ni rahisi zaidi kwenye kompyuta ndogo. Mfano wa maunzi na mikataba inayoaminika bado inahitaji kukaguliwa.

3:26 Sijajenga upya kifaa kikubwa kwa ajili ya kipindi hiki. Tunatoa ripoti ya matokeo yaliyochapishwa na mipaka yake. Wataalamu wa nje wana njia ya kukagua, jambo ambalo linanijali zaidi kuliko ushindi mwingine wa AI. Sasa mtego.

Je, uthibitisho sahihi unaweza kujibu swali lisilo sahihi?

3:36 Lean inaweza kukubali uthibitisho sahihi wa kauli ambayo haiombi chochote. Dhana zisizowezekana zinaweza kufanya nadharia kuwa batili. Kubadilisha ufafanuzi uliofichwa chini ya nadharia kuu kunaweza kudhoofisha lengo. Karatasi hiyo inabuni ukaguzi dhidi ya hili. Mlinzi anahifadhi vipimo vilivyoidhinishwa ambavyo mawakala wa uthibitisho hawawezi kuviandikia. Wanaweza kupendekeza marekebisho kupitia mchakato tofauti wa marekebisho. Kudhoofisha usalama hupandishwa kama hitilafu inayowezekana. Tamko la mthibitishaji la mafanikio halina mamlaka hapa.

4:00 Wanadamu huamua mabadiliko ya dhana zinazoaminika, moja kwa moja au kupitia sera yao, na kukagua marekebisho baada ya kila kampeni. Hukumu ya mtaalamu inabaki kuwa muhimu. Wakala anaweza kuomba kazi tofauti. Haiwezi kujipa daraja la kufaulu.

Nini huwahi kusonga malengo?

4:13 Hapa kuna ukaguzi ulioahidiwa. Kilinganishi cha Lean kinalinganisha nadharia na kila ufafanuzi unaotegemea na nakala hiyo iliyolindwa iliyoidhinishwa. Pia inakagua kanuni zinazoruhusiwa na hurudia uthibitisho katika kernel mpya. Kwa hivyo kudhoofisha ufafanuzi msaidizi kimya kimya hubadilisha kitu kinacholinganishwa. Uthibitisho uliokubaliwa lazima uthibitishe lengo lililoidhinishwa. Hiyo bado inawaachia wanadamu jukumu la kuchagua lengo lenye nguvu na la uaminifu dhana. Kwa mfumo wako wa kazi wa AI, weka vigezo vya kukubalika nje ya

4:37 ruhusa za kuhariri za mfanyakazi na ukague mabadiliko yaliyopendekezwa tofauti. Matokeo ya Google yanaweka utengano huo wazi. Mwandishi wa uthibitisho hufanya kazi; mpaka wa kukagua huamua kama unahesabika. Ikiwa ungependa kusoma hii badala ya kunisikia nikisema, diff inatua kwenye kikasha chako kila asubuhi, bure kwenye the daily diff dot dev, kiungo hapo chini. Hivyo hukumu ya leo ni SHIP IT.

Je, ningetumia mfumo huu wa uthibitisho?

4:54 Nitatumia mfumo huu wa uthibitisho uliokaguliwa kwa sababu madai yaliyoidhinishwa yanabaki tofauti na wakala anayetoa jibu. Ningehifadhi upeo na dhana zilizounganishwa na kila matokeo. Jisajili, bonyeza kengele, na uniambie kwenye maoni ikiwa ungekuwa umegonga tofauti. Na hiyo ndio diff ya leo. Mimi ni Niko kutoka Axrisi. Unganisha kwa uwajibikaji.

Vyanzo

1. AlphaProof Code: Verifying Signal's Security at the Machine-Code Level — technical scope, trusted base and gatekeepingSwarat Chaudhuri and colleagues / Google DeepMind and Google
2. Introducing AlphaProof Code — November 10 announcement and attributed Signal CTO responsePushmeet Kohli and Swarat Chaudhuri / Google DeepMind
3. Code-verification repository — initial commit, public artifacts and checking instructionsGoogle DeepMind / GitHub
4. The PQXDH Key Agreement Protocol — older official specification and prior-analysis contextEhren Kret and Rolfe Schmidt / Signal
5. The Double Ratchet Algorithm — Triple Ratchet sectionTrevor Perrin, Moxie Marlinspike and Rolfe Schmidt / Signal
6. Google DeepMind leadership — Demis Hassabis's relevant lab identityGoogle DeepMind
7. Demis Hassabis in 2025 — authentic portrait, cropped/resized/compressed and unflipped; no background removal or generated expression/detail; lab identity only, no authorship, proof writing, current reaction or endorsementChristopher P. Michel / Cmichel67 / Wikimedia Commons
8. Portrait licence — CC BY-SA 4.0; attribution, adaptation disclosure and ShareAlikeCreative Commons
9. Expanding Brain template — cropped/captioned artifact-count satire, brief transformed <=2s commentary; no benchmark, hosting licence, legal-clearance or blanket reuse claimImgflip / user-uploaded meme template
10. Tom and Jerry — Boomerang Official actual animated reaction, silent resized/captioned 1.875s excerpt; brief transformed process commentary, no actual researcher or executive reaction, hosting licence, legal-clearance or blanket reuse claimBoomerang Official / GIPHY / Tom and Jerry
11. Boomerang GIF source link — uploader-provided provenanceBoomerang
12. AlphaProof Code discussion — attention context, anonymous opinions excluded from factual proof claimsHacker News
13. Code-verification licence — Apache 2.0 for Google code, third-party licences retainedGoogle / GitHub