AlphaProof Code and Signal: ստուգված մեքենայական կոդի անվտանգության ապացույցներ և վստահելի ենթադրություններ

Ինչ է ընդգրկում այս տեսանյութը

• AI գործակալները ստեղծում են թեկնածու ապացույցներ. Lean-ի միջուկը ստուգում է, թե արդյոք դրանք հաստատում են մարդու կողմից հաստատված պաշտոնական պահանջը։
• Ստուգված թիրախը կոնկրետ կոմպիլացված libsignal CLI հարմարանք է՝ վստահելի իմաստաբանությամբ և կրիպտոգրաֆիկ պայմանագրերով։
• Կոմպիլացված բինարի ապացուցումը Rust կոմպիլյատորը հեռացնում է վստահելի բազայից այդ բինարի նշված հատկությունների համար։
• Հետազոտողները հայտնում են նախկինում շտկված երկու մեկուսացված սխալների վերաներկայացման մասին, որոնք խախտում են իրենց խորհրդանշական անվտանգության թեորեմը։
• Համեմատողը ստուգում է թեորեմը և յուրաքանչյուր կախված սահմանում՝ պաշտպանված հաստատված բնութագրի դեմ. փոփոխությունները անցնում են առանձին վերանայված գործընթացի միջով։

Թարգմանված արձանագրություն

Թարգմանվել է բնօրինակ անգլերեն պատմությունից։ Հասանելի աուդիո և ենթագրերը վերահսկվում են YouTube-ի կողմից։

Ո՞վ է ստուգում AI անվտանգության ապացույցը։

0:00 AI անվտանգության աուդիտը դեռևս հնչում է որպես չաթբոտի վստահություն։ Google-ի նոր Signal-ի արդյունքը գալիս է մաթեմատիկական ապացույցներով՝ առանձին միջուկ ստուգում է։ Այս տեսանյութում ի՞նչ է ապացուցել Google-ը։ Եվ ինչպե՞ս են նրանք կանխում գործակալին նպատակները փոխելուց։ Ահա օգտակար պատասխանը։ Մոդելները գրում են թեկնածու ապացույցներ, և Lean-ը ստուգում է ապացույցները մարդու կողմից հաստատված պահանջի դեմ՝ ընտրված կոմպիլացված կոդի մասին։ Մարդիկ դեռ տնօրինում են պահանջը և ենթադրությունները։

0:21 Դուք կարող եք ստուգել արդյունքը՝ առանց հավատալու մոդելի հաղթական ելույթին։ Առանձին ստուգումը բռնում է հարցի լուռ փոփոխությունը։ Մենք կհետևենք դրան մինչև սահմանումները։ Երեքշաբթի է, նոյեմբերի տասը, և սա The Daily Diff-ն է։ AlphaProof Code-ը Google-ի շրջանակն է՝ ծրագրային ապահովման բնութագրեր գրելու համար՝ մարդկային ուղեցույցով և ստուգված ապացույցներ ստեղծելու AI գործակալների միջոցով։ Այս ուսումնասիրությունը թիրախավորում է libsignal-ը՝ Signal-ի հաղորդագրությունների արձանագրությունն իրականացնող Rust գրադարանը՝ կոնկրետ հրամանատարական տողի ծրագրի ներսում։

0:45 Google-ը այսօր հայտարարեց աշխատանքի մասին։ Դրա հոդվածում ասվում է, որ հինգ հետազոտողներ աշխատել են չորս շաբաթ։ Գործակալները գրել են ապացույցները, մինչդեռ մարդիկ իրենց ջանքերի մեծ մասը ծախսել են բնութագրերի վրա։ Պահանջները գտել են ավելի թանկ հանդիպումներ դառնալու միջոց։ Բնութագիրը ասում է, թե ինչ պետք է անի ծրագիրը,

Ինչպե՞ս է պահանջը դառնում ապացույցի թիրախ։

0:59 ինչ է վերահսկում հարձակվողը, և որ ենթադրություններն են անհրաժեշտ փաստարկին։ Վերանայողները հարցնում են, թե արդյոք այն արտացոլում է այն անվտանգությունը, որը մարդկանց մտահոգում է։ Թույլ հարցի գեղեցիկ ստուգված պատասխանը այդ հարցը անփոփոխ է թողնում։ Թիմը հիմնվում է Signal-ի ձեռքսեղմման և դրա հաղորդագրության բանալու ռատչետի վերաբերյալ նախկին հետազոտությունների վրա։ Պաշտոնական վերլուծությունները արդեն ուսումնասիրել են այդ դիզայնները։ Google-ի պահանջը կապում է իրենց անվտանգության փաստարկները անփոփոխ արտադրական գրադարանի կոմպիլացված իրականացման հետ, որտեղ դիզայնը պետք է գոյատևի իրական կոդի հետ շփումից։ Signal-ի տեխնիկական տնօրեն Էրեն Կրետը,

1:27 նկարագրում է ընդլայնումը նախկին ստուգման ավելի փոքր շրջանակներից դուրս։ Իրականացման մանրամասները ներառում են արտահերթ հաղորդագրություններ և արխիվացված սեսիաներ ուշացած հաղորդագրությունների համար։ Իրական ծրագրակազմը պահում է այն անդորրագրերը, որոնք ձեր էլեգանտ դիագրամը դեն է նետել։ Հետազոտողները կոմպիլացնում են անփոփոխ Rust գրադարանը ստանդարտ

Ինչու՞ ապացուցել կոմպիլացված բինարը։

1:41 կոմպիլյատորով Arm վաթսունչորս Linux գործարկվող ֆայլի մեջ։ Նրանց թեորեմները նկարագրում են այդ բինարը՝ օգտագործելով պաշտոնական հրահանգների մոդել, հասնելով աղբյուրի և օպտիմիզացված մեքենայական կոդի միջև բացին։ Կոմպիլյատորի սխալը, որը խախտում է նշված հատկությունը, կկեղծի դրա թեորեմը։ Հետևաբար, կոմպիլյատորը թողնում է վստահելի բազան այս բինարի համար։ Դուք դեռ վստահում եք հրահանգների մոդելին և Lean-ի ստուգիչին։ Վստահության սահմանը տեղաշարժվել է, և այն ունի հասցե։ Մոտ վեցուկես միլիոն տող ստուգված ապացույց հիմնված է մոտ քսանվեց

2:06 հազար վստահելի բնութագրերի և հրահանգների իմաստաբանության տողերի վրա։ Սրանք արտեֆակտների հաշվարկներ են։ Դրանք որպես ինտելեկտի միավորներ դիտարկելը նման է ծրագրավորողներին իրենց node մոդուլների թղթապանակի չափով դասակարգելուն։

Ո՞ր անվտանգության հատկությունները գոյատևեցին իրականացման բացը։

2:16 Փաստարկները ներառում են հաղորդագրությունների գաղտնիությունը և հավաստիացումը, առաջընթաց գաղտնիությամբ և փոստ-կոմպրոմիսային անվտանգությամբ՝ նշված մոդելների ներքո։ Վերջին երկուսը նկարագրում են գողացված բանալու վնասի սահմանները և վերականգնումը թարմ փոխանակումներից հետո։ Յուրաքանչյուր երաշխիք ունի պայմաններ հարձակվողի և սեսիայի վերաբերյալ։ Կրիպտոգրաֆիկ պարզագույնները գտնվում են վստահելի պայմանագրերի հետևում։ Ապացույցը ենթադրում է, որ այդ գործողությունները գործում են ինչպես նշված է և հիմնվում է կրիպտոգրաֆիկ անվտանգության ենթադրությունների վրա։ Մեկ ապացույց իդեալականացնում է կրիպտոգրաֆիան. մյուսը մտածում է հարձակվողի հաջողության հավանականությունների մասին։

2:42 Երկուսն էլ ունեն սահմանափակումներ այն սցենարների վրա, որոնք նրանք ծածկում են։ Հարցրեք, թե որ կառուցվածքը, որ հատկությունը և որ ենթադրությունները։ Այս արդյունքը վերաբերում է հետազոտողների հրամանատարական տողի հարմարանքին։ Խմբային հաղորդագրությունները ապագա աշխատանք են, իսկ հաշվողական մոդելը բացառում է բազմասարքային վիճակը։ Յուրաքանչյուր Signal տեղադրումը անթերի անվանելը դուրս է թեորեմից։ Հետազոտողները նախկինում շտկված Signal-ի երկու սխալներ վերաներկայացրել են

Կարո՞ղ է բնութագիրը մերժել կոտրված կոդը։

3:02 մեկուսացված պատճենների մեջ և դրանք կոմպիլացրել։ Ստուգված ապացույցները ցույց տվեցին, որ այդ բինարները խախտում են սիմվոլիկ անվտանգության թեորեմը։ Դա ստուգեց, թե արդյոք բնութագիրը կարող է մերժել իրական կոտրված իրականացումները։ Ձեր կանաչ նշանը կարիք ունի կարմիր թեստի։ Google-ը հրապարակում է բնութագրերը և ապացույցները ստուգման հրահանգներով։ Պահոցում ասվում է, որ մաքուր կառուցումը տևում է ժամեր և զգալի հիշողություն։ Հայտարարությունը կարդալը զգալիորեն ավելի հեշտ է նոութբուքի վրա։ Սարքավորումների մոդելը և վստահելի պայմանագրերը դեռ կարիք ունեն վերանայման։

3:26 Ես այս դրվագի համար հսկայական արտեֆակտը չեմ վերակառուցել։ Մենք հաղորդում ենք հրապարակված արդյունքի և դրա սահմանների մասին։ Արտաքին անձինք ունեն այն ստուգելու ուղի, ինչն ինձ համար ավելի կարևոր է, քան մեկ այլ AI հաղթանակի շրջանը։ Հիմա թակարդը։

Կարո՞ղ է ճիշտ ապացույցը սխալ հարցի պատասխան լինել։

3:36 Lean-ը կարող է ընդունել հայտարարության ճիշտ ապացույցը, որը գրեթե ոչինչ չի պահանջում։ Անհնար ենթադրությունները կարող են թեորեմը դատարկ դարձնել։ Վերնագրի թեորեմի տակ թաքնված սահմանման փոփոխությունը կարող է թուլացնել նպատակը։ Հոդվածը ստուգումներ է նախագծում դրա դեմ։ Դարպասապահը պահում է հաստատված բնութագիրը, որը ապացույցի գործակալները չեն կարող գրել։ Նրանք կարող են ուղղումներ առաջարկել առանձին փոփոխության գործընթացի միջոցով։ Անվտանգության թուլացումը բարձրացվում է որպես պոտենցիալ սխալ։ Ապացուցողի հաջողության հայտարարությունը այստեղ ոչ մի լիազորություն չունի։

4:00 Մարդիկ են դատում վստահելի ենթադրությունների փոփոխությունները, ուղղակիորեն կամ իրենց քաղաքականության միջոցով, և վերանայում են փոփոխությունները յուրաքանչյուր արշավից հետո։ Փորձագետի դատողությունը մնում է պատասխանատու։ Գործակալը կարող է խնդրել այլ հանձնարարություն։ Այն չի կարող իրեն անցողիկ գնահատական տալ։

Ի՞նչն է բռնում շարժվող նպատակները։

4:13 Ահա խոստացված ստուգումը։ Lean-ի համեմատողը համեմատում է թեորեմը և յուրաքանչյուր սահմանում, որից այն կախված է, պաշտպանված հաստատված պատճենի հետ։ Այն նաև ստուգում է թույլատրված ակսիոմները և վերարտադրում է ապացույցը թարմ միջուկում։ Հետևաբար, օժանդակ սահմանման լուռ թուլացումը փոխում է համեմատվող բանը։ Ընդունված ապացույցը պետք է հաստատի հաստատված թիրախը։ Դա դեռ թողնում է մարդկանց պատասխանատու՝ ուժեղ թիրախ և ազնիվ ենթադրություններ ընտրելու համար։ Ձեր սեփական AI աշխատանքային հոսքի համար

4:37 պահեք ընդունման չափանիշները աշխատողի խմբագրման թույլտվություններից դուրս և առանձին վերանայեք առաջարկվող փոփոխությունները։ Google-ի արդյունքը այդ տարանջատումը կոնկրետ է դարձնում։ Ապացույցը գրողը կատարում է աշխատանքը։ Ստուգման սահմանը որոշում է, թե արդյոք այն հաշվվում է։ Եթե նախընտրում եք սա կարդալ, քան լսել իմ ասածը, ապա diff-ը հայտնվում է ձեր մուտքի արկղում ամեն առավոտ, անվճար the daily diff dot dev կայքում, հղումը ստորև։ Այսօրվա վճիռն է SHIP IT։

Արդյո՞ք ես կուղարկեի այս ապացույցի աշխատանքային հոսքը։

4:54 Ես կուղարկեի այս ստուգված ապացույցի աշխատանքային հոսքը, քանի որ հաստատված պահանջը մնում է առանձին պատասխանը տվող գործակալից։ Ես կպահեի շրջանակը և ենթադրությունները կցված յուրաքանչյուր արդյունքին։ Բաժանորդագրվեք, սեղմեք զանգակը և մեկնաբանություններում ասեք ինձ, եթե դուք այլ կերպ կդրոշմեիք այն։ Եվ դա այսօրվա տարբերությունն է։ Ես Նիկոն եմ Axrisi-ից։ Միավորեք պատասխանատվությամբ։

Աղբյուրներ

1. AlphaProof Code: Verifying Signal's Security at the Machine-Code Level — technical scope, trusted base and gatekeepingSwarat Chaudhuri and colleagues / Google DeepMind and Google
2. Introducing AlphaProof Code — November 10 announcement and attributed Signal CTO responsePushmeet Kohli and Swarat Chaudhuri / Google DeepMind
3. Code-verification repository — initial commit, public artifacts and checking instructionsGoogle DeepMind / GitHub
4. The PQXDH Key Agreement Protocol — older official specification and prior-analysis contextEhren Kret and Rolfe Schmidt / Signal
5. The Double Ratchet Algorithm — Triple Ratchet sectionTrevor Perrin, Moxie Marlinspike and Rolfe Schmidt / Signal
6. Google DeepMind leadership — Demis Hassabis's relevant lab identityGoogle DeepMind
7. Demis Hassabis in 2025 — authentic portrait, cropped/resized/compressed and unflipped; no background removal or generated expression/detail; lab identity only, no authorship, proof writing, current reaction or endorsementChristopher P. Michel / Cmichel67 / Wikimedia Commons
8. Portrait licence — CC BY-SA 4.0; attribution, adaptation disclosure and ShareAlikeCreative Commons
9. Expanding Brain template — cropped/captioned artifact-count satire, brief transformed <=2s commentary; no benchmark, hosting licence, legal-clearance or blanket reuse claimImgflip / user-uploaded meme template
10. Tom and Jerry — Boomerang Official actual animated reaction, silent resized/captioned 1.875s excerpt; brief transformed process commentary, no actual researcher or executive reaction, hosting licence, legal-clearance or blanket reuse claimBoomerang Official / GIPHY / Tom and Jerry
11. Boomerang GIF source link — uploader-provided provenanceBoomerang
12. AlphaProof Code discussion — attention context, anonymous opinions excluded from factual proof claimsHacker News
13. Code-verification licence — Apache 2.0 for Google code, third-party licences retainedGoogle / GitHub