AlphaProof kodas ir signalas: patikrinti mašininio kodo saugumo įrodymai ir patikimos prielaidos

Kas aptariama šiame vaizdo įraše

• DI agentai sukuria kandidatinius įrodymus; „Lean“ branduolys patikrina, ar jie pagrindžia žmogaus patvirtintą formalų teiginį.
• Patikrintas tikslas yra konkreti sukompiliuota „libsignal CLI“ įrankis su patikima semantika ir kriptografinėmis sutartimis.
• Įrodžius sukompiliuotą dvejetainį failą, „Rust“ kompiliatorius pašalinamas iš patikimos bazės to dvejetainio failo nurodytoms savybėms.
• Mokslininkai praneša apie du izoliuotus anksčiau ištaisytų klaidų pakartotinius įvedimus, kurie pažeidžia jų simbolinę saugumo teoremą.
• Palyginimo įrankis patikrina teoremą ir kiekvieną priklausomą apibrėžtį pagal apsaugotą patvirtintą specifikaciją; pakeitimai praeina atskirą peržiūros procesą.

Išverstas transkriptas

Išversta iš originalo anglų kalbos. Galimas garso ir subtitrų valdymas per YouTube.

Kas tikrina DI saugumo įrodymą?

0:00 DI saugumo auditas vis dar skamba kaip pasitikėjimas pokalbių robotu. „Google“ naujas „Signal“ rezultatas pateikiamas su matematiniais įrodymais, atskiras branduolys patikrina. Šiame vaizdo įraše, ką „Google“ įrodė? Ir kaip jie sustabdo agentą, kuris keičia tikslus? Štai naudingas atsakymas. Modeliai rašo kandidatinius įrodymus, o „Lean“ patikrina įrodymus pagal žmogaus patvirtintą teiginį apie pasirinktą sukompiliuotą kodą. Žmonės vis dar yra teiginio ir prielaidų savininkai.

0:21 Galite patikrinti rezultatą nepasitikėdami modelio pergalės kalba. Atskiras patikrinimas pagauna tylų klausimo pakeitimą. Mes tai panagrinėsime iki pat apibrėžčių. Šiandien antradienis, lapkričio dešimta, ir tai yra „The Daily Diff“. „AlphaProof Code“ yra „Google“ sistema, skirta rašyti programinės įrangos specifikacijas su žmonių vadovavimu ir generuoti patikrintus įrodymus su DI agentais. Šis tyrimas skirtas „libsignal“, „Rust“ bibliotekai, įgyvendinančiai „Signal“ pranešimų protokolą, tam tikroje komandų eilutės programoje.

0:45 „Google“ šiandien paskelbė apie šį darbą. Jos straipsnyje teigiama, kad penki mokslininkai dirbo keturias savaites. Agentai rašė įrodymus, o žmonės didžiąją dalį savo pastangų skyrė specifikacijoms. Reikalavimai rado būdą tapti dar brangesniais susitikimais. Specifikacija nurodo, ką programa turi daryti,

Kaip teiginys tampa įrodymo tikslu?

0:59 ką kontroliuoja užpuolikas ir kokių prielaidų reikia argumentui. Recenzentai klausia, ar ji apima saugumą, kuriuo žmonės rūpinasi. Gražiai patikrintas atsakymas į silpną klausimą palieka tą klausimą nepaliestą. Komanda remiasi ankstesniais tyrimais apie „Signal“ rankos paspaudimą ir jo pranešimo rakto rekto mechanizmą. Formalios analizės jau ištyrė tuos dizainus. „Google“ teiginys jungia jų saugumo argumentus su nepakeista gamybos bibliotekos sukompiliuota implementacija, kur dizainas turi išgyventi kontaktą su tikruoju kodu. „Signal“ technologijų direktorius Ehren Kretas

1:27 apibūdina išplėtimą už ankstesnio patvirtinimo mažesnių apimčių ribų. Implementacijos detalės apima netvarkingus pranešimus ir archyvuotas sesijas vėluojantiems pranešimams. Tikra programinė įranga saugo kvitus, kuriuos jūsų elegantiška schema išmetė. Mokslininkai sukompiliuoja nepakeistą „Rust“ biblioteką su standartiniu

Kam įrodinėti sukompiliuotą dvejetainį failą?

1:41 kompiliatoriumi į „Arm 64 Linux“ vykdomąjį failą. Jų teoremos aprašo tą dvejetainį failą naudodamos formalų instrukcijų modelį, įveikiant atotrūkį tarp šaltinio ir optimizuoto mašininio kodo. Kompiliatoriaus klaida, pažeidžianti nurodytą savybę, padarytų jos teoremą klaidingą. Todėl kompiliatorius palieka patikimą bazę šiam dvejetainiui failui. Jūs vis dar pasitikite instrukcijų modeliu ir „Lean“ tikrintuvu. Pasitikėjimo riba pasikeitė ir ji turi adresą. Apie šeši su puse milijono eilučių patikrinto įrodymo remiasi maždaug dvidešimt šešiais

2:06 tūkstančiais patikimų specifikacijos ir instrukcijų semantikos eilučių. Tai yra artefaktų skaičiai. Vertinti juos kaip intelekto balus yra tas pats, kas reitinguoti kūrėjus pagal jų „node modules“ aplanko dydį.

Kokios saugumo savybės išliko po įgyvendinimo atotrūkio?

2:16 Argumentai apima pranešimų konfidencialumą ir autentifikavimą, su tiesioginiu slaptumu ir saugumu po kompromiso pagal nurodytus modelius. Šie du paskutiniai aprašo pavogtų raktų žalos ribas ir atkūrimą po naujų apsikeitimų. Kiekviena garantija turi sąlygas užpuolikui ir sesijai. Kriptografiniai primityvai yra už patikimų sutarčių. Įrodymas numato, kad šios procedūros elgiasi, kaip nurodyta, ir remiasi kriptografinėmis saugumo prielaidomis. Vienas įrodymas idealizuoja kriptografiją; kitas samprotauja apie užpuoliko sėkmės tikimybes.

2:42 Abu turi apribojimų scenarijams, kuriuos jie apima. Paklauskite, koks kūrinys, kokia savybė ir kokios prielaidos. Šis rezultatas susijęs su mokslininkų komandų eilutės įrankiu. Grupinis susirašinėjimas yra ateities darbas, o skaičiavimo modelis neapima daugelio įrenginių būsenos. Vadinant kiekvieną „Signal“ diegimą be klaidų, išeinama už teoremos ribų. Mokslininkai iš naujo įvedė dvi anksčiau ištaisytas „Signal“ klaidas į

Ar specifikacija gali atmesti sugedusį kodą?

3:02 izoliuotas kopijas ir jas sukompiliavo. Patikrinti įrodymai parodė, kad tie dvejetainiai failai pažeidė simbolinę saugumo teoremą. Tai patikrino, ar specifikacija galėtų atmesti tikras sugedusias implementacijas. Jūsų žalias patvirtinimo ženklelis turi turėti raudoną testą. „Google“ skelbia specifikacijas ir įrodymus su tikrinimo instrukcijomis. Saugykla teigia, kad švarus surinkimas užtrunka valandas ir reikalauja daug atminties. Skaityti pranešimą yra žymiai lengviau nešiojamuoju kompiuteriu. Aparatinės įrangos modelį ir patikimas sutartis vis dar reikia peržiūrėti.

3:26 Šiam epizodui aš neatkūriau didžiulio artefakto. Mes pranešame apie paskelbtą rezultatą ir jo ribas. Išoriniai asmenys turi galimybę jį patikrinti, o tai man svarbiau nei dar viena DI pergalės ratas. Dabar spąstai.

Ar teisingas įrodymas gali atsakyti į neteisingą klausimą?

3:36 „Lean“ gali priimti teisingą teiginio įrodymą, kuris beveik nieko nereikalauja. Neįmanomos prielaidos gali padaryti teoremą tuščią. Pakeitus apibrėžtį, paslėptą po pagrindine teorema, galima susilpninti tikslą. Straipsnyje numatyti patikrinimai prieš tai. Saugotojas saugo patvirtintą specifikaciją, kurios įrodymo agentai negali rašyti. Jie gali pasiūlyti pataisymus per atskirą pakeitimo procesą. Saugumo susilpnėjimas traktuojamas kaip potenciali klaida. Įrodytojo sėkmės deklaracija čia neturi galios.

4:00 Žmonės sprendžia dėl patikimų prielaidų pakeitimų, tiesiogiai arba per savo politiką, ir peržiūri pataisymus po kiekvienos kampanijos. Ekspertų vertinimas lieka atsakingas. Agentas gali prašyti kito priskyrimo. Jis negali pats sau duoti teigiamo įvertinimo.

Kas pagauna judančius tikslus?

4:13 Štai pažadėtas patikrinimas. „Lean“ palyginimo įrankis palygina teoremą ir kiekvieną apibrėžtį, nuo kurios ji priklauso, su ta apsaugota patvirtinta kopija. Jis taip pat patikrina leistinas aksiomas ir pakartoja įrodymą naujame branduolyje. Todėl tyliai susilpninus pagalbinę apibrėžtį pasikeičia lyginamasis dalykas. Priimtas įrodymas turi pagrįsti patvirtintą tikslą. Tai vis dar palieka žmones atsakingus už stipraus tikslo ir sąžiningų prielaidų pasirinkimą. Savo DI darbo eigai laikykite priėmimo kriterijus už

4:37 darbuotojo redagavimo leidimų ribų ir atskirai peržiūrėkite siūlomus pakeitimus. „Google“ rezultatas daro tą atskyrimą konkrečiu. Įrodymo rašytojas atlieka darbą; patikrinimo riba sprendžia, ar tai svarbu. Jei norėtumėte tai perskaityti, o ne girdėti, kaip aš tai sakau, skirtumas pasieks jūsų pašto dėžutę kiekvieną rytą, nemokamai daily diff dot dev, nuoroda žemiau. Taigi, šiandienos verdiktas yra SHIP IT.

Ar aš naudočiau šį įrodymo darbo eigą?

4:54 Aš naudoju šį patikrinto įrodymo darbo eigą, nes patvirtintas teiginys lieka atskirtas nuo agento, kuris pateikia atsakymą. Aš laikysiu apimtį ir prielaidas, susijusias su kiekvienu rezultatu. Prenumeruokite, paspauskite varpelį ir pasakykite komentaruose, ar būtumėte tai pažymėję kitaip. Ir tai yra šiandienos skirtumas. Aš esu Nikas iš Axrisi. Sujunkite atsakingai.

Šaltiniai

1. AlphaProof Code: Verifying Signal's Security at the Machine-Code Level — technical scope, trusted base and gatekeepingSwarat Chaudhuri and colleagues / Google DeepMind and Google
2. Introducing AlphaProof Code — November 10 announcement and attributed Signal CTO responsePushmeet Kohli and Swarat Chaudhuri / Google DeepMind
3. Code-verification repository — initial commit, public artifacts and checking instructionsGoogle DeepMind / GitHub
4. The PQXDH Key Agreement Protocol — older official specification and prior-analysis contextEhren Kret and Rolfe Schmidt / Signal
5. The Double Ratchet Algorithm — Triple Ratchet sectionTrevor Perrin, Moxie Marlinspike and Rolfe Schmidt / Signal
6. Google DeepMind leadership — Demis Hassabis's relevant lab identityGoogle DeepMind
7. Demis Hassabis in 2025 — authentic portrait, cropped/resized/compressed and unflipped; no background removal or generated expression/detail; lab identity only, no authorship, proof writing, current reaction or endorsementChristopher P. Michel / Cmichel67 / Wikimedia Commons
8. Portrait licence — CC BY-SA 4.0; attribution, adaptation disclosure and ShareAlikeCreative Commons
9. Expanding Brain template — cropped/captioned artifact-count satire, brief transformed <=2s commentary; no benchmark, hosting licence, legal-clearance or blanket reuse claimImgflip / user-uploaded meme template
10. Tom and Jerry — Boomerang Official actual animated reaction, silent resized/captioned 1.875s excerpt; brief transformed process commentary, no actual researcher or executive reaction, hosting licence, legal-clearance or blanket reuse claimBoomerang Official / GIPHY / Tom and Jerry
11. Boomerang GIF source link — uploader-provided provenanceBoomerang
12. AlphaProof Code discussion — attention context, anonymous opinions excluded from factual proof claimsHacker News
13. Code-verification licence — Apache 2.0 for Google code, third-party licences retainedGoogle / GitHub