AlphaProof Code və Signal: yoxlanılmış maşın kodu təhlükəsizlik sübutları və etibarlı fərziyyələr

Bu videoda nələr əhatə olunur

• Süni intellekt agentləri namizəd sübutlar istehsal edir; Lean'ın nüvəsi onların insan tərəfindən təsdiq edilmiş formal iddianı müəyyən edib-etmədiyini yoxlayır.
• Doğrulanmış hədəf, etibarlı semantika və kriptoqrafik müqavilələr ilə xüsusi tərtib edilmiş libsignal CLI proqramıdır.
• Tərtib edilmiş ikili faylı sübut etmək, bu ikili faylın göstərilən xüsusiyyətləri üçün Rust tərtibatçısını etibarlı bazadan çıxarır.
• Tədqiqatçılar, simvolik təhlükəsizlik teoremini pozan əvvəlcədən düzəldilmiş iki səhvin təcrid olunmuş şəkildə yenidən tətbiq edilməsini bildirirlər.
• Müqayisəçi teorem və hər bir asılı tərifi qorunan təsdiq edilmiş spesifikasiyaya qarşı yoxlayır; dəyişikliklər ayrı bir nəzərdən keçirilmiş prosesdən keçir.

Tərcümə olunmuş transkript

Orijinal ingilis dilindəki nəqldən tərcümə edilmişdir. Mövcud audio və subtitrlər YouTube tərəfindən idarə olunur.

Süni intellekt təhlükəsizlik sübutunu kim yoxlayır?

0:00 Süni intellekt təhlükəsizlik auditi hələ də bir chatbot'a güvənmək kimi səslənir. Google'ın yeni Signal nəticəsi riyazi sübutlarla gəlir, ayrı bir nüvə yoxlayır. Bu videoda Google nəyi sübut etdi? Və bir agentin hədəfləri dəyişməsinə necə mane olurlar? Budur faydalı cavab. Modellər namizəd sübutlar yazır və Lean sübutları insan tərəfindən təsdiq edilmiş iddiaya qarşı yoxlayır. İddia və fərziyyələr hələ də insanlara məxsusdur.

0:21 Nəticəni modelin qələbə çıxışına inanmadan yoxlaya bilərsiniz. Ayrı bir yoxlama, sualın sakitcə dəyişdirilməsini aşkarlayır. Bunu təriflərə qədər izləyəcəyik. Bu çərşənbə axşamı, noyabrın onu və bu, The Daily Diff'dir. AlphaProof Code, Google'ın insan rəhbərliyi ilə proqram spesifikasiyalarını yazmaq üçün və süni intellekt agentləri ilə yoxlanılmış sübutlar yaratmaq üçün çərçivəsidir. Bu araşdırma, Signal'ın mesajlaşma protokolunu həyata keçirən Rust kitabxanası olan libsignal'ı xüsusi bir əmr sətiri proqramının içərisində hədəfləyir.

0:45 Google işi bu gün elan etdi. Onun məqaləsində beş tədqiqatçının dörd həftə ərzində işlədiyi qeyd olunur. Agentlər sübutları yazdı, insanlar isə səylərinin çoxunu spesifikasiyalara sərf etdilər. Tələblər daha da bahalı görüşlərə çevrilməyə bir yol tapdı. Spesifikasiya, proqramın nə etməli olduğunu,

İddia sübut hədəfinə necə çevrilir?

0:59 hücumçunun nəyi idarə etdiyini və arqumentin hansı fərziyyələrə ehtiyac duyduğunu göstərir. Nəzərdən keçirənlər bunun insanların əhəmiyyət verdiyi təhlükəsizliyi əhatə edib-etmədiyini soruşurlar. Zəif bir suala gözəl yoxlanılmış cavab o sualı toxunulmaz qoyur. Komanda Signal'ın əl sıxması və mesaj-açar ratcheti ilə bağlı əvvəlki araşdırmalara əsaslanır. Formal analizlər artıq bu dizaynları araşdırmışdır. Google'ın iddiası, onların təhlükəsizlik arqumentlərini dəyişdirilməmiş istehsal kitabxanasının tərtib edilmiş icrası ilə əlaqələndirir, burada dizayn faktiki kodla təmasda sağ qalmalıdır. Signal'ın baş texnologiya direktoru Ehren Kret,

1:27 əvvəlki doğrulamanın daha kiçik əhatə dairəsindən kənara çıxmağı təsvir edir. Həyata keçirmə detallarına sıradankənar mesajlar və arxivləşdirilmiş seanslar daxildir gecikmiş mesajlar üçün. Əsl proqram təminatı zərif diaqramınızın atdığı qəbzləri saxlayır. Tədqiqatçılar dəyişdirilməmiş Rust kitabxanasını standart

Niyə tərtib edilmiş ikili faylı sübut etməliyik?

1:41 tərtibatçı ilə Arm altmış dörd Linux icra edilə bilən fayla tərtib edirlər. Onların teoremləri bu ikili faylı formal təlimat modeli istifadə edərək təsvir edir, mənbə və optimallaşdırılmış maşın kodu arasındakı boşluğu keçir. Göstərilən bir xüsusiyyəti pozan tərtibatçı səhvi onun teoremini yanlış edərdi. Buna görə də tərtibatçı bu ikili fayl üçün etibarlı bazadan çıxır. Hələ də təlimat modelinə və Lean'ın yoxlayıcısına güvənirsiniz. Etibarlı sərhəd dəyişdi və onun bir ünvanı var. Təxminən altı yarım milyon sətir yoxlanılmış sübut təxminən iyirmi altı

2:06 min etibarlı spesifikasiya və təlimat-semantikası sətirlərinə əsaslanır. Bunlar artefakt sayımlarıdır. Onları intellekt balları kimi qiymətləndirmək, inkişaf etdiriciləri node modulları qovluğunun ölçüsünə görə sıralamağa bənzəyir.

Həyata keçirmə boşluğundan hansı təhlükəsizlik xüsusiyyətləri sağ çıxdı?

2:16 Arqumentlər mesaj məxfiliyi və autentifikasiyasını əhatə edir, göstərilən modellər altında irəli məxfiliyi və pozulmadan sonrakı təhlükəsizliyi ilə. Bu son ikisi oğurlanmış açar zərərlərinin və təzə mübadilələrdən sonra bərpa olunmasının hədlərini təsvir edir. Hər zəmanətin hücumçu və seans üzərində şərtləri var. Kriptoqrafik primitivlər etibarlı müqavilələrin arxasında dayanır. Sübut, bu rutinlərin göstərilən kimi davrandığını fərz edir və kriptoqrafik təhlükəsizlik fərziyyələrinə əsaslanır. Bir sübut kriptoqrafiyanı ideallaşdırır; digəri hücumçunun uğur ehtimalları haqqında düşünür.

2:42 Hər ikisinin əhatə etdiyi ssenarilərə dair məhdudiyyətləri var. Hansı quruluşu, hansı xüsusiyyəti və hansı fərziyyələri soruşun. Bu nəticə tədqiqatçıların əmr sətiri proqramına aiddir. Qrup mesajlaşması gələcək işdir və hesablama modeli çoxsaylı cihaz vəziyyətini istisna edir. Hər Signal quraşdırılmasının səhvsiz olduğunu iddia etmək teoremdən kənara çıxır. Tədqiqatçılar əvvəlcədən düzəldilmiş iki Signal səhvini

Spesifikasiya xarab kodu rədd edə bilərmi?

3:02 təcrid olunmuş kopyalara yenidən tətbiq etdilər və tərtib etdilər. Yoxlanılmış sübutlar bu ikili faylların simvolik təhlükəsizlik teoremini pozduğunu göstərdi. Bu, spesifikasiyanın real xarab tətbiqləri rədd edə biləcəyini sınadı. Yaşıl yoxlama işarənizə qırmızı test lazımdır. Google spesifikasiyaları və sübutları yoxlama təlimatları ilə dərc edir. Anbar, təmiz bir quruluşun saatlar və əhəmiyyətli yaddaş tələb etdiyini deyir. Elanı oxumaq noutbukda xeyli asandır. Avadanlıq modeli və etibarlı müqavilələr hələ də nəzərdən keçirilməlidir.

3:26 Bu epizod üçün böyük artefaktı yenidən qurmamışam. Dərc edilmiş nəticəni və onun sərhədlərini bildiririk. Kənar şəxslərin onu yoxlamaq üçün bir yolu var, bu mənim üçün başqa bir süni intellekt qələbə dövründən daha vacibdir. İndi tələ.

Doğru sübut yanlış suala cavab verə bilərmi?

3:36 Lean demək olar ki, heç bir şey tələb etməyən bir ifadənin düzgün sübutunu qəbul edə bilər. Mümkün olmayan fərziyyələr bir teoremi boş yerə çıxara bilər. Başlıq teoreminin altında gizlənmiş bir tərifin dəyişdirilməsi hədəfi zəiflədə bilər. Məqalə buna qarşı yoxlamaları dizayn edir. Qapıçı, sübut agentlərinin yaza bilməyəcəyi saxlanılmış təsdiq edilmiş spesifikasiyanı saxlayır. Onlar ayrı bir dəyişiklik prosesi ilə düzəlişlər təklif edə bilərlər. Təhlükəsizliyin zəifləməsi potensial bir səhv kimi qəbul edilir. Sübutçunun uğur bəyanatının burada heç bir səlahiyyəti yoxdur.

4:00 İnsanlar etibarlı fərziyyələrdəki dəyişiklikləri mühakimə edirlər, birbaşa və ya siyasətləri vasitəsilə, və hər kampaniyadan sonra dəyişiklikləri nəzərdən keçirirlər. Ekspert qərarı məsuliyyətdə qalır. Agent fərqli bir tapşırıq tələb edə bilər. Özünə keçid balı verə bilməz.

Hərəkətli hədəfləri nə tutur?

4:13 Budur vəd edilmiş yoxlama. Lean'ın müqayisəçisi teorem və asılı olduğu hər bir tərifi qorunan təsdiq edilmiş nüsxə ilə müqayisə edir. O, həmçinin icazə verilən aksiomları yoxlayır və sübutu təzə bir nüvədə yenidən icra edir. Buna görə də köməkçi tərifin sakitcə zəiflədilməsi müqayisə edilən şeyi dəyişir. Qəbul edilmiş sübut təsdiq edilmiş hədəfi müəyyən etməlidir. Bu hələ də insanları güclü bir hədəf və dürüst fərziyyələr seçmək üçün məsuliyyətli edir. Öz süni intellekt iş axınınız üçün, qəbul meyarlarını

4:37 işçinin redaktə icazələrindən kənarda saxlayın və təklif olunan dəyişiklikləri ayrıca nəzərdən keçirin. Google'ın nəticəsi bu ayrılığı konkretləşdirir. Sübut yazıçısı işi görür; yoxlama sərhədi onun sayılıb-sayılmadığını müəyyən edir. Əgər bunu məndən eşitməkdənsə oxumağa üstünlük verirsinizsə, "diff" hər səhər gələcək, daily diff dot dev saytında pulsuz, keçid aşağıdadır. Beləliklə, bugünkü qərar SHIP IT-dir.

Bu sübut iş axınını istifadə edərəmmi?

4:54 Bu yoxlanılmış sübut iş axınını istifadə edərəm, çünki təsdiq edilmiş iddia cavabı istehsal edən agentdən ayrı qalır. Əhatə dairəsini və fərziyyələri hər nəticəyə əlavə edərdim. Abunə olun, zəngə basın və şərhlərdə fərqli möhürləyib-möhürləməyəcəyinizi deyin. Və bugünkü "diff" budur. Mən Axrisi'dən Niko. Məsuliyyətlə birləşdirin.

Mənbələr

1. AlphaProof Code: Verifying Signal's Security at the Machine-Code Level — technical scope, trusted base and gatekeepingSwarat Chaudhuri and colleagues / Google DeepMind and Google
2. Introducing AlphaProof Code — November 10 announcement and attributed Signal CTO responsePushmeet Kohli and Swarat Chaudhuri / Google DeepMind
3. Code-verification repository — initial commit, public artifacts and checking instructionsGoogle DeepMind / GitHub
4. The PQXDH Key Agreement Protocol — older official specification and prior-analysis contextEhren Kret and Rolfe Schmidt / Signal
5. The Double Ratchet Algorithm — Triple Ratchet sectionTrevor Perrin, Moxie Marlinspike and Rolfe Schmidt / Signal
6. Google DeepMind leadership — Demis Hassabis's relevant lab identityGoogle DeepMind
7. Demis Hassabis in 2025 — authentic portrait, cropped/resized/compressed and unflipped; no background removal or generated expression/detail; lab identity only, no authorship, proof writing, current reaction or endorsementChristopher P. Michel / Cmichel67 / Wikimedia Commons
8. Portrait licence — CC BY-SA 4.0; attribution, adaptation disclosure and ShareAlikeCreative Commons
9. Expanding Brain template — cropped/captioned artifact-count satire, brief transformed <=2s commentary; no benchmark, hosting licence, legal-clearance or blanket reuse claimImgflip / user-uploaded meme template
10. Tom and Jerry — Boomerang Official actual animated reaction, silent resized/captioned 1.875s excerpt; brief transformed process commentary, no actual researcher or executive reaction, hosting licence, legal-clearance or blanket reuse claimBoomerang Official / GIPHY / Tom and Jerry
11. Boomerang GIF source link — uploader-provided provenanceBoomerang
12. AlphaProof Code discussion — attention context, anonymous opinions excluded from factual proof claimsHacker News
13. Code-verification licence — Apache 2.0 for Google code, third-party licences retainedGoogle / GitHub