Kode dan Sinyal AlphaProof: bukti keamanan kode mesin yang diperiksa dan asumsi yang dipercaya

Isi video ini

• Agen AI menghasilkan bukti kandidat; kernel Lean memeriksa apakah mereka menetapkan klaim formal yang disetujui manusia.
• Target terverifikasi adalah alat bantu CLI libsignal terkompilasi tertentu, dengan semantik yang dipercaya dan kontrak kriptografi.
• Membuktikan biner yang dikompilasi menghilangkan kompiler Rust dari basis tepercaya untuk properti yang dinyatakan biner tersebut.
• Para peneliti melaporkan dua pengenalan kembali terpisah dari bug yang sebelumnya diperbaiki yang melanggar teorema keamanan simbolik mereka.
• Komparator memeriksa teorema dan setiap definisi dependen terhadap spesifikasi yang disetujui yang dilindungi; amandemen melalui proses peninjauan terpisah.

Transkrip terjemahan

Diterjemahkan dari narasi asli bahasa Inggris. Audio dan teks tersedia yang dikontrol oleh YouTube.

Siapa yang memeriksa bukti keamanan AI?

0:00 Audit keamanan AI masih terdengar seperti mempercayai chatbot. Hasil Sinyal baru Google hadir dengan bukti matematika kernel terpisah memeriksa. Dalam video ini, apa yang dibuktikan Google? Dan bagaimana mereka menghentikan agen mengubah tujuan? Ini jawaban yang berguna. Model menulis bukti kandidat, dan Lean memeriksa bukti terhadap klaim yang disetujui manusia tentang kode terkompilasi yang dipilih. Manusia masih memiliki klaim dan asumsi.

0:21 Anda dapat memeriksa hasilnya tanpa mempercayai pidato kemenangan model. Pemeriksaan terpisah menangkap perubahan pertanyaan secara diam-diam. Kita akan mengikutinya hingga definisi. Ini Selasa, 10 November, dan ini The Daily Diff. AlphaProof Code adalah kerangka kerja Google untuk menulis spesifikasi perangkat lunak dengan panduan manusia dan menghasilkan bukti yang diperiksa dengan agen AI. Studi ini menargetkan libsignal, pustaka Rust yang mengimplementasikan protokol pesan Signal, di dalam program baris perintah tertentu.

0:45 Google mengumumkan pekerjaan ini hari ini. Makalahnya mengatakan lima peneliti bekerja selama empat minggu. Agen menulis bukti, sementara manusia menghabiskan sebagian besar upaya mereka pada spesifikasi. Persyaratan telah menemukan cara untuk menjadi rapat yang lebih mahal. Spesifikasi mengatakan apa yang harus dilakukan program,

Bagaimana klaim menjadi target bukti?

0:59 apa yang dikendalikan penyerang, dan asumsi apa yang dibutuhkan argumen. Peninjau bertanya apakah itu menangkap keamanan yang diperhatikan orang. Jawaban yang diperiksa dengan indah untuk pertanyaan yang lemah membiarkan pertanyaan itu tetap utuh. Tim membangun di atas penelitian sebelumnya tentang jabat tangan Signal dan ratchet kunci pesannya. Analisis formal telah mempelajari desain-desain itu. Klaim Google menghubungkan argumen keamanan mereka ke implementasi terkompilasi perpustakaan produksi yang tidak dimodifikasi, di mana desain harus bertahan kontak dengan kode aktual. Chief technology officer Signal, Ehren Kret,

1:27 menggambarkan perluasan di luar cakupan verifikasi sebelumnya yang lebih kecil. Detail implementasi termasuk di luar urutan pesan dan sesi yang diarsipkan untuk pesan yang tertunda. Perangkat lunak nyata menyimpan tanda terima yang Anda buang dari diagram elegan Anda. Para peneliti mengkompilasi pustaka Rust yang tidak dimodifikasi dengan kompiler standar

Mengapa membuktikan biner yang dikompilasi?

1:41 menjadi executable Arm 64 Linux. Teorema mereka menggambarkan biner itu menggunakan model instruksi formal, menjangkau celah antara kode sumber dan kode mesin yang dioptimalkan. Kesalahan kompiler yang melanggar properti yang dinyatakan akan membuat teoremanya salah. Oleh karena itu, kompiler meninggalkan basis tepercaya untuk biner ini. Anda masih mempercayai model instruksi dan pemeriksa Lean. Batas kepercayaan bergerak, dan memiliki alamat. Sekitar enam setengah juta baris bukti yang diperiksa bersandar pada sekitar dua puluh enam

2:06 ribu baris spesifikasi yang dipercaya dan semantik instruksi. Ini adalah hitungan artefak. Memperlakukan mereka sebagai skor intelijen sama dengan memberi peringkat pengembang berdasarkan ukuran folder modul node mereka.

Properti keamanan mana yang bertahan dari celah implementasi?

2:16 Argumen mencakup kerahasiaan dan otentikasi pesan, dengan kerahasiaan ke depan dan keamanan pasca-kompromi di bawah model yang dinyatakan. Dua yang terakhir menggambarkan batasan kerusakan kunci yang dicuri dan pemulihan setelah pertukaran baru. Setiap jaminan memiliki kondisi pada penyerang dan sesi. Primitif kriptografi berada di balik kontrak yang dipercaya. Bukti mengasumsikan rutinitas itu berperilaku seperti yang ditentukan dan bergantung pada asumsi keamanan kriptografi. Satu bukti mengidealkan kriptografi; yang lain beralasan tentang probabilitas keberhasilan penyerang.

2:42 Keduanya memiliki batasan pada skenario yang mereka cakup. Tanyakan build mana, properti mana, dan asumsi mana. Hasil ini menyangkut alat bantu baris perintah para peneliti. Pesan grup adalah pekerjaan di masa depan, dan model komputasi mengecualikan status multi-perangkat. Menyebut setiap instalasi Signal bebas bug melenceng dari teorema. Para peneliti memperkenalkan kembali dua bug Signal yang sebelumnya diperbaiki ke

Dapatkah spesifikasi menolak kode yang rusak?

3:02 salinan terisolasi dan mengkompilasinya. Bukti yang diperiksa menunjukkan bahwa biner-biner itu melanggar teorema keamanan simbolik. Itu menguji apakah spesifikasi dapat menolak implementasi rusak yang sebenarnya. Tanda centang hijau Anda membutuhkan tes merah. Google menerbitkan spesifikasi dan bukti dengan instruksi pemeriksaan. Repositori mengatakan pembangunan bersih membutuhkan waktu berjam-jam dan memori yang substansial. Membaca pengumuman jauh lebih mudah di laptop. Model perangkat keras dan kontrak yang dipercaya masih perlu ditinjau.

3:26 Saya belum membangun kembali artefak besar untuk episode ini. Kami melaporkan hasil yang diterbitkan dan batasannya. Pihak luar memiliki jalan untuk memeriksanya, yang lebih penting bagi saya daripada kemenangan AI lain. Sekarang perangkapnya.

Dapatkah bukti yang benar menjawab pertanyaan yang salah?

3:36 Lean dapat menerima bukti yang benar dari pernyataan yang hampir tidak meminta apa-apa. Asumsi yang mustahil dapat membuat teorema menjadi kosong. Mengubah definisi yang terkubur di bawah teorema utama dapat melemahkan tujuan. Makalah ini merancang pemeriksaan terhadap hal ini. Penjaga gerbang menyimpan spesifikasi yang disetujui yang tidak dapat ditulis oleh agen bukti. Mereka dapat mengusulkan koreksi melalui proses amandemen terpisah. Pelemahan keamanan ditingkatkan sebagai potensi bug. Pernyataan keberhasilan pembukti tidak memiliki wewenang di sini.

4:00 Manusia mengadili perubahan pada asumsi yang dipercaya, langsung atau melalui kebijakan mereka, dan meninjau amandemen setelah setiap kampanye. Penilaian ahli tetap bertanggung jawab. Agen dapat meminta tugas yang berbeda. Itu tidak dapat memberikan nilai kelulusan kepada dirinya sendiri.

Apa yang menangkap perubahan tujuan?

4:13 Ini dia pemeriksaan yang dijanjikan. Komparator Lean membandingkan teorema dan setiap definisi yang bergantung padanya dengan salinan yang disetujui yang dilindungi itu. Ia juga memeriksa aksioma yang diizinkan dan memutar ulang bukti dalam kernel baru. Melemahkan definisi pembantu secara diam-diam oleh karena itu mengubah hal yang sedang dibandingkan. Bukti yang diterima harus menetapkan target yang disetujui. Itu masih membuat manusia bertanggung jawab untuk memilih target yang kuat dan asumsi yang jujur. Untuk alur kerja AI Anda sendiri, jaga agar kriteria penerimaan berada di luar

4:37 izin edit pekerja dan tinjau perubahan yang diusulkan secara terpisah. Hasil Google membuat pemisahan itu konkret. Penulis bukti melakukan pekerjaan itu; batas pemeriksaan memutuskan apakah itu dihitung. Jika Anda lebih suka membaca ini daripada mendengar saya mengatakannya, diff mendarat di kotak masuk Anda setiap pagi, gratis di the daily diff dot dev, tautan di bawah. Jadi putusan hari ini adalah SHIP IT.

Apakah saya akan menggunakan alur kerja bukti ini?

4:54 Saya akan menggunakan alur kerja bukti yang diperiksa ini karena klaim yang disetujui tetap terpisah dari agen yang menghasilkan jawaban. Saya akan menyimpan cakupan dan asumsi yang terlampir pada setiap hasil. Berlangganan, tekan bel, dan beri tahu saya di komentar jika Anda akan memberikannya secara berbeda. Dan itulah perbedaan untuk hari ini. Saya Niko dari Axrisi. Gabungkan dengan bertanggung jawab.

Sumber

1. AlphaProof Code: Verifying Signal's Security at the Machine-Code Level — technical scope, trusted base and gatekeepingSwarat Chaudhuri and colleagues / Google DeepMind and Google
2. Introducing AlphaProof Code — November 10 announcement and attributed Signal CTO responsePushmeet Kohli and Swarat Chaudhuri / Google DeepMind
3. Code-verification repository — initial commit, public artifacts and checking instructionsGoogle DeepMind / GitHub
4. The PQXDH Key Agreement Protocol — older official specification and prior-analysis contextEhren Kret and Rolfe Schmidt / Signal
5. The Double Ratchet Algorithm — Triple Ratchet sectionTrevor Perrin, Moxie Marlinspike and Rolfe Schmidt / Signal
6. Google DeepMind leadership — Demis Hassabis's relevant lab identityGoogle DeepMind
7. Demis Hassabis in 2025 — authentic portrait, cropped/resized/compressed and unflipped; no background removal or generated expression/detail; lab identity only, no authorship, proof writing, current reaction or endorsementChristopher P. Michel / Cmichel67 / Wikimedia Commons
8. Portrait licence — CC BY-SA 4.0; attribution, adaptation disclosure and ShareAlikeCreative Commons
9. Expanding Brain template — cropped/captioned artifact-count satire, brief transformed <=2s commentary; no benchmark, hosting licence, legal-clearance or blanket reuse claimImgflip / user-uploaded meme template
10. Tom and Jerry — Boomerang Official actual animated reaction, silent resized/captioned 1.875s excerpt; brief transformed process commentary, no actual researcher or executive reaction, hosting licence, legal-clearance or blanket reuse claimBoomerang Official / GIPHY / Tom and Jerry
11. Boomerang GIF source link — uploader-provided provenanceBoomerang
12. AlphaProof Code discussion — attention context, anonymous opinions excluded from factual proof claimsHacker News
13. Code-verification licence — Apache 2.0 for Google code, third-party licences retainedGoogle / GitHub