كود وإشارة AlphaProof: براهين أمنية للتعليمات الآلية المفحوصة وافتراضات موثوقة

ما يغطيه هذا الفيديو

• تنتج عوامل الذكاء الاصطناعي براهين مرشحة؛ يتحقق محرك Lean مما إذا كانت تؤسس للمطالبة الرسمية التي وافق عليها الإنسان.
• الهدف المتحقق منه هو برنامج واجهة سطر الأوامر (CLI) المترجم لـ libsignal، مع دلالات موثوقة وعقود تشفير.
• يؤدي إثبات الثنائي المترجم إلى إزالة مترجم Rust من القاعدة الموثوقة لخصائص هذا الثنائي المعلنة.
• يبلغ الباحثون عن إعادة إدخالين معزولين لأخطاء تم إصلاحها سابقًا تنتهك نظريتهم الأمنية الرمزية.
• يقوم المقارن بالتحقق من النظرية وكل تعريف تابع لها مقابل مواصفات معتمدة محمية؛ تمر التعديلات بعملية مراجعة منفصلة.

النص المترجم

مترجم من السرد الإنجليزي الأصلي. يتم التحكم في الصوت والتعليقات التوضيحية المتاحة بواسطة YouTube.

من يتحقق من برهان أمني للذكاء الاصطناعي؟

0:00 يبدو تدقيق الأمان بالذكاء الاصطناعي وكأنه وثوق ببرنامج دردشة آلي. تأتي نتيجة Google الجديدة لـ Signal مع براهين رياضية، نواة منفصلة تتحقق. في هذا الفيديو، ماذا أثبتت Google؟ وكيف يمنعون الوكيل من تغيير الأهداف؟ إليكم الإجابة المفيدة. النماذج تكتب البراهين المرشحة، وLean يتحقق من البراهين مقابل ادعاء معتمد من الإنسان حول كود مجمع مختار. البشر ما زالوا يمتلكون الادعاء والافتراضات.

0:21 يمكنك التحقق من النتيجة دون تصديق خطاب النصر للنموذج. يكشف فحص منفصل عن تغيير السؤال بهدوء. سنتتبع ذلك إلى التعريفات. إنه الثلاثاء، العاشر من نوفمبر، وهذا هو The Daily Diff. AlphaProof Code هو إطار عمل Google لكتابة مواصفات البرامج مع توجيه بشري وإنشاء براهين مدققة باستخدام وكلاء الذكاء الاصطناعي. تستهدف هذه الدراسة libsignal، مكتبة Rust التي تنفذ بروتوكول مراسلة Signal، داخل برنامج معين لسطر الأوامر.

0:45 أعلنت جوجل عن العمل اليوم. تقول ورقتها إن خمسة باحثين عملوا على مدار أربعة أسابيع. كتب الوكلاء البراهين، بينما قضى البشر معظم جهدهم على المواصفات. لقد وجدت المتطلبات طريقة لتصبح أكثر تكلفة اجتماعات. تحدد المواصفات ما يجب على البرنامج فعله،

كيف تصبح المطالبة هدفًا للإثبات؟

0:59 ما يتحكم فيه المهاجم، والافتراضات التي يحتاجها الحجة. يسأل المراجعون عما إذا كانت تلتقط الأمان الذي يهتم به الناس. إجابة مدققة بشكل جميل لسؤال ضعيف تترك هذا السؤال سليمًا. يعتمد الفريق على أبحاث سابقة حول المصافحة في Signal ومفتاح الرسائل التدوير. حللت التحليلات الرسمية هذه التصميمات بالفعل. يربط ادعاء Google حججهم الأمنية بتنفيذ مجمع لمكتبة إنتاج غير معدلة، حيث يجب أن يصمد التصميم أمام التلامس مع الكود الفعلي. يصف مدير التكنولوجيا في Signal، إيرين كريت،

1:27 توسعًا يتجاوز النطاقات الأصغر للتحقق السابق. تفاصيل التنفيذ تتضمن رسائل خارج الترتيب وجلسات مؤرشفة للرسائل المتأخرة. يحتفظ البرنامج الحقيقي بالإيصالات التي تخلص منها رسمك الأنيق. يقوم الباحثون بتجميع مكتبة Rust غير المعدلة باستخدام المترجم القياسي

لماذا نثبت الثنائي المترجم؟

1:41 إلى ملف تنفيذي لنظام Arm 64 Linux. تصف نظرياتهم هذا الثنائي باستخدام نموذج تعليمات رسمي، تصل عبر الفجوة بين الكود المصدر والتعليمات الآلية المحسنة. خطأ في المترجم يكسر خاصية معلنة سيجعل نظريته خاطئة. لذلك يترك المترجم القاعدة الموثوقة لهذا الثنائي. لا تزال تثق في نموذج التعليمات ومدقق Lean. لقد تحركت حدود الثقة، ولها عنوان. يعتمد حوالي ستة ونصف مليون سطر من البرهان المعتمد على حوالي ستة وعشرين

2:06 ألف سطر من المواصفات الموثوقة ودلالات التعليمات. هذه هي عدد القطع الأثرية. اعتبارها درجات ذكاء يشبه ترتيب المطورين حسب حجم مجلد وحدات العقدة الخاصة بهم.

ما هي خصائص الأمان التي نجت من فجوة التنفيذ؟

2:16 تغطي الحجج سرية الرسائل والمصادقة، مع السرية الأمامية والأمان بعد الاختراق بموجب النماذج المذكورة. تصف هاتان الأخيرتان حدودًا على الضرر الناتج عن المفاتيح المسروقة والاستعادة بعد تبادلات جديدة. لكل ضمان شروط على المهاجم والجلسة. تقع البدائيات التشفيرية وراء عقود موثوقة. يفترض البرهان أن هذه الإجراءات تتصرف كما هو محدد ويعتمد على افتراضات الأمان التشفيرية. يقوم أحد البراهين بتثقيف التشفير؛ الآخر يستدل على احتمالات نجاح المهاجم. كلاهما لديه قيود على السيناريوهات التي يغطيها.

2:42 اسأل عن أي بناء، أي خاصية، وأي افتراضات. تهتم هذه النتيجة ببرنامج واجهة الأوامر الخاص بالباحثين. المراسلة الجماعية عمل مستقبلي، والنموذج الحسابي يستبعد حالة الأجهزة المتعددة. اعتبار كل تثبيت لـ Signal خاليًا من الأخطاء يخرج عن النظرية. أعاد الباحثون إدخال خطأين في Signal تم إصلاحهما سابقًا في نسخ معزولة وقاموا بتجميعها.

هل يمكن للمواصفات رفض الكود المعطل؟

3:02 أظهرت البراهين التي تم فحصها أن تلك الثنائيات انتهكت نظرية الأمان الرمزية. اختبر ذلك ما إذا كانت المواصفات يمكن أن ترفض تطبيقات معطلة حقيقية. علامة التحديد الخضراء الخاصة بك تحتاج إلى اختبار أحمر. تنشر جوجل المواصفات والبراهين مع تعليمات التحقق. يقول المستودع إن بناءً نظيفًا يستغرق ساعات وذاكرة كبيرة. قراءة الإعلان أسهل بكثير على الكمبيوتر المحمول. نموذج الأجهزة والعقود الموثوقة لا يزالان بحاجة إلى مراجعة. لم أعد بناء القطعة الأثرية الضخمة لهذه الحلقة.

3:26 نحن نبلغ عن النتيجة المنشورة وحدودها. لدى الغرباء طريق لفحصها، وهذا يهمني أكثر من جولة انتصار أخرى للذكاء الاصطناعي. الآن الفخ. يمكن لـ Lean قبول برهان صحيح لبيان يطلب لا شيء تقريبًا.

هل يمكن للإثبات الصحيح أن يجيب على السؤال الخطأ؟

3:36 الافتراضات المستحيلة يمكن أن تجعل النظرية فارغة. تغيير تعريف مدفون تحت النظرية الرئيسية يمكن أن يضعف الهدف. تصمم الورقة فحوصات ضد هذا. يحتفظ الحارس بمواصفات معتمدة محفوظة لا يمكن لوكلاء الإثبات الكتابة إليها. يمكنهم اقتراح تصحيحات من خلال عملية تعديل منفصلة. تصعيد ضعف الأمان كخطأ محتمل. إعلان المبرهن بالنجاح لا يمتلك أي سلطة هنا. يقوم البشر بالبت في التغييرات على الافتراضات الموثوقة،

4:00 مباشرة أو من خلال سياستهم، ويراجعون التعديلات بعد كل حملة. يبقى حكم الخبير مسؤولاً. يمكن للوكيل طلب مهمة مختلفة. لا يمكنه منح نفسه درجة النجاح. إليكم الفحص الموعود.

ما الذي يمسك بالأهداف المتحركة؟

4:13 يقارن مقارن Lean النظرية وكل تعريف تعتمد عليه مع تلك النسخة المعتمدة المحمية. كما يتحقق من البديهيات المسموح بها ويعيد تشغيل البرهان في نواة جديدة. لذلك فإن إضعاف تعريف مساعد بهدوء يغير الشيء الذي تتم مقارنته. يجب أن يؤسس البرهان المقبول الهدف المعتمد. لا يزال ذلك يترك البشر مسؤولين عن اختيار هدف قوي وافتراضات صادقة. لسير عمل الذكاء الاصطناعي الخاص بك، احتفظ بمعايير القبول خارج أذونات التعديل للعامل وراجع التغييرات المقترحة بشكل منفصل.

4:37 تجعل نتيجة Google هذا الفصل ملموسًا. كاتب البرهان يقوم بالعمل؛ يحدد حدود الفحص ما إذا كان ذلك يحسب. إذا كنت تفضل قراءة هذا بدلاً من سماعي أقوله، فإن الفرق يصل إلى بريدك الوارد كل صباح، مجانًا على the daily diff dot dev، الرابط أدناه. لذا فإن حكم اليوم هو SHIP IT. سأقوم بشحن سير عمل الإثبات هذا لأن المطالبة المعتمدة تبقى منفصلة

هل سأقوم بشحن سير عمل الإثبات هذا؟

4:54 عن الوكيل الذي ينتج الإجابة. سأحتفظ بالنطاق والافتراضات المرفقة بكل نتيجة. اشترك، اضغط على الجرس، وأخبرني في التعليقات إذا كنت قد ختمته بشكل مختلف. وهذا هو الفرق لهذا اليوم. أنا نيكو من Axrisi. دمج بمسؤولية. دمج بمسؤولية.

المصادر

1. AlphaProof Code: Verifying Signal's Security at the Machine-Code Level — technical scope, trusted base and gatekeepingSwarat Chaudhuri and colleagues / Google DeepMind and Google
2. Introducing AlphaProof Code — November 10 announcement and attributed Signal CTO responsePushmeet Kohli and Swarat Chaudhuri / Google DeepMind
3. Code-verification repository — initial commit, public artifacts and checking instructionsGoogle DeepMind / GitHub
4. The PQXDH Key Agreement Protocol — older official specification and prior-analysis contextEhren Kret and Rolfe Schmidt / Signal
5. The Double Ratchet Algorithm — Triple Ratchet sectionTrevor Perrin, Moxie Marlinspike and Rolfe Schmidt / Signal
6. Google DeepMind leadership — Demis Hassabis's relevant lab identityGoogle DeepMind
7. Demis Hassabis in 2025 — authentic portrait, cropped/resized/compressed and unflipped; no background removal or generated expression/detail; lab identity only, no authorship, proof writing, current reaction or endorsementChristopher P. Michel / Cmichel67 / Wikimedia Commons
8. Portrait licence — CC BY-SA 4.0; attribution, adaptation disclosure and ShareAlikeCreative Commons
9. Expanding Brain template — cropped/captioned artifact-count satire, brief transformed <=2s commentary; no benchmark, hosting licence, legal-clearance or blanket reuse claimImgflip / user-uploaded meme template
10. Tom and Jerry — Boomerang Official actual animated reaction, silent resized/captioned 1.875s excerpt; brief transformed process commentary, no actual researcher or executive reaction, hosting licence, legal-clearance or blanket reuse claimBoomerang Official / GIPHY / Tom and Jerry
11. Boomerang GIF source link — uploader-provided provenanceBoomerang
12. AlphaProof Code discussion — attention context, anonymous opinions excluded from factual proof claimsHacker News
13. Code-verification licence — Apache 2.0 for Google code, third-party licences retainedGoogle / GitHub