अल्फाप्रूफ कोड और सिग्नल: मशीन-चेक किए गए सुरक्षा प्रमाण और विश्वसनीय धारणाएं

इस वीडियो में क्या शामिल है

• एआई एजेंट उम्मीदवार प्रमाण तैयार करते हैं; लीन का कर्नेल जाँचता है कि क्या वे मानव-अनुमोदित औपचारिक दावे को स्थापित करते हैं।
• सत्यापित लक्ष्य एक विशेष संकलित लिबसिंगल CLI हार्नेस है, जिसमें विश्वसनीय सिमेंटिक्स और क्रिप्टोग्राफिक अनुबंध हैं।
• संकलित बाइनरी को साबित करने से रस्ट कंपाइलर उस बाइनरी के बताए गए गुणों के लिए विश्वसनीय आधार से हटा दिया जाता है।
• शोधकर्ताओं ने पहले से ठीक किए गए बगों के दो अलग-अलग पुन: परिचय की रिपोर्ट दी है जो उनके प्रतीकात्मक सुरक्षा प्रमेय का उल्लंघन करते हैं।
• तुलनित्र स्वीकृत संरक्षित विनिर्देश के विरुद्ध प्रमेय और प्रत्येक आश्रित परिभाषा की जाँच करता है; संशोधन एक अलग समीक्षित प्रक्रिया के माध्यम से गुजरते हैं।

अनुवादित प्रतिलेख

मूल अंग्रेजी कथन से अनुवादित। उपलब्ध ऑडियो और कैप्शन YouTube द्वारा नियंत्रित होते हैं।

एआई सुरक्षा प्रमाण की जाँच कौन करता है?

0:00 एआई सुरक्षा ऑडिट अभी भी एक चैटबॉट पर भरोसा करने जैसा लगता है। गूगल का नया सिग्नल परिणाम एक अलग कर्नेल के गणितीय प्रमाणों के साथ आता है जाँचता है। इस वीडियो में, गूगल ने क्या साबित किया? और वे एक एजेंट को गोलपोस्ट को हिलाने से कैसे रोकते हैं? यह उपयोगी उत्तर है। मॉडल उम्मीदवार प्रमाण लिखते हैं, और लीन एक के खिलाफ प्रमाणों की जाँच करता है चयनित संकलित कोड के बारे में मानव-अनुमोदित दावा। मनुष्य अभी भी दावे और धारणाओं के मालिक हैं।

0:21 आप मॉडल के विजय भाषण पर विश्वास किए बिना परिणाम की जाँच कर सकते हैं। एक अलग जाँच चुपचाप प्रश्न बदलने को पकड़ लेती है। हम इसे परिभाषाओं तक ले जाएंगे। यह मंगलवार, दस नवंबर है, और यह द डेली डिफ है। अल्फाप्रूफ कोड गूगल का सॉफ्टवेयर विनिर्देशों को लिखने का ढाँचा है मानव मार्गदर्शन और एआई एजेंटों के साथ जाँचे गए प्रमाण उत्पन्न करना। यह अध्ययन एक विशेष कमांड-लाइन प्रोग्राम के अंदर सिग्नल के मैसेजिंग प्रोटोकॉल को लागू करने वाली रस्ट लाइब्रेरी लिबसिंगल को लक्षित करता है। यह अध्ययन एक विशेष कमांड-लाइन प्रोग्राम के अंदर सिग्नल के मैसेजिंग प्रोटोकॉल को लागू करने वाली रस्ट लाइब्रेरी लिबसिंगल को लक्षित करता है।

0:45 गूगल ने आज काम की घोषणा की। इसके पेपर में कहा गया है कि पांच शोधकर्ताओं ने चार सप्ताह तक काम किया। एजेंटों ने प्रमाण लिखे, जबकि मनुष्यों ने अपना अधिकांश प्रयास विनिर्देशों पर खर्च किया। आवश्यकताओं ने और भी महंगी बैठकें बनने का एक तरीका खोज लिया है। विनिर्देश बताता है कि कार्यक्रम को क्या करना चाहिए,

कोई दावा प्रमाण लक्ष्य कैसे बनता है?

0:59 एक हमलावर क्या नियंत्रित करता है, और तर्क को किन धारणाओं की आवश्यकता है। समीक्षक पूछते हैं कि क्या यह उस सुरक्षा को कैप्चर करता है जिसकी लोगों को परवाह है। एक कमजोर प्रश्न का एक खूबसूरती से जाँच किया गया उत्तर उस प्रश्न को बरकरार रखता है। टीम सिग्नल के हैंडशेक और उसके संदेश-कुंजी रैचेट पर पहले के शोध पर आधारित है। औपचारिक विश्लेषणों ने पहले ही उन डिज़ाइनों का अध्ययन किया था। गूगल का दावा उनके सुरक्षा तर्कों को एक असंशोधित उत्पादन लाइब्रेरी के संकलित कार्यान्वयन से जोड़ता है, जहाँ डिज़ाइन को वास्तविक कोड के संपर्क से बचना पड़ता है। वास्तविक कोड के संपर्क से बचना पड़ता है। सिग्नल के मुख्य प्रौद्योगिकी अधिकारी, एहरेन क्रेट, वास्तविक कोड के संपर्क से बचना पड़ता है। सिग्नल के मुख्य प्रौद्योगिकी अधिकारी, एहरेन क्रेट,

1:27 पहले के सत्यापन के छोटे दायरे से परे एक विस्तार का वर्णन करते हैं। कार्यान्वयन विवरण में आउट-ऑफ-ऑर्डर संदेश और देरी से संदेशों के लिए संग्रहीत सत्र शामिल हैं। संदेश और संग्रहीत सत्र देरी से संदेशों के लिए। वास्तविक सॉफ्टवेयर उन प्राप्तियों को रखता है जिन्हें आपके सुरुचिपूर्ण आरेख ने फेंक दिया था। शोधकर्ता मानक कंपाइलर के साथ असंशोधित रस्ट लाइब्रेरी को आर्म चौंसठ लिनक्स निष्पादन योग्य में संकलित करते हैं।

संकलित बाइनरी को क्यों साबित करें?

1:41 शोधकर्ता मानक कंपाइलर के साथ असंशोधित रस्ट लाइब्रेरी को आर्म चौंसठ लिनक्स निष्पादन योग्य में संकलित करते हैं। उनके प्रमेय एक औपचारिक निर्देश मॉडल का उपयोग करके उस बाइनरी का वर्णन करते हैं, स्रोत और अनुकूलित मशीन कोड के बीच के अंतर को पार करना। एक कंपाइलर त्रुटि जो एक बताए गए गुण को तोड़ती है, उसके प्रमेय को झूठा बना देगी। कंपाइलर इसलिए इस बाइनरी के लिए विश्वसनीय आधार छोड़ देता है। आप अभी भी निर्देश मॉडल और लीन के चेकर पर भरोसा करते हैं। विश्वास की सीमा स्थानांतरित हो गई, और इसका एक पता है। लगभग छियासठ लाख लाइनों के जाँचे गए प्रमाण लगभग छब्बीस हज़ार विश्वसनीय विनिर्देश और निर्देश-सिमेंटिक्स लाइनों पर आधारित हैं।

2:06 हज़ार विश्वसनीय विनिर्देश और निर्देश-सिमेंटिक्स लाइनों पर। ये कलाकृति की संख्याएँ हैं। इन्हें बुद्धिमत्ता स्कोर के रूप में मानना ​​डेवलपर्स को उनके नोड मॉड्यूल फ़ोल्डर के आकार के अनुसार रैंक करने जैसा है। उनके नोड मॉड्यूल फ़ोल्डर के आकार के अनुसार।

कौन सी सुरक्षा गुण कार्यान्वयन अंतर से बचे?

2:16 तर्क संदेश गोपनीयता और प्रमाणीकरण को कवर करते हैं, बताए गए मॉडलों के तहत फॉरवर्ड सीक्रेसी और पोस्ट-कॉम्प्रोमाइज सुरक्षा के साथ। अंतिम दो चोरी-कुंजी क्षति और नए आदान-प्रदान के बाद वसूली की सीमाओं का वर्णन करते हैं। प्रत्येक गारंटी में हमलावर और सत्र पर शर्तें होती हैं। क्रिप्टोग्राफिक प्रिमिटिव विश्वसनीय अनुबंधों के पीछे बैठते हैं। प्रमाण मानता है कि वे रूटीन निर्दिष्ट के अनुसार व्यवहार करते हैं और क्रिप्टोग्राफिक सुरक्षा धारणाओं पर निर्भर करता है। सुरक्षा धारणाओं पर निर्भर करता है। एक प्रमाण क्रिप्टोग्राफी को आदर्श बनाता है; दूसरा हमलावर की सफलता की संभावनाओं के बारे में तर्क देता है। हमलावर की सफलता की संभावनाओं के बारे में।

2:42 दोनों के पास उन परिदृश्यों पर प्रतिबंध हैं जिन्हें वे कवर करते हैं। पूछें कि कौन सा बिल्ड, कौन सा गुण, और कौन सी धारणाएँ। यह परिणाम शोधकर्ताओं के कमांड-लाइन हार्नेस से संबंधित है। समूह मैसेजिंग भविष्य का काम है, और कम्प्यूटेशनल मॉडल मल्टी-डिवाइस स्थिति को बाहर करता है। मल्टी-डिवाइस स्थिति। हर सिग्नल इंस्टॉलेशन को बग-मुक्त कहना प्रमेय के बाहर भटक जाता है। प्रमेय। शोधकर्ताओं ने दो पहले से ठीक किए गए सिग्नल बगों को अलग-अलग प्रतियों में फिर से पेश किया और उन्हें संकलित किया।

क्या विनिर्देश टूटे हुए कोड को अस्वीकार कर सकता है?

3:02 अलग-अलग प्रतियों में फिर से पेश किया और उन्हें संकलित किया। जाँचे गए प्रमाणों से पता चला कि उन बाइनरीज़ ने प्रतीकात्मक सुरक्षा प्रमेय का उल्लंघन किया। यह परीक्षण किया कि क्या विनिर्देश वास्तविक टूटे हुए कार्यान्वयन को अस्वीकार कर सकता है। आपके हरे रंग के चेकमार्क को एक लाल परीक्षण की आवश्यकता है। गूगल जाँच निर्देशों के साथ विनिर्देशों और प्रमाणों को प्रकाशित करता है। रिपॉजिटरी का कहना है कि एक स्वच्छ बिल्ड में घंटों और पर्याप्त मेमोरी लगती है। घोषणा पढ़ना लैपटॉप पर काफी आसान है। हार्डवेयर मॉडल और विश्वसनीय अनुबंधों को अभी भी समीक्षा की आवश्यकता है।

3:26 मैंने इस एपिसोड के लिए विशाल कलाकृति को फिर से नहीं बनाया है। हम प्रकाशित परिणाम और उसकी सीमाओं की रिपोर्ट कर रहे हैं। बाहरी लोगों के पास इसकी जांच करने का एक रास्ता है, जो मेरे लिए किसी अन्य एआई विजय गोद से ज्यादा मायने रखता है। विजय गोद। अब जाल।

क्या एक सही प्रमाण गलत प्रश्न का उत्तर दे सकता है?

3:36 लीन एक ऐसे कथन का एक सही प्रमाण स्वीकार कर सकता है जो लगभग कुछ भी नहीं मांगता है। असंभव धारणाएँ एक प्रमेय को निरर्थक बना सकती हैं। मुख्य प्रमेय के नीचे दबी एक परिभाषा को बदलने से लक्ष्य कमजोर हो सकता है। लक्ष्य। पेपर इसके खिलाफ जाँच डिज़ाइन करता है। द्वारपाल एक रोके गए अनुमोदित विनिर्देश को रखता है जिसे प्रमाण एजेंट नहीं लिख सकते। लिख सकते हैं। वे एक अलग संशोधन प्रक्रिया के माध्यम से सुधारों का प्रस्ताव कर सकते हैं। सुरक्षा कमजोर होने को संभावित बग के रूप में बढ़ाया जाता है। प्रमाणीकरणकर्ता की सफलता की घोषणा का यहाँ कोई अधिकार नहीं है।

4:00 मनुष्य विश्वसनीय धारणाओं में परिवर्तनों का न्याय करते हैं, सीधे या अपनी नीति के माध्यम से, और प्रत्येक अभियान के बाद संशोधनों की समीक्षा करते हैं। विशेषज्ञ निर्णय दांव पर रहता है। एजेंट एक अलग असाइनमेंट का अनुरोध कर सकता है। यह खुद को उत्तीर्ण ग्रेड नहीं दे सकता।

मूविंग गोलपोस्ट को क्या पकड़ता है?

4:13 यह वादा किया गया जाँच है। लीन का तुलनित्र प्रमेय और हर परिभाषा की तुलना करता है जिस पर वह उस संरक्षित अनुमोदित प्रति के साथ निर्भर करता है। जिस पर वह उस संरक्षित अनुमोदित प्रति के साथ निर्भर करता है। यह अनुमत सिद्धांतों की भी जाँच करता है और एक नए कर्नेल में प्रमाण को फिर से चलाता है। एक सहायक परिभाषा को चुपचाप कमजोर करने से तुलना की जा रही चीज़ बदल जाती है। तुलना की जा रही चीज़ बदल जाती है। एक स्वीकृत प्रमाण को अनुमोदित लक्ष्य को स्थापित करना होता है। अनुमोदित लक्ष्य को स्थापित करना होता है। यह अभी भी मनुष्यों को एक मजबूत लक्ष्य और ईमानदार धारणाओं को चुनने के लिए जिम्मेदार छोड़ देता है। धारणाएँ। अपने स्वयं के एआई वर्कफ़्लो के लिए, स्वीकृति मानदंडों को कार्यकर्ता की संपादन अनुमतियों के बाहर रखें

4:37 कार्यकर्ता की संपादन अनुमतियों के बाहर रखें और प्रस्तावित परिवर्तनों की अलग से समीक्षा करें। गूगल का परिणाम उस अलगाव को ठोस बनाता है। प्रमाण लेखक काम करता है; जाँच सीमा तय करती है कि क्या यह मायने रखता है। यदि आप इसे सुनने के बजाय पढ़ना पसंद करेंगे, तो डिफ हर सुबह आपके इनबॉक्स में आता है, द डेली डिफ डॉट देव पर मुफ्त, लिंक नीचे। तो आज का फैसला SHIP IT है।

क्या मैं इस प्रमाण वर्कफ़्लो को शिप करूंगा?

4:54 मैं इस जाँच-प्रमाण वर्कफ़्लो को शिप करूंगा क्योंकि स्वीकृत दावा उत्तर देने वाले एजेंट से अलग रहता है। एजेंट से अलग रहता है। मैं हर परिणाम के साथ दायरे और धारणाओं को संलग्न रखूंगा। सदस्यता लें, घंटी बजाएं, और टिप्पणियों में मुझे बताएं कि क्या आपने इसे अलग तरीके से मुहर लगाया होगा। अलग तरीके से मुहर लगाया होगा। और यह आज के लिए डिफ है। मैं एक्सरिसी से निको हूँ। जिम्मेदारी से विलय करें।

स्रोत

1. AlphaProof Code: Verifying Signal's Security at the Machine-Code Level — technical scope, trusted base and gatekeepingSwarat Chaudhuri and colleagues / Google DeepMind and Google
2. Introducing AlphaProof Code — November 10 announcement and attributed Signal CTO responsePushmeet Kohli and Swarat Chaudhuri / Google DeepMind
3. Code-verification repository — initial commit, public artifacts and checking instructionsGoogle DeepMind / GitHub
4. The PQXDH Key Agreement Protocol — older official specification and prior-analysis contextEhren Kret and Rolfe Schmidt / Signal
5. The Double Ratchet Algorithm — Triple Ratchet sectionTrevor Perrin, Moxie Marlinspike and Rolfe Schmidt / Signal
6. Google DeepMind leadership — Demis Hassabis's relevant lab identityGoogle DeepMind
7. Demis Hassabis in 2025 — authentic portrait, cropped/resized/compressed and unflipped; no background removal or generated expression/detail; lab identity only, no authorship, proof writing, current reaction or endorsementChristopher P. Michel / Cmichel67 / Wikimedia Commons
8. Portrait licence — CC BY-SA 4.0; attribution, adaptation disclosure and ShareAlikeCreative Commons
9. Expanding Brain template — cropped/captioned artifact-count satire, brief transformed <=2s commentary; no benchmark, hosting licence, legal-clearance or blanket reuse claimImgflip / user-uploaded meme template
10. Tom and Jerry — Boomerang Official actual animated reaction, silent resized/captioned 1.875s excerpt; brief transformed process commentary, no actual researcher or executive reaction, hosting licence, legal-clearance or blanket reuse claimBoomerang Official / GIPHY / Tom and Jerry
11. Boomerang GIF source link — uploader-provided provenanceBoomerang
12. AlphaProof Code discussion — attention context, anonymous opinions excluded from factual proof claimsHacker News
13. Code-verification licence — Apache 2.0 for Google code, third-party licences retainedGoogle / GitHub