अल्फाप्रुफ कोड र सिग्नल: जाँच गरिएको मेसिन-कोड सुरक्षा प्रमाण र विश्वसनीय मान्यताहरू

यो भिडियोले के समेट्छ

• एआई एजेन्टहरूले उम्मेदवार प्रमाणहरू उत्पादन गर्छन्; लीनको कर्नेलले उनीहरूले मानव-अनुमोदित औपचारिक दाबी स्थापित गर्छन् कि गर्दैनन् भनेर जाँच गर्छ।
• प्रमाणीकृत लक्ष्य एक विशेष संकलित लिबसिसनल सीएलआई हार्नेस हो, जसमा विश्वसनीय सिमान्टिक्स र क्रिप्टोग्राफिक अनुबंधहरू छन्।
• संकलित बाइनरी प्रमाणित गर्दा त्यो बाइनरीको उल्लिखित गुणहरूको लागि रस्ट कम्पाइलर विश्वसनीय आधारबाट हट्छ।
• अन्वेषकहरूले पहिले नै समाधान गरिएका बगहरूका दुई छुट्टै पुन: परिचय रिपोर्ट गर्छन् जसले उनीहरूको प्रतीकात्मक सुरक्षा प्रमेयलाई उल्लंघन गर्दछ।
• तुलनाकर्ताले प्रमेय र प्रत्येक निर्भर परिभाषालाई सुरक्षित स्वीकृत विशिष्टता विरुद्ध जाँच गर्दछ; संशोधनहरू छुट्टै समीक्षा प्रक्रिया मार्फत पारित हुन्छन्।

अनुवादित ट्रान्सक्रिप्ट

मूल अंग्रेजी कथाबाट अनुवादित। उपलब्ध अडियो र क्याप्सनहरू YouTube द्वारा नियन्त्रित हुन्छन्।

एआई सुरक्षा प्रमाण कसले जाँच गर्छ?

0:00 एआई सुरक्षा अडिट अझै पनि च्याटबटलाई विश्वास गरे जस्तै सुनिन्छ। गुगलको नयाँ सिग्नल नतिजा छुट्टै कर्नेलको साथ गणितीय प्रमाणहरूसँग आउँछ जाँच गर्दछ। यस भिडियोमा, गुगलले के प्रमाणित गर्यो? र उनीहरूले एजेन्टलाई गोलपोस्टहरू सार्न कसरी रोक्छन्? यहाँ उपयोगी उत्तर छ। मोडेलहरूले उम्मेदवार प्रमाणहरू लेख्छन्, र लीनले प्रमाणहरूलाई एक मानव-अनुमोदित दाबी विरुद्ध चयन गरिएको संकलित कोडको बारेमा जाँच गर्दछ। मानवहरूले अझै पनि दाबी र मान्यताहरूका मालिक हुन्।

0:21 तपाईंले मोडेलको विजय भाषणमा विश्वास नगरी नतिजा जाँच गर्न सक्नुहुन्छ। एउटा छुट्टै चेकले प्रश्नलाई चुपचाप परिवर्तन गर्नबाट रोक्छ। हामी यसलाई परिभाषाहरूमा पछ्याउनेछौं। आज मंगलबार, नोभेम्बर दस तारिख हो, र यो द डेली डिफ हो। अल्फाप्रुफ कोड गुगलको सफ्टवेयर विशिष्टताहरू लेख्नका लागि एक ढाँचा हो मानव मार्गदर्शन र एआई एजेन्टहरूसँग जाँच गरिएको प्रमाणहरू उत्पन्न गर्न। यस अध्ययनले लिबसिसनललाई लक्षित गर्दछ, सिग्नलको सन्देश लागू गर्ने रस्ट लाइब्रेरी प्रोटोकल, एक विशेष कमाण्ड-लाइन कार्यक्रम भित्र।

0:45 गुगलले आज यो कार्यको घोषणा गर्यो। यसको पेपरले पाँच अनुसन्धानकर्ताहरूले चार हप्तासम्म काम गरेको बताएको छ। एजेन्टहरूले प्रमाणहरू लेखे, जबकि मानवहरूले आफ्नो धेरैजसो प्रयासमा खर्च गरे विशिष्टताहरू। आवश्यकताहरूले अझ महँगो बन्ने बाटो फेला पारेका छन् बैठकहरू। विशिष्टताले कार्यक्रमले के गर्नुपर्छ भन्छ,

दाबी कसरी प्रमाण लक्ष्य बन्छ?

0:59 आक्रमणकारीले के नियन्त्रण गर्छ, र तर्कलाई कुन मान्यताहरू चाहिन्छ। समीक्षकहरूले यसले सुरक्षालाई समेट्छ कि छैन भनेर सोध्छन् जुन मानिसहरूलाई चासो छ। कमजोर प्रश्नको सुन्दरतापूर्वक जाँच गरिएको उत्तरले त्यो प्रश्नलाई यथावत राख्छ। टोलीले सिग्नलको ह्यान्डशेक र यसको सन्देश-कुञ्जीमा पहिलेका अनुसन्धानमा आधारित छ र्याचेट। औपचारिक विश्लेषणहरूले पहिले नै ती डिजाइनहरूको अध्ययन गरिसकेका छन्। गुगलको दाबीले उनीहरूको सुरक्षा तर्कहरूलाई अपरिवर्तित उत्पादनसँग जोड्छ पुस्तकालयको संकलित कार्यान्वयन, जहाँ डिजाइनले सम्पर्कबाट बच्न पर्छ वास्तविक कोड। सिग्नलका मुख्य प्रविधि अधिकारी, एरेन क्रेट,

1:27 पहिलेका प्रमाणीकरणको सानो दायराभन्दा बाहिरको विस्तारको वर्णन गर्दछ। कार्यान्वयन विवरणहरूमा क्रमबद्ध नभएका समावेश छन् सन्देशहरू र अभिलेख गरिएका सत्रहरूका लागि ढिलाइ भएका सन्देशहरू। वास्तविक सफ्टवेयरले तपाईंको सुरुचिपूर्ण रेखाचित्रले फालिदिएको रसिदहरू राख्छ, अन्वेषकहरूले मानकको साथ अपरिवर्तित रस्ट लाइब्रेरी कम्पाइल गर्छन्

संकलित बाइनरी किन प्रमाणित गर्ने?

1:41 कम्पाइलरलाई आर्म चौसट्ठी लिनक्स एक्सेक्यूटेबलमा। उनीहरूका प्रमेयहरूले त्यो बाइनरीलाई औपचारिक निर्देश मोडेल प्रयोग गरेर वर्णन गर्छन्, स्रोत र अनुकूलित मेसिन कोड बीचको अन्तर पार गर्दै। एक कम्पाइलर त्रुटि जसले उल्लिखित गुणलाई भङ्ग गर्छ, त्यसको प्रमेयलाई गलत बनाउनेछ। कम्पाइलरले त्यसैले यो बाइनरीको लागि विश्वसनीय आधार छोड्छ। तपाईं अझै पनि निर्देश मोडेल र लीनको परीक्षकलाई विश्वास गर्नुहुन्छ। विश्वासको सीमा सरिएको छ, र यसको एउटा ठेगाना छ। लगभग छ दशमलव पाँच मिलियन लाइनको जाँच गरिएको प्रमाण लगभग छब्बीस हजार

2:06 विश्वसनीय विशिष्टता र निर्देश-सिमान्टिक्स लाइनहरूमा आधारित छ। यी कलाकृति गणनाहरू हुन्। यिनीहरूलाई बुद्धिमत्ता स्कोरको रूपमा व्यवहार गर्नु विकासकर्ताहरूलाई उनीहरूको नोड मोड्युलहरू फोल्डरको आकार अनुसार क्रमबद्ध गरेजस्तै हो।

कुन सुरक्षा गुणहरू कार्यान्वयनको अन्तरबाट बचे?

2:16 तर्कहरूले सन्देशको गोपनीयता र प्रमाणीकरण समेट्छन्, अगाडि गोपनीयता र पोस्ट-कम्प्रोमाइज सुरक्षाका साथ उल्लिखित मोडेलहरू अन्तर्गत। ती अन्तिम दुईले चोरी भएका कुञ्जीहरूको क्षति र ताजा आदानप्रदान पछि रिकभरीमा सीमाहरू वर्णन गर्छन्। प्रत्येक ग्यारेन्टीमा आक्रमणकारी र सत्रमा शर्तहरू छन्। क्रिप्टोग्राफिक प्रिमिटिभहरू विश्वसनीय अनुबंधहरू पछाडि बस्छन्। प्रमाणले ती रुटिनहरू निर्दिष्ट गरिए अनुसार व्यवहार गर्छन् भन्ने मान्छ र क्रिप्टोग्राफिक सुरक्षा मान्यताहरूमा निर्भर गर्दछ। एउटा प्रमाणले क्रिप्टोग्राफीलाई आदर्श बनाउँछ; अर्कोले आक्रमणकारीको सफलताको सम्भावना बारे तर्क गर्दछ।

2:42 दुवैका लागि कभर गरिएका परिदृश्यहरूमा प्रतिबन्धहरू छन्। कुन बिल्ड, कुन गुण, र कुन मान्यताहरू सोध्नुहोस्। यो नतिजा अनुसन्धानकर्ताहरूको कमाण्ड-लाइन हार्नेससँग सम्बन्धित छ। समूह सन्देश भविष्यको काम हो, र कम्प्युटेसनल मोडेलले बहिष्कार गर्छ बहु-उपकरण स्थिति। प्रत्येक सिग्नल स्थापना बग-रहित भन्नु प्रमेय बाहिर पर्दछ। अनुसन्धानकर्ताहरूले पहिले नै समाधान गरिएका दुई सिग्नल बगहरूलाई अलग-अलग प्रतिलिपिहरूमा पुन: प्रस्तुत गरे

के विशिष्टताले बिग्रिएको कोड अस्वीकार गर्न सक्छ?

3:02 र तिनीहरूलाई कम्पाइल गरे। जाँच गरिएका प्रमाणहरूले ती बाइनरीहरूले प्रतीकात्मक सुरक्षा प्रमेयलाई उल्लंघन गरेको देखाए। त्यसले विशिष्टताले वास्तविक बिग्रिएका कार्यान्वयनहरूलाई अस्वीकार गर्न सक्छ कि सक्दैन भनेर परीक्षण गर्यो। तपाईंको हरियो चेकलाई रातो परीक्षण चाहिन्छ। गुगलले जाँच निर्देशनहरूका साथ विशिष्टताहरू र प्रमाणहरू प्रकाशित गर्दछ। भण्डारले भन्छ कि सफा बिल्डमा घण्टौं र पर्याप्त मेमोरी लाग्छ। ल्यापटपमा घोषणा पढ्न निकै सजिलो छ। हार्डवेयर मोडेल र विश्वसनीय अनुबंधहरूलाई अझै समीक्षा चाहिन्छ।

3:26 मैले यस एपिसोडको लागि विशाल कलाकृति पुनर्निर्माण गरेको छैन। हामी प्रकाशित नतिजा र यसका सीमाहरू रिपोर्ट गर्दैछौं। बाहिरी व्यक्तिहरूसँग यसलाई निरीक्षण गर्ने बाटो छ, जुन मेरो लागि अर्को एआई विजय ल्याप भन्दा बढी महत्त्वपूर्ण छ। अब जाल।

के सही प्रमाणले गलत प्रश्नको उत्तर दिन सक्छ?

3:36 लीनले लगभग केही नमाग्ने कथनको सही प्रमाण स्वीकार गर्न सक्छ। असम्भव मान्यताहरूले प्रमेयलाई बेकार बनाउन सक्छ। मुख्य प्रमेय मुनि गाडिएको परिभाषा परिवर्तन गर्दा लक्ष्य कमजोर हुन सक्छ। पेपरले यसको विरुद्धमा जाँचहरू डिजाइन गर्दछ। गेटकीपरले एउटा स्वीकृत विशिष्टता राख्छ जुन प्रमाण एजेन्टहरूले लेख्न सक्दैनन्। उनीहरूले छुट्टै संशोधन प्रक्रिया मार्फत सुधारहरू प्रस्ताव गर्न सक्छन्। सुरक्षा कमजोर हुनुलाई सम्भावित बगको रूपमा बढाइचढाइ गरिन्छ। प्रमाणकर्ताको सफलताको घोषणाको यहाँ कुनै अधिकार छैन।

4:00 मानवहरूले विश्वसनीय मान्यताहरूमा परिवर्तनहरू न्याय गर्छन्, प्रत्यक्ष वा उनीहरूको नीति मार्फत, र प्रत्येक अभियान पछि संशोधनहरूको समीक्षा गर्छन्। विशेषज्ञको निर्णयमाथि प्रश्न उठिरहन्छ। एजेन्टले फरक असाइनमेन्टको अनुरोध गर्न सक्छ। यसले आफैंलाई उत्तीर्ण ग्रेड दिन सक्दैन।

चलिरहेका गोलपोस्टहरूलाई के ले समात्छ?

4:13 यहाँ प्रतिज्ञा गरिएको चेक छ। लीनको तुलनाकर्ताले प्रमेय र यसमा निर्भर प्रत्येक परिभाषालाई तुलना गर्छ त्यो संरक्षित स्वीकृत प्रतिलिपि। यसले स्वीकृत स्वयंसिद्धहरू पनि जाँच गर्छ र नयाँ कर्नेलमा प्रमाण पुन: प्ले गर्छ। सहायक परिभाषालाई चुपचाप कमजोर बनाउँदा तुलना भइरहेको वस्तु परिवर्तन हुन्छ। स्वीकृत प्रमाणले स्वीकृत लक्ष्य स्थापित गर्नुपर्छ। त्यसले अझै पनि मानवहरूलाई बलियो लक्ष्य र इमानदार मान्यताहरू छनौट गर्न जिम्मेवार राख्छ। तपाईंको आफ्नै एआई कार्यप्रवाहको लागि, स्वीकृति मापदण्डलाई कार्यकर्ताको सम्पादन अनुमति बाहिर राख्नुहोस्

4:37 र प्रस्तावित परिवर्तनहरूलाई छुट्टै समीक्षा गर्नुहोस्। गुगलको नतिजाले त्यो अलगावलाई ठोस बनाउँछ। प्रमाण लेखकले काम गर्छ; जाँच सीमाले यसको गणना हुन्छ कि हुँदैन भनेर निर्धारण गर्छ। यदि तपाईं मलाई यो भन्न सुन्नुको सट्टा यो पढ्न चाहनुहुन्छ भने, भिन्नता तपाईंको इनबक्समा हरेक बिहान आउँछ, दैनिक डिफ डट देवमा निःशुल्क, लिङ्क तल। त्यसैले आजको फैसला SHIP IT हो।

के म यो प्रमाण कार्यप्रवाह पठाउँछु?

4:54 म यो जाँच गरिएको-प्रमाण कार्यप्रवाह पठाउँछु किनभने स्वीकृत दाबी उत्तर उत्पादन गर्ने एजेन्टबाट अलग रहन्छ। म प्रत्येक नतिजामा दायरा र मान्यताहरू संलग्न राख्छु। सदस्यता लिनुहोस्, घण्टी बजाउनुहोस्, र टिप्पणीहरूमा मलाई भन्नुहोस् यदि तपाईंले यसलाई फरक तरीकाले छाप लगाउनुहुन्थ्यो। र आजको लागि यति नै भिन्नता। म एक्सीसीबाट निको हुँ। जिम्मेवारीपूर्वक मर्ज गर्नुहोस्।

स्रोतहरू

1. AlphaProof Code: Verifying Signal's Security at the Machine-Code Level — technical scope, trusted base and gatekeepingSwarat Chaudhuri and colleagues / Google DeepMind and Google
2. Introducing AlphaProof Code — November 10 announcement and attributed Signal CTO responsePushmeet Kohli and Swarat Chaudhuri / Google DeepMind
3. Code-verification repository — initial commit, public artifacts and checking instructionsGoogle DeepMind / GitHub
4. The PQXDH Key Agreement Protocol — older official specification and prior-analysis contextEhren Kret and Rolfe Schmidt / Signal
5. The Double Ratchet Algorithm — Triple Ratchet sectionTrevor Perrin, Moxie Marlinspike and Rolfe Schmidt / Signal
6. Google DeepMind leadership — Demis Hassabis's relevant lab identityGoogle DeepMind
7. Demis Hassabis in 2025 — authentic portrait, cropped/resized/compressed and unflipped; no background removal or generated expression/detail; lab identity only, no authorship, proof writing, current reaction or endorsementChristopher P. Michel / Cmichel67 / Wikimedia Commons
8. Portrait licence — CC BY-SA 4.0; attribution, adaptation disclosure and ShareAlikeCreative Commons
9. Expanding Brain template — cropped/captioned artifact-count satire, brief transformed <=2s commentary; no benchmark, hosting licence, legal-clearance or blanket reuse claimImgflip / user-uploaded meme template
10. Tom and Jerry — Boomerang Official actual animated reaction, silent resized/captioned 1.875s excerpt; brief transformed process commentary, no actual researcher or executive reaction, hosting licence, legal-clearance or blanket reuse claimBoomerang Official / GIPHY / Tom and Jerry
11. Boomerang GIF source link — uploader-provided provenanceBoomerang
12. AlphaProof Code discussion — attention context, anonymous opinions excluded from factual proof claimsHacker News
13. Code-verification licence — Apache 2.0 for Google code, third-party licences retainedGoogle / GitHub