AlphaProof Code and Signal: اثبات امنیتی کد ماشین و فرضیات مورد اعتماد بررسی شد

این ویدیو چه مواردی را پوشش می‌دهد

• عوامل هوش مصنوعی اثبات‌های کاندیدا تولید می‌کنند؛ هسته Lean بررسی می‌کند که آیا آن‌ها ادعای رسمی تأیید شده توسط انسان را اثبات می‌کنند یا خیر.
• هدف تأیید شده، یک برنامه خط فرمان کامپایل شده libsignal خاص است، با معانی و قراردادهای رمزنگاری مورد اعتماد.
• اثبات باینری کامپایل شده، کامپایلر Rust را از پایه مورد اعتماد برای ویژگی‌های اعلام‌شده آن باینری حذف می‌کند.
• محققان دو بار معرفی مجدد جداگانه از باگ‌های قبلاً رفع‌شده را گزارش می‌کنند که قضیه امنیتی نمادین آن‌ها را نقض می‌کند.
• مقایسه‌کننده قضیه و هر تعریف وابسته را در برابر یک مشخصات تأیید شده محافظت شده بررسی می‌کند؛ اصلاحات از طریق یک فرآیند بررسی‌شده جداگانه عبور می‌کنند.

رونوشت ترجمه شده

ترجمه شده از روایت اصلی انگلیسی. صوت و زیرنویس‌های موجود توسط YouTube کنترل می‌شوند.

چه کسی یک اثبات امنیتی هوش مصنوعی را بررسی می‌کند؟

0:00 ممیزی امنیتی هوش مصنوعی هنوز شبیه اعتماد به یک چت‌بات به نظر می‌رسد. نتیجه جدید گوگل در مورد Signal با اثبات‌های ریاضی و یک هسته جداگانه ارائه می‌شود آنها بررسی می‌کنند. در این ویدئو، گوگل چه چیزی را اثبات کرد؟ و چگونه جلوی عامل را می‌گیرند که اهداف را تغییر دهد؟ این پاسخ مفید است. مدل‌ها اثبات‌های کاندیدا را می‌نویسند، و Lean اثبات‌ها را در برابر یک ادعای تأیید شده توسط انسان در مورد کد کامپایل شده منتخب بررسی می‌کند. انسان‌ها هنوز مالک ادعا و فرضیات هستند.

0:21 شما می‌توانید نتیجه را بدون باور به سخنرانی پیروزی مدل بررسی کنید. یک بررسی جداگانه تغییر بی‌سر و صدا سؤال را می‌گیرد. ما آن را تا تعاریف دنبال خواهیم کرد. سه‌شنبه، دهم نوامبر است و این The Daily Diff است. AlphaProof Code چارچوب گوگل برای نوشتن مشخصات نرم‌افزار با راهنمایی انسانی و تولید اثبات‌های بررسی شده با عوامل هوش مصنوعی است. این مطالعه libsignal، کتابخانه Rust که پروتکل پیام‌رسانی Signal را پیاده‌سازی می‌کند، را درون یک برنامه خط فرمان خاص هدف قرار می‌دهد.

0:45 گوگل امروز این کار را اعلام کرد. مقاله آن می‌گوید پنج محقق در طول چهار هفته کار کردند. عوامل اثبات‌ها را نوشتند، در حالی که انسان‌ها بیشتر تلاش خود را صرف مشخصات کردند. الزامات راهی برای تبدیل شدن به جلسات حتی گران‌تر پیدا کرده‌اند. مشخصات می‌گوید برنامه چه کاری باید انجام دهد،

چگونه یک ادعا به هدف اثبات تبدیل می‌شود؟

0:59 مهاجم چه چیزی را کنترل می‌کند و چه فرضیاتی برای استدلال لازم است. بازبینان می‌پرسند آیا این امنیت مورد نظر مردم را پوشش می‌دهد یا خیر. یک پاسخ عالی بررسی شده به یک سؤال ضعیف، آن سؤال را دست نخورده باقی می‌گذارد. این تیم بر اساس تحقیقات قبلی در مورد دست‌دهی Signal و چرخه کلید پیام آن کار می‌کند. تحلیل‌های رسمی از قبل این طرح‌ها را مطالعه کرده‌اند. ادعای گوگل استدلال‌های امنیتی آن‌ها را به پیاده‌سازی کامپایل شده یک کتابخانه تولیدی بدون تغییر متصل می‌کند، جایی که طرح باید از تماس با کد واقعی جان سالم به در ببرد. Ehren Kret، مدیر ارشد فناوری Signal،

1:27 گسترشی فراتر از محدوده‌های کوچک‌تر تأیید قبلی را توصیف می‌کند. جزئیات پیاده‌سازی شامل پیام‌های خارج از ترتیب و جلسات آرشیو شده برای پیام‌های تأخیری است. نرم‌افزار واقعی رسیدهایی را که نمودار زیبا شما دور انداخته است، نگه می‌دارد. محققان کتابخانه Rust بدون تغییر را با کامپایلر استاندارد

چرا باینری کامپایل شده را اثبات کنیم؟

1:41 به یک فایل اجرایی Arm 64 Linux کامپایل می‌کنند. قضایای آن‌ها آن باینری را با استفاده از یک مدل دستورالعمل رسمی توصیف می‌کنند، که شکاف بین کد منبع و کد ماشین بهینه شده را پوشش می‌دهد. یک خطای کامپایلر که یک ویژگی اعلام شده را از بین ببرد، قضیه آن را نادرست می‌کند. بنابراین کامپایلر پایه مورد اعتماد را برای این باینری ترک می‌کند. شما هنوز به مدل دستورالعمل و بررسی‌کننده Lean اعتماد دارید. مرز اعتماد جابه‌جا شد و آدرس دارد. حدود شش و نیم میلیون خط اثبات بررسی شده بر روی تقریباً بیست و شش

2:06 هزار خط مشخصات مورد اعتماد و معانی دستورالعمل تکیه دارد. اینها تعداد مصنوعات هستند. رفتار با آن‌ها به عنوان نمرات هوش، مانند رتبه‌بندی توسعه‌دهندگان بر اساس اندازه پوشه node modules آن‌ها است.

کدام ویژگی‌های امنیتی از شکاف پیاده‌سازی جان سالم به در بردند؟

2:16 این استدلال‌ها محرمانگی و احراز هویت پیام را پوشش می‌دهند، با رازداری رو به جلو و امنیت پس از نفوذ تحت مدل‌های اعلام شده. آن دو مورد آخر محدودیت‌ها بر آسیب کلید دزدیده شده و بازیابی پس از تبادلات جدید را توصیف می‌کنند. هر تضمین شرایطی برای مهاجم و جلسه دارد. اولیه های رمزنگاری پشت قراردادهای مورد اعتماد قرار دارند. این اثبات فرض می‌کند که این روال‌ها طبق مشخصات رفتار می‌کنند و بر فرضیات امنیتی رمزنگاری متکی است. یکی از اثبات‌ها رمزنگاری را ایده‌آل می‌کند؛ دیگری در مورد احتمالات موفقیت مهاجم استدلال می‌کند.

2:42 هر دو محدودیت‌هایی در سناریوهایی که پوشش می‌دهند دارند. بپرسید کدام ساخت، کدام ویژگی و کدام فرضیات. این نتیجه مربوط به برنامه خط فرمان محققان است. پیام‌رسانی گروهی کار آینده است و مدل محاسباتی وضعیت چند دستگاهی را شامل نمی‌شود. بی‌عیب و نقص نامیدن هر نصب Signal، خارج از قضیه است. محققان دو باگ قبلاً رفع شده Signal را به

آیا مشخصات می‌تواند کد خراب را رد کند؟

3:02 نسخه‌های جداگانه دوباره معرفی کرده و آن‌ها را کامپایل کردند. اثبات‌های بررسی شده نشان دادند که آن باینری‌ها قضیه امنیتی نمادین را نقض می‌کنند. این آزمایش کرد که آیا مشخصات می‌تواند پیاده‌سازی‌های خراب واقعی را رد کند یا خیر. علامت سبز شما به یک تست قرمز نیاز دارد. گوگل مشخصات و اثبات‌ها را با دستورالعمل‌های بررسی منتشر می‌کند. مخزن می‌گوید یک ساخت تمیز ساعت‌ها و حافظه قابل توجهی طول می‌کشد. خواندن اطلاعیه روی لپ‌تاپ بسیار آسان‌تر است. مدل سخت‌افزار و قراردادهای مورد اعتماد هنوز به بررسی نیاز دارند.

3:26 من مصنوع عظیم را برای این قسمت بازسازی نکرده‌ام. ما نتیجه منتشر شده و مرزهای آن را گزارش می‌دهیم. افراد خارجی راهی برای بازرسی آن دارند، که برای من مهم‌تر از یک پیروزی دیگر هوش مصنوعی است. حالا تله.

آیا یک اثبات صحیح می‌تواند به سوال اشتباه پاسخ دهد؟

3:36 Lean می‌تواند یک اثبات صحیح از یک گزاره را که تقریباً هیچ چیز نمی‌خواهد، بپذیرد. فرضیات غیرممکن می‌توانند یک قضیه را تهی کنند. تغییر یک تعریف که زیر قضیه اصلی پنهان شده است، می‌تواند هدف را تضعیف کند. این مقاله بررسی‌هایی را در برابر این مسئله طراحی می‌کند. نگهبان یک مشخصات تأیید شده نگه داشته شده را که عوامل اثبات نمی‌توانند در آن بنویسند، نگه می‌دارد. آن‌ها می‌توانند اصلاحات را از طریق یک فرآیند اصلاح جداگانه پیشنهاد دهند. تضعیف امنیتی به عنوان یک باگ احتمالی ارتقا می‌یابد. اعلام موفقیت اثبات‌کننده در اینجا هیچ قدرتی ندارد.

4:00 انسان‌ها تغییرات در فرضیات مورد اعتماد را داوری می‌کنند، مستقیم یا از طریق سیاست خود، و اصلاحات را پس از هر کمپین بررسی می‌کنند. قضاوت متخصصان در معرض خطر باقی می‌ماند. عامل می‌تواند یک مأموریت متفاوت درخواست کند. نمی‌تواند به خود نمره قبولی بدهد.

چه چیزی اهداف متحرک را می‌گیرد؟

4:13 این هم بررسی وعده داده شده. مقایسه‌کننده Lean قضیه و هر تعریفی که به آن وابسته است را با آن نسخه تأیید شده محافظت شده مقایسه می‌کند. همچنین اصول موضوعی مجاز را بررسی می‌کند و اثبات را در یک هسته تازه بازپخش می‌کند. بنابراین تضعیف بی‌سر و صدای یک تعریف کمکی، چیزی را که در حال مقایسه است، تغییر می‌دهد. یک اثبات پذیرفته شده باید هدف تأیید شده را اثبات کند. این هنوز انسان‌ها را مسئول انتخاب یک هدف قوی و فرضیات صادقانه می‌کند. برای گردش کار هوش مصنوعی خود، معیارهای پذیرش را خارج از

4:37 مجوزهای ویرایش کننده کارگر نگه دارید و تغییرات پیشنهادی را جداگانه بررسی کنید. نتیجه گوگل این جداسازی را ملموس می‌کند. نویسنده اثبات کار را انجام می‌دهد؛ مرز بررسی تصمیم می‌گیرد که آیا آن شمارش می‌شود یا خیر. اگر ترجیح می‌دهید این را بخوانید تا اینکه من بگویم، diff هر روز صبح، رایگان در thedailydiff.dev، لینک زیر، به صندوق ورودی شما می‌رسد. هر روز صبح، رایگان در daily diff dot dev، لینک زیر، به صندوق ورودی شما می‌رسد. بنابراین حکم امروز SHIP IT است.

آیا من این گردش کار اثبات را منتشر می‌کنم؟

4:54 من این گردش کار اثبات بررسی شده را منتشر می‌کنم زیرا ادعای تأیید شده از عاملی که پاسخ را تولید می‌کند، جدا می‌ماند. محدوده و فرضیات را به هر نتیجه‌ای وصل می‌کنم. مشترک شوید، زنگ را بزنید، و در نظرات به من بگویید اگر شما آن را متفاوت مهر می‌زدید. و این diff برای امروز است. من نیکو از Axrisi هستم. مسئولانه ادغام کنید.

منابع

1. AlphaProof Code: Verifying Signal's Security at the Machine-Code Level — technical scope, trusted base and gatekeepingSwarat Chaudhuri and colleagues / Google DeepMind and Google
2. Introducing AlphaProof Code — November 10 announcement and attributed Signal CTO responsePushmeet Kohli and Swarat Chaudhuri / Google DeepMind
3. Code-verification repository — initial commit, public artifacts and checking instructionsGoogle DeepMind / GitHub
4. The PQXDH Key Agreement Protocol — older official specification and prior-analysis contextEhren Kret and Rolfe Schmidt / Signal
5. The Double Ratchet Algorithm — Triple Ratchet sectionTrevor Perrin, Moxie Marlinspike and Rolfe Schmidt / Signal
6. Google DeepMind leadership — Demis Hassabis's relevant lab identityGoogle DeepMind
7. Demis Hassabis in 2025 — authentic portrait, cropped/resized/compressed and unflipped; no background removal or generated expression/detail; lab identity only, no authorship, proof writing, current reaction or endorsementChristopher P. Michel / Cmichel67 / Wikimedia Commons
8. Portrait licence — CC BY-SA 4.0; attribution, adaptation disclosure and ShareAlikeCreative Commons
9. Expanding Brain template — cropped/captioned artifact-count satire, brief transformed <=2s commentary; no benchmark, hosting licence, legal-clearance or blanket reuse claimImgflip / user-uploaded meme template
10. Tom and Jerry — Boomerang Official actual animated reaction, silent resized/captioned 1.875s excerpt; brief transformed process commentary, no actual researcher or executive reaction, hosting licence, legal-clearance or blanket reuse claimBoomerang Official / GIPHY / Tom and Jerry
11. Boomerang GIF source link — uploader-provided provenanceBoomerang
12. AlphaProof Code discussion — attention context, anonymous opinions excluded from factual proof claimsHacker News
13. Code-verification licence — Apache 2.0 for Google code, third-party licences retainedGoogle / GitHub