আলফাপ্রুফ কোড এবং সিগন্যাল: চেক করা মেশিন-কোড সিকিউরিটি প্রুফ এবং বিশ্বস্ত অনুমান

এই ভিডিওতে যা আছে

• এআই এজেন্ট প্রার্থী প্রুফ তৈরি করে; লিনের কার্নেল পরীক্ষা করে যে তারা মানব-অনুমোদিত আনুষ্ঠানিক দাবি প্রতিষ্ঠা করে কিনা।
• যাচাইকৃত লক্ষ্য হল একটি নির্দিষ্ট সংকলিত লিবসিগন্যাল CLI হার্নেস, বিশ্বস্ত সেম্যান্টিক্স এবং ক্রিপ্টোগ্রাফিক চুক্তি সহ।
• সংকলিত বাইনারি প্রমাণ করা সেই বাইনারির বিবৃত বৈশিষ্ট্যের জন্য বিশ্বস্ত ভিত্তি থেকে রাস্ট কম্পাইলারকে সরিয়ে দেয়।
• গবেষকরা পূর্বে ঠিক করা বাগগুলির দুটি বিচ্ছিন্ন পুনঃপ্রবর্তন রিপোর্ট করেছেন যা তাদের প্রতীকী সুরক্ষা থিওরেম লঙ্ঘন করে।
• তুলনাকারী সুরক্ষিত অনুমোদিত স্পেসিফিকেশনের বিরুদ্ধে থিওরেম এবং প্রতিটি নির্ভরশীল সংজ্ঞা পরীক্ষা করে; সংশোধনীগুলি একটি পৃথক পর্যালোচিত প্রক্রিয়ার মাধ্যমে পাস হয়।

অনুবাদিত প্রতিলিপি

মূল ইংরেজি বর্ণনা থেকে অনূদিত। উপলব্ধ অডিও এবং ক্যাপশন YouTube দ্বারা নিয়ন্ত্রিত।

কে একটি AI নিরাপত্তা প্রমাণ পরীক্ষা করে?

0:00 একটি AI নিরাপত্তা নিরীক্ষা এখনও একটি চ্যাটবটকে বিশ্বাস করার মতো শোনাচ্ছে। গুগলের নতুন সিগন্যাল ফলাফল গণিত প্রমাণ সহ আসে যা একটি পৃথক কার্নেল পরীক্ষা করে। এই ভিডিওতে, গুগল কী প্রমাণ করেছে? এবং তারা কীভাবে একজন এজেন্টকে গোলপোস্ট সরাতে বাধা দেয়? এখানে দরকারী উত্তর আছে। মডেলগুলি প্রার্থী প্রমাণ লেখে, এবং লিন প্রমাণগুলি একটি মানব-অনুমোদিত দাবির বিপরীতে পরীক্ষা করে যা নির্বাচিত সংকলিত কোড সম্পর্কে। মানুষ এখনও দাবি এবং অনুমানের মালিক।

0:21 আপনি মডেলের বিজয়ী বক্তৃতা বিশ্বাস না করেও ফলাফলটি পরীক্ষা করতে পারেন। একটি পৃথক পরীক্ষা চুপচাপ প্রশ্ন পরিবর্তন করা ধরে ফেলে। আমরা সংজ্ঞাগুলিতে এর অনুসরণ করব। আজ মঙ্গলবার, নভেম্বর মাসের দশ তারিখ, এবং এটি The Daily Diff। আলফাপ্রুফ কোড হল গুগল এর একটি কাঠামো যা সফটওয়্যার স্পেসিফিকেশন লেখার জন্য মানব নির্দেশিকা সহ এবং এআই এজেন্টদের সাথে চেক করা প্রমাণ তৈরি করে। এই অধ্যয়নটি লিবসিগন্যালকে লক্ষ্য করে, একটি নির্দিষ্ট কমান্ড-লাইন প্রোগ্রামের ভিতরে সিগন্যালের মেসেজিং প্রোটোকল প্রয়োগকারী রাস্ট লাইব্রেরি।

0:45 গুগল আজ এই কাজের ঘোষণা দিয়েছে। এর গবেষণাপত্র বলে যে পাঁচজন গবেষক চার সপ্তাহ ধরে কাজ করেছেন। এজেন্টরা প্রমাণগুলি লিখেছেন, যখন মানুষ তাদের বেশিরভাগ প্রচেষ্টা ব্যয় করেছেন স্পেসিফিকেশনের উপর। প্রয়োজনীয়তাগুলি আরও ব্যয়বহুল মিটিংয়ে পরিণত হওয়ার একটি উপায় খুঁজে পেয়েছে। স্পেসিফিকেশন বলে যে প্রোগ্রামটি কী করতে হবে,

কীভাবে একটি দাবি একটি প্রুফ টার্গেটে পরিণত হয়?

0:59 একজন আক্রমণকারী কী নিয়ন্ত্রণ করে, এবং যুক্তির জন্য কোন অনুমানের প্রয়োজন। পর্যবেক্ষকরা জিজ্ঞাসা করেন যে এটি নিরাপত্তা নিয়ে মানুষের উদ্বেগকে ধরে রাখে কিনা। একটি দুর্বল প্রশ্নের একটি সুন্দরভাবে চেক করা উত্তর সেই প্রশ্নটিকে অক্ষত রাখে। দলটি সিগন্যালের হ্যান্ডশেক এবং এর মেসেজ-কী র্যাচেট নিয়ে পূর্ববর্তী গবেষণার উপর ভিত্তি করে তৈরি করেছে। আনুষ্ঠানিক বিশ্লেষণগুলি ইতিমধ্যেই সেই নকশাগুলি অধ্যয়ন করেছে। গুগলের দাবি তাদের নিরাপত্তা যুক্তিগুলিকে একটি অপরিবর্তিত উৎপাদন লাইব্রেরির সংকলিত বাস্তবায়নের সাথে সংযুক্ত করে, যেখানে নকশাটিকে প্রকৃত কোডের সংস্পর্শে টিকে থাকতে হয়। সিগন্যালের প্রধান প্রযুক্তি কর্মকর্তা, এহরেন ক্রেট,

1:27 পূর্ববর্তী যাচাইকরণের ছোট ক্ষেত্রগুলির বাইরে একটি প্রসারণ বর্ণনা করেছেন। বাস্তবায়নের বিবরণের মধ্যে রয়েছে আউট-অফ-অর্ডার বার্তা এবং বিলম্বিত বার্তার জন্য আর্কাইভ করা সেশন। প্রকৃত সফটওয়্যার আপনার মার্জিত ডায়াগ্রামটি ফেলে দেওয়া রসিদগুলি রাখে। গবেষকরা অপরিবর্তিত রাস্ট লাইব্রেরিটিকে স্ট্যান্ডার্ড

কেন সংকলিত বাইনারি প্রমাণ করবেন?

1:41 কম্পাইলার দিয়ে একটি আর্ম সিক্সটি-ফোর লিনাক্স এক্সিকিউটেবলে সংকলন করেন। তাদের থিওরেমগুলি একটি আনুষ্ঠানিক নির্দেশনা মডেল ব্যবহার করে সেই বাইনারিটিকে বর্ণনা করে, সোর্স এবং অপ্টিমাইজ করা মেশিন কোডের মধ্যে ব্যবধান জুড়ে পৌঁছে। একটি কম্পাইলার ত্রুটি যা একটি বিবৃত বৈশিষ্ট্য ভেঙে দেয় তা তার থিওরেমকে মিথ্যা করে তুলবে। সুতরাং, এই বাইনারির জন্য কম্পাইলার বিশ্বস্ত ভিত্তি থেকে বাদ পড়ে। আপনি এখনও নির্দেশনা মডেল এবং লিনের চেকারকে বিশ্বাস করেন। বিশ্বাসের সীমা স্থানান্তরিত হয়েছে, এবং এর একটি ঠিকানা আছে। প্রায় সাড়ে ছয় মিলিয়ন লাইন চেক করা প্রমাণ প্রায় ছাব্বিশ

2:06 হাজার বিশ্বস্ত স্পেসিফিকেশন এবং নির্দেশনা-সিমান্টিক্স লাইনের উপর নির্ভর করে। এগুলি আর্টিফ্যাক্টের সংখ্যা। এগুলিকে বুদ্ধিমত্তার স্কোর হিসাবে বিবেচনা করা ডেভেলপারদের তাদের নোড মডিউল ফোল্ডারের আকার দ্বারা র্যাঙ্ক করার মতো।

কোন নিরাপত্তা বৈশিষ্ট্যগুলি বাস্তবায়ন ব্যবধান থেকে টিকে ছিল?

2:16 যুক্তিগুলি মেসেজ গোপনীয়তা এবং প্রমাণীকরণকে কভার করে, বিবৃত মডেলগুলির অধীনে ফরোয়ার্ড সিক্রেসি এবং পোস্ট-কম্প্রোমাইজ সিকিউরিটি সহ। শেষ দুটি চুরি করা-কী ক্ষতির সীমা এবং নতুন আদান-প্রদানের পরে পুনরুদ্ধার বর্ণনা করে। প্রতিটি গ্যারান্টির আক্রমণকারী এবং সেশনের উপর শর্ত থাকে। ক্রিপ্টোগ্রাফিক প্রিমিটিভগুলি বিশ্বস্ত চুক্তির পিছনে থাকে। প্রমাণ অনুমান করে যে এই রুটিনগুলি বর্ণিত হিসাবে আচরণ করে এবং ক্রিপ্টোগ্রাফিক নিরাপত্তা অনুমানের উপর নির্ভর করে। একটি প্রমাণ ক্রিপ্টোগ্রাফিকে আদর্শ করে; অন্যটি আক্রমণকারীর সাফল্যের সম্ভাব্যতা নিয়ে যুক্তি দেয়।

2:42 উভয়টিরই তাদের কভার করা পরিস্থিতিতে সীমাবদ্ধতা রয়েছে। জিজ্ঞাসা করুন কোন বিল্ড, কোন বৈশিষ্ট্য এবং কোন অনুমান। এই ফলাফলটি গবেষকদের কমান্ড-লাইন হার্নেস সম্পর্কিত। গ্রুপ মেসেজিং ভবিষ্যতের কাজ, এবং কম্পিউটেশনাল মডেল মাল্টি-ডিভাইস স্টেট বাদ দেয়। প্রতিটি সিগন্যাল ইনস্টলেশনকে বাগ-মুক্ত বলা থিওরেমের বাইরে। গবেষকরা পূর্বে ঠিক করা সিগন্যালের দুটি বাগ বিচ্ছিন্ন কপিগুলিতে

স্পেসিফিকেশন কি ভাঙা কোড প্রত্যাখ্যান করতে পারে?

3:02 পুনরায় চালু করেছেন এবং সেগুলিকে সংকলন করেছেন। চেক করা প্রমাণগুলি দেখিয়েছে যে সেই বাইনারিগুলি প্রতীকী নিরাপত্তা থিওরেম লঙ্ঘন করেছে। এটি পরীক্ষা করেছে যে স্পেসিফিকেশনটি বাস্তব ত্রুটিপূর্ণ বাস্তবায়নগুলি প্রত্যাখ্যান করতে পারে কিনা। আপনার সবুজ টিকচিহ্নের একটি লাল পরীক্ষার প্রয়োজন। গুগল চেকিং নির্দেশাবলী সহ স্পেসিফিকেশন এবং প্রমাণ প্রকাশ করে। রিপোজিটরি বলে যে একটি পরিষ্কার বিল্ডে ঘন্টা এবং যথেষ্ট মেমরি লাগে। ল্যাপটপে ঘোষণাটি পড়া অনেক সহজ। হার্ডওয়্যার মডেল এবং বিশ্বস্ত চুক্তিগুলির এখনও পর্যালোচনার প্রয়োজন।

3:26 আমি এই পর্বের জন্য বিশাল আর্টিফ্যাক্টটি পুনরায় তৈরি করিনি। আমরা প্রকাশিত ফলাফল এবং এর সীমানা রিপোর্ট করছি। বাইরের লোকদের এটি পরিদর্শন করার একটি পথ আছে, যা আমার কাছে অন্য একটি AI বিজয় ল্যাপের চেয়ে বেশি গুরুত্বপূর্ণ। এখন ফাঁদ।

একটি সঠিক প্রমাণ কি ভুল প্রশ্নের উত্তর দিতে পারে?

3:36 লিন এমন একটি বিবৃতির একটি সঠিক প্রমাণ গ্রহণ করতে পারে যা প্রায় কিছুই চায় না। অসম্ভব অনুমানগুলি একটি থিওরেমকে শূন্য করতে পারে। শিরোনাম থিওরেমের নিচে চাপা পড়া একটি সংজ্ঞা পরিবর্তন করা লক্ষ্যকে দুর্বল করতে পারে। গবেষণাপত্রটি এর বিরুদ্ধে পরীক্ষা করার জন্য ডিজাইন করে। গেটকিপার একটি ধারণ করা অনুমোদিত স্পেসিফিকেশন রাখে যা প্রমাণ এজেন্টরা লিখতে পারে না। তারা একটি পৃথক সংশোধন প্রক্রিয়ার মাধ্যমে সংশোধন প্রস্তাব করতে পারে। নিরাপত্তা দুর্বলতাকে একটি সম্ভাব্য বাগ হিসাবে উত্থাপন করা হয়। প্রমাণকারীর সাফল্যের ঘোষণায় এখানে কোনো কর্তৃত্ব নেই।

4:00 মানুষ বিশ্বস্ত অনুমানগুলিতে পরিবর্তনগুলি বিচার করে, সরাসরি বা তাদের নীতির মাধ্যমে, এবং প্রতিটি ক্যাম্পেইনের পরে সংশোধনগুলি পর্যালোচনা করে। বিশেষজ্ঞের রায় জড়িত থাকে। এজেন্ট একটি ভিন্ন অ্যাসাইনমেন্টের অনুরোধ করতে পারে। এটি নিজেকে পাসিং গ্রেড দিতে পারে না।

কীভাবে পরিবর্তনশীল লক্ষ্যবস্তুকে ধরা যায়?

4:13 এখানে প্রতিশ্রুত চেক আছে। লিনের তুলনাকারী থিওরেম এবং এটি যে প্রতিটি সংজ্ঞার উপর নির্ভর করে তা সেই সুরক্ষিত অনুমোদিত কপির সাথে তুলনা করে। এটি অনুমোদিত অক্ষগুলিও পরীক্ষা করে এবং একটি নতুন কার্নেলে প্রমাণটি পুনরায় চালায়। তাই একটি সহায়ক সংজ্ঞা চুপচাপ দুর্বল করা হলে যে জিনিসটি তুলনা করা হচ্ছে তা পরিবর্তিত হয়। একটি গৃহীত প্রমাণকে অনুমোদিত লক্ষ্যটি প্রতিষ্ঠা করতে হবে। এটি এখনও মানুষকে একটি শক্তিশালী লক্ষ্য এবং সৎ অনুমান বেছে নেওয়ার জন্য দায়ী রাখে। আপনার নিজস্ব AI ওয়ার্কফ্লোর জন্য, গ্রহণযোগ্যতার মানদণ্ডগুলিকে

4:37 কর্মীর সম্পাদনা অনুমতিগুলির বাইরে রাখুন এবং প্রস্তাবিত পরিবর্তনগুলি আলাদাভাবে পর্যালোচনা করুন। গুগলের ফলাফল সেই বিচ্ছেদকে মূর্ত করে তোলে। প্রমাণ লেখক কাজটি করেন; চেকিং সীমানা সিদ্ধান্ত নেয় যে এটি গণনা করা হয় কিনা। আপনি যদি এটি আমার কথা শোনার চেয়ে পড়তে পছন্দ করেন, তাহলে ডিফারেন্স আপনার ইনবক্সে আসে প্রতিদিন সকালে, daily diff dot dev এ বিনামূল্যে, লিংক নিচে। সুতরাং আজকের রায় হল SHIP IT।

আমি কি এই প্রুফ ওয়ার্কফ্লোটি শিপ করব?

4:54 আমি এই চেক করা-প্রমাণ ওয়ার্কফ্লোটি শিপ করব কারণ অনুমোদিত দাবি উত্তর প্রদানকারী এজেন্টের থেকে আলাদা থাকে। আমি প্রতিটি ফলাফলের সাথে সুযোগ এবং অনুমানগুলি সংযুক্ত রাখব। সাবস্ক্রাইব করুন, বেল টিপুন, এবং মন্তব্যগুলিতে আমাকে জানান যদি আপনি এটি ভিন্নভাবে স্ট্যাম্প করতেন। এবং আজকের জন্য এই হল ডিফারেন্স। আমি এক্সরিসি থেকে নিকো। দায়িত্বের সাথে মার্জ করুন।

উৎস

1. AlphaProof Code: Verifying Signal's Security at the Machine-Code Level — technical scope, trusted base and gatekeepingSwarat Chaudhuri and colleagues / Google DeepMind and Google
2. Introducing AlphaProof Code — November 10 announcement and attributed Signal CTO responsePushmeet Kohli and Swarat Chaudhuri / Google DeepMind
3. Code-verification repository — initial commit, public artifacts and checking instructionsGoogle DeepMind / GitHub
4. The PQXDH Key Agreement Protocol — older official specification and prior-analysis contextEhren Kret and Rolfe Schmidt / Signal
5. The Double Ratchet Algorithm — Triple Ratchet sectionTrevor Perrin, Moxie Marlinspike and Rolfe Schmidt / Signal
6. Google DeepMind leadership — Demis Hassabis's relevant lab identityGoogle DeepMind
7. Demis Hassabis in 2025 — authentic portrait, cropped/resized/compressed and unflipped; no background removal or generated expression/detail; lab identity only, no authorship, proof writing, current reaction or endorsementChristopher P. Michel / Cmichel67 / Wikimedia Commons
8. Portrait licence — CC BY-SA 4.0; attribution, adaptation disclosure and ShareAlikeCreative Commons
9. Expanding Brain template — cropped/captioned artifact-count satire, brief transformed <=2s commentary; no benchmark, hosting licence, legal-clearance or blanket reuse claimImgflip / user-uploaded meme template
10. Tom and Jerry — Boomerang Official actual animated reaction, silent resized/captioned 1.875s excerpt; brief transformed process commentary, no actual researcher or executive reaction, hosting licence, legal-clearance or blanket reuse claimBoomerang Official / GIPHY / Tom and Jerry
11. Boomerang GIF source link — uploader-provided provenanceBoomerang
12. AlphaProof Code discussion — attention context, anonymous opinions excluded from factual proof claimsHacker News
13. Code-verification licence — Apache 2.0 for Google code, third-party licences retainedGoogle / GitHub