ລະຫັດ AlphaProof ແລະສັນຍານ: ການກວດສອບຫຼັກຖານຄວາມປອດໄພຂອງລະຫັດເຄື່ອງຈັກ ແລະການສົມມຸດຕິຖານທີ່ໜ້າເຊື່ອຖື

Google DeepMind ລາຍງານຫຼັກຖານທີ່ກວດສອບດ້ວຍເຄື່ອງຈັກກ່ຽວກັບຄຸນສົມບັດຄວາມປອດໄພທີ່ເລືອກໄວ້ສຳລັບເຄື່ອງມືເສີມຄຳສັ່ງຂອງ libsignal ທີ່ຖືກຄອມໄພລ໌ແລ້ວ. Lean ກວດສອບຫຼັກຖານ, ໃນຂະນະທີ່ມະນຸດອະນຸມັດຂໍ້ກຳນົດ ແລະການສົມມຸດຕິຖານຂອງມັນ. ຕົວປຽບທຽບແຍກຕ່າງຫາກກວດສອບທິດສະດີ ແລະທຸກນິຍາມທີ່ກ່ຽວຂ້ອງກັບເປົ້າໝາຍທີ່ຖືກອະນຸມັດແລ້ວ.

ອ່ານສະບັບລາຍລັກອັກສອນ (ພາສາອັງກິດ) ↗

ສິ່ງທີ່ວິດີໂອນີ້ກວມເອົາ

ຕົວແທນ AI ຜະລິດຫຼັກຖານຕົວແບບ; kernel ຂອງ Lean ກວດສອບວ່າພວກມັນສ້າງການອ້າງສິດຢ່າງເປັນທາງການທີ່ໄດ້ຮັບການອະນຸມັດຈາກມະນຸດຫຼືບໍ່.
ເປົ້າໝາຍທີ່ຖືກຢືນຢັນແມ່ນເຄື່ອງມືເສີມຄຳສັ່ງຂອງ libsignal CLI ທີ່ຖືກຄອມໄພລ໌ແລ້ວ, ໂດຍມີຄວາມໝາຍທາງ semantics ແລະສັນຍາ cryptographic ທີ່ເຊື່ອຖືໄດ້.
ການພິສູດ binary ທີ່ຖືກຄອມໄພລ໌ອອກຈາກ Rust compiler ຈາກພື້ນຖານທີ່ເຊື່ອຖືໄດ້ສໍາລັບຄຸນສົມບັດທີ່ລະບຸໄວ້ຂອງ binary ນັ້ນ.
ນັກຄົ້ນຄວ້າລາຍງານການນຳກັບມາໃຊ້ຄືນສອງຂໍ້ຜິດພາດທີ່ຖືກແກ້ໄຂກ່ອນໜ້ານີ້ທີ່ລະເມີດທິດສະດີຄວາມປອດໄພແບບສັນຍາລັກຂອງພວກເຂົາ.
ຕົວປຽບທຽບກວດສອບທິດສະດີ ແລະທຸກນິຍາມທີ່ຂຶ້ນກັບມັນຕໍ່ກັບຂໍ້ກຳນົດທີ່ໄດ້ຮັບການປົກປ້ອງ; ການແກ້ໄຂຖືກຜ່ານຂັ້ນຕອນການທົບທວນແຍກຕ່າງຫາກ.

ຄຳຖາມແລະຄຳຕອບ

ລະຫັດ AlphaProof ໄດ້ພິສູດຫຍັງກ່ຽວກັບການຈັດຕັ້ງປະຕິບັດ Signal?

Google DeepMind ລາຍງານຫຼັກຖານທີ່ຖືກກວດສອບກ່ຽວກັບຄຸນສົມບັດຄວາມປອດໄພທີ່ຖືກເລືອກໄວ້ສໍາລັບເຄື່ອງມືເສີມເສັ້ນຄໍາສັ່ງຂອງ libsignal ທີ່ຖືກຄອມໄພລ໌. ເອກະສານທາງດ້ານເທັກນິກກວມເອົາຄວາມລັບຂອງຂໍ້ຄວາມ ແລະການພິສູດຢືນຢັນ, ດ້ວຍຄວາມລັບຕໍ່ໄປ ແລະຄວາມປອດໄພຫຼັງການຖືກລັກຂໍ້ມູນພາຍໃຕ້ຮູບແບບທີ່ລະບຸໄວ້. ຜົນໄດ້ຮັບຍັງຄົງມີເງື່ອນໄຂກ່ຽວກັບຜູ້ໂຈມຕີ, ເຊດຊັນ ແລະສົມມຸດຕິຖານ cryptographic. ຂອບເຂດຂອງມັນບໍ່ລວມການຮັບປະກັນຢ່າງຄົບຖ້ວນສໍາລັບທຸກແອັບພລິເຄຊັນ ຫຼືການຕິດຕັ້ງ Signal.

ເບິ່ງພາກນີ້ 2:16 · Swarat Chaudhuri and colleagues / Google DeepMind and Google · Pushmeet Kohli and Swarat Chaudhuri / Google DeepMind · Google DeepMind / GitHub

ໃຜເປັນຜູ້ຕັດສິນໃຈວ່າຫຼັກຖານຄວາມປອດໄພທີ່ສ້າງຂຶ້ນໂດຍ AI ຕ້ອງສ້າງຕັ້ງຫຍັງ?

ຜູ້ທົບທວນມະນຸດອະນຸມັດຂໍ້ກຳນົດ ແລະການສົມມຸດຕິຖານຂອງມັນ. ເອກະສານທາງວິຊາການຂອງ Google DeepMind ອະທິບາຍວ່າຕົວແທນສ້າງຂໍ້ກຳນົດດ້ວຍຄຳແນະນຳຈາກມະນຸດ ແລະຜູ້ທົບທວນທົດສອບວ່າຄຳກ່າວອ້າງເຫຼົ່ານັ້ນກວມເອົາຄຸນສົມບັດຄວາມປອດໄພທີ່ມີຄວາມໝາຍຫຼືບໍ່. Lean ກວດສອບເຫດຜົນຂອງຫຼັກຖານທີ່ໄດ້ຮັບ. ມະນຸດຍັງຄົງຮັບຜິດຊອບໃນການເລືອກເປົ້າໝາຍທີ່ເຂັ້ມແຂງ, ທົບທວນການສົມມຸດຕິຖານ ແລະຕັດສິນການປ່ຽນແປງທີ່ສະເໜີຕໍ່ຂໍ້ກຳນົດທີ່ໄດ້ຮັບການອະນຸມັດ.

ເບິ່ງພາກນີ້ 0:57 · Swarat Chaudhuri and colleagues / Google DeepMind and Google

ເປັນຫຍັງຈຶ່ງຕ້ອງກວດສອບລະຫັດເຄື່ອງຈັກທີ່ຖືກຄອມໄພລ໌ແລ້ວ ແທນທີ່ຈະເຊື່ອຖື Rust compiler?

ຫຼັກຖານກ່ຽວກັບ binary ທີ່ຖືກຄອມໄພລ໌ແລ້ວສ້າງຕັ້ງຄຸນສົມບັດທີ່ລະບຸໄວ້ສໍາລັບ artifact ນັ້ນໂດຍກົງ. ເອກະສານຂອງ Google DeepMind ອະທິບາຍວ່າຂໍ້ຜິດພາດຂອງ compiler ທີ່ລະເມີດຄຸນສົມບັດເຫຼົ່ານັ້ນຈະເຮັດໃຫ້ທິດສະດີຜິດ. ດັ່ງນັ້ນ Rust compiler ຈຶ່ງອອກຈາກພື້ນຖານທີ່ເຊື່ອຖືໄດ້ສໍາລັບຄໍາຮ້ອງຂໍນີ້. ຫຼັກຖານຍັງຄົງເຊື່ອຖືຕົວແບບຄໍາສັ່ງ, kernel ຂອງ Lean ແລະສັນຍາ cryptographic ທີ່ລະບຸໄວ້.

ເບິ່ງພາກນີ້ 1:39 · Swarat Chaudhuri and colleagues / Google DeepMind and Google · Google DeepMind / GitHub

ຕົວປຽບທຽບຢຸດຕົວແທນຫຼັກຖານບໍ່ໃຫ້ເຮັດໃຫ້ເປົ້າໝາຍຂອງມັນອ່ອນແອລົງໄດ້ແນວໃດ?

ຕົວປຽບທຽບກວດສອບທິດສະດີ ແລະທຸກນິຍາມທີ່ມັນຂຶ້ນກັບຕໍ່ກັບຂໍ້ກຳນົດທີ່ຖືກປົກປ້ອງທີ່ໄດ້ຮັບການອະນຸມັດ. ເອກະສານຂອງ Google DeepMind ກ່າວວ່າຕົວແທນຫຼັກຖານບໍ່ສາມາດຂຽນໃສ່ສຳເນົາທີ່ຖືກເກັບໄວ້ນັ້ນໄດ້. ຕົວສອບທານຍັງກວດສອບ axioms ທີ່ຖືກອະນຸຍາດ ແລະຫຼິ້ນຫຼັກຖານຄືນໃໝ່ໃນ kernel ໃໝ່. ການແກ້ໄຂຂໍ້ກຳນົດທີ່ສະເໜີແມ່ນປະຕິບັດຕາມຂະບວນການທົບທວນແຍກຕ່າງຫາກ, ໃນຂະນະທີ່ມະນຸດຍັງຄົງຮັບຜິດຊອບຕໍ່ຄວາມແຂງແຮງຂອງເປົ້າໝາຍ.

ເບິ່ງພາກນີ້ 3:36 · Swarat Chaudhuri and colleagues / Google DeepMind and Google · Google DeepMind / GitHub

ຄຳຕັດສິນຂອງ The Daily Diff ກ່ຽວກັບຂັ້ນຕອນການເຮັດວຽກທີ່ຖືກກວດສອບແມ່ນຫຍັງ?

ຄຳຕັດສິນຂອງ The Daily Diff ແມ່ນ SHIP IT. Niko ຈະເຜີຍແຜ່ຂັ້ນຕອນການເຮັດວຽກທີ່ຖືກກວດສອບເພາະວ່າການອ້າງສິດທີ່ໄດ້ຮັບການອະນຸມັດຍັງແຍກອອກຈາກຕົວແທນທີ່ຜະລິດຄໍາຕອບ. ລາວຈະຮັກສາຂອບເຂດແລະສົມມຸດຕິຖານທີ່ຕິດຢູ່ກັບທຸກໆຜົນໄດ້ຮັບ. ຕອນນີ້ລາຍງານວັດຖຸບູຮານຫຼັກຖານທີ່ຖືກເຜີຍແຜ່ຂອງ Google ໂດຍບໍ່ໄດ້ສ້າງມັນຄືນໃໝ່ໂດຍເອກະລາດ ແລະອະນຸມັດຂັ້ນຕອນການເຮັດວຽກພາຍໃນຂອບເຂດຫຼັກຖານເຫຼົ່ານັ້ນ.

ເບິ່ງພາກນີ້ 4:53 · Swarat Chaudhuri and colleagues / Google DeepMind and Google · Pushmeet Kohli and Swarat Chaudhuri / Google DeepMind · Google DeepMind / GitHub

ບົດບັນທຶກທີ່ແປແລ້ວ

ແປຈາກຄຳບັນຍາຍຕົ້ນສະບັບພາສາອັງກິດ. ສຽງ ແລະ ຄຳບັນຍາຍທີ່ມີໃຫ້ແມ່ນຄວບຄຸມໂດຍ YouTube.

ໃຜເປັນຜູ້ກວດສອບຫຼັກຖານຄວາມປອດໄພຂອງ AI?

0:00 ການກວດສອບຄວາມປອດໄພຂອງ AI ຍັງຄົງຄ້າຍຄືກັບການເຊື່ອຖື chatbot. ຜົນຂອງ Signal ໃໝ່ຂອງ Google ມາພ້ອມກັບຫຼັກຖານທາງຄະນິດສາດຂອງ kernel ທີ່ແຍກຕ່າງຫາກ ກວດສອບ. ໃນວິດີໂອນີ້, Google ໄດ້ພິສູດຫຍັງ? ແລະພວກເຂົາຢຸດຕົວແທນບໍ່ໃຫ້ປ່ຽນແປງເປົ້າໝາຍໄດ້ແນວໃດ? ນີ້ແມ່ນຄຳຕອບທີ່ເປັນປະໂຫຍດ. ໂມເດວຂຽນຫຼັກຖານຕົວແບບ, ແລະ Lean ກວດສອບຫຼັກຖານຕໍ່ກັບ ຄຳຮ້ອງຂໍທີ່ໄດ້ຮັບການອະນຸມັດຈາກມະນຸດກ່ຽວກັບລະຫັດທີ່ຖືກຄອມໄພລ໌ທີ່ຖືກເລືອກ. ມະນຸດຍັງເປັນເຈົ້າຂອງຄຳຮ້ອງຂໍ ແລະສົມມຸດຕິຖານ.

0:21 ທ່ານສາມາດກວດສອບຜົນໄດ້ຮັບໂດຍບໍ່ຕ້ອງເຊື່ອຖືຄຳກ່າວອ້າງໄຊຊະນະຂອງໂມເດວ. ການກວດສອບແຍກຕ່າງຫາກກວດພົບການປ່ຽນແປງຄຳຖາມຢ່າງງຽບໆ. ພວກເຮົາຈະຕິດຕາມມັນລົງໄປຫາຄໍານິຍາມ. ມັນແມ່ນວັນອັງຄານ, ວັນທີສິບພະຈິກ, ແລະນີ້ແມ່ນ The Daily Diff. AlphaProof Code ແມ່ນກອບຂອງ Google ສໍາລັບການຂຽນຂໍ້ກໍານົດຊອບແວດ້ວຍ ການຊີ້ນໍາຂອງມະນຸດ ແລະການສ້າງຫຼັກຖານທີ່ຖືກກວດສອບດ້ວຍຕົວແທນ AI. ການສຶກສານີ້ແມ່ນແນໃສ່ libsignal, ຫ້ອງສະໝຸດ Rust ທີ່ປະຕິບັດໂປຣໂຕຄໍການສົ່ງຂໍ້ຄວາມຂອງ Signal, ພາຍໃນໂປຣແກຣມເສັ້ນຄໍາສັ່ງສະເພາະ.

0:45 Google ໄດ້ປະກາດວຽກດັ່ງກ່າວໃນມື້ນີ້. ເອກະສານຂອງມັນກ່າວວ່ານັກຄົ້ນຄວ້າຫ້າຄົນໄດ້ເຮັດວຽກຫຼາຍກວ່າສີ່ອາທິດ. ຕົວແທນໄດ້ຂຽນຫຼັກຖານ, ໃນຂະນະທີ່ມະນຸດໃຊ້ຄວາມພະຍາຍາມສ່ວນໃຫຍ່ຂອງພວກເຂົາໃນ ຂໍ້ກໍານົດ. ຄວາມຕ້ອງການໄດ້ພົບວິທີທີ່ຈະກາຍເປັນກອງປະຊຸມທີ່ແພງຂຶ້ນກວ່າເກົ່າ. ຂໍ້ກໍານົດລະບຸວ່າໂປຣແກຣມຕ້ອງເຮັດຫຍັງ,

ການອ້າງສິດກາຍເປັນເປົ້າໝາຍການພິສູດໄດ້ແນວໃດ?

0:59 ສິ່ງທີ່ຜູ້ໂຈມຕີຄວບຄຸມ, ແລະສົມມຸດຕິຖານໃດທີ່ການໂຕ້ຖຽງຕ້ອງການ. ຜູ້ທົບທວນຖາມວ່າມັນກວມເອົາຄວາມປອດໄພທີ່ຄົນສົນໃຈຫຼືບໍ່. ຄຳຕອບທີ່ຖືກກວດສອບຢ່າງສວຍງາມຕໍ່ຄຳຖາມທີ່ອ່ອນແອຈະເຮັດໃຫ້ຄຳຖາມນັ້ນຍັງຄົງຢູ່. ທີມງານສ້າງຂຶ້ນບົນພື້ນຖານການຄົ້ນຄວ້າກ່ອນໜ້ານີ້ກ່ຽວກັບການຈັບມືຂອງ Signal ແລະລະຫັດຂໍ້ຄວາມ ratchet ຂອງມັນ. ການວິເຄາະຢ່າງເປັນທາງການໄດ້ສຶກສາການອອກແບບເຫຼົ່ານັ້ນແລ້ວ. ຄໍາຮ້ອງຂໍຂອງ Google ເຊື່ອມຕໍ່ການໂຕ້ຖຽງຄວາມປອດໄພຂອງພວກເຂົາກັບການຜະລິດທີ່ບໍ່ໄດ້ດັດແກ້ ການຈັດຕັ້ງປະຕິບັດຫ້ອງສະຫມຸດທີ່ຖືກຄອມໄພລ໌, ບ່ອນທີ່ການອອກແບບຕ້ອງລອດຊີວິດຈາກການຕິດຕໍ່ກັບ ລະຫັດຕົວຈິງ. ຫົວໜ້າຝ່າຍເທັກໂນໂລຢີຂອງ Signal, Ehren Kret,

1:27 ອະທິບາຍການຂະຫຍາຍນອກເໜືອຈາກຂອບເຂດການກວດສອບຂະໜາດນ້ອຍກວ່າກ່ອນໜ້ານີ້. ລາຍລະອຽດການຈັດຕັ້ງປະຕິບັດປະກອບມີການຈັດລໍາດັບບໍ່ຖືກຕ້ອງ ຂໍ້ຄວາມ ແລະເຊດຊັນທີ່ຖືກເກັບໄວ້ສຳລັບ ຂໍ້ຄວາມທີ່ຊັກຊ້າ. ຊອບແວຕົວຈິງເກັບໃບຮັບເງິນທີ່ແຜນວາດທີ່ສວຍງາມຂອງທ່ານໄດ້ຖິ້ມ ຖິ້ມໄປ. ນັກຄົ້ນຄວ້າຄອມໄພລ໌ຫ້ອງສະຫມຸດ Rust ທີ່ບໍ່ໄດ້ດັດແກ້ດ້ວຍມາດຕະຖານ

ເປັນຫຍັງຈຶ່ງຕ້ອງພິສູດ binary ທີ່ຖືກຄອມໄພລ໌?

1:41 compiler ເຂົ້າໄປໃນ Arm 64 Linux executable. ທິດສະດີຂອງພວກເຂົາອະທິບາຍ binary ນັ້ນໂດຍໃຊ້ຕົວແບບຄໍາສັ່ງຢ່າງເປັນທາງການ, ຂ້າມຜ່ານຊ່ອງຫວ່າງລະຫວ່າງ source ແລະລະຫັດເຄື່ອງຈັກທີ່ຖືກປັບປຸງ. ຂໍ້ຜິດພາດຂອງ compiler ທີ່ທໍາລາຍຄຸນສົມບັດທີ່ລະບຸໄວ້ຈະເຮັດໃຫ້ທິດສະດີຂອງມັນຜິດ. ດັ່ງນັ້ນ compiler ຈຶ່ງອອກຈາກພື້ນຖານທີ່ເຊື່ອຖືໄດ້ສໍາລັບ binary ນີ້. ທ່ານຍັງຄົງເຊື່ອຖືຮູບແບບຄໍາສັ່ງແລະເຄື່ອງກວດສອບຂອງ Lean. ຂອບເຂດຄວາມໄວ້ວາງໃຈໄດ້ປ່ຽນແປງ, ແລະມັນມີທີ່ຢູ່. ປະມານຫົກລ້ານຫ້າແສນແຖວຂອງຫຼັກຖານທີ່ຖືກກວດສອບແມ່ນອີງໃສ່ປະມານຊາວຫົກພັນ

2:06 ແຖວຂອງຂໍ້ກໍານົດທີ່ເຊື່ອຖືໄດ້ ແລະຄວາມຫມາຍຂອງຄໍາສັ່ງ. ເຫຼົ່ານີ້ແມ່ນຈໍານວນສິ່ງປະດິດ. ການປະຕິບັດຕໍ່ພວກມັນຄືກັບຄະແນນຄວາມສະຫຼາດແມ່ນຄືກັບການຈັດອັນດັບນັກພັດທະນາໂດຍຂະຫນາດຂອງ ໂຟນເດີໂມດູນ node ຂອງພວກເຂົາ.

ຄຸນສົມບັດຄວາມປອດໄພໃດແດ່ທີ່ລອດພົ້ນຈາກຊ່ອງຫວ່າງການຈັດຕັ້ງປະຕິບັດ?

2:16 ການໂຕ້ຖຽງກວມເອົາຄວາມລັບແລະການພິສູດຢືນຢັນຂອງຂໍ້ຄວາມ, ດ້ວຍຄວາມລັບຕໍ່ໄປ ແລະຄວາມປອດໄພຫຼັງການຖືກລັກຂໍ້ມູນພາຍໃຕ້ຮູບແບບທີ່ລະບຸໄວ້. ສອງຂໍ້ສຸດທ້າຍນັ້ນອະທິບາຍຂໍ້ຈຳກັດກ່ຽວກັບຄວາມເສຍຫາຍຂອງລະຫັດທີ່ຖືກລັກ ແລະການກູ້ຄືນຫຼັງຈາກການແລກປ່ຽນໃໝ່. ແຕ່ລະການຮັບປະກັນມີເງື່ອນໄຂກ່ຽວກັບຜູ້ໂຈມຕີ ແລະເຊສຊັນ. ສິ່ງປະດິດ cryptographic ຢູ່ເບື້ອງຫຼັງສັນຍາທີ່ເຊື່ອຖືໄດ້. ຫຼັກຖານສົມມຸດວ່າການດໍາເນີນງານເຫຼົ່ານັ້ນປະຕິບັດຕາມທີ່ລະບຸໄວ້ແລະອີງໃສ່ cryptographic ສົມມຸດຕິຖານຄວາມປອດໄພ. ຫຼັກຖານໜຶ່ງເປັນ cryptographic ໃນທາງອຸດົມຄະຕິ; ອີກດ້ານໜຶ່ງແມ່ນເຫດຜົນກ່ຽວກັບ ຄວາມເປັນໄປໄດ້ຂອງການໂຈມຕີທີ່ສຳເລັດ.

2:42 ທັງສອງມີຂໍ້ຈຳກັດກ່ຽວກັບສະຖານະການທີ່ພວກມັນກວມເອົາ. ຖາມວ່າລຸ້ນໃດ, ຄຸນສົມບັດໃດ, ແລະສົມມຸດຕິຖານໃດ. ຜົນໄດ້ຮັບນີ້ກ່ຽວຂ້ອງກັບເຄື່ອງມືເສີມເສັ້ນຄໍາສັ່ງຂອງນັກຄົ້ນຄວ້າ. ການສົ່ງຂໍ້ຄວາມເປັນກຸ່ມແມ່ນວຽກງານໃນອະນາຄົດ, ແລະຕົວແບບຄອມພິວເຕີບໍ່ລວມ ສະຖານະຫຼາຍອຸປະກອນ. ການເອີ້ນທຸກການຕິດຕັ້ງ Signal ວ່າບໍ່ມີຂໍ້ຜິດພາດແມ່ນຢູ່ນອກ ທິດສະດີ. ນັກຄົ້ນຄວ້າໄດ້ນໍາເອົາຂໍ້ຜິດພາດຂອງ Signal ທີ່ຖືກແກ້ໄຂກ່ອນໜ້ານີ້ສອງອັນກັບຄືນມາໃນ

ຂໍ້ກຳນົດສາມາດປະຕິເສດລະຫັດທີ່ເສຍຫາຍໄດ້ບໍ?

3:02 ສໍາເນົາທີ່ໂດດດ່ຽວແລະໄດ້ຄອມໄພລ໌ພວກມັນ. ຫຼັກຖານທີ່ຖືກກວດສອບສະແດງໃຫ້ເຫັນວ່າ binaries ເຫຼົ່ານັ້ນລະເມີດທິດສະດີຄວາມປອດໄພແບບສັນຍາລັກ. ນັ້ນໄດ້ທົດສອບວ່າຂໍ້ກໍານົດສາມາດປະຕິເສດການຈັດຕັ້ງປະຕິບັດທີ່ເສຍຫາຍຕົວຈິງໄດ້ຫຼືບໍ່. ເຄື່ອງໝາຍຖືກສີຂຽວຂອງທ່ານຕ້ອງການການທົດສອບສີແດງ. Google ເຜີຍແຜ່ຂໍ້ກໍານົດ ແລະຫຼັກຖານພ້ອມຄໍາແນະນໍາການກວດສອບ. ບ່ອນເກັບຂໍ້ມູນກ່າວວ່າການສ້າງທີ່ສະອາດໃຊ້ເວລາຫຼາຍຊົ່ວໂມງແລະຫນ່ວຍຄວາມຈໍາຫຼາຍ. ການອ່ານການປະກາດແມ່ນງ່າຍກວ່າຫຼາຍໃນແລັບທັອບ. ຮູບແບບຮາດແວ ແລະສັນຍາທີ່ເຊື່ອຖືໄດ້ຍັງຕ້ອງການການທົບທວນ.

3:26 ຂ້າພະເຈົ້າຍັງບໍ່ໄດ້ສ້າງວັດຖຸບູຮານຂະໜາດໃຫຍ່ສໍາລັບຕອນນີ້ເທື່ອ. ພວກເຮົາກຳລັງລາຍງານຜົນທີ່ຖືກເຜີຍແຜ່ ແລະຂອບເຂດຂອງມັນ. ຄົນນອກມີເສັ້ນທາງທີ່ຈະກວດກາມັນ, ເຊິ່ງສຳຄັນກວ່າສຳລັບຂ້ອຍກວ່າການຊະນະ AI ອີກເທື່ອໜຶ່ງ. ຕອນນີ້ຄືດັກ.

ຫຼັກຖານທີ່ຖືກຕ້ອງສາມາດຕອບຄຳຖາມທີ່ຜິດໄດ້ບໍ?

3:36 Lean ສາມາດຍອມຮັບຫຼັກຖານທີ່ຖືກຕ້ອງຂອງຄຳກ່າວອ້າງທີ່ຂໍເກືອບບໍ່ມີຫຍັງເລີຍ. ການສົມມຸດຕິຖານທີ່ເປັນໄປບໍ່ໄດ້ສາມາດເຮັດໃຫ້ທິດສະດີບໍ່ມີຄວາມໝາຍ. ການປ່ຽນແປງຄໍານິຍາມທີ່ຖືກຝັງຢູ່ພາຍໃຕ້ຫົວຂໍ້ທິດສະດີສາມາດເຮັດໃຫ້ເປົ້າຫມາຍອ່ອນແອລົງ. ເອກະສານອອກແບບການກວດສອບຕໍ່ຕ້ານສິ່ງນີ້. ຜູ້ເຝົ້າປະຕູເກັບຮັກສາຂໍ້ກຳນົດທີ່ຖືກອະນຸມັດທີ່ຕົວແທນຫຼັກຖານບໍ່ສາມາດ ຂຽນໃສ່ໄດ້. ພວກເຂົາສາມາດສະເໜີການແກ້ໄຂຜ່ານຂະບວນການແກ້ໄຂແຍກຕ່າງຫາກ. ການເຮັດໃຫ້ຄວາມປອດໄພອ່ອນແອລົງຈະຖືກເພີ່ມຂຶ້ນເປັນຂໍ້ຜິດພາດທີ່ອາດຈະເກີດຂຶ້ນ. ການປະກາດຄວາມສຳເລັດຂອງຜູ້ພິສູດບໍ່ມີສິດອຳນາດຢູ່ທີ່ນີ້.

4:00 ມະນຸດຕັດສິນການປ່ຽນແປງຕໍ່ສົມມຸດຕິຖານທີ່ເຊື່ອຖືໄດ້, ໂດຍກົງຫຼືຜ່ານນະໂຍບາຍຂອງພວກເຂົາ, ແລະທົບທວນການແກ້ໄຂຫຼັງຈາກແຕ່ລະແຄມເປນ. ການຕັດສິນຂອງຜູ້ຊ່ຽວຊານຍັງຄົງຮັບຜິດຊອບ. ຕົວແທນສາມາດຮ້ອງຂໍວຽກງານທີ່ແຕກຕ່າງກັນ. ມັນບໍ່ສາມາດໃຫ້ຄະແນນຜ່ານເອງໄດ້.

ສິ່ງໃດທີ່ສາມາດກວດພົບການປ່ຽນແປງເປົ້າໝາຍ?

4:13 ນີ້ແມ່ນການກວດສອບຕາມຄໍາໝັ້ນສັນຍາ. ຕົວປຽບທຽບຂອງ Lean ປຽບທຽບທິດສະດີ ແລະທຸກນິຍາມທີ່ມັນຂຶ້ນກັບກັບ ສໍາເນົາທີ່ຖືກປົກປ້ອງທີ່ຖືກອະນຸມັດນັ້ນ. ມັນຍັງກວດສອບ axioms ທີ່ຖືກອະນຸຍາດ ແລະຫຼິ້ນຫຼັກຖານຄືນໃໝ່ໃນ kernel ໃໝ່. ດັ່ງນັ້ນການເຮັດໃຫ້ຄໍານິຍາມຊ່ວຍເຫຼືອອ່ອນແອລົງຢ່າງງຽບໆຈຶ່ງປ່ຽນແປງສິ່ງທີ່ກໍາລັງ ປຽບທຽບ. ຫຼັກຖານທີ່ໄດ້ຮັບການຍອມຮັບຕ້ອງສ້າງຕັ້ງເປົ້າຫມາຍທີ່ຖືກອະນຸມັດ. ນັ້ນຍັງເຮັດໃຫ້ມະນຸດຮັບຜິດຊອບໃນການເລືອກເປົ້າໝາຍທີ່ແຂງແຮງ ແລະສົມມຸດຕິຖານທີ່ຊື່ສັດ. ສຳລັບຂັ້ນຕອນການເຮັດວຽກ AI ຂອງທ່ານເອງ, ໃຫ້ເກັບກຳເງື່ອນໄຂການຍອມຮັບໄວ້ນອກ

4:37 ສິດອະນຸຍາດການແກ້ໄຂຂອງພະນັກງານ ແລະທົບທວນການປ່ຽນແປງທີ່ສະເໜີແຍກຕ່າງຫາກ. ຜົນຂອງ Google ເຮັດໃຫ້ການແຍກນັ້ນເປັນຮູບປະທໍາ. ຜູ້ຂຽນຫຼັກຖານເຮັດວຽກ; ຂອບເຂດການກວດສອບຕັດສິນໃຈວ່າມັນຖືກນັບຫຼືບໍ່. ຖ້າທ່ານຕ້ອງການອ່ານສິ່ງນີ້ຫຼາຍກວ່າທີ່ຈະໄດ້ຍິນຂ້ອຍເວົ້າ, diff ຈະມາຮອດກ່ອງຈົດໝາຍຂອງທ່ານ ທຸກເຊົ້າ, ຟຣີທີ່ the daily diff dot dev, ລິ້ງຂ້າງລຸ່ມ. ດັ່ງນັ້ນຄຳຕັດສິນຂອງມື້ນີ້ແມ່ນ SHIP IT.

ຂ້ອຍຈະເຜີຍແຜ່ຂັ້ນຕອນການພິສູດນີ້ບໍ?

4:54 ຂ້າພະເຈົ້າຈະເຜີຍແຜ່ຂັ້ນຕອນການເຮັດວຽກທີ່ຖືກກວດສອບນີ້ ເພາະວ່າການອ້າງສິດທີ່ໄດ້ຮັບການອະນຸມັດຍັງແຍກອອກຈາກ ຕົວແທນທີ່ຜະລິດຄໍາຕອບ. ຂ້າພະເຈົ້າຈະຮັກສາຂອບເຂດແລະສົມມຸດຕິຖານທີ່ຕິດຢູ່ກັບທຸກໆຜົນໄດ້ຮັບ. ສະໝັກສະມາຊິກ, ກົດກະດິ່ງ, ແລະບອກຂ້ອຍໃນຄໍາຄິດເຫັນວ່າເຈົ້າຈະສະແຕມມັນ ແຕກຕ່າງກັນຫຼືບໍ່. ແລະນັ້ນຄື diff ສໍາລັບມື້ນີ້. ຂ້ອຍແມ່ນ Niko ຈາກ Axrisi. ລວມເຂົ້າກັນຢ່າງຮັບຜິດຊອບ.

ແຫຼ່ງຂໍ້ມູນ

AlphaProof Code: Verifying Signal's Security at the Machine-Code Level — technical scope, trusted base and gatekeepingSwarat Chaudhuri and colleagues / Google DeepMind and Google
Introducing AlphaProof Code — November 10 announcement and attributed Signal CTO responsePushmeet Kohli and Swarat Chaudhuri / Google DeepMind
Code-verification repository — initial commit, public artifacts and checking instructionsGoogle DeepMind / GitHub
The PQXDH Key Agreement Protocol — older official specification and prior-analysis contextEhren Kret and Rolfe Schmidt / Signal
The Double Ratchet Algorithm — Triple Ratchet sectionTrevor Perrin, Moxie Marlinspike and Rolfe Schmidt / Signal
Google DeepMind leadership — Demis Hassabis's relevant lab identityGoogle DeepMind
Demis Hassabis in 2025 — authentic portrait, cropped/resized/compressed and unflipped; no background removal or generated expression/detail; lab identity only, no authorship, proof writing, current reaction or endorsementChristopher P. Michel / Cmichel67 / Wikimedia Commons
Portrait licence — CC BY-SA 4.0; attribution, adaptation disclosure and ShareAlikeCreative Commons
Expanding Brain template — cropped/captioned artifact-count satire, brief transformed <=2s commentary; no benchmark, hosting licence, legal-clearance or blanket reuse claimImgflip / user-uploaded meme template
Tom and Jerry — Boomerang Official actual animated reaction, silent resized/captioned 1.875s excerpt; brief transformed process commentary, no actual researcher or executive reaction, hosting licence, legal-clearance or blanket reuse claimBoomerang Official / GIPHY / Tom and Jerry
Boomerang GIF source link — uploader-provided provenanceBoomerang
AlphaProof Code discussion — attention context, anonymous opinions excluded from factual proof claimsHacker News
Code-verification licence — Apache 2.0 for Google code, third-party licences retainedGoogle / GitHub

Niko from Axrisi

Nikoloz Turazashvili · Vexrail · Axrisi

LinkedIn · dev.to · GitHub · X · Substack