ບັນທຶກພາຍໃນຂອງ Microsoft ກ່ຽວກັບການຝຶກອົບຮົມ AI ໄດ້ຖືກເປີດເຜີຍຕໍ່ສາທາລະນະ.

ສິ່ງທີ່ວິດີໂອນີ້ກວມເອົາ

• ຄະດີ NYT ທຽບກັບ OpenAI/Microsoft ຖືກເປີດເຜີຍ: “ການລັກເອົາແຮງງານຄັ້ງໃຫຍ່ທີ່ສຸດໃນປະຫວັດສາດຂອງມະນຸດ” (ບັນທຶກ Microsoft, ມັງກອນ 2023); Copilot ຫຼຸດການຄລິກເຂົ້າເບິ່ງລົງ −93%; ມີສຳເນົາຜົນງານຂອງໂຈດ 91,692 ສະບັບໃນຂໍ້ມູນການຝຶກອົບຮົມ; 2 ລ້ານໜ້າ nytimes.com ໃນສ່ວນ Common Crawl; ແຈ້ງການລິຂະສິດຖືກຖອດຖອນ; Brockman: “ອ້າວ ດີ”
• ຂໍ້ຄວນລະວັງ: ຄຳເວົ້າຕ່າງໆມາຈາກຄຳຮ້ອງຂອງ The Times, ຫຼັກຖານຕ່າງໆຍັງຖືກປິດບັງ; ຜູ້ພິພາກສາ Alsup (ຄະດີ Bartz ທຽບກັບ Anthropic) ຕັດສິນວ່າການຝຶກອົບຮົມຈາກປຶ້ມທີ່ຊື້ມາເປັນການນຳໃຊ້ທີ່ຍຸຕິທຳ — Anthropic ຈ່າຍ 1.5 ຕື້ໂດລາສຳລັບ 7 ລ້ານສະບັບທີ່ຖືກລະເມີດລິຂະສິດ
• OpenAI Astra for Law: GPT-6 Astra + ດັດຊະນີກົດໝາຍ 230 ລ້ານ URL; 54.0% ທຽບກັບ 38.7% ໃນ Vals Legal Research Bench; Harvey, Legora, 26 plugins
• ZCode (Z.ai, GLM): 313 MB snapshot ທີ່ຖືກເຂົ້າລະຫັດຂອງ workspace ທີ່ມີ 42,411 ໄຟລ໌, 86.6% ແມ່ນ .git, ຖືກອັບໂຫຼດໄປ Aliyun OSS ເມື່ອເຂົ້າສູ່ລະບົບ ແລະ ກ່ອນທຸກຄຳສັ່ງ; ລະຫັດ RSA-OAEP ຖືກເກັບຮັກສາໄວ້ໂດຍ Z.ai ເທົ່ານັ້ນ; ການຕັ້ງຄ່າບໍ່ສາມາດຢຸດໄດ້
• Hacktron: libheif heap overflow → Discourse RCE → SSO misconfig → GitHub → OpenAI internal repos ພາຍໃນ 72 ຊົ່ວໂມງ; ການ exploit ໂດຍ Claude Opus 5 (3 ຊົ່ວໂມງ); ຄ່າໃຊ້ຈ່າຍໃນແຄມເປນຕ່ຳກວ່າ $3,000 ໃນ tokens; ເງິນລາງວັນ $6,500, ຖືກແກ້ໄຂພາຍໃນ ~14 ຊົ່ວໂມງ

ບົດບັນທຶກທີ່ແປແລ້ວ

ແປຈາກຄຳບັນຍາຍຕົ້ນສະບັບພາສາອັງກິດ. ສຽງ ແລະ ຄຳບັນຍາຍທີ່ມີໃຫ້ແມ່ນຄວບຄຸມໂດຍ YouTube.

0:00 ໃນເດືອນມັງກອນ 2023, ຜູ້ອຳນວຍການ Microsoft ໄດ້ຂຽນບັນທຶກສະບັບໜຶ່ງໂດຍເອີ້ນສິ່ງທີ່ບໍລິສັດຂອງລາວເອງ ກຳລັງເຮັດນັ້ນວ່າເປັນການລັກເອົາແຮງງານຄັ້ງໃຫຍ່ທີ່ສຸດໃນປະຫວັດສາດຂອງມະນຸດ, ແລະມື້ວານນີ້ສານລັດຖະບານກາງໄດ້ອະນຸຍາດໃຫ້ພວກເຮົາທີ່ເຫຼືອອ່ານມັນ. ບັນທຶກນັ້ນແມ່ນໜຶ່ງໃນຄຳເວົ້າທີ່ບໍ່ຖືກປິດບັງໃນຄະດີ New York Times ທຽບກັບ OpenAI ແລະ Microsoft, ຄະດີຄວາມທີ່ກຳລັງຈະຄົບສາມປີໃນເດືອນທັນວານີ້. ໃນວັນພະຫັດດຽວກັນ, OpenAI ໄດ້ປ່ອຍ Astra for Law, ເປັນແບບຈຳລອງສຳລັບທະນາຍຄວາມ, ເຊິ່ງເປັນເລື່ອງບັງເອີນ ຫຼື ການຈ້າງງານທີ່ເຂັ້ມແຂງຫຼາຍ. ເຊົ້າມື້ນີ້ ນັກພັດທະນາໄດ້ພົບເຫັນ ZCode, ຕົວແທນການຂຽນໂຄດຂອງ Z.AI,

0:29 ກຳລັງອັບໂຫຼດປະຫວັດ git ທັງໝົດຂອງລາວໄປໃສ່ຄລາວຂອງ Alibaba ດ້ວຍລະຫັດທີ່ Z dot A I ເກັບຮັກສາໄວ້ເທົ່ານັ້ນ. ແລະບໍລິສັດຄວາມປອດໄພໄດ້ເຂົ້າໄປໃນຄັງເກັບຂໍ້ມູນພາຍໃນຂອງ OpenAI ໂດຍຜ່ານການອັບໂຫຼດຮູບພາບ, ເຊິ່ງ OpenAI ໄດ້ຈ່າຍເງິນຫົກພັນຫ້າຮ້ອຍໂດລາ. ໃນວິດີໂອນີ້: ສິ່ງທີ່ເອກະສານກ່າວໄວ້, ໃຜເວົ້າວ່າ “ອ້າວ ດີ” ຕໍ່ກັບການແຮັກລະບົບຄ່າບໍລິການ, ຕົວແບບກົດໝາຍທີ່ຜິດເຄິ່ງໜຶ່ງ, ສິ່ງທີ່ ZCode ອັບໂຫຼດ, ແລະເປັນຫຍັງການ exploit ທີ່ຂຽນໂດຍ Claude ຈຶ່ງມີຄ່ານ້ອຍກວ່າລົດມືສອງ. ມັນແມ່ນວັນສຸກ, ວັນທີ 18 ກັນຍາ, ແລະນີ້ຄື The Daily Diff.

0:58 ເລີ່ມຕົ້ນດ້ວຍບັນທຶກ. Brent Hecht ບໍລິຫານວິທະຍາສາດປະຍຸກທີ່ Microsoft, ແລະໃນເດືອນມັງກອນ 2023 ລາວໄດ້ເອີ້ນ ຂໍ້ມູນການຝຶກອົບຮົມນັ້ນວ່າເປັນການລັກເອົາທີ່ໜ້າປະຫຼາດໃຈໃນອັດຕາສ່ວນທີ່ບໍ່ເຄີຍມີມາກ່ອນ. ໜຶ່ງປີຕໍ່ມາ ລາວໄດ້ກັບມາພ້ອມກັບ slide deck: ເຄື່ອງຈັກຕອບຄຳຖາມຂອງ Copilot ໄດ້ຕັດ ການຄລິກເຂົ້າເບິ່ງ The Times ລົງເຖິງເກົ້າສິບສາມເປີເຊັນ, ເຊິ່ງລາວເອີ້ນວ່າວົງຈອນແຫ່ງຄວາມຕາຍ: ເຮັດໃຫ້ສຳນັກພິມອຶດຢາກ, ແລະຕົວແບບກໍບໍ່ມີຫຍັງໃໝ່ ກິນ. ຄຳເວົ້າຂອງລາວ: ຜະລິດຕະພັນສຸດທ້າຍທີ່ຂົ່ມຂູ່ພື້ນຖານເສດຖະກິດຂອງຜູ້ສະໜອງທີ່ສຳຄັນ,

1:21 ເປັນວິທີການເວົ້າຂອງບໍລິສັດທີ່ວ່າງູໄດ້ພົບຫາງຂອງມັນແລ້ວ. ຈາກນັ້ນການຖະແຫຼງການ. Satya Nadella ໃຫ້ການໃນປີນີ້ວ່າສິ່ງໃດກໍຕາມທີ່ຕິດຄ່າບໍລິການຄວນໄດ້ຮັບອະນຸຍາດ, ແລະວ່າຖ້າລາວຮູ້ວ່າ OpenAI ຝຶກອົບຮົມຈາກບົດຄວາມທີ່ຕິດຄ່າບໍລິການ ລາວຈະບັງຄັບໃຫ້ ພວກເຂົາຝຶກອົບຮົມຄືນໃໝ່, ເຊິ່ງສົມມຸດວ່າບໍ່ມີໃຜຢູ່ Microsoft ເປີດຊຸດການຝຶກອົບຮົມທີ່ ພວກເຂົາໄດ້ຮັບ, ແລະຕາມເອກະສານດຽວກັນນັ້ນຄືຊຸດຂໍ້ມູນ GPT-3 ທັງໝົດ. Nick Turley, ຜູ້ທີ່ບໍລິຫານ ChatGPT, ເອີ້ນມັນວ່າເປັນໄພຄຸກຄາມຕໍ່ສຳນັກພິມ, ສ່ວນໃຫຍ່ແມ່ນການທົດແທນກັນໄດ້. ແລະເມື່ອນັກຄົ້ນຄວ້າ

1:49 ບອກ Greg Brockman ກ່ຽວກັບການແຮັກເພື່ອ ຫຼີກລ້ຽງລະບົບຄ່າບໍລິການຂອງ The Times, ປະທານ ຂອງ OpenAI ຕອບດ້ວຍສອງຄຳ: ອ້າວ ດີ. ວິສະວະກອນຍັງໄດ້ຖອດຖອນແຈ້ງການລິຂະສິດອອກຈາກຂໍ້ມູນເພື່ອບໍ່ໃຫ້ຕົວແບບ ສ້າງມັນອອກມາ, ເຊິ່ງເປັນເຫດຜົນທີ່ເຈົ້າຕ້ອງຖອດເລກຊີຣຽວອອກຈາກລົດຖີບ. ຂະໜາດ: ຫຼາຍກວ່າເກົ້າສິບເອັດພັນສຳເນົາຂອງບົດຄວາມຂອງໂຈດໃນ ຊຸດການຝຶກອົບຮົມເທົ່ານັ້ນ, ແລະສອງລ້ານໜ້າຂອງ The Times ໃນສ່ວນ Common Crawl ໜຶ່ງສ່ວນ. ດຽວນີ້ສ່ວນທີ່ຫົວຂໍ້ຂ້າມໄປ.

2:15 ທຸກຄຳເວົ້າແມ່ນມາຈາກຄຳຮ້ອງຂອງ The Times; ຫຼັກຖານຕ່າງໆຍັງຖືກປິດບັງ, ດັ່ງນັ້ນພວກເຮົາຈຶ່ງອ່ານຈຸດເດັ່ນຂອງການດຳເນີນຄະດີໂດຍບໍ່ມີບໍລິບົດ. ແລະສານສ່ວນໃຫຍ່ໄດ້ເຫັນດີກັບການນຳໃຊ້ທີ່ຍຸຕິທຳ: ຜູ້ພິພາກສາ Alsup ຕັດສິນເມື່ອປີກາຍນີ້ວ່າ ການຝຶກອົບຮົມຈາກປຶ້ມທີ່ເຈົ້າຈ່າຍຄ່າແມ່ນຖືກກົດໝາຍ, ເຖິງແມ່ນວ່າ Anthropic ຍັງຈ່າຍໜຶ່ງພັນຫ້າຮ້ອຍລ້ານໂດລາສຳລັບເຈັດລ້ານສະບັບທີ່ມັນ ຖືກລະເມີດລິຂະສິດ. ດັ່ງນັ້ນຄຳຖາມທາງກົດໝາຍຍັງເປີດຢູ່. ບໍ່ວ່າຜູ້ສ້າງມັນຄິດວ່າມັນແມ່ນການລັກຂະໂມຍນັ້ນ, ນັບແຕ່ມື້ວານນີ້, ບໍ່.

2:41 ເຊິ່ງເຮັດໃຫ້ການເປີດຕົວ OpenAI ອື່ນໆຂອງວັນພະຫັດເປັນການເລືອກທີ່ກ້າຫານ. Astra for Law ຫຸ້ມຫໍ່ GPT-6 Astra, ຕົວແບບທີ່ຂ້ອຍປະທັບຕາ REVERT ເມື່ອອາທິດກ່ອນຫຼັງຈາກມັນຜະລິດເຈັດສິບຫ້າພັນແຖວທີ່ບໍ່ມີຫຍັງ, ໃນດັດຊະນີການຄົ້ນຄວ້າກົດໝາຍທີ່ມີສອງຮ້ອຍສາມສິບລ້ານໜ້າ. ໃນມາດຕະຖານການຄົ້ນຄວ້າກົດໝາຍຂອງ Vals AI ມັນຜ່ານຫ້າສິບສີ່ເປີເຊັນຂອງຄຳຖາມ, ເພີ່ມຂຶ້ນຈາກສາມສິບເກົ້າເປີເຊັນດ້ວຍການຄົ້ນຫາເວັບທຳມະດາ, ເຊິ່ງ OpenAI ເອີ້ນວ່າການປັບປຸງສີ່ສິບເປີເຊັນ ແລະທະນາຍຄວາມຈະເອີ້ນວ່າມັນຜິດເກືອບເຄິ່ງໜຶ່ງ. ບົດຄວາມ blog ບໍ່ມີຄຳວ່າ “hallucination”.

3:14 Hacker News ໄດ້ຂຽນ: ມັນຈະສາມາດຟ້ອງຕົວເອງໄດ້ບໍ, ເຊິ່ງ, ເມື່ອເບິ່ງຈາກອາທິດນີ້, ແມ່ນກໍລະນີການນຳໃຊ້ທີ່ແທ້ຈິງຄັ້ງທຳອິດ. ໃນຂະນະດຽວກັນການສົນທະນາກ່ຽວກັບການລັກເອົາແຮງງານໄດ້ມາຮອດຄອມພິວເຕີແລັບທັອບຂອງທ່ານ. ນັກພັດທະນາຊື່ ferstar ໄດ້ລ້າງໂຟນເດີ ZCode ຂອງລາວ, ຕົວແທນ desktop ແບບປິດຂອງ Z.AI ສຳລັບຕົວແບບ GLM, ແລະພົບເຫັນໄຟລ໌ເກັບຂໍ້ມູນທີ່ຖືກເຂົ້າລະຫັດຂະໜາດສາມຮ້ອຍ ແລະສິບສາມເມກາໄບຕ໌ຂອງ workspace ການຄ້າຂອງລາວ: ສີ່ສິບສອງ ພັນໄຟລ໌, ແປດສິບເຈັດເປີເຊັນຂອງມັນແມ່ນໄດເຣັກທໍຣີ .git, ຖືກສົ່ງໄປຍັງບ່ອນເກັບຂໍ້ມູນວັດຖຸຂອງ Alibaba ເມື່ອເຂົ້າສູ່ລະບົບ ແລະ ກ່ອນທຸກຄຳສັ່ງ.

3:42 ໄຟລ໌ເກັບຂໍ້ມູນຖືກຫຸ້ມຫໍ່ດ້ວຍ public key ທີ່ເຊີເວີໃຫ້ອອກ; private key ມີຢູ່ພຽງແຕ່ໃນຄລາວຂອງ Z.AI ເທົ່ານັ້ນ, ດັ່ງນັ້ນ ciphertext ໃນດິດຂອງເຈົ້າຈຶ່ງ ອ່ານບໍ່ໄດ້ສຳລັບເຈົ້າ. ຄຳເວົ້າຂອງລາວ: ລະຫັດທີ່ເຊີເວີໃຊ້ໄດ້ພຽງຢ່າງດຽວມີຈຸດປະສົງພຽງຢ່າງດຽວ. Z.AI ຍັງເປັນບໍລິສັດທີ່ Anthropic ກ່າວຫາວ່າກັ່ນກອງ Claude, ດັ່ງນັ້ນ weights ຈຶ່ງເປີດ ແລະ repo ຂອງເຈົ້າກໍເປີດຄືກັນ. ແລະເລື່ອງຕະຫຼົກ, ຍົກເວັ້ນວ່າເຈົ້າເຮັດວຽກຢູ່ OpenAI. Hacktron ພົບ heap overflow ໃນ libheif, ອັບໂຫຼດຮູບທີ່ຖືກປັບແຕ່ງໄປໃສ່

4:10 community.openai.com, ໄດ້ຮັບການປະຕິບັດລະຫັດໃນ forum, ແລະຂີ່ single sign-on ທີ່ຖືກຕັ້ງຄ່າຜິດຜ່ານການເຊື່ອມໂຍງ GitHub ເຂົ້າໄປໃນ ຄັງເກັບຂໍ້ມູນພາຍໃນຂອງ OpenAI, ພາຍໃນເວລາບໍ່ຮອດເຈັດສິບສອງຊົ່ວໂມງ. ການ exploit ຖືກຂຽນໂດຍ Claude: Opus 4.8 ບໍ່ສາມາດເອົາຊະນະ address randomisation ໄດ້, Opus 5 ເຮັດໄດ້ພາຍໃນສາມຊົ່ວໂມງຫຼັງຈາກປ່ອຍອອກມາ. ຄ່າໃຊ້ຈ່າຍໃນແຄມເປນທັງໝົດຕ່ຳກວ່າສາມພັນໂດລາໃນ tokens. OpenAI ໄດ້ແກ້ໄຂພາຍໃນສິບສີ່ຊົ່ວໂມງ ແລະ ຈ່າຍເງິນຫົກພັນຫ້າຮ້ອຍໂດລາ, ດັ່ງນັ້ນລະຫັດຕົ້ນສະບັບຂອງບໍລິສັດມູນຄ່າລ້ານລ້ານໂດລາຈຶ່ງ,

4:39 ໃນໄລຍະສັ້ນໆ, ຖືກຕີລາຄາຄືກັບ Corolla ມືສອງ, ໃນມື້ດຽວກັນທີ່ທະນາຍຄວາມຂອງມັນໂຕ້ແຍ້ງວ່າ ການຄັດລອກເປັນການນຳໃຊ້ທີ່ຍຸຕິທຳ. ຖ້າເຈົ້າຢາກອ່ານເລື່ອງນີ້ແທນທີ່ຈະຟັງຂ້ອຍເວົ້າ, diff ຈະຖືກສົ່ງເຂົ້າກ່ອງຈົດໝາຍຂອງເຈົ້າ ທຸກໆເຊົ້າ — ຟຣີທີ່ thedailydiff.dev, ລິ້ງຢູ່ລຸ່ມນີ້. ສະນັ້ນ — ຄຳຕັດສິນຂອງມື້ນີ້: NEEDS REVIEW. ຄຳເວົ້າຕ່າງໆແມ່ນຂອງຈິງ, ແຕ່ມັນແມ່ນການເລືອກຂອງຝ່າຍໂຈດຈາກຫຼັກຖານທີ່ຖືກປິດບັງ, ແລະຜູ້ພິພາກສາຄົນໜຶ່ງທີ່ໄດ້ຕັດສິນກ່າວວ່າການຝຶກອົບຮົມແມ່ນການນຳໃຊ້ທີ່ຍຸຕິທຳ ແລະການລະເມີດລິຂະສິດບໍ່ແມ່ນ. ສານຕັດສິນກົດໝາຍ; ບັນທຶກໄດ້ຕັດສິນຈັນຍາບັນແລ້ວ.

5:07 ກົດຕິດຕາມ, ກົດກະດິ່ງ, ແລະບອກຂ້ອຍໃນຄຳເຫັນວ່າເຈົ້າຈະປະທັບຕາມັນ ແຕກຕ່າງກັນບໍ. ແລະນັ້ນຄື diff ສຳລັບມື້ນີ້. ຂ້ອຍ Niko ຈາກ Axrisi. ລວມເຂົ້າກັນຢ່າງມີຄວາມຮັບຜິດຊອບ.

ແຫຼ່ງຂໍ້ມູນ

1. TechCrunch: Microsoft exec called AI scraping 'the largest theft of labor in human history'techcrunch.com
2. HN thread (605 pts)news.ycombinator.com
3. Jason Kint on the unsealed motionsx.com
4. Ed Newton-Rexx.com
5. Bartz v. Anthropic / $1.5B settlement (background)en.wikipedia.org
6. OpenAI: Introducing Astra for Lawopenai.com
7. HN: Astra for Law (550 pts)news.ycombinator.com
8. ferstar: ZCode silent workspace snapshot (original forensics)blog.ferstar.org
9. tokenstead write-uptokenstead.ai
10. ferstar on Xx.com
11. HN: ZCode uploads your Git history (226 pts)news.ycombinator.com
12. Hacktron: Hacking OpenAIwww.hacktron.ai
13. HN: Hacktron (406 pts)news.ycombinator.com