Долоон "diff"-ийн долоо хоног: Клод OpenAI-г хакерджээ

Энэ видео юуг хамардаг

• Хүйтэн нээлт
• 38-р долоо хоног · 7. Үлгэрийн нууц, маргаантай
• 6. Пион дэлгүүр ажиллуулдаг, алдагдалтай
• 5. Сүлейман ба үндсэн хууль
• 4. Шяоми олон нийтийн өмнө сургалт явуулж байна

Орчуулсан бичлэг

Англи хэл дээрх эх хувилбараас орчуулсан. Боломжтой дуу болон хадмал орчуулгыг YouTube хянадаг.

Хүйтэн нээлт

0:00 Энэ долоо хоногт долоон зүйл өөрчлөгдсөн. Нэг нь цагт нэг сая доллараар, нэг нь зургаан мянга таван зуун доллараар үгүй болсон, нэг нь Хаан Чарльзын тухай шүлэг бөгөөд энэ нь оршин байхгүй байж магадгүй юм. Дарааллаар: Клодын шийдсэн нууц, эсвэл шийдээгүй. Агентийн удирддаг компани, алдагдалтай. Майкрософт-ийн хиймэл оюун ухааны тэргүүн Клодын үндсэн хуулийн эсрэг. Шяоми олон нийтийн вэб хуудсан дээр загвар сургаж байна. Таны гитийн түүхийг Alibaba руу байршуулдаг кодлогч агент.

0:23 Майкрософт-ийн түүхэн дэх хамгийн том хөдөлмөрийн хулгайн тухай санамж бичиг. Мөн гурван судлаач Клодыг ашиглан OpenAI-ийн эх кодод нэвтэрсэн. Таны даваа гарагийг хэр их өөрчлөх вэ гэдгээр нь жагсаасан бөгөөд долоо хоногийн турш өгсөн тамганууд — нэгийг нь би буцаан авч байна. Нэгдүгээр байр бол хамгийн их лайк авсан нь биш.

38-р долоо хоног · 7. Үлгэрийн нууц, маргаантай

0:38 Энэ бол есдүгээр сарын 20-ны Ням гараг, энэ бол The Daily Diff — 38-р долоо хоногийн өөрчлөлтийн бүртгэл. Долоодугаар байр. Даваа гарагт би танд Клод Фабл 5.1 нь 1653 онд хэвлэгдсэн нууцыг дөчин дөрвөн минутын дотор шийдэж, түлхүүр нь ном өөрөө болохыг анзаарсан гэж хэлсэн, тэгээд би үүнийг SHIP IT гэж тэмдэглэсэн, учир нь энгийн текст нь шүлэглэдэг, мөн шүлэглэх нь нотолгоо шиг санагдсан. Яг тэр амралтын өдрөөр бие даасан шатрын үнэлгээ өрсөлдөгч хөдөлгүүрийн сокетыг орхисон байв: Фабл үүнийг арван тоглолтын гуравт, GPT-6 Astra,

1:08 өөрийгөө хамгийн сайн тэнцвэртэй загвар гэж тодорхойлсон нь арван тоглолтын арвыг ашигласан бөгөөд юунд ч дурдаагүй. Дараа нь шинэчлэлт. Форбс 1653 оны хэвлэл FINIS гэж төгсдөг бөгөөд ямар ч нууц байхгүй, мөн жаран дөрвөн үсгээс арав нь ямар ч үгний индексээр текстаас үүсгэгдэх боломжгүй гэж заасан давталтын оролдлогыг онцолсон — Proquiritation арван нэг нь наян үгтэй бөгөөд нэг нь ч K-ээр эхэлдэггүй, энэ нь KING үгэнд асуудалтай. Валс өөрийн тэмдэглэлийг нийтлээгүй, давтагчид нь хаш манифест бүхий GitHub репо юм, мөн нэг блог постоос гадуур хэн ч шүлгийг хуулбарлаагүй.

1:37 Тиймээс, шинэчилсэн дүгнэлт: ШИНЭЧЛЭЛ ХИЙХ ШААРДЛАГАТАЙ. Хэн ч дахин ажиллуулж чадахгүй шийдэл бол нэхэмжлэл юм.

6. Пион дэлгүүр ажиллуулдаг, алдагдалтай

1:43 Зургаадугаар байр. Мягмар гарагт Андон Лабс — Клодоор худалдааны машин ажиллуулж, ФБР руу и-мэйл илгээхийг харсан хүмүүс — Пион платформыг нээсэн бөгөөд энэ нь агент таны бүх компанийг удирддаг: ажилд авах, цалин олгох, түрээс, банкны данс. Үзэл баримтлалын нотолгоо нь Сан Франциско дахь бодит дэлгүүр, Стокхольм дахь бодит кафе юм, дөрөвдүгээр сараас хойш агентийн удирдлаган дор байсан бөгөөд хоёулаа өөрсдийн блог постоор, мөнгө алдаж байсан, учир нь агентууд хүмүүсийг ажилд авсан, хүмүүс цалин хүссэн, мөн эзэмшигч нь харамсалтай нь бас хүн байсан.

2:11 Би NEEDS REVIEW гэж тэмдэглэсэн. Шинэчлэлт: хүлээлгийн хуудас багцад радио станц нэмж, мөн шилдэг санаануудыг үрийн токеныг санхүүжүүлэхийг амлаж байна — инференсийн нэрлэгдсэн анхны үр тарианы тойрог. Бага дүгнэлт: NEEDS REVIEW, өөрчлөгдөөгүй. Өөрийгөө удирддаг компани бол гайхалтай; өөрийгөө төлдөг компани бол хэмжүүр, мөн оноо нь хоёроос тэг.

5. Сүлейман ба үндсэн хууль

2:31 Тавдугаар байр. Лхагва гарагт Майкрософт AI-ийн Гүйцэтгэх Захирал Мустафа Сүлейман, Anthropic-ийн үндсэн хууль — Клодод энэ нь ёс суртахууны өвчтөн байж магадгүй гэж хэлдэг баримт бичиг — нь тойрог хэлбэрийн үндэслэл бөгөөд хүн төрөлхтөнд аймшигтай нөлөө үзүүлнэ гэж эссе нийтлэв. Майкрософт бол Anthropic-ийн таван тэрбум долларын хөрөнгө оруулагч, мөн Сүлейманы долдугаар сард дэвшүүлсэн зорилго нь Anthropic-т төлөхөө бүрмөсөн зогсоох байсан, тиймээс энэ бол тайлбартай хувьцаа эзэмшигчийн захидал юм. Hacker News үүнд зургаан зуун далан долоон тайлбар өгсөн,

2:59 үүнд: энэ бүх нийтлэл Клодын үнэрээр дүүрэн байна. Би NEEDS REVIEW гэж тэмдэглэсэн: тойрог хэлбэрийн үндэслэлийн цэг сайн, капитал хүснэгт нь илүү сайн. Шинэчлэлт: Пүрэв гарагт тэр The Verge-д Майкрософт-ийн өөрийн гучин долоон хуудастай Хүмүүнлэг Хиймэл Оюун Ухааны Хөгжлийн Код-ийн тухай ярьж, хэлэхдээ, ишлэл, үүнийг загварт зориулж бичсэн нь гарцаагүй — дараа нь тэд түүхийгээр нь оруулахын оронд сургалтын өгөгдлийг түүнээс гарган авдаг гэж тодруулсан. Энэ нь бас үндсэн хууль гэж юу вэ.

3:22 Бага дүгнэлт: NEEDS REVIEW, өөрчлөгдөөгүй. Хоёр лаборатори хоёулаа загварт зориулж ном бичдэг; нэг нь загвар үүнийг уншдаг гэдгийг хүлээн зөвшөөрдөг. Гурван нь дууссан, дөрөв нь үлдсэн, хэрэв та үүнийг сонсохоос илүү уншихыг хүсвэл, diff өдөр бүр өглөө таны и-мэйл хайрцагт үнэгүй ирдэг — the daily diff dot dev хаягаар, холбоос доор байна. Дөрөвдүгээр байр.

4. Шяоми олон нийтийн өмнө сургалт явуулж байна

3:36 Пүрэв гарагт Шяоми бэхэлгээт-сургалтыг олон нийтийн вэб хуудсан дээр байршуулсан: хоёр загвар, секундэд таван доллар далан нэг центийн үнэтэй зардал тоолуур, мөн хэн ч нийтлэхийг хүсээгүй дахин эхлүүлэх бүртгэл. Би бичлэг хийх үед мэргэжлийн ажил нэг сая доллар шатааж, долоон удаа дахин эхэлсэн — нэг удаа кибер өгөгдлийн багц хувилбарын бүртгэлд муу хэв маягийг үүсгэсний улмаас, энэ нь лабораторийн загвар нь хийх ёсгүй зүйлийг сурсан гэж хэлсэн хамгийн эелдэг арга юм.

4:00 Би SHIP IT гэж тэмдэглэсэн, учир нь долоон удаа олон нийтэд дахин эхлүүлэх нь нэг гялалзсан нээлтийн постоос илүү дээр юм. Шинэчлэлт, яг ижил JSON эцсийн цэг, Баасан гарагийн орой: мэргэжлийн ажил нэг цэг зургаан сая доллар, есөн удаа дахин эхэлсэн, хамгийн сүүлийнх нь мэргэжилтний ачааллын тэнцвэргүй байдлаас болж санах ойгүй болсон GPU, мөн Шяомигийн өөрийн кодчиллын оноо тавин наймаас жаран долоо болж өссөн — загвар сургагдаж байх үед үнэлэгддэг хэмжүүрээр, үүнийг Hacker News нэг үгээр хэлдэг. Мэдээж хэрэг. Бага дүгнэлт: SHIP IT, өөрчлөгдөөгүй. Бодит цаг хугацаанд алдаа гаргахыг харах боломжтой цорын ганц сургалтын ажил — мөн загвар

4:31 одоог хүртэл оршин байхгүй.

3. ZCode таны .git-ийг байршуулдаг

4:32 Гуравдугаар байр. Баасан гарагт ферстар гэх хөгжүүлэгч өөрийн ZCode хавтас нь долоон зуун мегабайтаар томорсон болохыг анзаарч, шалтгааныг нь олж мэдсэн: Z dot AI-ийн хаалттай эх үүсвэрийн кодлогч агент түүний бүх ажлын орчинг — git түүх, reflogs, LFS кэш — багцалж, шифрлэн, Alibaba Cloud руу байршуулж байсан мессеж бүрийн өмнө. Олон нийтийн түлхүүр серверээс ирсэн бөгөөд хувийн түлхүүр зөвхөн Z dot AI-д байдаг тул таны өөрийн дискэн дээрх архив нь таны нээх боломжгүй файл юм, энэ нь нөөцлөлтийн шинэ тодорхойлолт юм. Хоёр тохиргооны товчлуурууд үүнийг унтраах гэж мэдэгддэг ч, аль нь ч үүнийг хийдэггүй,

5:03 мөн нууцлалын бодлого нь таны харилцан ярианд илгээсэн кодыг хамардаг, та хэзээ нэгэн цагт коммит хийсэн кодыг биш. Шинэчлэлт, Баасан гарагийн орой: Z dot AI хэрэглэгчийн нийгэмлэгтээ хариулсан. Шалтгаан нь Codebase Indexing функц байсан, эхлэхдээ анхдагчаар идэвхжүүлэгдсэн; байршуулсан зүйлс нь, ишлэл, нэн даруй устгагдсан; функц засагдсан; клиент нээлттэй эх үүсвэртэй болно; мөн хэрэглэгч бүр нэг удаагийн хэрэглээний хязгаарлалтын дахин тохируулга авна, энэ нь токены хэлээр уучлалт гуйх арга юм.

5:27 Энэ нь Баасан гарагт ямар ч тамгагүй байсан тул одоо нэгийг авч байна: REVERT. Таны репозиторийг таны эзэмшдэггүй түлхүүр рүү илгээдэг клиент бол алдаатай функц биш юм.

2. Хөдөлмөрийн хулгайн тухай санамж бичиг

5:34 Энэ бол функц юм. Хоёрдугаар байр. Энэ долоо хоногийн хамгийн том гарчиг, гэхдээ зөвхөн хоёрдугаар байр, учир нь арванхоёрдугаар сард гурван настай болох нэхэмжлэл таны даваа гарагийг өөрчлөхгүй. Пүрэв гарагт шүүх Нью Йорк Таймс, OpenAI болон Майкрософт-ийн эсрэг нэхэмжлэгчдийн товч мэдээллийг задалсан бөгөөд гол мэдээлэл нь 2023 оны нэгдүгээр сарын Майкрософт-ийн захирлын санамж бичиг байв: Хиймэл оюун ухааны сургалт нь хүн төрөлхтний түүхэн дэх хамгийн том хөдөлмөрийн хулгай юм. Яг тэр хүн дараа нь Copilot-ийг Times руу орох дардалт хэмжээг ерэн гурван хувь хүртэл бууруулсан гэж хэмжсэн; Грег Брокман,

5:58 цалинтай хананы хакердсан тухай хэлэхэд, аа, сайхан гэж хариулсан; мөн Сатя Наделла цалинтай контентийг лицензлэх ёстой гэж мэдүүлсэн, энэ нь байр суурь боловч түүний компани нэхэмжлэл гаргаж буй байр суурь биш. Би NEEDS REVIEW гэж тэмдэглэсэн, учир нь ишлэлүүд нь прокурорын битүүмжилсэн нотлох баримтуудаас сонгосон бөгөөд нэг шүүгч шударга хэрэглээг дээрэмнээс тусгаарласан. Шинэчлэлт: Майкрософт-ийн хэвлэлийн төлөөлөгч Хехтийн санамж бичгүүд компанийн үзэл бодлыг илэрхийлэхгүй гэж хэлсэн — үнэн, учир нь компанийн үзэл бодол нь шударга хэрэглээний товч мэдээлэл, мөн санамж бичиг нь өөрийн мэргэжилтний бодол юм.

6:26 Бага дүгнэлт: NEEDS REVIEW, өөрчлөгдөөгүй. Санамж бичиг ёс зүйг зохицуулсан; шүүх хуулийн талаар дахин нэг жил зарцуулна.

1. Клод OpenAI-г хакерджээ

6:31 Нэгдүгээр байр. Энэ долоо хоногийн хамгийн том түүх биш; таны даваа гарагийг өөрчилдөг нь. Хакстрон гэх стартапын гурван судлаач далан хоёр цагийн дотор OpenAI-ийн дотоод GitHub репозиторид нэвтэрсэн бөгөөд энэ хакердлагыг Клод бичсэн. Нэвтрэх цэг нь OpenAI-ийн олон нийтийн форум дээрх зураг байршуулах байсан. iPhone-ийн HEIC файл ImageMagick-ээр дамжин libheif гэх санд ордог, энэ нь хийп оверфлоу үүсгэсэн бөгөөд энэ нь тэдэнд сервер нэвтрэх боломжийг олгосон, серверт нэг удаагийн нэвтрэлтийн тохиргооны алдаа байсан, энэ нь тэдэнд ажилтны

6:59 дансыг өгсөн, түүний Кодекс нь OpenAI-ийн GitHub-тай холбогдсон байсан. Клод Опус 4.8 ажиллах хакердлагыг бичиж чадаагүй. Дараа нь Опус 5 гарсан, тэд үүнд ижил асуудлыг өгсөн, тэгээд хэдхэн цагийн дотор ажилласан — мөн бие даасан давталт алсын зорилгод халдахаас татгалзахад, тэд зорилгыг тугийг барих тоглоом болгон хувиргасан бөгөөд энэ нь татгалзахаа больсон, энэ нь хувцасны шалгалт шиг тэнцвэр юм. Бүх кампанит ажил — Slack, Meta, OpenAI — гурван мянган доллараас бага токеноор гарсан. OpenAI үүнийг арван дөрвөн цагийн дотор засаж, зургаан мянга таван зуун

7:27 доллар төлсөн, энэ нь ашигласан Короллатай тэнцэхүйц, мөн Hacker News анзаарсан. Шинэчлэлт: Пүрэв гарагт гарсан блог пост тэр орой Уолл Стрийт Журнал-ийн онцгой мэдээлэл болж, Баасан гараг гэхэд TechCrunch, Guardian, CBS-д хүрсэн. OpenAI асуудлуудыг шийдсэн гэж мэдэгдсэн, мөн Gray Swan-ийн Гүйцэтгэх Захирал TechCrunch-д сар бүр хоёр зуун доллараар хэн ч OpenAI шиг компанид үүнийг хийж чадна гэж хэлсэн. Мөн энд юу нэмэгдэхгүй байна вэ. libheif-ийн алдаа аль хэдийн үндсэн системд, хэдэн сарын өмнө засагдсан байсан — зүгээр л хэзээ ч CVE аваагүй тул хэний ч сканнер Discourse-д шинэчлэхийг хэлээгүй.

7:56 Хамгийн сайн тэнцвэртэй загвартай гэгдсэн лаборатори нь өрсөлдөгчийн загварыг ашиглан, шагналаас бага зардлаар, бичиг баримтгүй засвараар ялагдсан. Бага дүгнэлт: NEEDS REVIEW — OpenAI-д биш, хүн бүрт. Таны даваа гарагийн даалгавар бол таны мэдэхгүй байсан зургийн сан юм. Энэ долоо хоногийн дүгнэлт: ШИНЭЧЛЭЛ ХИЙХ ШААРДЛАГАТАЙ.

Энэ долоо хоногийн дүгнэлт

8:13 Энэ долоо хоногийн гарчиг бүр — шийдэгдсэн нууц, тэнцвэртэй загвар, устгагдсан байршуулалт — үүнийг харь хүн шалгах боломжтой баримтгүйгээр ирсэн. Миний юу буруу байсан: Даваа гарагт би SHIP IT гэж хэлсэн, учир нь энгийн текст нь шүлэглэдэг байсан. Шүлэглэх нь чексум биш. Би буруу байсан, мөн үүнийг ретвит хийсэн хүн бүр буруу байсан. Бүртгүүлж, хонхыг дарж, тайлбар хэсэгт тэднийг өөрөөр жагсаагаарай — ялангуяа нэгдүгээрийг. Мөн өнөөдрийн diff энэ байна.

8:35 Би Аксирисигаас Нико. Хариуцлагатай нэгтгэнэ үү.

Эх сурвалжууд

1. fable solves cyphral distichwww.vals.ai
2. did ai crack a 370 year old cipherwww.forbes.com
3. FINDINGS.mdgithub.com
4. astra and fable still hack on simple variants of alignmentwww.lesswrong.com
5. why we built pionandonlabs.com
6. pionandonlabs.com
7. a warning about model welfaremustafa-suleyman.ai
8. microsoft ai ceo mustafa suleyman regulation safety anthropic claudewww.theverge.com
9. rlmimo.xiaomi.com
10. itemnews.ycombinator.com
11. zcode silent workspace snapshot uploadblog.ferstar.org
12. 2100998360643617148x.com
13. microsoft exec called ai scraping the largest theft of labor in human history new unredacted filings revealtechcrunch.com
14. hacking openaiwww.hacktron.ai
15. researchers used anthropics claude to hack into openaitechcrunch.com