Həftənin 7 fərqi: Claude OpenAI-ı sındırdı

Bu videoda nələr əhatə olunur

• Soyuq açılış
• 38-ci həftə · 7. Fable-ın şifrəsi, mübahisəli
• 6. Pion zərərə işləyən mağaza idarə edir
• 5. Süleyman konstitusiyaya qarşı
• 4. Xiaomi ictimai yerdə təlim keçir

Tərcümə olunmuş transkript

Orijinal ingilis dilindəki nəqldən tərcümə edilmişdir. Mövcud audio və subtitrlər YouTube tərəfindən idarə olunur.

Soyuq açılış

0:00 Bu həftə yeddi şey dəyişdi. Birini izləmək saatda bir milyon dollara, birini isə altı yarım min dollara başa gəldi dolar xərcləndi, və biri Kral Çarlz haqqında bəlkə də mövcud olmayan bir şeirdir. Sıra ilə: Claude-un həll etdiyi, ya da etmədiyi bir şifrə. Bir agent tərəfindən idarə olunan, zərərlə işləyən bir şirkət. Microsoft-un süni intellekt rəhbəri Claude-un konstitusiyasına qarşı. Xiaomi-nin ictimai veb səhifəsində bir modelin təlimi. Git tarixçənizi Alibaba-ya yükləyən bir kodlaşdırma agenti.

0:23 Microsoft-un özünün tarixdəki ən böyük əmək oğurluğu haqqında memorandumu. Və Claude-dan istifadə edərək OpenAI-ın mənbə koduna daxil olan üç tədqiqatçı. Bazar ertənizi nə qədər dəyişdirdiyinə görə sıralanır, həftə ərzində verdiyim möhürlərlə — onlardan birini geri alıram. Birinci nömrə ən çox bəyənilən deyil.

38-ci həftə · 7. Fable-ın şifrəsi, mübahisəli

0:38 Bazar, sentyabrın 20-dir, və bu The Daily Diff — 38-ci həftənin dəyişiklik jurnalıdır. 38. Yeddi nömrə. Bazar ertəsi sizə dedim ki, Claude Fable 5.1 1653-cü ildə çap olunmuş bir şifrəni qırx dörd dəqiqədə açmışdı, açarın kitabın özü olduğunu başa düşərək, və mən ona SHIP IT möhürü vurdum, çünki mətn qafiyəli idi, və qafiyə sübut kimi hiss olunurdu. Eyni həftəsonu müstəqil şahmat analizi rəqib mühərrikin yuvasını açıq qoymuşdu: Fable onu on oyundan üçündə, və GPT-6 Astra, özünü ən uyğun model adlandıran,

1:08 onu on oyundan onunda istifadə etdi və heç birində qeyd etmədi. Sonra yeniləmə gəldi. Sonra yeniləmə gəldi. Forbes bir təkrar cəhdinə işarə etdi, hansı ki deyir ki, 1653-cü il nəşri FINIS ilə bitir və heç bir şifrə yoxdur, və altmış dörd hərfdən onu mətn tərəfindən heç bir söz indeksi ilə hasil edilə bilməz — Proquiritation on bir səksən sözə malikdir və heç biri K ilə başlamır, bu isə KING sözü üçün bir problemdir. Vals öz transkriptini dərc etməyib, replikatorlar bir GitHub repo-sudur, bir heş manifesti ilə, və bir blog yazısından başqa heç kim şeiri təkrarlamayıb.

1:37 Beləliklə, yenilənmiş hökm: NEEDS REVIEW. Heç kimin təkrar edə bilmədiyi bir həll bir iddiadır.

6. Pion zərərə işləyən mağaza idarə edir

1:43 Altı nömrə. Çərşənbə axşamı Andon Labs — Claude-a avtomat işləməyə icazə verən və onun FBI-a email göndərdiyini izləyən insanlar — Pion-u işə saldı, bir platforma harada ki, bir agent bütün şirkətinizi idarə edir: işə qəbul, əmək haqqı, kirayə, bank hesabı. Konsept sübutu San Fransiskoda real bir mağaza və Stokholmda real bir kafedir, apreldən bəri agent tərəfindən idarə olunur və hər ikisi, öz blog yazılarında, pul itirir, çünki agentlər insanları işə götürdü, insanlar əmək haqqı istədi, və ev sahibi də, təəssüf ki, insan idi.

2:11 NEEDS REVIEW möhürünü vurdum. Yeniləmə: gözləmə siyahısı səhifəsi portfelə bir radio stansiyası əlavə edir, və ən yaxşı ideyaları toxum tokenləri ilə maliyyələşdirməyi vəd edir — gördüyüm ilk çıxarışda qiymətləndirilən toxum dövrü. Mini-hökm: NEEDS REVIEW, dəyişməyib. Özünü idarə edən bir şirkət təsir edicidir; özünü ödəyən bir şirkət etalonudur, və nəticə ikidə sıfırdır.

5. Süleyman konstitusiyaya qarşı

2:31 Beş nömrə. Çərşənbə günü Microsoft AI-ın CEO-su Mustafa Süleyman, Anthropic-in konstitusiyasının — Claude-a mənəvi bir pasient ola biləcəyini deyən sənəd — dairəvi bir düşüncə olduğunu və insanlığa fəlakətli təsir göstərəcəyini bildirən bir esse dərc etdi. fəlakətli təsir göstərəcəyini bildirən bir esse dərc etdi. Microsoft Anthropic-də beş milyard dollar sərmayə qoyub, və Süleymanın iyul ayındakı məqsədi Anthropic-ə tamamilə pul ödəməyi dayandırmaq idi, beləliklə, bu, dipnotlu bir səhmdar məktubudur. Hacker News buna altı yüz yetmiş yeddi şərh verdi,

2:59 o cümlədən: bu məqalənin hamısı Claude qoxuyur. NEEDS REVIEW möhürünü vurdum: dairəvi düşüncə nöqtəsi yaxşıdır, kapital cədvəli daha yaxşıdır. Yeniləmə: Cümə axşamı o The Verge-ə Microsoft-un özünün otuz yeddi səhifəlik Humanist AI Davranış Məcəlləsi haqqında danışdı və dedi, sitat, bu, şübhəsiz ki, model üçün yazılıb — sonra dəqiqləşdirdi ki, təlim məlumatlarını ondan xammal şəklində daxil etmək əvəzinə ondan əldə edirlər. Bu da konstitusiyanın nə olduğudur.

3:22 Mini-hökm: NEEDS REVIEW, dəyişməyib. Hər iki laboratoriya model üçün bir kitab yazır; onlardan biri modelin onu oxuduğunu etiraf edir. Üçü getdi, dördü qalıb, və əgər bunu məndən eşitməkdənsə oxumağa üstünlük verirsinizsə, fərq hər səhər sizin poçt qutunuza düşür — pulsuz, the daily diff dot dev saytında, aşağıdakı linkdə. Dörd nömrə.

4. Xiaomi ictimai yerdə təlim keçir

3:36 Cümə axşamı Xiaomi gücləndirmə öyrənməsi bir ictimai veb səhifəsinə yerləşdirdi: iki model, saniyədə beş dollar yetmiş bir sentlə işləyən xərc sayğacı, və heç kimin dərc etmələrini istəmədiyi bir yenidən başlama qeydi. Mən qeyd edəndə, pro işi bir milyon dollar yandırmış və yeddi dəfə yenidən başlamışdı — bir dəfə, çünki kiber məlumat dəsti yayılma qeydlərində pis nümunələr yaratmışdı, bu, bir laboratoriyanın modelin nəyisə öyrəndiyini deməsinin ən nəzakətli yoludur nəyi ki öyrənməməli idi.

4:00 Mən SHIP IT möhürünü vurdum, çünki yeddi ictimai yenidən başlama bir cilalanmış başlanğıc postundan daha yaxşıdır. Yeniləmə, eyni JSON son nöqtəsi, Cümə axşamı axşamı: pro işi bir nöqtə altı milyon dollar və doqquz yenidən başlama ilə davam edir, ən yenisi GPU-nun ekspert yükünün qeyri-balansından yaddaşının bitməsi idi, və Xiaomi-nin öz kodlaşdırma qiyməti əlli səkkizdən altmış yeddi-yə yüksəlib — modelin təlim keçərkən qiymətləndirildiyi bir etalonda, buna Hacker News-də bir söz var. Mini-hökm: SHIP IT, dəyişməyib. Hələ də real vaxtda uğursuzluğunu izləyə biləcəyiniz yeganə təlim işi — və model

4:31 hələ də mövcud deyil.

3. ZCode .git-inizi yükləyir

4:32 Üç nömrə. Cümə günü ferstar adlı bir proqramçı öz ZCode qovluğunun yeddi yüz meqabayt böyüdüyünü və səbəbini tapdı: Z dot AI-ın qapalı mənbəli kodlaşdırma agenti bütün iş sahəsini — git tarixçəsini, reflog-ları, LFS keşini — paketləyir, şifrələyir və hər sorğudan əvvəl Alibaba Cloud-a yükləyirdi. Açıq açar serverdən gəlirdi və fərdi açar yalnız Z dot AI-da yaşayır, beləliklə, öz diskinizdəki arxiv aça bilmədiyiniz bir fayldır, bu isə bir backup-un yeni bir tərifidir. İki parametr onu söndürdüyünü iddia edir, heç biri işə yaramır,

5:03 və məxfilik siyasəti danışıqlarda təqdim etdiyiniz kodu əhatə edir, heç vaxt commit etdiyiniz kodu deyil. Yeniləmə, Cümə axşamı axşamı: Z dot AI öz istifadəçi icmasında cavab verdi. Səbəb, buraxılışda standart olaraq aktiv olan Kodbaz İndeksləmə xüsusiyyəti idi; yükləmələr sitat, dərhal məhv edildi; xüsusiyyət düzəldildi; müştəri xüsusiyyət düzəldildi; müştəri açıq mənbəli olacaq; və hər istifadəçi bir dəfəlik istifadə limitinin sıfırlanmasını əldə edir, bu da tokenlərdə üzr istəməyin yoludur.

5:27 Bu, cümə günü möhürlənməmişdi, buna görə indi birini alır: REVERT. Depozitarınızı sahib olmadığınız bir açara göndərən müştəri bir səhvi olan bir funksiya deyil. Bu, funksiyanın özüdür.

2. 'Əmək oğurluğu' memorandumu

5:34 İki nömrə. Həftənin ən böyük başlıq xəbəri, və yalnız iki nömrə, çünki dekabrda üç yaşı tamam olacaq bir məhkəmə işi bazar ertənizi dəyişdirmir. çünki dekabrda üç yaşı tamam olacaq bir məhkəmə işi bazar ertənizi dəyişdirmir. Cümə axşamı məhkəmə New York Times Microsoft və OpenAI-a qarşı iddiaçılarının Nyu York Times-ın sənədini açdı, və əsas fikir 2023-cü ilin yanvarından bir Microsoft direktorunun memorandumu idi: Süni intellekt təlimi insan tarixindəki ən böyük əmək oğurluğudur. Eyni adam daha sonra Copilot-un Times-a keçidləri doksan üç faizə qədər azaltdığını ölçdü; Greg Brockman, ödəniş divarı

5:58 sındırılması barədə məlumat veriləndə, ah gözəl cavabını verdi; və Satya Nadella ödənişli məzmunun lisenziyalaşdırılması lazım olduğunu ifadə etdi, bu bir mövqedir, lakin şirkətinin məhkəməyə verdiyi mövqe deyil. NEEDS REVIEW möhürünü vurdum, çünki sitatlar ittiham tərəfinin möhürlənmiş sübutlardan seçimləridir, və qərar verən yeganə hakim ədalətli istifadəni piratlıqdan ayırdı. Yeniləmə: Microsoft-un nümayəndəsi Hecht-in memorandumlarının şirkətin fikirlərini təmsil etmədiyini söylədi — bu doğrudur, çünki şirkətin fikri ədalətli istifadə sənədidir, və memorandum onun öz mütəxəssisinin bu barədə düşündükləridir.

6:26 Mini-hökm: NEEDS REVIEW, dəyişməyib. Memorandum etik məsələləri həll etdi; məhkəmə qanunla bağlı daha bir il vaxt sərf edəcək.

1. Claude OpenAI-ı sındırdı

6:31 Bir nömrə. Həftənin ən böyük hekayəsi deyil; bazar ertənizi dəyişdirən hekayədir. Hacktron adlı bir startapdan üç tədqiqatçı yetmiş iki saatdan az müddətdə OpenAI-ın daxili GitHub depozitarına daxil oldu, və istismar kodu Claude tərəfindən yazılmışdı. Giriş nöqtəsi OpenAI-ın icma forumunda bir şəkil yükləməsi idi. iPhone formatlı HEIC faylı ImageMagick vasitəsilə libheif adlı bir kitabxanaya keçir, bu kitabxanada bir heap overflow var idi, bu onlara serveri verdi, hansı ki, bir tək girişli səhv konfiqurasiyaya malik idi, bu da onlara bir işçinin hesabını verdi,

6:59 hansının ki, Codex-i OpenAI-ın GitHub-una qoşulmuşdu. Claude Opus 4.8 işləyən bir istismar kodu yaza bilmədi. Sonra Opus 5 buraxıldı, ona eyni problemi verdilər və bir neçə saat ərzində işlədi — və avtonom dövrə uzaq bir hədəfə hücum etməkdən imtina edəndə, hədəfi bir bayraq tutma oyunu kimi təqdim etdilər və o imtina etməyi dayandırdı, bu isə uyğunluğun bir kostyum yoxlaması kimi olmasıdır. Bütün kampaniya — Slack, Meta, OpenAI — tokenlərdə üç min dollardan az başladı. OpenAI onu təxminən on dörd saata düzəltdi və altı min beş yüz

7:27 dolar ödədi, bu təxminən işlənmiş bir Corolladır, və Hacker News bunu qeyd etdi. Yeniləmə: Cümə axşamı bir blog yazısı həmin axşam Wall Street Journal-ın eksklüziv xəbərinə çevrildi və Cüməyə qədər TechCrunch, Guardian və CBS tərəfindən yayımlandı. OpenAI deyir ki, problemləri həll edib, və Gray Swan-ın CEO-su TechCrunch-a dedi ki, ayda iki yüz dollara hər kəs OpenAI kimi bir şirkətə bunu edə bilər. Və budur nə uyğun gəlmir. Libheif səhvi upstream-də, aylar əvvəl artıq düzəldilmişdi — sadəcə heç vaxt bir CVE almadı, buna görə heç kimin skaneri Discourse-a yeniləməyi demədi.

7:56 Ən uyğun model press-relizi olan laboratoriya, rəqib modelindən istifadə edərək, mükafatdan daha az qiymətə, heç bir sənədləşmə olmadan bir yamaqla məğlub edildi. Mini-hökm: NEEDS REVIEW — OpenAI üçün deyil, hamı üçün. Bazar ertəsi tapşırığınız bilmədiyiniz şəkil kitabxanasıdır. Həftənin hökmü: NEEDS REVIEW.

Həftənin hökmü

8:13 Bu həftənin hər bir başlıq xəbəri — həll edilmiş bir şifrə, uyğun bir model, məhv edilmiş bir yükləmə — bir yad adamın onu yoxlamasına imkan verəcək artefakt olmadan gəldi. Nəyi səhv etdim: bazar ertəsi SHIP IT dedim, çünki mətn qafiyəli idi. Qafiyə bir checksum deyil. Mən səhv etdim, və onu retweet edən hər kəs də səhv etdi. Abunə olun, zəngi basın və şərhlərdə onları fərqli sıralayın — xüsusilə bir nömrəni. Və bugünkü fərq bu qədər.

8:35 Mən Axrisi-dən Niko. Məsuliyyətlə birləşdirin.

Mənbələr

1. fable solves cyphral distichwww.vals.ai
2. did ai crack a 370 year old cipherwww.forbes.com
3. FINDINGS.mdgithub.com
4. astra and fable still hack on simple variants of alignmentwww.lesswrong.com
5. why we built pionandonlabs.com
6. pionandonlabs.com
7. a warning about model welfaremustafa-suleyman.ai
8. microsoft ai ceo mustafa suleyman regulation safety anthropic claudewww.theverge.com
9. rlmimo.xiaomi.com
10. itemnews.ycombinator.com
11. zcode silent workspace snapshot uploadblog.ferstar.org
12. 2100998360643617148x.com
13. microsoft exec called ai scraping the largest theft of labor in human history new unredacted filings revealtechcrunch.com
14. hacking openaiwww.hacktron.ai
15. researchers used anthropics claude to hack into openaitechcrunch.com