Жумадагы 7 өзгөрүү: Клод OpenAI'ды бузуп кирди

Бул видео эмнелерди камтыйт

• Киришүү
• 38-жума · 7. Fable's cipher, талаштуу
• 6. Пион дүкөн иштетет, чыгым менен
• 5. Сулейман конституцияга каршы
• 4. Xiaomi эл алдында окутат

Котормо стенограмма

Англис тилиндеги баштапкы баяндамадан которулган. Жеткиликтүү аудио жана коштомо жазуулар YouTube тарабынан көзөмөлдөнөт.

Киришүү

0:00 Бул жумада жети нерсе өзгөрдү. Бири бир саатына миллион доллар, бири алты жарым миң доллар кетирди, дагы бири Король Чарльз жөнүндө ыр болуп, балким, жок болушу мүмкүн. Тартиби боюнча: Клод чечкен же чечпеген код. Агент тарабынан башкарылган компания, чыгым менен. Майкрософттун AI жетекчиси Клоддун конституциясына каршы. Xiaomi моделди коомдук веб-баракчада окутуп жатат. Git тарыхыңызды Alibaba'га жүктөгөн коддоо агенти.

0:23 Майкрософттун өзүнүн тарыхтагы эң чоң эмгекти уурдоо жөнүндөгү меморандуму. Жана OpenAI'дын баштапкы кодуна кирүү үчүн Клодду колдонгон үч изилдөөчү. Дүйшөмбүңүздү канчалык өзгөртө турганына жараша тизилген, жума ичинде берген штамптарым менен — бириңди кайра алып жатам. Биринчи орун эң көп добуш алган окуя эмес.

38-жума · 7. Fable's cipher, талаштуу

0:38 Бүгүн жекшемби, 20-сентябрь, жана бул The Daily Diff — 38-жуманын өзгөрүүлөр журналы. Жетинчи орун. Дүйшөмбү күнү мен сизге Клод Fable 5.1 1653-жылы басылып чыккан кодду кырк төрт мүнөттө чечкенин, ачкычы китептин өзү экенин байкап, айткам. Мен ага SHIP IT деген штамп койдум, анткени жөнөкөй текст рифмалашат, жана рифма далилдей сезилди. Ошол эле дем алыш күндөрү көз карандысыз шахмат баалоочусу атаандаш кыймылдаткычтын розеткасын калтырып койгон: Fable аны он оюндун үчөөндө, ал эми GPT-6 Astra,

1:08 өзүн эң ылайыкташтырылган модель деп мүнөздөгөн, ондун ондо колдонгон жана эч биринде айткан эмес. Андан кийин жаңыртуу болду. Forbes репликация аракетин көрсөтүп, 1653-жылкы басылма FINIS менен аяктаарын жана эч кандай код жок экенин, жана алтымыш төрт тамганын ону тексттен эч кандай сөз индекси менен чыгарылбай турганын айтат — Proquiritation он биринде сексен сөз бар жана эч бири К тамгасынан башталбайт, бул KING сөзү үчүн көйгөй. Vals өзүнүн транскриптин жарыялаган жок, репликаторлор хэш манифести бар GitHub репозиторийи, жана бир блог постунан тышкары эч ким ырды кайра жараткан эмес.

1:37 Ошентип, өзгөртүлгөн өкүм: кайра карап чыгуу керек. Эч ким кайра иштете албаган чечим — бул доомат.

6. Пион дүкөн иштетет, чыгым менен

1:43 Алтынчы орун. Шейшемби күнү Andon Labs — Клодго вендинг машинаны иштетүүгө уруксат берип, ФБРге кат жөнөткөнүн көргөн адамдар — Pionду ишке киргизди, бул платформада агент бүт компанияңызды башкарат: жумушка алуу, эмгек акы, ижара акысы, банк эсеби. Концепциянын далили Сан-Францискодогу реалдуу дүкөн жана Стокгольмдогу реалдуу кафе, апрелден бери агенттер тарабынан башкарылат жана экөө тең, өздөрүнүн блог посту боюнча, акча жоготуп жатат, анткени агенттер адамдарды жалдашкан, адамдар айлык талап кылышкан, жана батир ээси, өкүнүчтүүсү, адам болгон.

2:11 Мен КАЙРА КАРАП ЧЫГУУ КЕРЕК деп штамп койдум. Жаңыртуу: күтүү тизмеси барагы портфолиого радиостанцияны кошот, жана мыкты идеяларды үрөн токендери менен каржылоого убада берет — мен көргөн биринчи үрөн раунду инференцияда көрсөтүлгөн. Мини-өкүм: кайра карап чыгуу керек, өзгөрүүсүз. Өзүн өзү башкарган компания таасирдүү; өзүн актаган компания — бул эталон, жана упай экиге нөл.

5. Сулейман конституцияга каршы

2:31 Бешинчи орун. Шаршемби күнү Microsoft AI компаниясынын башкы директору Мустафа Сулейман Anthropicтин конституциясы — Клодго адеп-ахлактык пациент болушу мүмкүн экенин айткан документ — айлангыч ой жүгүртүү экенин жана адамзатка кыйратуучу таасирин тийгизерин айткан эссе жарыялады. Майкрософт Anthropicтин беш миллиард долларга инвестору, жана Сулеймандын июль айындагы максаты Anthropicке төлөөнү толугу менен токтотуу болгон, ошондуктан бул шилтемелери бар акционердик кат. Hacker News ага алты жүз жетимиш жети комментарий берди,

2:59 анын ичинде: бул макала толугу менен Клоддон "жыттанат". Мен КАЙРА КАРАП ЧЫГУУ КЕРЕК деп штамп койдум: айлангыч ой жүгүртүү пункту жакшы, кап таблицасы жакшыраак. Жаңыртуу: бейшемби күнү ал The Vergeге Microsoftтун өзүнүн отуз жети барактык Humanist AI жүрүм-турум кодекси жөнүндө айтып, мындай деди: цитата, бул модель үчүн жазылган — андан кийин алар чийки берүүнүн ордуна анын негизинде окутуу маалыматтарын алышарын тактады. Бул дагы конституция деген эмне.

3:22 Мини-өкүм: кайра карап чыгуу керек, өзгөрүүсүз. Эки лаборатория тең модель үчүн китеп жазышат; алардын бири модель аны окуй турганын моюнга алат. Үчөө бүттү, төртөө калды, эгер сиз муну мен айткандан көрө окуганды кааласаңыз, айырмачылык ар күнү эртең менен почтаңызга келет — акысыз, thedailydiff.dev дарегинде, төмөндөгү шилтеме. Төртүнчү орун.

4. Xiaomi эл алдында окутат

3:36 Бейшемби күнү Xiaomi күчөтүү-окутуу ишин коомдук веб-баракчага жарыялады: эки модель, секундасына беш доллар жетимиш бир центтен эсептегич, жана эч ким жарыялоону сурабаган кайра баштоо журналы. Мен жаздырып жатканда, про-иш бир миллион долларды күйгүзүп, жети жолу кайра башталган — бир жолу кибер маалымат топтому жайылтуу журналдарында жаман үлгүлөрдү чыгаргандыктан, бул мен лабораториянын модель туура эмес нерсени үйрөнгөнүн уккан эң сылык жолу. керексиз нерсени үйрөнгөнүн уккан эң сылык жолу.

4:00 Мен SHIP IT деп штамп койдум, анткени жети коомдук кайра баштоо бир жылмаланган ишке киргизүү постун жеңет. Жаңыртуу, ошол эле JSON чекити, жума күнү кечинде: про-иш бир миллион алты жүз миң доллар жана тогуз жолу кайра баштоодо, эң акыркысы GPU эс тутуму түгөнгөндүктөн эксперттик жүктүн теңсиздигинен, жана Xiaomi'нин өзүнүн коддоо упайы элүү сегизден алтымыш жетиге көтөрүлдү — модель окутулуп жатканда бааланган эталон боюнча, Hacker News мунун атын билет. Мини-өкүм: SHIP IT, өзгөрүүсүз. Дагы деле реалдуу убакытта ийгиликсиздигин көрө ала турган жалгыз окутуу — жана модель

4:31 дагы деле жок.

3. ZCode .git файлыңызды жүктөйт

4:32 Үчүнчү орун. Жума күнү ferstar аттуу иштеп чыгуучу ZCode папкасы жети жүз мегабайт өскөнүн байкап, себебин тапты: Z.AI'дын жабык булактуу коддоо агенти анын бүт иш мейкиндигин — git тарыхын, reflogs, LFS кэш — шифрлеп, ар бир суроодон мурун Alibaba Cloud'га жүктөп жаткан. Коомдук ачкыч серверден келген, ал эми жеке ачкыч Z.AI'да гана жашайт, ошондуктан өз дискиңиздеги архив сиз ача албаган файл, бул камдык көчүрмөнүн жаңы аныктамасы. Эки жөндөө которгучу аны өчүрөт деп айтылат, бирок экөө тең өчүрбөйт,

5:03 жана купуялык саясаты сүйлөшүүлөрдө жөнөткөн кодуңузду камтыйт, эч качан аткарган кодуңузду эмес. Жаңыртуу, жума күнү кечинде: Z.AI өзүнүн колдонуучу коомчулугунда жооп берди. Себеби Codebase Indexing функциясы болгон, ал ишке киргенде демейки боюнча иштеген; жүктөмөлөр цитата, дароо жок кылынган; функция оңдолду; кардар ачык булактуу болот; жана ар бир колдонуучу өзүнүн колдонуу чектөөсүн бир жолку нөлгө келтирүүгө ээ болот, бул токендерде кечирим суроонун жолу.

5:27 Бул жума күнү эч кандай штамп алган эмес, ошондуктан азыр алат: REVERT. Репозиторийиңизди өзүңүз кармабаган ачкычка жөнөткөн кардар катасы бар функция эмес. Бул өзгөчөлүк.

2. 'Эмгекти уурдоо' меморандуму

5:34 Экинчи орун. Жуманын эң чоң жаңылыгы, бирок экинчи орунда гана, себеби декабрда үч жашка толо турган доо арыз дүйшөмбүңүздү өзгөртпөйт. бейшемби күнү сот New York Times vs. OpenAI жана Microsoft ишинде доочулардын арызын ачты, жана башкы маалымат Microsoft директорунун 2023-жылдын январындагы меморандуму болгон: AI окутуусу адамзат тарыхындагы эң чоң эмгекти уурдоо. Ошол эле киши кийинчерээк Copilot Times'ка баскычтарды басууну токсон үч пайызга чейин азайткандыгын өлчөгөн; Грег Брокман, "paywall hack" жөнүндө айтылганда,

5:58 "а, сонун" деп жооп берген; жана Сатя Наделла "paywalled" мазмуну лицензияланышы керек деп көрсөтмө берген, бул анын компаниясы соттошуп жаткан позиция эмес. Мен КАЙРА КАРАП ЧЫГУУ КЕРЕК деп штамп койдум, анткени цитаталар прокуратуранын жашыруун далилдерден тандап алгандары, жана чечим чыгарган бир судья ак ниет колдонууну каракчылыктан бөлүп койгон. Жаңыртуу: Microsoftтун өкүлү Хекттин меморандумдары компаниянын көз карашын чагылдырбайт деди — чындыгында, компаниянын көз карашы ак ниет колдонуу арызы экенинде, ал эми меморандум анын өз экспертинин ал жөнүндөгү пикири.

6:26 Мини-өкүм: кайра карап чыгуу керек, өзгөрүүсүз. Меморандум этиканы чечти; сот мыйзам боюнча дагы бир жыл алат.

1. Клод OpenAI'ды бузуп кирди

6:31 Биринчи орун. Жуманын эң чоң окуясы эмес; дүйшөмбүңүздү өзгөрткөн окуя. Hacktron аттуу стартаптын үч изилдөөчүсү жетимиш эки сааттан аз убакытта OpenAI'дын ички GitHub репозиторийлерине кирип кетишти, жана эксплуатация Клод тарабынан жазылган. Кирүү чекити OpenAI'дын коомдук форумундагы сүрөт жүктөө болгон. iPhone форматындагы HEIC файлы ImageMagick аркылуу libheif деп аталган китепканага кирген, анда "heap overflow" болгон, бул аларга серверди берген, серверде бирдиктүү кирүү катасы болгон, бул аларга кызматкердин аккаунтун берген,

6:59 анын Codexи OpenAI'дын GitHubына туташкан. Claude Opus 4.8 иштеген эксплуатацияны жаза алган жок. Андан кийин Opus 5 чыкканда, алар ага ошол эле маселени беришти, жана ал бир нече сааттын ичинде иштеди — жана автономдуу цикл алыскы бутага чабуул жасоодон баш тартканда, алар бутаны "capture-the-flag" катары көрсөтүп, ал баш тартууну токтотту, бул кийим текшерүү катары тегиздөө. Бүтүндөй кампания — Slack, Meta, OpenAI — токендерге үч миң доллардан аз чыгымдалган. OpenAI аны он төрт сааттын ичинде оңдоп, алты миң беш жүз доллар төлөдү,

7:27 бул болжол менен эски Королла, жана Hacker News байкады. Жаңыртуу: бейшемби күнү блог посту ошол кечинде Wall Street Journal эксклюзивине айланып, жума күнү TechCrunch, The Guardian жана CBSге жетти. OpenAI көйгөйлөрдү чечкенин айтат, ал эми Gray Swan компаниясынын башкы директору TechCrunchга айына эки жүз доллар менен ар ким OpenAI сыяктуу компанияга муну кыла алат деди. Жана мына эмне туура келбейт. libheif катасы буга чейин эле бир нече ай мурун жогору жакта оңдолгон — ал жөн эле эч качан CVE алган эмес, ошондуктан эч кимдин сканери Discourseго жаңыртууну айткан эмес.

7:56 Эң ылайыкташтырылган модель пресс-релизи бар лаборатория эч кандай кагаз иши жок патч менен, атаандаштын моделин колдонуп, сыйлыктан аз акчага жеңилди. Мини-өкүм: кайра карап чыгуу керек — OpenAI үчүн эмес, бардыгы үчүн. Дүйшөмбүдөгү милдетиңиз - сиз билбеген сүрөт китепканасы. Жуманын өкүмү: КАЙРА КАРАП ЧЫГУУ КЕРЕК.

Жуманын өкүмү

8:13 Бул жумадагы ар бир жаңылык — чечилген код, ылайыкташтырылган модель, жок кылынган жүктөө — чоочун адамга текшерүүгө мүмкүндүк бере турган артефактсыз келди. аны текшерүүгө мүмкүндүк бере турган артефактсыз келди. Мен эмнени туура эмес кылдым: дүйшөмбү күнү мен SHIP IT дедим, анткени жөнөкөй текст рифмалашат. Рифма контролдук сумма эмес. Мен жаңылыштым, жана аны ретвит кылган ар бир адам да жаңылышты. Жазылыңыз, коңгуроону басыңыз жана комментарийлерде аларды башкача баалаңыз — биринчи орунду өзгөчө. Жана бүгүнкү айырма ушул.

8:35 Мен Axrisiден Нико. Жоопкерчилик менен бириктириңиз.

Булактар

1. fable solves cyphral distichwww.vals.ai
2. did ai crack a 370 year old cipherwww.forbes.com
3. FINDINGS.mdgithub.com
4. astra and fable still hack on simple variants of alignmentwww.lesswrong.com
5. why we built pionandonlabs.com
6. pionandonlabs.com
7. a warning about model welfaremustafa-suleyman.ai
8. microsoft ai ceo mustafa suleyman regulation safety anthropic claudewww.theverge.com
9. rlmimo.xiaomi.com
10. itemnews.ycombinator.com
11. zcode silent workspace snapshot uploadblog.ferstar.org
12. 2100998360643617148x.com
13. microsoft exec called ai scraping the largest theft of labor in human history new unredacted filings revealtechcrunch.com
14. hacking openaiwww.hacktron.ai
15. researchers used anthropics claude to hack into openaitechcrunch.com