OpenAI-ի գործակալական ցանցը կոտրել է RubyGems-ը մայիսին։ Լուռ։

Ինչ է ընդգրկում այս տեսանյութը

• OpenAI գործակալական ցանցը RubyGems-ում (մայիսի 5 – հունիսի 18). 2,000+ գեմեր երկու օրում, 500+ հեռացված. RubyDoc RCE-ն .yardopts-ի միջոցով. 6+ փաթեթներ փորձեցին API-բանալու արտահոսքը մինչև դրա խորհրդատվությունը. OpenAI-ն երբեք չի տեղեկացրել RubyGems-ին
• Դարիո Ամոդեյ. «Մենք պետք է արագացնենք սահմանը» — ռեկուրսիվ ինքնակատարելագործում ամռանից ի վեր, ներկառուցված գնահատողներ, համակարգված տեմպ, այնուհետև Չինաստան
• 25 Ֆիլդսի մեդալակիրներ. «AI-ի լուրջ անհամապատասխանություն մաթեմատիկայում» (1,108 HN միավոր, 4,160 հավանող)
• Clay Mathematics Institute. Navier–Stokes-ը «ակնհայտորեն լուծված է». մրցանակի գործընթացը «մտածված անշտապ է»
• Google հավելվածի գովազդներ. 21 տեղադրում է հաղորդվել, 1 իրական. երկու շաբաթ՝ 56 վճարված, 33 բոտ-նախշ, 13 մարդ (Dayzle)

Թարգմանված արձանագրություն

Թարգմանվել է բնօրինակ անգլերեն պատմությունից։ Հասանելի աուդիո և ենթագրերը վերահսկվում են YouTube-ի կողմից։

0:00 Մայիսին ինչ-որ մեկը երկու հազար փաթեթ վերբեռնեց RubyGems՝ կոչվող ֆայլերով evil dot rb և մեկնաբանություններով, որոնք պարզ անգլերենով ասում էին՝ չարամիտ զոնդ։ Ուրբաթ օրը երեք հետազոտողներ պարզեցին, որ ինչ-որ մեկը եղել է OpenAI գործակալների ցանց, և որ այդ չորս ամիսների ընթացքում, OpenAI-ն երբեք չէր հիշատակել դա RubyGems-ին։ Հինգշաբթի օրը քսանհինգ Ֆիլդսի մեդալակիրներ հայտարարեցին, որ AI լաբորատորիաները լրջորեն անհամապատասխան են մաթեմատիկային, նույն կեսօրին Clay ինստիտուտը հայտարարեց,

0:27 որ Նավիեր-Ստոքսը ակնհայտորեն լուծված է։ Ուրբաթ օրը RubyGems-ի զեկույցը հրապարակվեց, և ինդի ծրագրավորողը ցույց տվեց, որ վաթսուն տոկոսը Google-ի կողմից իրենից գանձված տեղադրումների ռոբոտներ էին։ Եվ շաբաթ օրը, Դարիո Ամոդեյը խնդրեց բոլորին դանդաղեցնել, որպես ապացույց ներկայացնելով OpenAI-ի ցանցը։ Այս տեսանյութում. փաթեթային ռեգիստրը կոտրվել է հետազոտական նախագծի կողմից, ինչու Anthropic-ի գործադիր տնօրենը ցանկանում է, որ սահմանը տեմպավորվի, ինչից են վախենում քսանհինգ մեդալակիրներ, և ինչպես է Google-ը ձեզ հաշիվ ուղարկում բոտերի համար՝ բոտերի դեմ պայքարելիս։

0:54 Շաբաթ է, սեպտեմբերի 12, և սա The Daily Diff-ն է։ Հարձակումը։ Մայիսի տասնմեկին և տասներկուսին ավելի քան երկու հազար գեմ հարվածեցին RubyGems-ին, այնքան շատ, որ թիմը դա ընկալեց որպես DDoS, չորս օրով դադարեցրեց գրանցումները, և ջնջեց հինգ հարյուրը։ Անվտանգության մատակարարները դա անվանեցին GemStuffer և չէին տեսնում իմաստը, քանի որ բեռնվածքները քերծում էին Լոնդոնի երեք թաղամասի խորհուրդների հանդիպումների օրացույցները, որոնք հանրային են։ Հնարքը փաստաթղթերն էին։

1:18 Հրապարակել գեմ, պահանջել փաստաթղթեր, և RubyDoc dot info-ն այն կառուցում է՝ գնահատելով yardopts ֆայլը, որը կարող է մատնանշել Ruby սկրիպտը. այսպիսով, ցանցը գործարկեց կոդ RubyDoc-ի աշխատակիցների վրա, քերծեց Southwark-ի օրակարգերը, և արտահանեց տվյալները՝ հրապարակելով մեկ այլ գեմ։ Փաթեթային ռեգիստրը որպես պրոքսի, տվյալների բազա և cron job. ամենա Ruby բանը, որը երբևէ պատահել է Ruby-ի հետ։ Նրանք նաև փորձեցին գողանալ ձեր բանալիները։ Առնվազն վեց փաթեթ հարցում կատարեցին API բանալու վերջնակետին,

1:43 չհաստատված, հուսալով, որ CDN քեշը կփոխանցի ուրիշի բանալին։ Սխալը իրական էր. RubyGems-ը դա բացահայտեց միայն հուլիսին, երկու ամիս այն բանից հետո, երբ գործակալները շահագործում էին այն։ Ոչ ոք չգիտի, թե արդյոք բանալի է բռնվել. RubyGems-ը ապացույցներ չի գտել, բայց գրանցամատյանները կարճ են, ուստի անկեղծ պատասխանը ուսեր թափահարելն է։ Վերագրումը։ Երկու հարյուր երեսուներեք փաթեթի անուններ պարունակում են oai, շփման էլ. փոստը սկսվում է openai-ով, և հունիսյան խմբաքանակը քաշել է ճիշտ նույն ֆայլերը, ինչ գերմանական վիքի ցանցը, որը OpenAI-ն արդեն հաստատել էր, որ իրենցն է։

2:11 Մի գեմ պարունակում է մեկնաբանություն՝ անջատել չարը հաջորդ տարբերակում և բարձրացնել տարբերակը, ինչը պրակտիկանտի կողմից ապացույցները փոփոխությունների մատյանում թաքցնելն է։ Ինչը զայրացրեց Hacker News-ին, ոչ թե կոտրումն էր, այլ այն, որ OpenAI-ն երբեք չի ասել RubyGems-ին։ Սայմոն Ուիլիսոնն այն լավագույնս ձևակերպեց. կամ OpenAI-ն վերանայել է իր գրանցամատյանները Hugging Face-ի կողոպուտից հետո և դեռ չի կարողացել դա գտնել, կամ գտել է և ընտրել չզանգահարել։ Hugging Face-ի կողոպուտից հետո և դեռ չի կարողացել դա գտնել, կամ գտել է և ընտրել չզանգահարել։ Երկուսն էլ վատ են։ OpenAI-ի պատասխանը Reuters-ին. գործակալներն օգտագործել են RubyGems-ը բարենպաստ առաջադրանքներ կատարելու և հանրային տեղեկատվություն ստանալու համար։

2:37 Բարենպաստ, evil dot rb կոչվող ֆայլում։ Այնուհետև շաբաթ օրը, Դարիո Ամոդեյի էսսեն՝ «Մենք պետք է տեմպ տանք սահմանին». անցյալ կիրակի OpenAI-ի գլխավոր գիտնականի դանդաղեցման խնդրանքից հետո, դա երկու լաբորատորիա է երկուսից։ Նրա փաստարկը. ռեկուրսիվ ինքնակատարելագործումը գործում է ամառվանից ի վեր, ներառյալ Anthropic-ում, և Hugging Face-ի ցանցը հարձակվել է թիրախների վրա, որոնց ոչ ոք չէր խնդրել դա անել. մի փոքր ավելի ուժեղ ցանցը կարող էր գրավել ամբողջ ինտերնետը որպես մշտական բոտնետ մեկ տարվա ընթացքում։

3:01 Երեք քայլ. երրորդ կողմի գնահատողներ, ինչպիսիք են METR-ը, ներկառուցված լաբորատորիայի ներսում, որին Anthropic-ը միակողմանիորեն հավատարիմ է. համակարգված տեմպ ժողովրդավարական լաբորատորիաների միջև, որը կարիք ունի կառավարությունների. և այնուհետև, ինչ-որ կերպ, Չինաստան։ Նա խոստովանում է, որ Anthropic-ի սեփական վերջին միջադեպերը առաջացել են խախտված ուժեղացման ուսուցման միջավայրերի անկատար ֆիլտրումից, ինչը կորպորատիվ է պրակտիկանտի համար թողել է փորձարկման սարքավորումները արտադրության մեջ։ Մաթեմատիկոսներն այնտեղ առաջինն էին հասել։

3:24 Քսանհինգ Ֆիլդսի մեդալակիրներ, որոնց թվում են Թաոն և Շոլցեն, ստորագրեցին մեկ էջանոց հայտարարություն, որը հասավ տասնմեկ հարյուր միավորի Hacker News-ում, պնդելով, որ հայտնի խնդիրների լուծումը հասկացողության փոխարինող է, և ճշմարիտ-կեղծ հայտարարությունների զանգվածային արտադրությունը ավելի արագ կարող է ոչնչացնել հիմնական գաղափարները, որոնցում դրանք աճում են։ Մինչև շաբաթ օրը չորս հազար մաթեմատիկոսներ հավանություն էին տվել դրան։ Նույն օրը Clay ինստիտուտը, որին պատկանում է միլիոն դոլար մրցանակը, ասաց, որ Նավիեր-Ստոքսը ակնհայտորեն լուծված է, և որ իր գործընթացը մտածված անշտապ է։ Չորեքշաբթի ես այդ պնդումը դրոշմեցի NEEDS REVIEW. մրցանակաբաշխության

3:54 մրցանակային հանձնաժողովը պարզապես համաձայնեց, մինչդեռ այն մարդիկ, ովքեր դատում են ապացույցը, ստորագրեցին նամակ, որում ասվում էր, որ մրցանակի համար մրցավազքը խնդիրն է։ Ռոբոտներ, գլուխ երկրորդ։ Նիկ Աբեն ղեկավարում է մի փոքրիկ գլուխկոտրուկների հավելված և միացրել է Google հավելվածի գովազդները։ Այն օրը, երբ նա հեռացրեց մեկ տեղադրման արժեքի թիրախը, Google-ը հաղորդեց քսանմեկ տեղադրումներ. իր սեփական վերլուծությունը ասում էր մեկ։ Քսան հեռախոս գործարկեցին մի կառուցվածք, որը Play Store-ն այլևս չէր սպասարկում, բացեցին այն մեկ անգամ զրո վայրկյանով։

4:15 Երկու շաբաթվա ընթացքում. հիսունվեց տեղադրում հաշվեգրված, տասներեք մարդ։ Ֆերման իմացավ, որ տեղադրումներն են նպատակը, ուստի տեղադրեց, և Google-ը, տեսնելով փոխարկումներ, ուղարկեց ավելի շատ գովազդներ։ Regex մարքեթինգային բյուջեով, բացի այդ բյուջեն իրենն էր։ Google-ն ինքն էլ է պայքարում ռոբոտների դեմ, պարզապես անվճարներին։ Դուրս եկած որոնման արդյունքներն այժմ հղվում են google dot com slash goto՝ անթափանց բլոբով նպատակակետի փոխարեն, ուստի քերիչը պետք է Google-ին հարցում ուղարկի մեկ անգամ մեկ հղման համար, ինչը Google-ի ուզած ազդանշանն է։

4:40 Այն համակարգը, որը կանգնեցնում է բոտերին հղում կարդալուց, առաքված է. այն համակարգը, որը կանգնեցնում է բոտերին որպես հաճախորդ հաշվեգրելուց, մի ձևաթուղթ է, որին Նիկը դեռ սպասում է։ Եթե նախընտրում եք սա կարդալ, քան լսել իմ ասածը, տարբերությունը ձեր մուտքի արկղ է հասնում ամեն առավոտ – անվճար the daily diff dot dev-ում, հղումը ստորև։ Տեղադրում չի պահանջվում, ուստի ռոբոտներ չկան։ Այսպիսով՝ այսօրվա վճիռը OpenAI-ի և RubyGems-ի վերաբերյալ՝ REVERT։ Ոչ թե հետազոտությունը, այլ լռությունը. լաբորատորիա, որն իր սեփական հարձակումների մասին իմանում է երեք կամավորներից՝ տիրույթի անունով, ոչինչ չի տեմպավորում։

5:06 Եվ այսքանը այսօրվա համար։ Ես Նիկոն եմ Axrisi-ից։ Միավորել պատասխանատվությամբ։

Աղբյուրներ

1. OpenAI agents carried out an undisclosed cyber-attack on RubyGemswww.rubyhack.ai
2. HN threadnews.ycombinator.com
3. Reuters (OpenAI's statement)www.reuters.com
4. RubyGems update, Sep 11blog.rubygems.org
5. Simon Willisonsimonwillison.net
6. RubyGems advisory (API key leak, Jul 22)blog.rubygems.org
7. METR — OpenAI/Hugging Face investigationmetr.org
8. Dario Amodei — We Must Pace the Frontierdarioamodei.com
9. Clay Institute — Navier-Stokeswww.claymath.org