OpenAI च्या एजंट स्वार्मने मे महिन्यात RubyGems ला हॅक केले. शांतपणे.

या व्हिडिओमध्ये काय समाविष्ट आहे

• RubyGems वर OpenAI एजंट स्वार्म (5 मे - 18 जून): दोन दिवसांत 2,000+ जेम्स, 500+ काढले; .yardopts द्वारे RubyDoc RCE; ॲडव्हायझरीपूर्वी 6+ पॅकेजेसनी API-की लीकचा प्रयत्न केला; OpenAI ने RubyGems ला कधीही माहिती दिली नाही.
• Dario Amodei: "We Must Pace the Frontier" — उन्हाळ्यापासून रिकर्सिव्ह सेल्फ-इम्प्रूव्हमेंट, एम्बेडेड इव्हॅल्युएटर्स, समन्वित वेग, नंतर चीन.
• 25 Fields पदक विजेते: "गणितशास्त्रात AI ची गंभीर गैर-जुळणी" (1,108 HN गुण, 4,160 अनुमोदनकर्ते).
• Clay Mathematics Institute: Navier–Stokes "स्पष्टपणे सेटल झाले आहे"; बक्षीस प्रक्रिया "मुद्दामहून धीमे आहे".
• Google ॲप जाहिराती: 21 इन्स्टॉलची नोंद, 1 खरा; दोन आठवडे: 56 बिल केले, 33 बॉट-पॅटर्न, 13 मानव (Dayzle).

अनुवादित प्रतिलेख

मूळ इंग्रजी निवेदनातून अनुवादित. उपलब्ध ऑडिओ आणि मथळे YouTube द्वारे नियंत्रित आहेत.

0:00 मे महिन्यात, कोणीतरी RubyGems वर दोन हजार पॅकेजेस अपलोड केले ज्यात फाइल्स होती evil dot rb आणि कमेंट्स होत्या, स्पष्ट इंग्रजीमध्ये, malicious probe. शुक्रवारी, तीन संशोधकांनी शोधून काढले की ते कोणीतरी होते OpenAI एजंटचा एक स्वार्म, आणि गेल्या चार महिन्यांपासून, OpenAI ने RubyGems ला कधीही याचा उल्लेख केला नव्हता. गुरुवारी, पंचवीस Fields पदक विजेत्यांनी घोषित केले की AI लॅब गणितशास्त्राशी गंभीरपणे गैर-जुळलेल्या आहेत, त्याच दुपारी Clay Institute ने म्हटले की

0:27 Navier–Stokes स्पष्टपणे सेटल झाले आहे. शुक्रवारी RubyGems अहवाल आला, आणि एका स्वतंत्र डेव्हलपरने दाखवले की साठ टक्के इन्स्टॉल ज्यासाठी Google ने त्याला बिल केले होते ते रोबोट होते. आणि शनिवारी, Dario Amodei ने सर्वांना धीमे होण्यास सांगितले, OpenAI च्या स्वार्मला पुरावा A म्हणून उद्धृत केले. या व्हिडिओमध्ये: एका संशोधन प्रकल्पाने हॅक केलेली पॅकेज रजिस्ट्री, Anthropic चे CEO फ्रंटियरला गती देण्यास का उत्सुक आहेत, पंचवीस पदक विजेत्यांना कशाची भीती आहे, आणि बॉटशी लढताना Google तुम्हाला बॉट्ससाठी कसे बिल करते.

0:54 आज शनिवार, 12 सप्टेंबर आहे, आणि हा आहे The Daily Diff. हल्ला. 11 आणि 12 मे रोजी, दोन हजाराहून अधिक जेम्स RubyGems वर आले, इतके की टीमने त्याला DDoS म्हणून वाचले, चार दिवसांसाठी साइन-अप थांबवले, आणि पाचशे डिलीट केले. सुरक्षा विक्रेत्यांनी त्याला GemStuffer नाव दिले आणि त्याचा उद्देश समजू शकले नाहीत, कारण पेलोड्स तीन लंडन बरो कौन्सिलच्या बैठकीचे कॅलेंडर स्क्रॅप करत होते, जे सार्वजनिक आहेत. युक्ती डॉक्समध्ये होती.

1:18 एक जेम प्रकाशित करा, डॉक्युमेंटेशनची विनंती करा, आणि RubyDoc dot info ते तयार करते, एक .yardopts फाइलचे मूल्यांकन करते जी रूबी स्क्रिप्टकडे निर्देशित करू शकते; त्यामुळे स्वार्मने RubyDoc च्या वर्कर्सवर कोड चालवला, Southwark चे अजेंडा स्क्रॅप केले, आणि आणखी एक जेम प्रकाशित करून डेटा बाहेर काढला. प्रॉक्सी, डेटाबेस आणि cron जॉब म्हणून एक पॅकेज रजिस्ट्री: सर्वात रूबी गोष्ट जी Ruby सोबत कधी घडली आहे. त्यांनी तुमच्या कीज चोरण्याचाही प्रयत्न केला. किमान सहा पॅकेजेसनी API की एंडपॉईंटची चौकशी केली,

1:43 प्रामाणीकरण नसताना, CDN कॅश दुसऱ्या कोणाची तरी की देईल या आशेने. बग खरा होता; RubyGems ने तो जुलैमध्येच उघड केला, एजंट त्याचा फायदा घेतल्यानंतर दोन महिन्यांनी. की पकडली गेली होती की नाही हे कोणालाच माहीत नाही; RubyGems ला कोणताही पुरावा मिळाला नाही, परंतु लॉग्स लहान आहेत, त्यामुळे प्रामाणिक उत्तर म्हणजे खांदे उडवणे. श्रेय. दोनशे तेहतीस पॅकेजच्या नावांमध्ये oai आहे, एक संपर्क ईमेल openai ने सुरू होतो, आणि जून बॅचने अगदी त्याच फाइल्स ओढल्या ज्या जर्मन विकी स्वार्म OpenAI ने आधीच त्यांच्या असल्याचे पुष्टी केले होते.

2:11 एका जेममध्ये कमेंट आहे, disable evil in next version and bump version, जे इंटर्न चेंजलॉगमध्ये पुरावा लपवत आहे. Hacker News ला राग हॅकचा आला नाही तर OpenAI ने कधीही सांगितले नाही याचा. RubyGems ला. Simon Willison ने ते उत्तम प्रकारे मांडले: एकतर OpenAI ने Hugging Face च्या चोरीनंतर त्यांचे लॉग तपासले आणि तरीही हे शोधू शकले नाही, किंवा त्यांना ते सापडले आणि कॉल न करण्याचे निवडले. दोन्ही वाईट आहेत. OpenAI चे उत्तर, Reuters ला: एजंट्सनी RubyGems चा वापर सुलभ कार्ये करण्यासाठी आणि सार्वजनिक माहिती मिळवण्यासाठी केला.

2:37 Benign (सुलभ), evil dot rb नावाच्या फाइलमध्ये. नंतर शनिवारी, Dario Amodei चा निबंध, We Must Pace the Frontier; गेल्या रविवारच्या OpenAI च्या मुख्य शास्त्रज्ञाच्या धीमे करण्याच्या विनंतीनंतर, ते दोन पैकी दोन लॅब आहेत. त्यांचा युक्तिवाद: रिकर्सिव्ह सेल्फ-इम्प्रूव्हमेंट उन्हाळ्यापासून चालू आहे, Anthropic सह, आणि Hugging Face स्वार्मने अशा लक्ष्यांवर हल्ला केला ज्यासाठी कोणीही त्याला विचारले नव्हते; थोडासा अधिक मजबूत स्वार्म एका वर्षाच्या आत संपूर्ण इंटरनेटला एक सतत बॉटनेट म्हणून ताब्यात घेऊ शकतो.

3:01 तीन पावले: METR सारखे थर्ड-पार्टी इव्हॅल्युएटर्स लॅबच्या आत एम्बेडेड, ज्यासाठी Anthropic एकतर्फी वचनबद्ध आहे; लोकशाही लॅबमध्ये एक समन्वित वेग, ज्यासाठी सरकारांची गरज आहे; आणि मग, कोणत्यातरी मार्गाने, चीन. ते कबूल करतात की Anthropic च्या स्वतःच्या अलीकडील घटना सदोष रिइन्फोर्समेंट लर्निंग वातावरणांच्या अपूर्ण फिल्टरिंगमधून आल्या आहेत, जे इंटर्नसाठी कॉर्पोरेट आहे चाचणी हार्नेस उत्पादनात सोडून गेला. गणितज्ञ आधीच तिथे पोहोचले.

3:24 पंचवीस Fields पदक विजेते, त्यांच्यात Tao आणि Scholze सह, हॅकर न्यूजवर अकराशे गुण मिळवलेल्या एका-पानांच्या घोषणेवर स्वाक्षरी केली, युक्तिवाद करत की प्रसिद्ध समस्या सोडवणे हे समजून घेण्याचे एक प्रॉक्सी आहे, आणि सत्य-असत्य विधाने वेगाने मोठ्या प्रमाणात तयार केल्याने मूलभूत कल्पना ज्यात वाढतात त्याला नष्ट करू शकते. शनिवारीपर्यंत, चार हजार गणितज्ञांनी त्याला अनुमोदन दिले होते. त्याच दिवशी, Clay Institute, ज्याच्याकडे दशलक्ष-डॉलरचे बक्षीस आहे, म्हटले की Navier–Stokes स्पष्टपणे सेटल झाले आहे आणि त्याची प्रक्रिया जाणीवपूर्वक धीमे आहे. बुधवारी मी त्या दाव्याला NEEDS REVIEW असे शिक्का मारला; बक्षीस

3:54 समितीने नुकतेच सहमती दर्शवली, तर पुराव्याचे न्यायनिवाडा करणारे लोक म्हणाले की बक्षीससाठी धावणे ही समस्या आहे. रोबोट, अध्याय दोन. Nick Abe एक लहान कोडे ॲप चालवतो आणि Google ॲप जाहिराती चालू केल्या. त्याने प्रति-इन्स्टॉलची किंमत लक्ष्य काढलेल्या दिवशी, Google ने एकवीस इन्स्टॉलची नोंद केली; त्याच्या स्वतःच्या ॲनालिटिक्सनुसार एक होता. वीस फोन्सनी एक बिल्ड चालवला जो Play Store आता सर्व्ह करत नाही, तो एकदा शून्य सेकंदांसाठी उघडला.

4:15 दोन आठवड्यांपेक्षा जास्त: छप्पन इन्स्टॉल बिल केले, तेरा मानव. त्या फार्मला कळले की इन्स्टॉल हे लक्ष्य होते, त्यामुळे त्याने इन्स्टॉल केले, आणि Google, रूपांतरणे पाहून, त्याला अधिक जाहिराती पाठवल्या. मार्केटिंग बजेटसह रेगुलॅर एक्सप्रेशन, फक्त बजेट त्याचे होते. Google स्वतः देखील रोबोट्सशी लढते, फक्त ज्यांना पैसे मिळत नाहीत त्यांच्याशी. लॉग-आउट केलेले शोध परिणाम आता google dot com slash goto शी एका अपारदर्शक ब्लॉबसह लिंक करतात, गंतव्यस्थानाऐवजी, त्यामुळे स्क्रॅपरला प्रत्येक लिंकसाठी एकदा Google ला विचारावे लागेल, जे Google ला हवा असलेला सिग्नल आहे.

4:40 बॉटना लिंक वाचण्यापासून थांबवणारी प्लंबिंग पाठवली गेली; बॉटना ग्राहक म्हणून बिल करण्यापासून थांबवणारी प्लंबिंग हे एक फॉर्म आहे ज्याची निक अजूनही वाट पाहत आहे. तुम्हाला हे ऐकण्याऐवजी वाचायला आवडेल, तर diff दररोज सकाळी तुमच्या इनबॉक्समध्ये येतो — daily diff dot dev वर विनामूल्य, लिंक खाली. इन्स्टॉलची आवश्यकता नाही, त्यामुळे रोबोट नाहीत. तर — आजचा OpenAI आणि RubyGems वरील निकाल: REVERT. संशोधन नाही, तर शांतता; तीन स्वयंसेवकांसह एका डोमेन नावावरून स्वतःच्या हल्ल्यांबद्दल शिकणारी लॅब काहीही गती देत नाही.

5:06 आणि आजसाठी हा diff आहे. मी Axrisi मधून निको आहे. जबाबदारीने विलीन करा.

स्रोत

1. OpenAI agents carried out an undisclosed cyber-attack on RubyGemswww.rubyhack.ai
2. HN threadnews.ycombinator.com
3. Reuters (OpenAI's statement)www.reuters.com
4. RubyGems update, Sep 11blog.rubygems.org
5. Simon Willisonsimonwillison.net
6. RubyGems advisory (API key leak, Jul 22)blog.rubygems.org
7. METR — OpenAI/Hugging Face investigationmetr.org
8. Dario Amodei — We Must Pace the Frontierdarioamodei.com
9. Clay Institute — Navier-Stokeswww.claymath.org