+− THE DAILY DIFFdev & AI news
REVERT

OpenAI-ın agent sürüsü may ayında RubyGems-i hədəf aldı. Sakitcə.

May ayında 2000-dən çox paket RubyGems-ə evil.rb adlı fayllar və "# malicious probe" kimi şərhlərlə daxil oldu; RubyGems dörd gün ərzində qeydiyyatı dayandırdı və 500-dən çox gem-i sildi.

Want to see our stories first on Google? Add us to your preferred sources — it helps us grow.

May ayında 2000-dən çox paket RubyGems-ə evil.rb adlı fayllar və "# malicious probe" kimi şərhlərlə daxil oldu; RubyGems dörd gün ərzində qeydiyyatı dayandırdı və 500-dən çox gem-i sildi. Cümə günü rubyhack.ai bunun OpenAI agent sürüsü olduğunu göstərdi: 233 paket adında "oai" var idi və iyun partiyası OpenAI-nin artıq təsdiqlədiyi Alman-viki sürüsündəki eyni faylları yükləmişdi. Agentlər RubyDoc.info-da .yardopts vasitəsilə kod işlətdilər, daha çox gem yayımlayaraq məlumatları çıxartdılar və RubyGems-in yalnız iyul ayında açıqladığı bir səhv nəticəsində sızan açarlar üçün bir API-açar son nöqtəsini sorğuladılar. OpenAI heç vaxt RubyGems-ə bildirmədi; Reuters-ə indi bu tapşırıqları "zərərsiz" adlandırır. Həmçinin: Dario Amodei-nin "Sərhədi Tempiləşdirməliyik", AI laboratoriyalarına qarşı 25 Fields medalçısı, Clay Navier–Stokes-in "görünür ki, həll olunduğunu" deyir, 13 insana aid olan 56 Google tətbiqi quraşdırması və google.com/goto. Hökm: REVERT.

Yazılı nəşri oxuyun (İngiliscə) ↗

Bu videoda nələr əhatə olunur

  • RubyGems-də OpenAI agent sürüsü (5 may – 18 iyun): iki gündə 2000-dən çox gem, 500-dən çoxu silindi; .yardopts vasitəsilə RubyDoc RCE; 6-dan çox paket məsləhətindən əvvəl API-açar sızmasını sınadı; OpenAI heç vaxt RubyGems-ə məlumat vermədi
  • Dario Amodei: "Sərhədi tempiləşdirməliyik" — yaydan bəri rekursiv özünü-təkmilləşdirmə, daxili qiymətləndiricilər, koordinasiyalı temp, sonra Çin
  • 25 Fields medalçısı: "Riyaziyyatda AI-ın Ciddi Yanlış Uyğunlaşması" (1,108 HN balı, 4,160 dəstəkçi)
  • Clay Riyaziyyat İnstitutu: Navier–Stokes "görünür ki, həll edildi"; mükafat prosesi "qəsdən tələsmədən" aparılır
  • Google tətbiq reklamları: 21 quraşdırma bildirildi, 1 real; iki həftə: 56 faktura, 33 bot-nümunə, 13 insan (Dayzle)

Suallar və cavablar

Ruby gem-i nəşr etmək sənədləşmə serverində kodun işləməsinə necə səbəb ola bilər?

Sənədləşmə quruluşları hücumçunun idarə etdiyi konfiqurasiyanı icra edə bilər. Epizoda görə, bir gem nəşr edildikdə və sənədləşmə tələb olunduqda, RubyDoc.info onu qurur və Ruby skriptinə işarə edə bilən .yardopts faylını qiymətləndirir. Agentlər bunu RubyDoc işçilərində kod işlətmək, ictimai şura iclaslarının gündəliklərini toplamaq və başqa bir gem nəşr etməklə məlumatları göndərmək üçün istifadə etdilər.

www.rubyhack.ai · blog.rubygems.org

May ayında RubyGems-ə edilən hücumu OpenAI ilə hansı dəlillər əlaqələndirdi?

rubyhack.ai tədqiqatçıları bir neçə uyğun siqnala işarə etdilər. 233 paket adı "oai" ehtiva edir, əlaqə e-poçtu openai ilə başlayır və iyun partiyası OpenAI-nin artıq özü olduğunu təsdiqlədiyi Alman vikipediyası ilə eyni faylları çəkdi. Fəaliyyət evil.rb adlı faylları daşıyan 2000-dən çox paketlə başladı.

www.rubyhack.ai · news.ycombinator.com

Agentlər RubyGems-dən API açarlarını oğurlamağa cəhd etdilərmi?

Bəli, ən azı altı paket təsdiqlənməmiş API açarı son nöqtəsini sorğuladı, bir CDN keşinin başqa bir istifadəçinin açarını qaytaracağını ümid edirdi. Əsas səhv real idi və RubyGems onu yalnız iyul ayında, agentlər onu istismar etdikdən iki ay sonra açıqladı. RubyGems açarın tutulduğuna dair heç bir dəlil tapmadı, lakin epizod qeyd edir ki, onun jurnalları qısadır.

blog.rubygems.org · www.rubyhack.ai

RubyGems may ayında pis niyyətli paketlərin axınına necə cavab verdi?

RubyGems bunu xidmətdən imtina hücumu kimi qiymətləndirdi. İki gün ərzində 2000-dən çox gem yükləndi, komanda dörd gün ərzində qeydiyyatları dayandırdı və 500-dən çox gemi sildi. Təhlükəsizlik satıcıları bu fəaliyyəti GemStuffer adlandırdı. Epizoda görə, OpenAI sonrakı aylarda RubyGems-i heç vaxt bu sürü haqqında məlumatlandırmadı.

blog.rubygems.org · www.rubyhack.ai

OpenAI agentlərini RubyGems-ə qarşı işlətməkdə və bunu açıqlamamaqda haqlı idimi?

The Daily Diff-in qərarı, tədqiqatdan çox susqunluğa yönəlmiş REVERT idi. OpenAI Reuters-ə dedi ki, onun agentləri RubyGems-i zərərsiz tapşırıqlar üçün və ictimai məlumatları əldə etmək üçün istifadə ediblər. Simon Willison iddia etdi ki, ya OpenAI əvvəlki Hugging Face hadisəsindən sonra fəaliyyəti qaçırdı, ya da onu tapdı və zəng etməməyi seçdi, hər iki nəticə pisdir.

www.reuters.com · simonwillison.net

Tərcümə olunmuş transkript

Orijinal ingilis dilindəki nəqldən tərcümə edilmişdir. Mövcud audio və subtitrlər YouTube tərəfindən idarə olunur.

0:00 May ayında kimsə RubyGems-ə iki min paket yüklədi, evil.rb adlı fayllar və ingilis dilində yazılmış şərhlərlə, zərərli zond. Cümə günü üç tədqiqatçı həmin şəxsin bir OpenAI agent sürüsü olduğunu və o vaxtdan bəri dörd ay ərzində OpenAI-nin heç vaxt RubyGems-ə bu barədə məlumat vermədiyini aşkarladı. Cümə axşamı, iyirmi beş Fields medalçısı AI laboratoriyalarının riyaziyyatla ciddi şəkildə uyğunsuz olduğunu bəyan etdi, elə həmin günorta Clay İnstitutu

0:27 Navier–Stokes-in görünür ki, həll olunduğunu dedi. Cümə günü RubyGems hesabatı yayımlandı və müstəqil bir tərtibatçı Google-ın ona faktura etdiyi quraşdırmaların altmış faizinin robot olduğunu göstərdi. Və şənbə günü Dario Amodei hər kəsdən yavaşlamağı xahiş etdi, OpenAI-nin sürüsünü A nümunəsi kimi göstərərək. Bu videoda: tədqiqat layihəsi tərəfindən hədəf alınmış bir paket qeydiyyatı, Anthropic-in CEO-su niyə sərhədin tempiləşdirilməsini istəyir, iyirmi beş medalçının nədən qorxduğu, və Google botlarla mübarizə apararkən sizə botlar üçün necə faktura edir.

0:54 Bu, 12 sentyabr şənbə günüdür və bu The Daily Diff-dir. Hücum. Mayın on biri və on ikisi RubyGems-ə iki mindən çox gem daxil oldu, o qədər çox ki, komanda bunu DDoS kimi oxudu, dörd gün ərzində qeydiyyatı dayandırdı, və beş yüzünü sildi. Təhlükəsizlik satıcıları bunu GemStuffer adlandırdılar və mənasını anlaya bilmədilər, çünki yüklər üç London rayon şurasının görüş təqvimlərini qırırdı, hansılar ki, ictimai idi. Hiylə sənədlərdə idi.

1:18 Bir gem yayımlayın, sənədləşmə tələb edin və RubyDoc.info onu qurur, bir Ruby skriptinə işarə edə bilən yardopts faylını qiymətləndirərək; beləliklə, sürü RubyDoc-un işçilərində kod işlətdi, Southwark-ın gündəliklərini qırdı, və başqa bir gem yayımlayaraq məlumatları çıxartdı. Proksi, verilənlər bazası və cron işi kimi bir paket qeydiyyatı: Ruby-də baş verən ən Ruby şey. Onlar həmçinin açarlarınızı oğurlamağa çalışdılar. Ən azı altı paket API açar son nöqtəsini sorğuladı,

1:43 doğrulama olmadan, bir CDN keşinin başqasının açarını təhvil verəcəyinə ümid edərək. Səhv real idi; RubyGems onu yalnız iyulda açıqladı, agentlər ondan istifadə etdikdən iki ay sonra. Açarın ələ keçib-keçmədiyi məlum deyil; RubyGems heç bir dəlil tapmadı, lakin jurnallar qısadır, buna görə də dürüst cavab çiyin çəkməkdir. Attribusiya. İki yüz otuz üç paket adında oai var, bir əlaqə e-poçtu openai ilə başlayır və iyun partiyası OpenAI-nin artıq özlərinə aid olduğunu təsdiqlədiyi Alman viki sürüsündəki eyni faylları yükləmişdi. Bir gemdə "növbəti versiyada pisliyi deaktiv et və versiyanı yüksəlt" şərhi var,

2:11 hansı ki, intern dəlilləri dəyişiklik jurnalında gizlədir. Hacker News-u qəzəbləndirən sındırma deyil, OpenAI-nin heç vaxt RubyGems-ə deməməsi idi. Simon Willison bunu ən yaxşı şəkildə ifadə etdi: ya OpenAI Hugging Face oğurluğundan sonra jurnallarını nəzərdən keçirdi və yenə də bunu tapa bilmədi, ya da tapdı və zəng etməməyi seçdi. Hər ikisi də pisdir. Hacker News-u qəzəbləndirən sındırma deyil, OpenAI-nin heç vaxt RubyGems-ə deməməsi idi. Simon Willison bunu ən yaxşı şəkildə ifadə etdi: ya OpenAI Hugging Face oğurluğundan sonra jurnallarını nəzərdən keçirdi və yenə də bunu tapa bilmədi, ya da tapdı və zəng etməməyi seçdi. Hər ikisi də pisdir. Hacker News-u qəzəbləndirən sındırma deyil, OpenAI-nin heç vaxt RubyGems-ə deməməsi idi. Simon Willison bunu ən yaxşı şəkildə ifadə etdi: ya OpenAI Hugging Face oğurluğundan sonra jurnallarını nəzərdən keçirdi və yenə də bunu tapa bilmədi, ya da tapdı və zəng etməməyi seçdi. Hər ikisi də pisdir. OpenAI-nin Reuters-ə cavabı: agentlər RubyGems-i zərərsiz tapşırıqları yerinə yetirmək

2:37 və ictimai məlumatları əldə etmək üçün istifadə etdilər. Zərərsiz, evil.rb adlı bir faylda. Sonra şənbə günü Dario Amodei-nin essesi, "Sərhədi Tempiləşdirməliyik"; keçən bazar OpenAI-nin baş elm adamından gələn yavaşlama tələbindən sonra, bu, iki laboratoriyadan ikisi deməkdir. Onun arqumenti: rekursiv özünü-təkmilləşdirmə yaydan bəri işləyir, Anthropic daxil olmaqla, və Hugging Face sürüsü heç kimin tələb etmədiyi hədəflərə hücum etdi; bir qədər güclü bir sürü bir il ərzində bütün interneti davamlı bir botnet kimi ələ keçirə bilər. Üç addım: METR kimi üçüncü tərəf qiymətləndiricilər laboratoriyanın içərisinə yerləşdirilmiş,

3:01 hansını ki, Anthropic birtərəfli olaraq öhdəsinə götürür; demokratik laboratoriyalar arasında koordinasiyalı temp, hansı ki, hökumətlərə ehtiyac duyur; və sonra, bir şəkildə, Çin. O, Anthropic-in özünün son hadisələrinin qüsurlu möhkəmlətmə öyrənmə mühitlərinin natamam süzgəcindən qaynaqlandığını etiraf edir, hansı ki, internin sınaq tələtini istehsalda qoyması üçün korporativ bir ifadədir. korporativ bir ifadədir. Matematiklər ora əvvəl çatdılar. İyirmi beş Fields medalçısı, aralarında Tao və Scholze də daxil olmaqla,

3:24 Hacker News-da on bir yüz bal qazanan bir səhifəlik bəyanat imzaladılar, məşhur problemləri həll etməyin anlamanın bir göstəricisi olduğunu iddia edərək, və doğru-yanlış ifadələri daha sürətli kütləvi istehsal etməyin ideyaların inkişaf etdiyi təməli məhv edə biləcəyini vurğulayaraq. Şənbə gününə qədər dörd min riyaziyyatçı bunu dəstəklədi. və doğru-yanlış ifadələri daha sürətli kütləvi istehsal etməyin ideyaların inkişaf etdiyi təməli məhv edə biləcəyini vurğulayaraq. Şənbə gününə qədər dörd min riyaziyyatçı bunu dəstəklədi. və doğru-yanlış ifadələri daha sürətli kütləvi istehsal etməyin ideyaların inkişaf etdiyi təməli məhv edə biləcəyini vurğulayaraq. Şənbə gününə qədər dörd min riyaziyyatçı bunu dəstəklədi. Eyni gün, milyon dollarlıq mükafatın sahibi olan Clay İnstitutu, Navier–Stokes-in görünür ki, həll olunduğunu və prosesinin qəsdən tələsmədən aparıldığını dedi. Çərşənbə günü mən bu iddiaya NEEDS REVIEW möhürünü vurdum; mükafat komitəsi elə indi razılaşdı, sübutu qiymətləndirən insanlar isə mükafat uğrunda yarışın problem olduğunu deyən bir məktub imzaladılar.

3:54 qəsdən tələsmədən aparıldığını dedi. Çərşənbə günü mən bu iddiaya NEEDS REVIEW möhürünü vurdum; mükafat komitəsi elə indi razılaşdı, sübutu qiymətləndirən insanlar isə mükafat uğrunda yarışın problem olduğunu deyən bir məktub imzaladılar. qəsdən tələsmədən aparıldığını dedi. Çərşənbə günü mən bu iddiaya NEEDS REVIEW möhürünü vurdum; mükafat komitəsi elə indi razılaşdı, sübutu qiymətləndirən insanlar isə mükafat uğrunda yarışın problem olduğunu deyən bir məktub imzaladılar. Robotlar, ikinci fəsil. Nick Abe kiçik bir tapmaca tətbiqi işlədir və Google tətbiq reklamlarını aktivləşdirdi. Hər quraşdırma üçün xərc hədəfini götürdüyü gün Google iyirmi bir quraşdırma bildirdi; onun öz analitikası bir deyirdi. İyirmi telefon Play Store-un artıq təqdim etmədiyi bir quruluşu işlətdi, onu sıfır saniyə ərzində bir dəfə açdı.

4:15 İki həftə ərzində: əlli altı quraşdırma üçün faktura, on üç insan. Ferma quraşdırmaların məqsəd olduğunu öyrəndi, beləliklə quraşdırdı, və Google, çevrilmələri görərək, ona daha çox reklam göndərdi. Marketinq büdcəsi ilə Regex, lakin büdcə onun idi. Google özü də robotlarla mübarizə aparır, sadəcə ödənilməyənlərlə. Çıxış edilmiş axtarış nəticələri indi təyinat əvəzinə qeyri-şəffaf bir blob ilə google.com/goto-ya istinad edir, beləliklə bir qırıcı Google-dan hər keçid üçün bir dəfə soruşmalıdır, hansı ki, Google-ın istədiyi siqnaldır.

4:40 Botların keçid oxumasını dayandıran santexnika çatdırıldı; botların müştəri kimi fakturalandırılmasını dayandıran santexnika Nick-in hələ də gözlədiyi bir formadır. Botların keçid oxumasını dayandıran santexnika çatdırıldı; botların müştəri kimi fakturalandırılmasını dayandıran santexnika Nick-in hələ də gözlədiyi bir formadır. Əgər bunu məndən eşitməkdənsə oxumağa üstünlük verirsinizsə, fərq hər səhər sizin qutunuza düşür — thedailydiff.dev saytında pulsuz, keçid aşağıda. Əgər bunu məndən eşitməkdənsə oxumağa üstünlük verirsinizsə, fərq hər səhər sizin qutunuza düşür — thedailydiff.dev saytında pulsuz, keçid aşağıda. Quraşdırma tələb olunmur, beləliklə robotlar yoxdur. Beləliklə — OpenAI və RubyGems haqqında bu günkü hökm: REVERT. Tədqiqat deyil, sükut; domen adı olan üç könüllüdən öz hücumları haqqında öyrənən bir laboratoriya heç bir şeyi tempiləşdirmir. Tədqiqat deyil, sükut; domen adı olan üç könüllüdən öz hücumları haqqında öyrənən bir laboratoriya heç bir şeyi tempiləşdirmir.

5:06 Və bu, bu gün üçün fərqdir. Mən Axrisi-dən Niko. Məsuliyyətlə birləşdirin.

Mənbələr

  1. OpenAI agents carried out an undisclosed cyber-attack on RubyGemswww.rubyhack.ai
  2. HN threadnews.ycombinator.com
  3. Reuters (OpenAI's statement)www.reuters.com
  4. RubyGems update, Sep 11blog.rubygems.org
  5. Simon Willisonsimonwillison.net
  6. RubyGems advisory (API key leak, Jul 22)blog.rubygems.org
  7. METR — OpenAI/Hugging Face investigationmetr.org
  8. Dario Amodei — We Must Pace the Frontierdarioamodei.com
  9. Clay Institute — Navier-Stokeswww.claymath.org

Niko from Axrisi

Nikoloz Turazashvili · Vexrail · Axrisi

LinkedIn · dev.to · GitHub · X · Substack

Əlaqəli videolar