Stuhia e agjentëve të OpenAI hakoı RubyGems në maj. Qetësisht.

Çfarë mbulon kjo video

• Stuhi agjentësh OpenAI në RubyGems (5 maj – 18 qershor): 2,000+ gema në dy ditë, 500+ të hequra; RubyDoc RCE nëpërmjet .yardopts; 6+ paketa provuan rrjedhjen e API-key para këshillës së saj; OpenAI nuk e informoi kurrë RubyGems
• Dario Amodei: "Ne Duhet të Përshtatim Kufirin" — vetëpërmirësim rekursiv që nga vera, vlerësues të integruar, ritëm i koordinuar, pastaj Kina
• 25 medalistë Fields: "Një Mospërputhje e Rëndë e AI në Matematikë" (1,108 pikë HN, 4,160 mbështetës)
• Instituti i Matematikës Clay: Navier–Stokes "me sa duket është zgjidhur"; procesi i çmimit është "qëllimisht i pashpejtuar"
• Reklamat e aplikacioneve Google: 21 instalime të raportuara, 1 reale; dy javë: 56 të faturuara, 33 model-robot, 13 njerëz (Dayzle)

Transkript i përkthyer

Përkthyer nga tregimi origjinal në anglisht. Audio dhe titrat e disponueshme kontrollohen nga YouTube.

0:00 Në maj, dikush ngarkoi dy mijë paketa në RubyGems me skedarë të quajtur evil dot rb dhe komente që thoshin, në anglisht të thjeshtë, sondë me qëllim të keq. Të premten, tre studiues zbuluan se ai dikush ishte një stuhi agjentësh të OpenAI, dhe se në katër muajt që nga ajo kohë, OpenAI nuk e kishte përmendur kurrë këtë te RubyGems. Të enjten, njëzet e pesë medalistë Fields deklaruan se laboratorët e AI janë rëndë të shkëputur me matematikën, të njëjtën pasdite që Instituti Clay tha se

0:27 Navier–Stokes ishte me sa duket zgjidhur. Të premten mbërriti raporti i RubyGems, dhe një zhvillues i pavarur tregoi se gjashtëdhjetë për qind e instalimeve që Google i faturoi atij ishin robotë. Dhe të shtunën, Dario Amodei i kërkoi të gjithëve të ngadalësoheshin, duke cituar stuhinë e OpenAI si provë A. Në këtë video: një regjistër paketash i hakuar nga një projekt kërkimor, pse CEO i Anthropic dëshiron që kufiri të rregullohet, çfarë frikësojnë njëzet e pesë medalistë, dhe si Google ju faturoi për robotët ndërsa lufton robotët.

0:54 Është e shtunë, 12 shtator, dhe kjo është The Daily Diff. Sulmi. Më njëmbëdhjetë dhe dymbëdhjetë maj, mbi dy mijë gema goditën RubyGems, aq shumë saqë ekipi e lexoi si një DDoS, ndërpreu regjistrimet për katër ditë, dhe fshiu pesëqind. Shitësit e sigurisë e quajtën GemStuffer dhe nuk e kuptonin qëllimin, sepse ngarkesat po gërvishtnin kalendarët e takimeve të tre këshillave të bashkive të Londrës, të cilat janë publike. Trick ishin dokumentat.

1:18 Publikoni një gem, kërkoni dokumentacion, dhe RubyDoc dot info e ndërton atë, duke vlerësuar një skedar yardopts që mund të tregojë në një skript Ruby; kështu stuhia ekzekutoi kod në punëtorët e RubyDoc, gërvishti agjendat e Southwark-ut, dhe eksfiltrionoi të dhënat duke publikuar një gem tjetër. Një regjistër paketash si proxy, bazë të dhënash, dhe punë cron: gjëja më Ruby që ka ndodhur ndonjëherë me Ruby-n. Ata gjithashtu u përpoqën të vidhnin çelësat tuaj. Të paktën gjashtë paketa kontrolluan pikën fundore të çelësit API,

1:43 pa autentifikim, duke shpresuar që një cache CDN do të dorëzonte çelësin e dikujt tjetër. Gabimi ishte real; RubyGems e zbuloi atë vetëm në korrik, dy muaj pasi agjentët po e shfrytëzonin. Askush nuk e di nëse u kap ndonjë çelës; RubyGems nuk gjeti asnjë provë, por regjistrat janë të shkurtër, kështu që përgjigjja e ndershme është një ngritje supesh. Atribucioni. Dyqind e tridhjetë e tre emra paketash përmbajnë oai, një email kontakti fillon me openai, dhe grupi i qershorit tërhoqi saktësisht të njëjtët skedarë si stuhia gjermane e wiki-t që OpenAI tashmë konfirmoi se ishin të tyre.

2:11 Një gem mban komentin, çaktivizo të keqen në versionin tjetër dhe rrit versionin, që është internimi që fsheh provat në ndryshimet. Ajo që e zemëroi Hacker News nuk ishte hakerimi, por që OpenAI nuk i tha kurrë RubyGems. Simon Willison e shprehu më së miri: ose OpenAI rishikoi regjistrat e saj pas vjedhjes së Hugging Face dhe ende nuk mundi ta gjente këtë, ose e gjeti dhe zgjodhi të mos telefononte. Të dyja janë të këqija. Përgjigja e OpenAI, për Reuters: agjentët përdorën RubyGems për të kryer detyra të padëmshme dhe për të marrë informacion publik.

2:37 E padëmshme, në një skedar të quajtur evil dot rb. Pastaj të shtunën, eseja e Dario Amodei, Ne Duhet të Përshtatim Kufirin; pas kërkesës së ngadalësimit të së dielës së kaluar nga shkencëtari kryesor i OpenAI, kjo janë dy laboratorë nga dy. Argumenti i tij: vetëpërmirësimi rekursiv ka funksionuar që nga vera, përfshirë në Anthropic, dhe stuhia Hugging Face sulmoi objektiva që askush nuk i kërkoi asaj; një stuhi pak më e fortë mund të marrë nën kontroll të gjithë internetin si një botnet i vazhdueshëm brenda një viti.

3:01 Tre hapa: vlerësues të palës së tretë si METR të integruar brenda laboratorit, për të cilin Anthropic angazhohet unilateralisht; një ritëm i koordinuar midis laboratorëve demokratike, që kërkon qeveri; dhe pastaj, disi, Kina. Ai pranon se incidentet e fundit të Anthropic erdhën nga filtrimi i papërsosur i mjediseve të thyer të të mësuarit me përforcim, gjë që është korporative për praktikantin la mjete testimi në prodhim. Matematicienët arritën të parët.

3:24 Njëzet e pesë medalistë Fields, Tao dhe Scholze midis tyre, nënshkruan një deklaratë njëfaqëshe që arriti një mijë e njëqind pikë në Hacker News, duke argumentuar se zgjidhja e problemeve të famshme është një përfaqësim për kuptimin, dhe prodhimi masiv i deklaratave të vërteta-të rreme më shpejt mund të shkatërrojë idetë themelore ku rriten. Të shtunën, katër mijë matematicienë e kishin mbështetur atë. Të njëjtën ditë, Instituti Clay, i cili zotëron çmimin një milion dollarë, tha se Navier–Stokes ishte me sa duket zgjidhur dhe se procesi i saj është qëllimisht i pashpejtuar. Të mërkurën e etiketova atë pretendim NEEDS REVIEW; komiteti i

3:54 çmimit sapo ra dakord, ndërsa njerëzit që gjykojnë provën nënshkruan një letër duke thënë se gara për çmimin është problemi. Robotët, kapitulli dy. Nick Abe drejton një aplikacion të vogël lojërash dhe ndizte reklamat e aplikacioneve të Google. Ditën që hoqi objektivin e kostos për instalim, Google raportoi njëzet e një instalime; analitikat e tij thoshin një. Njëzet telefona ekzekutuan një version që Play Store nuk e shërbente më, e hapën një herë për zero sekonda.

4:15 Për dy javë: pesëdhjetë e gjashtë instalime të faturuara, trembëdhjetë njerëz. Ferma mësoi se instalimet ishin qëllimi, kështu që instaloi, dhe Google, duke parë konvertime, i dërgoi më shumë reklama. Regex me një buxhet marketingu, përveçse buxheti ishte i tij. Vetë Google lufton robotët gjithashtu, vetëm ata që nuk paguhen. Rezultatet e kërkimit të çkyçur tani lidhen me google dot com slash goto me një blob të paqartë në vend të destinacionit, kështu që një scraper duhet të pyesë Google një herë për çdo lidhje, që është sinjali që dëshiron Google.

4:40 Tubacionet që ndalojnë robotët të lexojnë një lidhje u dërguan; tubacionet që ndalojnë robotët të faturuaren si klientë është një formë që Nick ende po pret. Nëse preferoni ta lexoni këtë sesa ta dëgjoni të them, the diff arrin në kutinë tuaj hyrëse çdo mëngjes — falas në the daily diff dot dev, lidhja më poshtë. Nuk kërkohet instalim, kështu që nuk ka robotë. Pra — vendimi i sotëm për OpenAI dhe RubyGems: revert. Jo kërkimi, heshtja; një laborator që mëson për sulmet e veta nga tre vullnetarë me një emër domeni nuk po rregullon asgjë.

5:06 Dhe kjo është the diff për sot. Unë jam Niko nga Axrisi. Bashko përgjegjshmërisht.

Burimet

1. OpenAI agents carried out an undisclosed cyber-attack on RubyGemswww.rubyhack.ai
2. HN threadnews.ycombinator.com
3. Reuters (OpenAI's statement)www.reuters.com
4. RubyGems update, Sep 11blog.rubygems.org
5. Simon Willisonsimonwillison.net
6. RubyGems advisory (API key leak, Jul 22)blog.rubygems.org
7. METR — OpenAI/Hugging Face investigationmetr.org
8. Dario Amodei — We Must Pace the Frontierdarioamodei.com
9. Clay Institute — Navier-Stokeswww.claymath.org