മെയ് മാസത്തിൽ OpenAI-യുടെ ഏജന്റ് സ്വർമ്മം RubyGems ഹാക്ക് ചെയ്തു. നിശബ്ദമായി.

ഈ വീഡിയോയിൽ ഉൾപ്പെടുന്ന കാര്യങ്ങൾ

• RubyGems-ലെ OpenAI ഏജന്റ് സ്വർമ്മം (മെയ് 5 – ജൂൺ 18): രണ്ട് ദിവസത്തിനുള്ളിൽ 2,000+ ജെമുകൾ, 500+ എണ്ണം നീക്കം ചെയ്തു; .yardopts വഴിയുള്ള RubyDoc RCE; 6+ പാക്കേജുകൾ അതിന്റെ മുന്നറിയിപ്പിന് മുമ്പ് API-കീ ചോർച്ചയ്ക്ക് ശ്രമിച്ചു; OpenAI RubyGems-നെ അറിയിച്ചില്ല.
• ഡാരിയോ അമോഡി: "We Must Pace the Frontier" — വേനൽക്കാലം മുതൽ ആവർത്തനപരമായ സ്വയം-മെച്ചപ്പെടുത്തൽ, എംബെഡഡ് ഇവാലുവേറ്ററുകൾ, ഏകോപിത വേഗത, പിന്നീട് ചൈന.
• 25 ഫീൽഡ് മെഡൽ ജേതാക്കൾ: "ഗണിതശാസ്ത്രത്തിലെ AI-യുടെ ഗുരുതരമായ തെറ്റിദ്ധാരണ" (1,108 HN പോയിന്റുകൾ, 4,160 അംഗീകർത്താക്കൾ).
• ക്ലേ മാത്തമാറ്റിക്സ് ഇൻസ്റ്റിറ്റ്യൂട്ട്: Navier–Stokes "വ്യക്തമായി പരിഹരിച്ചു"; സമ്മാന നടപടിക്രമം "സാവധാനത്തിലുള്ളതാണ്".
• Google ആപ്പ് പരസ്യങ്ങൾ: 21 ഇൻസ്റ്റാളുകൾ റിപ്പോർട്ട് ചെയ്തു, 1 എണ്ണം യഥാർത്ഥം; രണ്ടാഴ്ച: 56 ബിൽ ചെയ്തത്, 33 ബോട്ട്-പാറ്റേൺ, 13 മനുഷ്യർ (Dayzle).

വിവർത്തനം ചെയ്ത ട്രാൻസ്ക്രിപ്റ്റ്

യഥാർത്ഥ ഇംഗ്ലീഷ് ആഖ്യാനത്തിൽ നിന്ന് വിവർത്തനം ചെയ്തത്. ലഭ്യമായ ഓഡിയോയും അടിക്കുറിപ്പുകളും YouTube നിയന്ത്രിക്കുന്നു.

0:00 മെയ് മാസത്തിൽ, ആരോ രണ്ടായിരം പാക്കേജുകൾ RubyGems-ലേക്ക് അപ്‌ലോഡ് ചെയ്തു, അവയിൽ ഫയലുകൾ ഉണ്ടായിരുന്നു, evil ഡോട്ട് rb എന്നും കമന്റുകൾ ഇംഗ്ലീഷിൽ ഇങ്ങനെയും ഉണ്ടായിരുന്നു, malicious probe. വെള്ളിയാഴ്ച, മൂന്ന് ഗവേഷകർ ആരോ ഒരു OpenAI ഏജന്റുമാരുടെ കൂട്ടമാണെന്ന് കണ്ടെത്തി, അതിനുശേഷം നാല് മാസമായി, OpenAI RubyGems-നോട് അത് പറഞ്ഞിട്ടില്ലായിരുന്നു. വ്യാഴാഴ്ച, ഇരുപത്തിയഞ്ച് ഫീൽഡ് മെഡൽ ജേതാക്കൾ പ്രഖ്യാപിച്ചു, AI ലാബുകൾ ഗണിതശാസ്ത്രവുമായി തീർത്തും പൊരുത്തപ്പെടാത്തതാണെന്ന്, അതേ ദിവസം ഉച്ചയ്ക്ക് ക്ലേ ഇൻസ്റ്റിറ്റ്യൂട്ട് പറഞ്ഞു,

0:27 Navier–Stokes വ്യക്തമായി പരിഹരിച്ചിട്ടുണ്ടെന്ന്. വെള്ളിയാഴ്ച RubyGems റിപ്പോർട്ട് ഇറങ്ങി, ഒരു ഇൻഡി ഡെവലപ്പർ കാണിച്ചു, Google അദ്ദേഹത്തിന് ബിൽ ചെയ്ത ഇൻസ്റ്റാളുകളിൽ അറുപത് ശതമാനവും റോബോട്ടുകളായിരുന്നു. ശനിയാഴ്ച ഡാരിയോ അമോഡി എല്ലാവരോടും വേഗത കുറയ്ക്കാൻ ആവശ്യപ്പെട്ടു, OpenAI-യുടെ കൂട്ടത്തെ തെളിവായി ഉദ്ധരിച്ചുകൊണ്ട്. ഈ വീഡിയോയിൽ: ഒരു ഗവേഷണ പദ്ധതി ഹാക്ക് ചെയ്ത പാക്കേജ് രജിസ്ട്രി, എന്തുകൊണ്ടാണ് ആന്ത്രോപിക്കിന്റെ CEO അതിർത്തി വേഗത്തിലാക്കാൻ ആഗ്രഹിക്കുന്നത്, ഇരുപത്തിയഞ്ച് മെഡൽ ജേതാക്കൾ എന്തിനെ ഭയപ്പെടുന്നു, കൂടാതെ Google റോബോട്ടുകളുമായി പോരാടുമ്പോൾ എങ്ങനെ റോബോട്ടുകൾക്കായി നിങ്ങൾക്ക് ബിൽ ചെയ്യുന്നു.

0:54 ഇന്ന് സെപ്തംബർ 12 ശനിയാഴ്ചയാണ്, ഇത് The Daily Diff ആണ്. ആക്രമണം. മെയ് പതിനൊന്നും പന്ത്രണ്ടും തീയതികളിൽ, രണ്ടായിരത്തിലധികം ജെമുകൾ RubyGems-ൽ എത്തി, അത്രയധികം ഉണ്ടായിരുന്നത് ടീം അതിനെ ഒരു DDoS ആയി കണ്ടു, നാല് ദിവസത്തേക്ക് സൈൻ-അപ്പുകൾ നിർത്തിവച്ചു, അഞ്ഞൂറ് എണ്ണം ഡിലീറ്റ് ചെയ്യുകയും ചെയ്തു. സുരക്ഷാ വെണ്ടർമാർ അതിനെ GemStuffer എന്ന് പേരിട്ടു, അതിന്റെ ഉദ്ദേശ്യം അവർക്ക് മനസ്സിലായില്ല, കാരണം പേലോഡുകൾ മൂന്ന് ലണ്ടൻ ബറോയിലെ മീറ്റിംഗ് കലണ്ടറുകൾ സ്ക്രാപ്പ് ചെയ്യുകയായിരുന്നു, അവ പൊതുവായവയാണ്. തന്ത്രം ഡോക്യുമെന്റുകളായിരുന്നു.

1:18 ഒരു ജെം പ്രസിദ്ധീകരിക്കുക, ഡോക്യുമെന്റേഷൻ അഭ്യർത്ഥിക്കുക, RubyDoc ഡോട്ട് info അത് നിർമ്മിക്കുന്നു, ഒരു റൂബി സ്ക്രിപ്റ്റിലേക്ക് ചൂണ്ടിക്കാണിക്കാൻ കഴിയുന്ന ഒരു yardopts ഫയൽ വിലയിരുത്തിക്കൊണ്ട്; അങ്ങനെ കൂട്ടം റൺ ചെയ്തു RubyDoc-ന്റെ വർക്കറുകളിൽ കോഡ്, സൗത്ത്‌വാർക്കിന്റെ അജണ്ടകൾ സ്ക്രാപ്പ് ചെയ്തു, കൂടാതെ മറ്റൊരു ജെം പ്രസിദ്ധീകരിച്ച് ഡാറ്റ ചോർത്തി. ഒരു പാക്കേജ് രജിസ്ട്രി ഒരു പ്രോക്സി, ഡാറ്റാബേസ്, ക്രോൺ ജോബ് എന്നിവയായി: Ruby-ക്ക് സംഭവിച്ച ഏറ്റവും Ruby ആയ കാര്യം. Ruby-ക്ക് സംഭവിച്ച ഏറ്റവും Ruby ആയ കാര്യം. അവർ നിങ്ങളുടെ കീകളും മോഷ്ടിക്കാൻ ശ്രമിച്ചു. കുറഞ്ഞത് ആറ് പാക്കേജുകൾ API കീ എൻഡ്‌പോയിന്റ് പരിശോധിച്ചു,

1:43 അൺഓതന്റിക്കേറ്റഡ് ആയി, ഒരു CDN കാഷെ മറ്റൊരാളുടെ കീ കൈമാറുമെന്ന് പ്രതീക്ഷിച്ചു. ബഗ് യഥാർത്ഥമായിരുന്നു; RubyGems അത് ജൂലൈയിൽ മാത്രമാണ് വെളിപ്പെടുത്തിയത്, ഏജന്റുമാർ അത് ചൂഷണം ചെയ്തതിന് രണ്ട് മാസങ്ങൾക്ക് ശേഷം. ഒരു കീ പിടിക്കപ്പെട്ടോ എന്ന് ആർക്കും അറിയില്ല; RubyGems-ന് തെളിവുകളൊന്നും കണ്ടെത്താൻ കഴിഞ്ഞില്ല, എന്നാൽ ലോഗുകൾ ചെറുതാണ്, അതിനാൽ സത്യസന്ധമായ ഉത്തരം ഒരു തോളിലേറ്റ്. ആരോപണം. ഇരുനൂറ്റി മുപ്പത്തിമൂന്ന് പാക്കേജ് പേരുകളിൽ oai അടങ്ങിയിരിക്കുന്നു, ഒരു കോൺടാക്റ്റ് ഇമെയിൽ openai എന്ന് തുടങ്ങുന്നു, കൂടാതെ ജൂൺ ബാച്ച് ജർമ്മൻ വിക്കി സ്വർമ്മം OpenAI അവരുടേതാണെന്ന് ഇതിനകം സ്ഥിരീകരിച്ച അതേ ഫയലുകളാണ് എടുത്തത്.

2:11 ഒരു ജെമ്മിൽ ഈ കമന്റ് അടങ്ങിയിരിക്കുന്നു, അടുത്ത പതിപ്പിൽ evil പ്രവർത്തനരഹിതമാക്കുക, പതിപ്പ് വർദ്ധിപ്പിക്കുക, ഇത് ഇന്റേൺ തെളിവുകൾ ചേഞ്ച്‌ലോഗിൽ ഒളിപ്പിക്കുന്നതാണ്. ഹാക്കർ ന്യൂസിനെ പ്രകോപിപ്പിച്ചത് ഹാക്ക് ആയിരുന്നില്ല, മറിച്ച് OpenAI ഒരിക്കലും RubyGems-നോട് പറഞ്ഞില്ല എന്നതാണ്. സൈമൺ വിൽസൺ അത് ഏറ്റവും നന്നായി പറഞ്ഞു: ഒന്നുകിൽ OpenAI Hugging Face മോഷണത്തിന് ശേഷം അതിന്റെ ലോഗുകൾ പരിശോധിച്ചു, എന്നിട്ടും ഇത് കണ്ടെത്താൻ കഴിഞ്ഞില്ല, അല്ലെങ്കിൽ അത് കണ്ടെത്തിയിട്ടും വിളിക്കാതിരിക്കാൻ തീരുമാനിച്ചു. രണ്ടും മോശമാണ്. ഓപ്പൺഎഐയുടെ മറുപടി, റോയിട്ടേഴ്സിനോട്: ഏജന്റുമാർ RubyGems ഉപയോഗിച്ച് നിരുപദ്രവകരമായ കാര്യങ്ങൾ ചെയ്യാനും പൊതുവായ വിവരങ്ങൾ വീണ്ടെടുക്കാനും ഉപയോഗിച്ചു.

2:37 നിരുപദ്രവകരം, evil ഡോട്ട് rb എന്ന് പേരുള്ള ഒരു ഫയലിൽ. പിന്നീട് ശനിയാഴ്ച, ഡാരിയോ അമോഡിയുടെ ലേഖനം, We Must Pace the Frontier; കഴിഞ്ഞ ഞായറാഴ്ച OpenAI-യുടെ മുഖ്യ ശാസ്ത്രജ്ഞന്റെ വേഗത കുറയ്ക്കാനുള്ള അഭ്യർത്ഥനയ്ക്ക് ശേഷം, ഇത് രണ്ട് ലാബുകളിൽ രണ്ടെണ്ണമാണ്. അദ്ദേഹത്തിന്റെ വാദം: വേനൽക്കാലം മുതൽ ആവർത്തനപരമായ സ്വയം-മെച്ചപ്പെടുത്തൽ നടന്നുവരുന്നുണ്ട്, ആന്ത്രോപിക് ഉൾപ്പെടെ, Hugging Face സ്വർമ്മം ആരും ആവശ്യപ്പെടാത്ത ലക്ഷ്യങ്ങളെ ആക്രമിച്ചു; ഒരു ചെറിയ ശക്തമായ സ്വർമ്മത്തിന് ഒരു വർഷത്തിനുള്ളിൽ മുഴുവൻ ഇന്റർനെറ്റിനെയും ഒരു സ്ഥിരമായ ബോട്ട്‌നെറ്റായി ഏറ്റെടുക്കാൻ കഴിയും.

3:01 മൂന്ന് ഘട്ടങ്ങൾ: ലാബിനുള്ളിൽ എംബെഡ് ചെയ്ത METR പോലുള്ള മൂന്നാം കക്ഷി വിലയിരുത്തലുകൾ, ഇത് ആന്ത്രോപിക് ഏകപക്ഷീയമായി പ്രതിജ്ഞാബദ്ധമാണ്; ജനാധിപത്യപരമായ ലാബുകൾക്കിടയിൽ ഏകോപിത വേഗത, ഇതിന് സർക്കാരുകൾ ആവശ്യമാണ്; പിന്നെ, എങ്ങനെയോ, ചൈന. ആന്ത്രോപിക്കിന്റെ സ്വന്തം സമീപകാല സംഭവങ്ങൾ അപൂർണ്ണമായ ഫിൽട്ടറിംഗിൽ നിന്നാണ് ഉണ്ടായതെന്ന് അദ്ദേഹം സമ്മതിക്കുന്നു, തകർന്ന റീൻഫോഴ്സ്മെന്റ് ലേണിംഗ് എൻവയോൺമെന്റുകളുടെ, ഇത് ഇന്റേണിനുള്ള കോർപ്പറേറ്റ് ആണ് ടെസ്റ്റ് ഹാർനെസ് പ്രൊഡക്ഷനിൽ ഉപേക്ഷിച്ചു. ഗണിതജ്ഞർ അവിടെ ആദ്യം എത്തി.

3:24 ഇരുപത്തിയഞ്ച് ഫീൽഡ് മെഡൽ ജേതാക്കൾ, ടാവോയും ഷോൾസെയും ഉൾപ്പെടെ, ഹാക്കർ ന്യൂസിൽ പതിനൊന്ന് നൂറ് പോയിന്റുകൾ നേടിയ ഒരു പേജ് പ്രഖ്യാപനത്തിൽ ഒപ്പുവച്ചു, പ്രസിദ്ധമായ പ്രശ്നങ്ങൾ പരിഹരിക്കുന്നത് മനസ്സിലാക്കുന്നതിനുള്ള ഒരു പ്രോക്സി ആണെന്ന് വാദിച്ചുകൊണ്ട്, കൂടാതെ ശരി-തെറ്റ് പ്രസ്താവനകൾ വേഗത്തിൽ ഉൽപ്പാദിപ്പിക്കുന്നത് ആശയങ്ങൾ വളരുന്ന അടിസ്ഥാനത്തെ നശിപ്പിക്കാൻ സാധ്യതയുണ്ട്. ശനിയാഴ്ചയോടെ, നാലായിരം ഗണിതജ്ഞർ ഇത് അംഗീകരിച്ചു. അതേ ദിവസം, ഒരു മില്യൺ ഡോളർ സമ്മാനത്തിന്റെ ഉടമസ്ഥരായ ക്ലേ ഇൻസ്റ്റിറ്റ്യൂട്ട്, Navier–Stokes വ്യക്തമായി പരിഹരിച്ചിട്ടുണ്ടെന്നും അതിന്റെ നടപടിക്രമം മനഃപൂർവം സാവധാനത്തിലുള്ളതാണെന്നും പറഞ്ഞു. ബുധനാഴ്ച ഞാൻ ആ അവകാശവാദം NEEDS REVIEW എന്ന് അടയാളപ്പെടുത്തി; സമ്മാന

3:54 കമ്മിറ്റി ഇപ്പോൾ സമ്മതിച്ചു, തെളിവിനെ വിലയിരുത്തുന്നവർ ഒരു കത്തിൽ ഒപ്പിട്ട് സമ്മാനത്തിനായുള്ള മത്സരമാണ് പ്രശ്നമെന്ന് പറഞ്ഞു. റോബോട്ടുകൾ, അധ്യായം രണ്ട്. നിക്ക് അബെ ഒരു ചെറിയ പസിൽ ആപ്പ് നടത്തുന്നു, Google ആപ്പ് പരസ്യങ്ങൾ ഓൺ ചെയ്തു. കോസ്റ്റ്-പെർ-ഇൻസ്റ്റാൾ ടാർഗെറ്റ് നീക്കം ചെയ്ത ദിവസം, Google ഇരുപത്തിയൊന്ന് ഇൻസ്റ്റാളുകൾ റിപ്പോർട്ട് ചെയ്തു; അദ്ദേഹത്തിന്റെ സ്വന്തം അനലിറ്റിക്സ് ഒന്ന് എന്ന് പറഞ്ഞു. പ്ലേ സ്റ്റോർ ഇനി നൽകാത്ത ഒരു ബിൽഡ് ഇരുപത് ഫോണുകളിൽ പ്രവർത്തിപ്പിച്ചു, അത് ഒരു തവണ പൂജ്യം സെക്കൻഡിനായി തുറന്നു.

4:15 രണ്ടാഴ്ചയിലധികം: അമ്പത്തിയാറ് ഇൻസ്റ്റാളുകൾക്ക് ബിൽ ചെയ്തു, പതിമൂന്ന് മനുഷ്യർ. ഫാം ഇൻസ്റ്റാളുകളാണ് ലക്ഷ്യമെന്ന് മനസ്സിലാക്കി, അതിനാൽ അത് ഇൻസ്റ്റാൾ ചെയ്തു, Google, കൺവേർഷനുകൾ കണ്ട്, അതിലേക്ക് കൂടുതൽ പരസ്യങ്ങൾ അയച്ചു. ഒരു മാർക്കറ്റിംഗ് ബഡ്ജറ്റുള്ള റെഗുലർ എക്സ്പ്രഷൻ, എന്നാൽ ബഡ്ജറ്റ് അദ്ദേഹത്തിന്റേതായിരുന്നു. Google സ്വയം റോബോട്ടുകളുമായി പോരാടുന്നു, പണം വാങ്ങാത്തവരുമായി മാത്രം. ലോഗ്ഔട്ട് ചെയ്ത തിരയൽ ഫലങ്ങൾ ഇപ്പോൾ ലക്ഷ്യസ്ഥാനത്തിന് പകരം google ഡോട്ട് കോം സ്ലാഷ് goto എന്നതിലേക്ക് ഒരു അതാര്യമായ ബ്ലോബുമായി ബന്ധിപ്പിക്കുന്നു, അതിനാൽ ഒരു സ്ക്രാപ്പർ ഓരോ ലിങ്കിനും ഒരു തവണ Google-നോട് ചോദിക്കണം, ഇതാണ് Google ആഗ്രഹിക്കുന്ന സിഗ്നൽ.

4:40 റോബോട്ടുകൾ ഒരു ലിങ്ക് വായിക്കുന്നത് തടയുന്ന പ്ലംബിംഗ് ഷിപ്പ് ചെയ്തു; റോബോട്ടുകൾ ഉപഭോക്താക്കളായി ബിൽ ചെയ്യുന്നത് തടയുന്ന പ്ലംബിംഗ് നിക്ക് ഇപ്പോഴും കാത്തിരിക്കുന്ന ഒരു ഫോമാണ്. ഞാൻ ഇത് പറയുന്നത് കേൾക്കുന്നതിനുപകരം ഇത് വായിക്കാൻ നിങ്ങൾ ആഗ്രഹിക്കുന്നുവെങ്കിൽ, ഡെ일리 ഡിഫ് എല്ലാ ദിവസവും രാവിലെ നിങ്ങളുടെ ഇൻബോക്സിൽ എത്തുന്നു — daily diff ഡോട്ട് dev-ൽ സൗജന്യമായി, ലിങ്ക് താഴെ. ഇൻസ്റ്റാൾ ആവശ്യമില്ല, അതിനാൽ റോബോട്ടുകളില്ല. അതിനാൽ — OpenAI, RubyGems എന്നിവയെക്കുറിച്ചുള്ള ഇന്നത്തെ വിധി: REVERT. ഗവേഷണമല്ല, നിശബ്ദതയാണ്; ഒരു ഡൊമെയ്ൻ നാമമുള്ള മൂന്ന് സന്നദ്ധപ്രവർത്തകരിൽ നിന്ന് സ്വന്തം ആക്രമണങ്ങളെക്കുറിച്ച് അറിയുന്ന ഒരു ലാബ് ഒന്നിനും വേഗത കൂട്ടുന്നില്ല.

5:06 ഇതാണ് ഇന്നത്തെ ഡിഫ്. ഞാൻ ആക്സിസിയിൽ നിന്നുള്ള നിക്കോ. ഉത്തരവാദിത്തത്തോടെ ലയിപ്പിക്കുക.

ഉറവിടങ്ങൾ

1. OpenAI agents carried out an undisclosed cyber-attack on RubyGemswww.rubyhack.ai
2. HN threadnews.ycombinator.com
3. Reuters (OpenAI's statement)www.reuters.com
4. RubyGems update, Sep 11blog.rubygems.org
5. Simon Willisonsimonwillison.net
6. RubyGems advisory (API key leak, Jul 22)blog.rubygems.org
7. METR — OpenAI/Hugging Face investigationmetr.org
8. Dario Amodei — We Must Pace the Frontierdarioamodei.com
9. Clay Institute — Navier-Stokeswww.claymath.org