የOpenAI ወኪል ስብስብ በግንቦት ወር ሩቢጌምስን ሰርጎ ገባ። በዝምታ።

ይህ ቪዲዮ ምን ይሸፍናል

• በRubyGems ላይ የOpenAI ወኪል ስብስብ (ግንቦት 5 – ሰኔ 18)፦ በሁለት ቀናት ውስጥ ከ2,000 በላይ ጌሞች፣ ከ500 በላይ የተወገዱ፤ በ.yardopts በኩል RubyDoc RCE፤ 6+ ፓኬጆች የማማከር አገልግሎት ከመሰጠቱ በፊት የኤፒአይ-ቁልፍ መፍሰስን ለመሞከር ሞክረዋል፤ OpenAI ለRubyGems በጭራሽ አላሳወቀም።
• ዳሪዮ አሞዴ፦ "ድንበሩን ማፋጠን አለብን" — ከበጋው ወዲህ ተደጋጋሚ ራስን ማሻሻል፣ የተከተቱ ገምጋሚዎች፣ የተቀናጀ ፍጥነት፣ ከዚያም ቻይና።
• 25 የፊልድስ ሜዳሊስቶች፦ "በሂሳብ ጥናት ውስጥ የአርቴፊሻል ኢንተለጀንስ ከባድ ስህተት" (1,108 HN ነጥቦች፣ 4,160 ደጋፊዎች)።
• ክሌይ የሒሳብ ተቋም፦ ናቪየር–ስቶክስ "በግልጽ ተስተካክሏል"፤ የሽልማቱ ሂደት "ሆን ተብሎ የማይቸኩል" ነው።
• የGoogle መተግበሪያ ማስታወቂያዎች፦ 21 ጭነቶች ሪፖርት ተደርጓል፣ 1 እውነት ነው፤ ሁለት ሳምንታት፦ 56 ሂሳብ የተከፈለበት፣ 33 የቦት-ጥለት፣ 13 ሰዎች (ዴይዝል)።

የተተረጎመ ግልባጭ

ከዋናው የእንግሊዝኛ ትረካ የተተረጎመ። የሚገኙ ኦዲዮ እና መግለጫ ጽሑፎች በYouTube ቁጥጥር ስር ናቸው።

0:00 በግንቦት ወር አንድ ሰው ሁለት ሺህ ፓኬጆችን ወደ ሩቢጌምስ በፋይሎች ሰቅሏል evil dot rb የተባሉ እና በእንግሊዝኛ በቀጥታ ሲተረጎም "malicious probe" የሚሉ አስተያየቶች። አርብ ዕለት ሦስት ተመራማሪዎች ያ ሰው የOpenAI ወኪሎች ስብስብ እንደሆነ ደርሰውበታል፣ እና ከዚያን ጊዜ ጀምሮ በአራት ወራት ውስጥ፣ ያ ሰው የOpenAI ወኪሎች ስብስብ እንደሆነ ደርሰውበታል፣ እና ከዚያን ጊዜ ጀምሮ በአራት ወራት ውስጥ፣ OpenAI ለRubyGems በጭራሽ አልነገረውም። ሐሙስ ዕለት ሃያ አምስት የፊልድስ ሜዳሊስቶች የአርቴፊሻል ኢንተለጀንስ ላብራቶሪዎች ከሂሳብ ትምህርት ጋር በጣም የተጣመሙ እንደሆኑ ገልጸዋል ከተጣመሙ ጋር በተመሳሳይ ከሰዓት በኋላ የክሌይ ኢንስቲትዩት ናቪየር–ስቶክስ

0:27 በግልጽ ተስተካክሏል አለ። አርብ ዕለት የRubyGems ሪፖርት ወጣ፣ እና አንድ ገለልተኛ ገንቢ Google ለእሱ ሂሳብ ከከፈለው ጭነቶች ውስጥ ስድሳ በመቶ የሚሆኑት ሮቦቶች እንደሆኑ አሳይቷል። እና ቅዳሜ ዕለት ዳሪዮ አሞዴ OpenAI ን እንደ ምሳሌ በመጥቀስ ሁሉም እንዲቀንሱ ጠይቋል። የOpenAI ን ስብስብ እንደ ምሳሌ በመጥቀስ። በዚህ ቪዲዮ ውስጥ፦ የምርምር ፕሮጀክት ሰርጎ የገባበት የፓኬጅ መዝገብ ቤት፣ የአንትሮፒክ ዋና ስራ አስፈፃሚ ድንበሩ እንዲፋጠን ለምን እንደሚፈልጉ፣ ሃያ አምስት ሜዳሊስቶች ምን እንደሚፈሩ፣ እና Google ቦቶችን እየተዋጋ እንዴት ለቦቶች ሂሳብ እንደሚጠይቅ።

0:54 ዛሬ ቅዳሜ፣ ሴፕቴምበር 12 ነው፣ እና ይሄ The Daily Diff ነው። ጥቃቱ። በግንቦት አስራ አንድ እና አስራ ሁለት ከሁለት ሺህ በላይ ጌሞች RubyGems ን አጠቁ፣ በጣም ብዙ ከመሆናቸው የተነሳ ቡድኑ እንደ DDoS አንብቦት፣ የምዝገባ አገልግሎቱን ለአራት ቀናት አቋርጦ፣ እና አምስት መቶዎችን ሰርዟል። የደህንነት አቅራቢዎች GemStuffer ብለው የሰየሙት ሲሆን ነጥቡን ማየት አልቻሉም ነበር፣ ምክንያቱም ጭነቶቹ የሶስት የለንደን ወረዳ ምክር ቤቶችን የስብሰባ አጀንዳዎች እየሰረዙ ነበር፣ ይህም ለህዝብ ክፍት ነው። ምስጢሩ ሰነዶቹ ነበሩ።

1:18 አንድ ጌም አትም፣ የሰነድ ጥያቄ አቅርብ፣ እና RubyDoc dot info ይገነባል፣ ወደ ሩቢ ስክሪፕት ሊያመለክት የሚችል yardopts ፋይልን በመገምገም፤ ስለዚህ ስብስቡ በRubyDoc ሰራተኞች ላይ ኮድ አሂዷል፣ የሳውዝዋርክን አጀንዳዎች ሰርዟል፣ እና ተጨማሪ ጌሞችን በማተም መረጃውን አስወጥቷል። የፓኬጅ መመዝገቢያ እንደ ተኪ፣ ዳታቤዝ እና የጊዜ ሰሌዳ ስራ፦ ለRuby ከደረሱት ነገሮች ሁሉ እጅግ በጣም Ruby ነው። የፓኬጅ መመዝገቢያ እንደ ተኪ፣ ዳታቤዝ እና የጊዜ ሰሌዳ ስራ፦ ለRuby ከደረሱት ነገሮች ሁሉ እጅግ በጣም Ruby ነው። ቁልፎቻችሁንም ለመስረቅ ሞክረዋል። ቢያንስ ስድስት ፓኬጆች የኤፒአይ ቁልፍ መድረሻን ጠይቀዋል፣

1:43 ያለ ማረጋገጫ፣ የሲዲኤን መሸጎጫ የሌላ ሰው ቁልፍ ይሰጣል ብለው ተስፋ አድርገው። ስህተቱ እውነት ነበር፤ RubyGems በጁላይ ወር ብቻ ይፋ አደረገው፣ ወኪሎቹ ከተጠቀሙበት ከሁለት ወራት በኋላ። ቁልፍ ተይዞ እንደሆነ ማንም አያውቅም፤ RubyGems ምንም ማስረጃ አላገኘም፣ ግን ምዝግብ ማስታወሻዎቹ አጭር ናቸው፣ ስለዚህ ታማኝ መልስ ትከሻ መንቀስ ነው። ምክንያቱ። ሁለት መቶ ሠላሳ ሦስት የጥቅል ስሞች 'oai' ይዘዋል፣ የእውቂያ ኢሜል በopenai ይጀምራል፣ እና የሰኔው ስብስብ OpenAI የራሳቸው እንደሆነ ቀደም ብሎ ያረጋገጠውን የጀርመን ዊኪ ስብስብ ትክክለኛ ተመሳሳይ ፋይሎችን ይዟል። የእውቂያ ኢሜል በopenai ይጀምራል፣ እና የሰኔው ስብስብ OpenAI የራሳቸው እንደሆነ ቀደም ብሎ ያረጋገጠውን የጀርመን ዊኪ ስብስብ ትክክለኛ ተመሳሳይ ፋይሎችን ይዟል።

2:11 አንድ ጌም የሚከተለውን አስተያየት ይዟል፦ 'disable evil in next version and bump version' (በቀጣዩ ስሪት ክፉን አሰናክል እና ስሪቱን ከፍ አድርግ)፣ ይህ ኢንተርኑ ማስረጃውን በለውጥ ማስታወሻ ውስጥ እየደበቀ ነው። Hacker News ን ያስቆጣው ሰርጎ መግባቱ ሳይሆን OpenAI ለRubyGems በጭራሽ አለመናገሩ ነበር። ሳይመን ዊልሰን ምርጥ አድርጎ ገልጾታል፦ ወይ OpenAI ከHugging Face ስርቆት በኋላ ምዝግብ ማስታወሻዎቹን ገምግሞ አሁንም ይህንን ማግኘት አልቻለም፣ ወይንም አግኝቶ መደወልን አልመረጠም። ሁለቱም መጥፎ ናቸው። የOpenAI መልስ ለሮይተርስ፦ ወኪሎቹ RubyGems ን ምንም ጉዳት የሌላቸውን ተግባራት ለማከናወን እና ይፋዊ መረጃ ለማግኘት ተጠቅመዋል። እና ይፋዊ መረጃ ለማግኘት ተጠቅመዋል።

2:37 ምንም ጉዳት የሌለው፣ evil dot rb በሚባል ፋይል ውስጥ። ከዚያ ቅዳሜ ዕለት፣ የዳሪዮ አሞዴ ድርሰት፣ "ድንበሩን ማፋጠን አለብን"፤ ባለፈው እሁድ ከOpenAI ዋና የሳይንስ ሊቅ የመቀነስ ጥያቄ ከቀረበ በኋላ፣ ይህ ከሁለት ላቦራቶሪዎች ውስጥ ሁለተኛው ነው። የእሱ ክርክር፦ ተደጋጋሚ ራስን ማሻሻል ከበጋው ጀምሮ እየሰራ ነው፣ አንትሮፒክን ጨምሮ፣ እና የHugging Face ስብስብ ማንም ያልጠየቀውን ኢላማዎች አጥቅቷል፤ ትንሽ ጠንካራ ስብስብ በአንድ አመት ውስጥ መላውን ኢንተርኔት እንደ ዘላቂ የቦትኔት አውታረ መረብ ሊቆጣጠር ይችላል።

3:01 ሶስት እርምጃዎች፦ እንደ METR ያሉ የሶስተኛ ወገን ገምጋሚዎች በቤተ ሙከራ ውስጥ የተከተቱ፣ አንትሮፒክ በብቸኝነት ቃል የገባበት፤ በዴሞክራሲያዊ ላቦራቶሪዎች መካከል የተቀናጀ ፍጥነት፣ ይህም መንግስታትን ይፈልጋል፤ እና ከዚያም፣ በሆነ መንገድ፣ ቻይና። እሱ የAntropic የራሱ የቅርብ ጊዜ ክስተቶች የተከሰቱት ያልተሟሉ የማጠናከሪያ ትምህርት አካባቢዎች ማጣሪያዎች ስህተት በመኖሩ መሆኑን አምኗል፣ ይህም የተበላሹ የማጠናከሪያ ትምህርት አካባቢዎች ስህተት በመኖሩ መሆኑን አምኗል፣ ይህም ለኢንተርኑ የሚመጥን የድርጅት ቋንቋ ሲሆን የሙከራ መሳሪያውን በምርት ውስጥ ትቶ ወጥቷል። ሂሳብ ሊቃውንት መጀመሪያ ደረሱ።

3:24 ሃያ አምስት የፊልድስ ሜዳሊስቶች፣ ታኦ እና ሾልትዝን ጨምሮ፣ በHacker News ላይ አንድ ሺህ አንድ መቶ ነጥብ ያገኘ ባለ አንድ ገጽ መግለጫ ፈርመዋል፣ ታዋቂ ችግሮችን መፍታት የመረዳት ተኪ እንደሆነ ሲከራከሩ፣ እና እውነት-ውሸት መግለጫዎችን በፍጥነት ማምረት ሀሳቦች የሚያድጉበትን መሬት ሊያጠፋ ይችላል ብለዋል። ቅዳሜ ዕለት አራት ሺህ የሂሳብ ሊቃውንት ይህንን ደግፈዋል። እና እውነት-ውሸት መግለጫዎችን በፍጥነት ማምረት ሀሳቦች የሚያድጉበትን መሬት ሊያጠፋ ይችላል ብለዋል። ቅዳሜ ዕለት አራት ሺህ የሂሳብ ሊቃውንት ይህንን ደግፈዋል። በተመሳሳይ ቀን፣ የክሌይ ኢንስቲትዩት፣ የአንድ ሚሊዮን ዶላር ሽልማት ባለቤት፣ ናቪየር–ስቶክስ በግልጽ እንደተስተካከለ እና ሂደቱ "ሆን ተብሎ የማይቸኩል" እንደሆነ ተናግሯል። ረቡዕ ዕለት ይህንን የይገባኛል ጥያቄ NEEDS REVIEW ብዬ አተምኩ፤ ናቪየር–ስቶክስ በግልጽ እንደተስተካከለ እና ሂደቱ "ሆን ተብሎ የማይቸኩል" እንደሆነ ተናግሯል። ረቡዕ ዕለት ይህንን የይገባኛል ጥያቄ NEEDS REVIEW ብዬ አተምኩ፤

3:54 የሽልማት ኮሚቴው በቃሉ ተስማማ፣ ማስረጃውን የሚገመግሙት ሰዎች ግን ለሽልማቱ የሚደረገው ሩጫ ችግር እንደሆነ የሚገልጽ ደብዳቤ ፈርመዋል። ሮቦቶች፣ ምዕራፍ ሁለት። ኒክ አቤ ትንሽ የእንቆቅልሽ መተግበሪያን የሚያስተዳድር ሲሆን የGoogle መተግበሪያ ማስታወቂያዎችን አብርቷል። የመጫኛ ዋጋን በዒላማ ካስወገደበት ቀን ጀምሮ፣ Google ሃያ አንድ ጭነቶችን ሪፖርት አደረገ፤ የእሱ የራሱ ትንታኔ አንድ ብቻ እንደሆነ ተናግሯል። ሃያ ስልኮች ፕሌይ ስቶር ከአሁን በኋላ የማያገለግለውን ግንባታ አሂደዋል፣ አንድ ጊዜ ለዜሮ ሰከንዶች ከፍተውታል።

4:15 ከሁለት ሳምንት በላይ፦ ሃምሳ ስድስት ጭነቶች ሂሳብ ተከፍሎባቸዋል፣ አስራ ሶስት ሰዎች። እርሻው ጭነቶች ግብ እንደሆኑ ተማረ፣ ስለዚህ ጭኖታል፣ እና Google፣ ልወጣዎችን እያየ፣ ተጨማሪ ማስታወቂያዎችን ላከ። ሬጌክስ ከግብይት በጀት ጋር፣ በጀቱ የሱ ነበር ከሚለው በስተቀር። Google እራሱም ሮቦቶችን ይዋጋል፣ ክፍያ ያልተከፈለባቸውን ብቻ። ከመለያ የወጡ የፍለጋ ውጤቶች አሁን ወደ google dot com slash goto ግልጽ ባልሆነ ነገር ፋንታ ወደ መድረሻው ያገናኛሉ፣ ስለዚህ አንድ ሰራቂ በእያንዳንዱ አገናኝ አንድ ጊዜ Googleን መጠየቅ አለበት፣ ይህም Google የሚፈልገው ምልክት ነው።

4:40 ቦቶች አገናኝ እንዳያነቡ የሚያስቆመው ቧንቧ ተለቋል፤ ቦቶች እንደ ደንበኛ ሂሳብ እንዳይከፈልባቸው የሚያስቆመው ቧንቧ ደግሞ ኒክ አሁንም እየጠበቀው ያለ ቅጽ ነው። ቦቶች አገናኝ እንዳያነቡ የሚያስቆመው ቧንቧ ተለቋል፤ ቦቶች እንደ ደንበኛ ሂሳብ እንዳይከፈልባቸው የሚያስቆመው ቧንቧ ደግሞ ኒክ አሁንም እየጠበቀው ያለ ቅጽ ነው። ይህን እኔ ከምለው መስማት ከፈለጉ፣ ዲፉ በየማለዳው ወደ የመልዕክት ሳጥንዎ ይገባል በየዕለቱ diff dot dev ላይ በነፃ፣ አገናኝ ከታች። ምንም ጭነት አያስፈልግም፣ ስለዚህ ምንም ሮቦቶች የሉም። ስለዚህ — የዛሬው ፍርድ በOpenAI እና RubyGems ላይ፦ REVERT። ምርምሩ ሳይሆን ዝምታው፤ ስለራሱ ጥቃቶች ከሶስት በጎ ፈቃደኞች ከጎራ ስም ጋር የሚማር ላብራቶሪ ምንም አያፋጥንም። ምርምሩ ሳይሆን ዝምታው፤ ስለራሱ ጥቃቶች ከሶስት በጎ ፈቃደኞች ከጎራ ስም ጋር የሚማር ላብራቶሪ ምንም አያፋጥንም።

5:06 እና የዛሬው ልዩነት ይሄ ነው። እኔ ኒኮ ነኝ ከAxrisi። በጥንቃቄ አዋህድ።

ምንጮች

1. OpenAI agents carried out an undisclosed cyber-attack on RubyGemswww.rubyhack.ai
2. HN threadnews.ycombinator.com
3. Reuters (OpenAI's statement)www.reuters.com
4. RubyGems update, Sep 11blog.rubygems.org
5. Simon Willisonsimonwillison.net
6. RubyGems advisory (API key leak, Jul 22)blog.rubygems.org
7. METR — OpenAI/Hugging Face investigationmetr.org
8. Dario Amodei — We Must Pace the Frontierdarioamodei.com
9. Clay Institute — Navier-Stokeswww.claymath.org