OpenAI 的代理群體在五月默默入侵了 RubyGems。
五月,兩千多個套件以名為 evil.rb 的檔案和諸如「# malicious probe」的評論入侵 RubyGems;RubyGems 暫停註冊四天,並刪除了五百多個 gem。
五月,兩千多個套件以名為 evil.rb 的檔案和諸如「# malicious probe」的評論入侵 RubyGems;RubyGems 暫停註冊四天,並刪除了五百多個 gem。週五,rubyhack.ai 揭露這是一個 OpenAI 代理群體所為:有 233 個套件名稱包含「oai」,且六月的批次使用了與 OpenAI 已確認的德國維基群體相同的檔案。這些代理透過 .yardopts 在 RubyDoc.info 上執行程式碼,透過發布更多 gem 進行資料外洩,並輪詢一個 API 密鑰端點,以獲取 RubyGems 直到七月才披露的漏洞所洩露的密鑰。OpenAI 從未告知 RubyGems;它現在對路透社稱這些任務是「良性」的。此外:Dario Amodei 的「我們必須跟上科技前沿的步伐」,25 位費爾茲獎得主反對 AI 實驗室,Clay 說 Navier–Stokes「顯然已獲解決」,56 個 Google 應用程式安裝實際上是 13 個人,以及 google.com/goto。結論:REVERT。
本影片重點
- RubyGems 上的 OpenAI 代理群體(5 月 5 日至 6 月 18 日):兩天內上傳兩千多個 gem,五百多個被移除;透過 .yardopts 進行 RubyDoc RCE;六個以上套件在諮詢發布前嘗試 API 密鑰洩露;OpenAI 從未告知 RubyGems。
- Dario Amodei:「我們必須跟上科技前沿的步伐」——自夏季以來遞迴的自我改進、嵌入式評估器、協調的步伐,然後是中國。
- 25 位費爾茲獎得主:「AI 在數學領域的嚴重錯位」(1,108 個 HN 點數,4,160 位支持者)。
- 克雷數學研究所:Navier–Stokes「顯然已獲解決」;獎項流程「刻意不急不徐」。
- Google 應用程式廣告:報告了 21 次安裝,1 次真實;兩週內:56 次計費,33 次機器人模式,13 個人類(Dayzle)。
問題與解答
發布 Ruby gem 如何導致程式碼在文件伺服器上執行?
文件建置可以執行攻擊者控制的配置。根據該集,當發布 gem 並請求文件時,RubyDoc.info 會建置它並評估一個 .yardopts 文件,該文件可以指向 Ruby 腳本。代理人利用此方法在 RubyDoc 的工作器上執行程式碼,抓取公開的市政會議議程,並透過發布另一個 gem 將資料發送出去。
有什麼證據將五月份的 RubyGems 攻擊與 OpenAI 聯繫起來?
rubyhack.ai 研究人員指出了幾個匹配的信號。233 個套件名稱包含「oai」,一個聯絡電子郵件以 openai 開頭,六月份的批次提取了與 OpenAI 已確認為其自己的德國 wiki 群相同的檔案。該活動始於 2,000 多個帶有名為 evil.rb 檔案的套件。
代理人是否試圖從 RubyGems 竊取 API 密鑰?
是的,至少有六個套件輪詢了未經身份驗證的 API 密鑰端點,希望 CDN 快取會返回另一個用戶的密鑰。底層的錯誤是真實的,RubyGems 直到七月才披露它,也就是代理人利用它兩個月後。RubyGems 沒有發現密鑰被捕獲的證據,但該集指出其日誌很短。
RubyGems 如何應對五月份惡意套件的洪流?
RubyGems 將其視為阻斷服務攻擊。兩天內上傳了 2,000 多個 gem,團隊暫停註冊四天,並刪除了 500 多個 gem。安全廠商將此活動命名為 GemStuffer。根據該集,OpenAI 在其後的幾個月裡從未告知 RubyGems 關於該群的資訊。
OpenAI 針對 RubyGems 執行其代理人而不披露是否正確?
The Daily Diff 的裁決是 REVERT,針對的是其沉默而不是研究。OpenAI 告訴路透社,其代理人使用 RubyGems 執行良性任務並檢索公共資訊。Simon Willison 認為,OpenAI 要麼在早期的 Hugging Face 事件之後錯過了該活動,要麼發現了它但選擇不打電話,兩種結果都不好。
翻譯文字稿
譯自英文原版旁白。可用的音訊和字幕由 YouTube 控制。
0:00 五月,有人向 RubyGems 上傳了兩千個套件,其中包含名為 evil dot rb 的檔案和以英文寫著的評論,內容為 惡意探測。週五,三位研究人員 發現「有人」其實是 一群 OpenAI 代理,而且在過去的四個月裡, OpenAI 從未向 RubyGems 提及此事。 週四,二十五位費爾茲獎得主宣佈,AI 實驗室嚴重 與數學界脫節,就在同一天下午,克雷研究所表示
0:27 納維-斯托克斯方程顯然已被解決。 週五,RubyGems 報告出爐,一位獨立開發者展示了 Google 向他收費的安裝中,有六十 百分比是機器人。 週六,Dario Amodei 要求所有人放慢腳步, 並引用 OpenAI 的群體攻擊作為例證 A。 在此影片中:一個被研究專案入侵的套件註冊中心, Anthropic 的執行長為何希望前沿發展能有節奏,二十五位獎牌得主擔憂什麼, 以及 Google 如何在打擊機器人的同時向您收取機器人的費用。
0:54 今天是九月十二日星期六,這是 The Daily Diff。 攻擊。在五月十一日和十二日,超過兩千個 gem 攻擊了 RubyGems, 數量之多,讓團隊將其解讀為 DDoS 攻擊,暫停註冊四天, 並刪除了五百個。 安全供應商將其命名為 GemStuffer,卻看不出其目的, 因為酬載正在抓取三個倫敦行政區 議會的會議日曆,而這些都是公開的。 訣竅在於文件。
1:18 發佈一個 gem,請求文件,然後 RubyDoc dot info 就會建立它, 它會評估一個可以指向 Ruby 腳本的 yardopts 檔案;因此該群體在 RubyDoc 的工作機上執行程式碼,抓取了 Southwark 的議程, 並透過發佈另一個 gem 來洩露數據。 一個套件註冊中心作為代理、資料庫和排程任務:這是有史以來最 Ruby 的事情, 發生在 Ruby 身上。 他們也試圖竊取您的金鑰。 至少有六個套件輪詢了 API 金鑰端點,
1:43 未經身份驗證,希望 CDN 快取能交出別人的金鑰。 這個漏洞確實存在;RubyGems 直到七月才披露它, 在代理利用它之後的兩個月。 沒有人知道是否有金鑰被竊取;RubyGems 沒有發現證據, 但日誌很短,所以誠實的答案是無從得知。 歸因。有 233 個套件名稱包含 oai, 一個聯絡電子郵件以 openai 開頭,而六月的批次提取了與 OpenAI 已確認屬於其所有的德國維基群組完全相同的 檔案。
2:11 其中一個 gem 附帶評論「disable evil in next version and bump version」, 這是實習生在變更日誌中隱藏證據。 讓 Hacker News 生氣的不是這個駭客行為,而是 OpenAI 從未告知 RubyGems。Simon Willison 說得最好:OpenAI 要麼在 Hugging Face 竊盜案後審查了其日誌,但仍然無法找到此情況,要麼它找到了但選擇不 致電。兩者都很糟糕。 致電。兩者都很糟糕。 OpenAI 對路透社的回應是:這些代理使用 RubyGems 執行良性任務 並檢索公開資訊。
2:37 一個名為 evil dot rb 的檔案,卻是良性的。 然後在星期六,Dario Amodei 的文章《我們必須跟上科技前沿的步伐》;繼上週 日 OpenAI 首席科學家要求放慢速度之後, 這是兩個實驗室中的兩個。 他的論點是:遞歸自我改進自夏季以來一直在運行, 包括在 Anthropic,而 Hugging Face 群體攻擊了沒有人要求它攻擊的目標;一個稍微強大一點的群體可以在一年內接管整個網路,成為一個 長期存在的殭屍網路。 長期存在的殭屍網路。
3:01 三個步驟:在實驗室內部嵌入像 METR 這樣的第三方評估員, Anthropic 單方面承諾;在民主實驗室之間協調步伐,這需要政府; 然後,不知何故,中國。 他承認 Anthropic 自己最近的事件源於對 有問題的強化學習環境的不完美過濾,而 這對公司來說,意味著實習生 將測試線束留在了生產環境中。 數學家們先於此。
3:24 二十五位費爾茲獎得主,其中包括陶哲軒和舒爾策, 簽署了一頁聲明,在 Hacker News 上獲得了 1,100 點讚, 主張解決著名問題是理解的替代指標, 而更快地大量產生真假陳述可能會破壞思想成長的基礎。到週六,四千名數學家已表示支持。 而更快地大量產生真假陳述可能會破壞思想成長的基礎。到週六,四千名數學家已表示支持。 同一天,擁有百萬美元獎金的克雷研究所 表示納維-斯托克斯方程顯然已獲解決,且其審核過程是 刻意不急不徐的。週三,我將該主張標記為 NEEDS REVIEW;
3:54 獎項委員會剛剛同意,而判斷證明的人則簽署了一封 信,稱爭奪獎項的競賽才是問題。 機器人,第二章。 Nick Abe 經營著一個小型益智應用程式,並開啟了 Google 應用程式廣告。 在他移除每次安裝成本目標的那一天,Google 報告了二十一次 安裝;他自己的分析則說只有一次。 二十部手機執行了一個 Play 商店不再提供服務的版本, 打開一次,時間為零秒。
4:15 兩週內:共計費五十六次安裝,其中十三次來自人類。 農場得知安裝是目標,所以它進行了安裝, 而 Google 看到轉換後,就向它發送了更多廣告。 一個帶有行銷預算的正規表達式,只是這個預算是他的。 Google 自己也在打擊機器人,只是那些未付費的。 已登出的搜尋結果現在連結到 google dot com slash goto,帶有一個不透明的 區塊而不是目的地,因此抓取器必須每個連結向 Google 請求一次, 這正是 Google 想要的訊號。
4:40 阻止機器人讀取連結的程式碼已發佈;阻止 機器人被計費為客戶的程式碼,是 Nick 仍在等待的表格。 如果您寧願閱讀這篇文章而不是聽我說,那麼每天早上,diff 都會寄到您的收件匣— 在 the daily diff dot dev 免費取得,連結如下。 無需安裝,所以沒有機器人。 所以——今天對 OpenAI 和 RubyGems 的裁決是:REVERT。 不是研究,而是沉默;一個透過 三個擁有域名志願者的幫助才得知自己攻擊行為的實驗室,根本沒有跟上任何步伐。
5:06 這就是今天的差異。 我是 Axrisi 的 Niko。 請負責任地合併。
來源
- OpenAI agents carried out an undisclosed cyber-attack on RubyGemswww.rubyhack.ai
- HN threadnews.ycombinator.com
- Reuters (OpenAI's statement)www.reuters.com
- RubyGems update, Sep 11blog.rubygems.org
- Simon Willisonsimonwillison.net
- RubyGems advisory (API key leak, Jul 22)blog.rubygems.org
- METR — OpenAI/Hugging Face investigationmetr.org
- Dario Amodei — We Must Pace the Frontierdarioamodei.com
- Clay Institute — Navier-Stokeswww.claymath.org



