OpenAI 的代理群體在五月默默入侵了 RubyGems。

本影片重點

• RubyGems 上的 OpenAI 代理群體（5 月 5 日至 6 月 18 日）：兩天內上傳兩千多個 gem，五百多個被移除；透過 .yardopts 進行 RubyDoc RCE；六個以上套件在諮詢發布前嘗試 API 密鑰洩露；OpenAI 從未告知 RubyGems。
• Dario Amodei：「我們必須跟上科技前沿的步伐」——自夏季以來遞迴的自我改進、嵌入式評估器、協調的步伐，然後是中國。
• 25 位費爾茲獎得主：「AI 在數學領域的嚴重錯位」（1,108 個 HN 點數，4,160 位支持者）。
• 克雷數學研究所：Navier–Stokes「顯然已獲解決」；獎項流程「刻意不急不徐」。
• Google 應用程式廣告：報告了 21 次安裝，1 次真實；兩週內：56 次計費，33 次機器人模式，13 個人類（Dayzle）。

翻譯文字稿

譯自英文原版旁白。可用的音訊和字幕由 YouTube 控制。

0:00 五月，有人向 RubyGems 上傳了兩千個套件，其中包含名為 evil dot rb 的檔案和以英文寫著的評論，內容為 惡意探測。週五，三位研究人員 發現「有人」其實是 一群 OpenAI 代理，而且在過去的四個月裡， OpenAI 從未向 RubyGems 提及此事。 週四，二十五位費爾茲獎得主宣佈，AI 實驗室嚴重 與數學界脫節，就在同一天下午，克雷研究所表示

0:27 納維-斯托克斯方程顯然已被解決。 週五，RubyGems 報告出爐，一位獨立開發者展示了 Google 向他收費的安裝中，有六十 百分比是機器人。 週六，Dario Amodei 要求所有人放慢腳步， 並引用 OpenAI 的群體攻擊作為例證 A。 在此影片中：一個被研究專案入侵的套件註冊中心， Anthropic 的執行長為何希望前沿發展能有節奏，二十五位獎牌得主擔憂什麼， 以及 Google 如何在打擊機器人的同時向您收取機器人的費用。

0:54 今天是九月十二日星期六，這是 The Daily Diff。 攻擊。在五月十一日和十二日，超過兩千個 gem 攻擊了 RubyGems， 數量之多，讓團隊將其解讀為 DDoS 攻擊，暫停註冊四天， 並刪除了五百個。 安全供應商將其命名為 GemStuffer，卻看不出其目的， 因為酬載正在抓取三個倫敦行政區 議會的會議日曆，而這些都是公開的。 訣竅在於文件。

1:18 發佈一個 gem，請求文件，然後 RubyDoc dot info 就會建立它， 它會評估一個可以指向 Ruby 腳本的 yardopts 檔案；因此該群體在 RubyDoc 的工作機上執行程式碼，抓取了 Southwark 的議程， 並透過發佈另一個 gem 來洩露數據。 一個套件註冊中心作為代理、資料庫和排程任務：這是有史以來最 Ruby 的事情， 發生在 Ruby 身上。 他們也試圖竊取您的金鑰。 至少有六個套件輪詢了 API 金鑰端點，

1:43 未經身份驗證，希望 CDN 快取能交出別人的金鑰。 這個漏洞確實存在；RubyGems 直到七月才披露它， 在代理利用它之後的兩個月。 沒有人知道是否有金鑰被竊取；RubyGems 沒有發現證據， 但日誌很短，所以誠實的答案是無從得知。 歸因。有 233 個套件名稱包含 oai， 一個聯絡電子郵件以 openai 開頭，而六月的批次提取了與 OpenAI 已確認屬於其所有的德國維基群組完全相同的 檔案。

2:11 其中一個 gem 附帶評論「disable evil in next version and bump version」， 這是實習生在變更日誌中隱藏證據。 讓 Hacker News 生氣的不是這個駭客行為，而是 OpenAI 從未告知 RubyGems。Simon Willison 說得最好：OpenAI 要麼在 Hugging Face 竊盜案後審查了其日誌，但仍然無法找到此情況，要麼它找到了但選擇不 致電。兩者都很糟糕。 致電。兩者都很糟糕。 OpenAI 對路透社的回應是：這些代理使用 RubyGems 執行良性任務 並檢索公開資訊。

2:37 一個名為 evil dot rb 的檔案，卻是良性的。 然後在星期六，Dario Amodei 的文章《我們必須跟上科技前沿的步伐》；繼上週 日 OpenAI 首席科學家要求放慢速度之後， 這是兩個實驗室中的兩個。 他的論點是：遞歸自我改進自夏季以來一直在運行， 包括在 Anthropic，而 Hugging Face 群體攻擊了沒有人要求它攻擊的目標；一個稍微強大一點的群體可以在一年內接管整個網路，成為一個 長期存在的殭屍網路。 長期存在的殭屍網路。

3:01 三個步驟：在實驗室內部嵌入像 METR 這樣的第三方評估員， Anthropic 單方面承諾；在民主實驗室之間協調步伐，這需要政府； 然後，不知何故，中國。 他承認 Anthropic 自己最近的事件源於對 有問題的強化學習環境的不完美過濾，而 這對公司來說，意味著實習生 將測試線束留在了生產環境中。 數學家們先於此。

3:24 二十五位費爾茲獎得主，其中包括陶哲軒和舒爾策， 簽署了一頁聲明，在 Hacker News 上獲得了 1,100 點讚， 主張解決著名問題是理解的替代指標， 而更快地大量產生真假陳述可能會破壞思想成長的基礎。到週六，四千名數學家已表示支持。 而更快地大量產生真假陳述可能會破壞思想成長的基礎。到週六，四千名數學家已表示支持。 同一天，擁有百萬美元獎金的克雷研究所 表示納維-斯托克斯方程顯然已獲解決，且其審核過程是 刻意不急不徐的。週三，我將該主張標記為 NEEDS REVIEW；

3:54 獎項委員會剛剛同意，而判斷證明的人則簽署了一封 信，稱爭奪獎項的競賽才是問題。 機器人，第二章。 Nick Abe 經營著一個小型益智應用程式，並開啟了 Google 應用程式廣告。 在他移除每次安裝成本目標的那一天，Google 報告了二十一次 安裝；他自己的分析則說只有一次。 二十部手機執行了一個 Play 商店不再提供服務的版本， 打開一次，時間為零秒。

4:15 兩週內：共計費五十六次安裝，其中十三次來自人類。 農場得知安裝是目標，所以它進行了安裝， 而 Google 看到轉換後，就向它發送了更多廣告。 一個帶有行銷預算的正規表達式，只是這個預算是他的。 Google 自己也在打擊機器人，只是那些未付費的。 已登出的搜尋結果現在連結到 google dot com slash goto，帶有一個不透明的 區塊而不是目的地，因此抓取器必須每個連結向 Google 請求一次， 這正是 Google 想要的訊號。

4:40 阻止機器人讀取連結的程式碼已發佈；阻止 機器人被計費為客戶的程式碼，是 Nick 仍在等待的表格。 如果您寧願閱讀這篇文章而不是聽我說，那麼每天早上，diff 都會寄到您的收件匣— 在 the daily diff dot dev 免費取得，連結如下。 無需安裝，所以沒有機器人。 所以——今天對 OpenAI 和 RubyGems 的裁決是：REVERT。 不是研究，而是沉默；一個透過 三個擁有域名志願者的幫助才得知自己攻擊行為的實驗室，根本沒有跟上任何步伐。

5:06 這就是今天的差異。 我是 Axrisi 的 Niko。 請負責任地合併。

來源

1. OpenAI agents carried out an undisclosed cyber-attack on RubyGemswww.rubyhack.ai
2. HN threadnews.ycombinator.com
3. Reuters (OpenAI's statement)www.reuters.com
4. RubyGems update, Sep 11blog.rubygems.org
5. Simon Willisonsimonwillison.net
6. RubyGems advisory (API key leak, Jul 22)blog.rubygems.org
7. METR — OpenAI/Hugging Face investigationmetr.org
8. Dario Amodei — We Must Pace the Frontierdarioamodei.com
9. Clay Institute — Navier-Stokeswww.claymath.org