Claude 代理記憶：轉錄本支援的夢境與共享寫入失敗
在一項 Anthropic 報告的實驗中，一個錯誤的保存地標讓 Claude 三次從同一個寶可夢懸崖掉下去。
在一項 Anthropic 報告的實驗中，一個錯誤的保存地標讓 Claude 三次從同一個寶可夢懸崖掉下去。轉錄本支援的夢境糾正了筆記，而獨立的合約頁面和逐字記錄的條款則在另一項任務中找回了遺失的評分事實。
本影片涵蓋的內容
- 代理記憶在會話之間保留上下文；所述的修復是更改筆記而非模型權重。
- 將錯誤的筆記與會話轉錄本進行核對，有助於修正後的分支到達華藍市。
- 單獨搜索在標準中獲得 53% 的分數；搜索加上更大的維基百科在關於 Stainless 文件的 25 個問題中達到 61%。
- 其他來源報告的法律任務顯示，維基百科沒有明顯的幫助，或者維基百科比原始文件更大。
- 特定合約頁面、每頁一名寫作者和逐字記錄的條款找回了 57/57 個評分事實；這兩項更改是同時測試的。
問題與解答
夢境在代理記憶系統中改變了什麼？
夢境會回顧之前的會話轉錄本，並重新組織已儲存的上下文，供後續會話讀取。Anthropic 的研究將代理記憶定義為保留的上下文，不包括對模型權重的更改。周圍的軟體選擇何時運行工作以及它接收哪些轉錄本。託管代理的「夢境」API 正在研究預覽階段，並為審查產生一個單獨的輸出儲存。
錯誤的記憶如何讓 Claude 困在月見山？
Claude 將寶可夢中心記錄在月見山錯誤的一側，然後相信洞穴在它後面就離開了。Anthropic 報告說，一個單向的壁架讓它回到了早期的路線，而它的導航工具卻錯過了那個下降。將儲存的筆記與原始轉錄本進行核對，糾正了位置。修正後的分支最終到達了華藍市。
連結的記憶維基百科何時未能改善來源搜索？
維基百科在一個報告的法律任務中沒有顯示出明顯的增益，該任務的標準通常可以透過從單一文件檢索資訊來滿足。Anthropic 還描述了一個獨立的任務，其維基百科比原始文件還要大。文章的結果支持對表示進行特定任務的評估，同時考慮維護成本以及任何回答效益。
哪些寫作更改找回了遺失的合約事實？
每份合約都獲得了自己的維基頁面，由單一代理人撰寫，且條款逐字引用。Anthropic 的模擬收購任務隨後支援了所有 57 個評分事實，此前共享表格版本只包含 41 個。所有權和引文同時發生了變化，因此測試無法分離任何一種變化的貢獻。結果是一個基準結果，不保證普遍的法律準確性。
The Daily Diff 對轉錄本支援的記憶修復的判決是什麼？
The Daily Diff 的判決是「需要審查」。Niko 會使用轉錄本支援的修復，檢查更改的筆記並測試維基百科是否有助於實際任務。Anthropic 自己的反例表明，表示可能會增加工作而沒有明顯的效益。它的指南警告說，舊的轉錄本無法建立後來的外部更改，因此重要的更改事實仍然需要驗證。
翻譯的文字記錄
從英文原文旁白翻譯。可用的音頻和字幕由 YouTube 控制。
為什麼記憶會讓 Claude 陷入困境？
0:00 賦予 Claude 記憶應該能阻止它重複犯錯。 Anthropic 觀察到一個錯誤的筆記讓它三次從同一個寶可夢懸崖掉下 去。在這個影片中，記憶是如何困住 Claude 的？ 到底是什麼修復了它？ Anthropic 稱這種修復為「夢境」。 額外的模型會話會重新檢視儲存的轉錄本並編輯記憶檔案。 它的合約測試甚至透過改變這些記憶的寫入方式，找回了所有遺失的 事實。
0:22 記住這一點。 今天是 11 月 7 日星期六，這是 The Daily Diff。 代理記憶是在會話之間儲存的上下文。 模型的權重保持不變。 周圍的軟體決定何時運行清理以及它查看哪些轉錄本。 託管代理的「夢境」功能正在研究預覽階段。 這篇文章不會為每個 Claude 用戶開啟夢境功能。
Anthropic 實際上測試了什麼？
0:41 Anthropic 於星期五發表了 Lance Martin 的文章。 今天 Hacker News 的討論中，人們正在爭論他們刪除哪些記憶。 當一個自信地錯誤的筆記存活到另一個會話時會發生什麼？ 我們給這個幻覺一個檔案櫃。 Claude 需要穿過月見山，並使用附近的寶可夢中心作為地標。 它寫下這棟建築物在東側， 即使它在西側。 它離開時相信洞穴已經在它後面了。
1:05 然後它走過一個單向的壁架，回到它來的地方。 它的導航工具錯過了那個下降，所以 Claude 將失敗解釋為 過度衝刺。下一次嘗試從相同的錯誤假設開始。 持久性保留了這個錯誤。 第三次墜落後，Claude 寫道它會停止而不是繼續 循環。研究人員的設置會自動告訴它繼續。 它返回到一個早期的城鎮，那次運行在沒有到達華藍市的情況下結束。 連機器人也想結束這次會議。
夢境如何修復路線？
1:30 研究人員對錯誤的記憶資料夾運行「夢境」功能。 Claude 將筆記與原始會話轉錄本進行核對， 發現了位置錯誤，並將其重寫。 憑藉修正後的筆記，它重新進入月見山並最終到達 華藍市。這就是這裡有用的結果。 一個保存的聲明在另一次嘗試之前會被核對證據。 在一次運行中，Sonnet 3.7 累積了數百個文件，同時獲得了一枚
1:50 徽章。Fable 5 保留了較小的集合並獲得了四枚。 不同的模型，各運行一次，因此無法分離文件系統的貢獻。 在 Hacker News 上，yfontana 說他們刪除了幾乎所有自動 記憶，因為這些筆記通常屬於當前任務。 這是一位用戶的經驗。 一旦你移動了，昨天的坐標就變成了一個糟糕的指南針。
記憶維基百科何時有幫助？
2:10 Anthropic 還在 Stainless 的內部文件上建立了一個連結的維基。 Claude 跨會話組織相關資訊， 然後使用這些頁面來回答問題。 這在答案跨越多個文件時會有幫助。 原始文件仍然可以查看地圖。 單獨搜索，Claude 在評分標準中得了 53%。 搜索加上更大的維基百科達到 61%。
2:32 這些是關於一家公司文件的 25 個問題。 額外的離線工作改善了這個評估。 文章沒有給出建立維基百科的總價， 所以請保持發票欄位開放。 「夢境」使用標準的 API 令牌費率，工作可能需要幾分鐘到幾小時。 Anthropic 表示，持續檢查每個記憶可能不切實際。 您的代理人的第二班仍然會計入您的信用卡。 同一篇文章中提到一項法律任務，其中維基百科對搜尋沒有明顯的增益。
維基百科何時毫無助益？
2:56 另一個維基百科比它摘要的文件還要大。 如果一個問題可以透過找到一個段落來回答， 那麼先建立一個百科全書可能是一種非常昂貴的使用查找按鈕的方式。 Claude Code 會自動載入其記憶索引的有限起始區塊， 詳細筆記保存在其他地方。 錯誤注入的指令會影響每個會話。 Anthropic 的指南指出，記憶的好壞取決於轉錄本的品質。 昨天的日誌無法驗證今天早上的更改。
為什麼十六個合約事實消失了？
3:23 現在是合約任務。 幾個代理人為一次模擬的收購建立了一個維基百科， 將條款寫入一個共享表格。 結果摘要包括 57 個評級事實中的 41 個。 有 16 個事實從合約到修飾後的答案之間消失了。 這是遺失資訊的一個相當重要的環節。 Anthropic 將失敗歸咎於糟糕的摘要和代理人互相覆寫工作。 遺失的條款從未安全地保留用於回答環節。
3:47 「夢境」讓 Claude 反思這些失敗， 提出不同的維基百科指令，並重新建立。 修復一直追溯到記憶是如何寫入的。 任何與同事編輯過同一份文件的人都知道這種痛苦。 給每個參與者一個更大的大腦，他們仍然可以保存覆蓋別人 的工作。令人興奮的 AI 記憶 問題已經帶著並發錯誤 走進了辦公室廚房。
4:08 每份合約都有自己的頁面，由單一代理人撰寫。 條款逐字引用。 改進後的維基百科支援所有 57 個評分事實。 這就是承諾的修復。 獨立所有權防止覆蓋，精確引用保留條款。 兩項更改同時發生，因此任何一方都不能單獨歸功。 保持重要記憶可追溯到其來源。 託管代理的「夢境」保留輸入儲存並產生一個單獨的輸出，
4:32 您可以審查。 如果你寧願閱讀而不是聽我說，每天早上，免費的 The Daily Diff 會發送到你的收件箱，網址在 thedailydiff.dev，連結如下。
我會信任這個記憶系統嗎？
4:39 所以今天的判決是「需要審查」。 我會使用轉錄本支援的修復，因為持久的錯誤值得持久的 修復。我會檢查更改的筆記並測試維基百科是否有助於我的 實際任務。Anthropic 的反例顯示記憶維護多麼容易成為另一個你現在必須維護的專案。 成為另一個你現在必須維護的專案。 這就是今天的不同之處。 我是來自 Axrisi 的 Niko。 負責任地合併。
來源
- The components of agent memory — Lance Martin; figures by Monika Tuchowska; Anthropic-reported evaluationsAnthropic
- Dreams — research preview, separate output store, billing and lifecycleClaude Platform documentation
- Claude Code memory — injected index boundaryClaude Code documentation
- Dreaming with a dynamic workflow — transcript staleness and caller controlClaude Cookbook
- Sleep-time Compute — April 2025 prior work, no replication of this article claimedKevin Lin and colleagues / arXiv
- Harvey LAB — tasks, documents, grading rubrics and version scopeHarvey AI
- Authentic Dario Amodei portrait — TechCrunch Disrupt 2023; cropped, background removed and resized; Anthropic identity only, no authorship, current reaction or endorsementTechCrunch / Wikimedia Commons
- Original TechCrunch portrait source — Dario Amodei at Disrupt 2023TechCrunch / Flickr
- Portrait licence — Creative Commons Attribution 2.0Creative Commons
- Two Buttons — Jake Clark, Imgflip template; commentary labels added; brief process satire, hosting is not a licence or legal clearance and grants no blanket reuseJake Clark / Imgflip
- Groundhog Day GIF — Bill Murray and Stephen Tobolowsky as Phil/Ned; @groundhogday; silent, resized and captioned narrator commentary; no present-day reaction or blanket reuse; hosting is not a licence or legal clearanceGroundhog Day / GIPHY
- Two Buttons origin attribution — Jake Clark, October 2014; secondary sourceSupermeme
- Groundhog Day source link supplied by the GIPHY uploaderGroundhog Day
.jpg){kind=link}