หน่วยความจำของ Claude: การฝันที่อิงตามบันทึกและการจัดการที่ผิดพลาดของนักเขียนร่วม

วิดีโอนี้ครอบคลุมอะไรบ้าง

• หน่วยความจำของเอเจนต์ยังคงรักษาสภาพแวดล้อมระหว่างเซสชัน การแก้ไขที่อธิบายไว้เปลี่ยนบันทึกแทนที่จะเป็นน้ำหนักของโมเดล
• การตรวจสอบบันทึกที่ไม่ถูกต้องกับบันทึกของเซสชันช่วยให้สาขาที่ได้รับการแก้ไขไปถึงเมืองเซรูเลียน
• การค้นหาเพียงอย่างเดียวได้คะแนน 53% ของเกณฑ์ การค้นหาบวกกับวิกิขนาดใหญ่ขึ้นได้ถึง 61% สำหรับคำถาม 25 ข้อเกี่ยวกับเอกสาร Stainless
• งานทางกฎหมายอื่นๆ ที่รายงานจากแหล่งข้อมูลไม่แสดงให้เห็นถึงการเพิ่มขึ้นของวิกิที่ชัดเจน หรือวิกิที่ใหญ่กว่าเอกสารต้นฉบับ
• หน้าเฉพาะสัญญา นักเขียนหนึ่งคนต่อหน้า และข้อกำหนดที่ยกมาตรงตัวสามารถกู้คืนข้อเท็จจริงที่ได้รับการให้คะแนน 57/57 ข้อ การเปลี่ยนแปลงทั้งสองถูกทดสอบพร้อมกัน

บทถอดเสียงที่แปลแล้ว

แปลจากการบรรยายภาษาอังกฤษต้นฉบับ เสียงและคำบรรยายที่มีให้จะควบคุมโดย YouTube

ทำไมความทรงจำถึงทำให้ Claude ติดอยู่?

0:00 การให้ Claude มีหน่วยความจำควรหยุดมันจากการทำผิดซ้ำซาก Anthropic เฝ้าดูบันทึกผิดพลาดหนึ่งฉบับส่งมันตกหน้าผาโปเกมอนเดียวกันถึงสาม ครั้ง ในวิดีโอนี้ ความทรงจำขัง Claude ไว้ได้อย่างไร? และอะไรที่แก้ไขมันได้จริงๆ? Anthropic เรียกการซ่อมแซมนี้ว่าการฝัน เซสชันโมเดลเพิ่มเติมจะกลับมาตรวจสอบบันทึกที่เก็บไว้และแก้ไขไฟล์หน่วยความจำ การทดสอบสัญญาของมันยังสามารถกู้คืนข้อเท็จจริงที่ขาดหายไปทั้งหมดได้ด้วยการเปลี่ยนวิธีการ เขียนความทรงจำเหล่านั้น

0:22 จำไว้ก่อน วันนี้วันเสาร์ที่ 7 พฤศจิกายน และนี่คือ The Daily Diff หน่วยความจำของเอเจนต์คือบริบทที่บันทึกไว้ระหว่างเซสชัน น้ำหนักของโมเดลยังคงไม่เปลี่ยนแปลง ซอฟต์แวร์รอบข้างจะตัดสินใจว่าเมื่อใดที่การทำความสะอาดจะทำงานและบันทึกใดที่ มันเห็น คุณสมบัติ Managed Agents' Dreams อยู่ในรุ่นทดลองวิจัย บทความนี้ไม่ได้เปิดใช้งาน Dreams สำหรับผู้ใช้ Claude ทุกคน

Anthropic ได้ทดสอบอะไรจริงๆ?

0:41 Anthropic เผยแพร่บทความของ Lance Martin เมื่อวันศุกร์ การสนทนาใน Hacker News วันนี้มีผู้คนถกเถียงกันว่าความทรงจำใดที่พวกเขา ลบออก จะเกิดอะไรขึ้นเมื่อบันทึกที่ผิดอย่างมั่นใจยังคงอยู่ไปจนถึงอีก เซสชัน? เราได้มอบตู้เก็บเอกสารแห่งภาพหลอนให้มัน Claude จำเป็นต้องข้ามภูเขา Moon โดยใช้ Pokémon Center ใกล้เคียงเป็นจุดสังเกต มันจดบันทึกว่าอาคารอยู่ทางทิศตะวันออก ทั้งๆ ที่มันอยู่ทางทิศตะวันตก มันจากไปโดยเชื่อว่าถ้ำอยู่ข้างหลังมันแล้ว

1:05 จากนั้นมันก็เดินข้ามหน้าผาทางเดียวไปยังเส้นทางที่มันมา เครื่องมือนำทางของมันพลาดจุดตกลง Claude จึงอธิบายความล้มเหลวว่า ไปไกลเกินไป การพยายามครั้งต่อไปเริ่มต้นด้วยสมมติฐานที่ผิดเหมือนเดิม การคงอยู่ได้รักษากลับข้อผิดพลาดไว้ หลังจากล้มครั้งที่สาม Claude เขียนว่ามันจะหยุดแทนที่จะ วนซ้ำ การตั้งค่าของนักวิจัยสั่งให้มันดำเนินการต่อโดยอัตโนมัติ มันมุ่งหน้ากลับไปยังเมืองก่อนหน้า และการทำงานนั้นสิ้นสุดลงโดยไม่ถึงเมือง เซรูเลียน แม้แต่บอทก็ยังต้องการให้การประชุมนี้จบลง

การฝันแก้ไขเส้นทางได้อย่างไร?

1:30 นักวิจัยทำการฝันในโฟลเดอร์หน่วยความจำที่ผิดพลาด Claude ตรวจสอบบันทึกกับบันทึกของเซสชันต้นฉบับ ตรวจพบข้อผิดพลาดตำแหน่ง และเขียนใหม่ ด้วยบันทึกที่แก้ไข มันกลับเข้าไปใน Mount Moon และในที่สุดก็ถึง เซรูเลียน นั่นคือผลลัพธ์ที่เป็นประโยชน์ที่นี่ การอ้างสิทธิ์ที่บันทึกไว้จะถูกตรวจสอบกับหลักฐานก่อนการพยายามครั้งต่อไป ในการทำงานหนึ่งครั้ง Sonnet 3.7 สะสมไฟล์หลายร้อยไฟล์ขณะที่ได้รับ

1:50 เหรียญหนึ่งเหรียญ Fable 5 เก็บสะสมน้อยกว่าและได้รับสี่เหรียญ โมเดลที่แตกต่างกัน การทำงานครั้งละหนึ่งครั้ง ดังนั้นการมีส่วนร่วมของระบบการจัดเก็บเอกสารจึงไม่สามารถ แยกแยะได้ ใน Hacker News yfontana กล่าวว่าพวกเขาเกือบจะลบความทรงจำอัตโนมัติทั้งหมด เพราะบันทึกมักจะเป็นของงานปัจจุบัน นั่นคือประสบการณ์ของผู้ใช้คนหนึ่ง พิกัดเมื่อวานนี้ทำให้เข็มทิศแย่เมื่อคุณเคลื่อนที่ไปแล้ว

วิกิแห่งความทรงจำช่วยได้เมื่อใด?

2:10 Anthropic ยังสร้างวิกิที่เชื่อมโยงกับเอกสารภายในของ Stainless Claude จัดระเบียบข้อมูลที่เกี่ยวข้องระหว่างเซสชัน จากนั้นใช้หน้าเหล่านั้นเพื่อตอบคำถาม สิ่งนี้สามารถช่วยได้เมื่อคำตอบครอบคลุมหลายเอกสาร ไฟล์ต้นฉบับยังคงพร้อมใช้งานเพื่อตรวจสอบแผนที่ ด้วยการค้นหาเพียงอย่างเดียว Claude ได้คะแนน ห้าสิบสามเปอร์เซ็นต์ของเกณฑ์ที่ให้คะแนน การค้นหาบวกกับวิกิขนาดใหญ่ขึ้นถึงหกสิบเอ็ดเปอร์เซ็นต์

2:32 นั่นคือ 25 คำถามเกี่ยวกับเอกสารของบริษัทเดียว การทำงานเสริมแบบออฟไลน์ช่วยปรับปรุงการประเมินนั้น บทความไม่ได้ให้ราคาโดยรวมสำหรับการสร้างวิกิ ดังนั้นจึงเปิดคอลัมน์ใบแจ้งหนี้ไว้ Dreams ใช้อัตราโทเค็น API มาตรฐาน และงานอาจใช้เวลาเป็นนาทีถึงชั่วโมง Anthropic กล่าวว่าการตรวจสอบความจำทั้งหมดอย่างต่อเนื่องอาจไม่สามารถทำได้จริง กะที่สองของเอเจนต์ของคุณยังคงต้องจ่ายด้วยบัตรเครดิตของคุณ บทความเดียวกันนี้รวมงานทางกฎหมายที่วิกิไม่แสดงให้เห็นถึงการเพิ่มขึ้นที่ชัดเจนเมื่อเทียบกับการ

วิกิไม่ช่วยอะไรเลยเมื่อใด?

2:56 ค้นหา วิกิอีกฉบับเติบโตใหญ่กว่าเอกสารที่มันสรุปไว้ หากคำถามสามารถตอบได้ด้วยการค้นหาวรรคเดียว การสร้างสารานุกรมก่อนอาจเป็นวิธีที่แพงอย่างน่าทึ่งในการใช้ปุ่มค้นหา Claude Code โหลดส่วนเริ่มต้นที่จำกัดของดัชนีหน่วยความจำโดยอัตโนมัติ โดยมีบันทึกรายละเอียดเก็บไว้ที่อื่น คำสั่งที่ถูกแทรกผิดพลาดอาจส่งผลกระทบต่อทุกเซสชัน คู่มือของ Anthropic เตือนว่าหน่วยความจำเป็นเพียงแค่ดีเท่ากับบันทึก บันทึกเมื่อวานนี้ไม่สามารถยืนยันการเปลี่ยนแปลงในเช้าวันนี้ได้

ทำไมข้อเท็จจริงในสัญญา 16 ข้อจึงหายไป?

3:23 ตอนนี้สำหรับงานสัญญา เอเจนต์หลายคนสร้างวิกิสำหรับการซื้อกิจการจำลอง โดยเขียนข้อกำหนดลงในตารางร่วมหนึ่งตาราง สรุปผลลัพธ์ประกอบด้วยข้อเท็จจริงที่ให้คะแนน 41 จาก 57 ข้อ ข้อเท็จจริง 16 ข้อหายไปที่ใดสักแห่งระหว่างสัญญาและคำตอบที่ขัดเกลาแล้ว นั่นเป็นจุดที่สำคัญมากในการสูญเสียข้อมูล Anthropic สืบสาเหตุความล้มเหลวไปที่บทสรุปที่ไม่ดีและเอเจนต์ที่เขียนทับงาน ของกันและกัน ข้อกำหนดที่หายไปไม่เคยถูกเก็บรักษาไว้อย่างปลอดภัยสำหรับเซสชันการตอบ

3:47 การฝันช่วยให้ Claude สะท้อนความล้มเหลวเหล่านั้น เสนอคำแนะนำวิกิที่แตกต่างกัน และสร้างใหม่ การซ่อมแซมกลับไปถึงวิธีการเขียนความจำ ใครก็ตามที่เคยแก้ไขเอกสารเดียวกันกับเพื่อนร่วมงานย่อมรู้ความเจ็บปวดนี้ดี มอบสมองที่ใหญ่ขึ้นให้กับผู้เข้าร่วมแต่ละคน และพวกเขายังคงสามารถบันทึกทับงาน ของคนอื่นได้ ปัญหาหน่วยความจำ AI ที่น่าตื่นเต้น ได้เดินเข้ามาในครัวสำนักงาน พร้อมกับบั๊กเกี่ยวกับการทำงานพร้อมกัน

4:08 สัญญาแต่ละฉบับจะได้รับหน้าของตัวเอง ซึ่งเขียนโดยเอเจนต์คนเดียว ข้อกำหนดจะถูกยกมาคำต่อคำ วิกิที่ได้รับการปรับปรุงรองรับข้อเท็จจริงที่ให้คะแนนทั้งห้าสิบเจ็ดข้อ นั่นคือการแก้ไขที่สัญญาไว้ การเป็นเจ้าของแยกต่างหากช่วยป้องกันการทับซ้อน และการอ้างอิงตรงตัวช่วยรักษาข้อกำหนด การเปลี่ยนแปลงทั้งสองเกิดขึ้นพร้อมกัน ดังนั้นจึงไม่มีใครได้รับเครดิตแต่เพียงผู้เดียว เก็บความทรงจำที่สำคัญให้สามารถตรวจสอบแหล่งที่มาได้ Managed Agents' Dreams เก็บรักษาที่เก็บข้อมูลอินพุตและสร้างเอาต์พุตแยกต่างหาก

4:32 ที่คุณสามารถตรวจสอบได้ หากคุณต้องการอ่านสิ่งนี้มากกว่าฟังผมพูด ดิฟจะถูกส่งถึงกล่องจดหมายของคุณ ทุกเช้า ฟรีที่ thedailydiff.dev ลิงก์ด้านล่าง

ฉันจะเชื่อถือระบบความทรงจำนี้ได้หรือไม่?

4:39 ดังนั้นคำตัดสินของวันนี้คือ NEEDS REVIEW ฉันจะใช้การซ่อมแซมที่อิงตามบันทึกเพราะความผิดพลาดที่เกิดขึ้นซ้ำๆ สมควรได้รับการ แก้ไขอย่างต่อเนื่อง ฉันจะตรวจสอบบันทึกที่เปลี่ยนแปลงและทดสอบว่าวิกิช่วยงานจริงของฉันได้หรือไม่ ตัวอย่างค้านของ Anthropic แสดงให้เห็นว่าการบำรุงรักษาหน่วยความจำกลายเป็นอีกโปรเจกต์หนึ่งที่คุณต้องบำรุงรักษาได้ง่ายเพียงใด และนั่นคือความแตกต่างสำหรับวันนี้ ฉันชื่อ Niko จาก Axrisi รวมเข้าด้วยความรับผิดชอบ รวมเข้าด้วยความรับผิดชอบ

แหล่งที่มา

1. The components of agent memory — Lance Martin; figures by Monika Tuchowska; Anthropic-reported evaluationsAnthropic
2. Dreams — research preview, separate output store, billing and lifecycleClaude Platform documentation
3. Claude Code memory — injected index boundaryClaude Code documentation
4. Dreaming with a dynamic workflow — transcript staleness and caller controlClaude Cookbook
5. Sleep-time Compute — April 2025 prior work, no replication of this article claimedKevin Lin and colleagues / arXiv
6. Harvey LAB — tasks, documents, grading rubrics and version scopeHarvey AI
7. Authentic Dario Amodei portrait — TechCrunch Disrupt 2023; cropped, background removed and resized; Anthropic identity only, no authorship, current reaction or endorsementTechCrunch / Wikimedia Commons
8. Original TechCrunch portrait source — Dario Amodei at Disrupt 2023TechCrunch / Flickr
9. Portrait licence — Creative Commons Attribution 2.0Creative Commons
10. Two Buttons — Jake Clark, Imgflip template; commentary labels added; brief process satire, hosting is not a licence or legal clearance and grants no blanket reuseJake Clark / Imgflip
11. Groundhog Day GIF — Bill Murray and Stephen Tobolowsky as Phil/Ned; @groundhogday; silent, resized and captioned narrator commentary; no present-day reaction or blanket reuse; hosting is not a licence or legal clearanceGroundhog Day / GIPHY
12. Two Buttons origin attribution — Jake Clark, October 2014; secondary sourceSupermeme
13. Groundhog Day source link supplied by the GIPHY uploaderGroundhog Day