זיכרון סוכן קלוד: חלומות מגובים בתמליל וכשלי כותבים משותפים

מה מכסה הסרטון הזה

• זיכרון הסוכן שומר על הקשר בין הפעלות; התיקון המתואר משנה הערות ולא משקלי מודל.
• בדיקת ההערה השגויה מול תמליל ההפעלה עזרה לענף המתוקן להגיע לעיר סרוליאן.
• חיפוש בלבד השיג 53% מהקריטריונים; חיפוש בתוספת הוויקי הגדול יותר הגיע ל-61% ב-25 שאלות על מסמכי Stainless.
• משימות משפטיות אחרות שדווחו במקור לא הראו רווח ברור מוויקי או וויקי גדול יותר מהמסמכים המקוריים.
• דפים ספציפיים לחוזה, כותב אחד לדף ומונחים מילוליים החזירו 57/57 עובדות מדורגות; שני השינויים נבדקו יחד.

תמליל מתורגם

תורגם מהקריינות המקורית באנגלית. זמינות אודיו וכתוביות נשלטת על ידי YouTube.

למה זיכרון השאיר את קלוד לכוד?

0:00 מתן זיכרון לקלוד אמור למנוע ממנו לחזור על טעויות. Anthropic צפתה בהערה שגויה אחת ששלחה אותו מעל אותו מדף פוקימון שלוש פעמים. בסרטון זה, איך זיכרון לוכד את קלוד? ומה באמת מתקן את זה? Anthropic מכנה את התיקון חלומות. הפעלות מודל נוספות בודקות מחדש תמלילים שמורים ועורכות קובצי זיכרון. מבחן החוזה שלה אפילו החזיר כל עובדה חסרה על ידי שינוי האופן שבו זיכרונות אלה נכתבו.

0:22 שמור על מחשבה זו. זה יום שבת, השביעי בנובמבר, וזה The Daily Diff. זיכרון סוכן הוא הקשר שנשמר בין הפעלות. משקלי המודל נשארים ללא שינוי. התוכנה שמסביב מחליטה מתי מתבצע ניקוי ואילו תמלילים היא רואה. תכונת Agents' Dreams המנוהלת נמצאת בתצוגה מקדימה מחקרית. מאמר זה אינו מפעיל חלומות עבור כל משתמש קלוד.

מה Anthropic באמת בחנה?

0:41 Anthropic פרסמה את מאמרו של לאנס מרטין ביום שישי. דיון Hacker News של היום גורם לאנשים להתווכח אילו זיכרונות הם מוחקים. מה קורה כאשר הערה שגויה ובטוחה שורדת להפעלה אחרת? נתנו להזיה ארון תיוק. קלוד צריך לחצות את הר הירח, תוך שימוש במרכז פוקימון סמוך כנקודת ציון שלו. הוא רושם שהבניין נמצא בצד המזרחי, למרות שהוא בצד המערבי. הוא עוזב כשהוא מאמין שהמערה כבר מאחוריו.

1:05 ואז הוא הולך מעל מדף חד כיווני אל המסלול שממנו הגיע. כלי הניווט שלו מפספס את הירידה, אז קלוד מסביר את הכישלון כ חריגה. הניסיון הבא מתחיל באותה הנחה שגויה. התמדה שמרה על הבאג. לאחר הנפילה השלישית, קלוד רושם שהוא עומד לעצור במקום להמשיך בלולאה. הגדרת החוקרים אומרת לו אוטומטית להמשיך. הוא חוזר לעיר מוקדמת יותר, והריצה הזו מסתיימת מבלי להגיע לעיר סרוליאן. אפילו הבוט רוצה שהפגישה הזו תסתיים.

איך חלומות תיקנו את המסלול?

1:30 החוקרים מפעילים חלומות על תיקיית הזיכרון הפגומה. קלוד בודק את ההערה מול תמליל ההפעלה המקורי, תופס את שגיאת המיקום, וכותב אותה מחדש. עם ההערה המתוקנת, הוא נכנס שוב להר הירח ובסופו של דבר מגיע לסרוליאן. זו התוצאה השימושית כאן. טענה שנשמרה נבדקת מול ראיות לפני ניסיון נוסף. בריצה אחת, Sonnet 3.7 צבר מאות קבצים תוך כדי השגת

1:50 תג אחד. Fable 5 שמרה אוסף קטן יותר והשיגה ארבעה. מודלים שונים, ריצה אחת לכל אחד, כך שלא ניתן לבודד את תרומת מערכת התיקים. ב-Hacker News, yfontana אומר שהם מוחקים כמעט את כל הזיכרונות האוטומטיים מכיוון שההערות בדרך כלל שייכות למשימה הנוכחית. זו החוויה של משתמש אחד. הקואורדינטות של אתמול הופכות למצפן גרוע לאחר שעברת מיקום.

מתי וויקי זיכרון עוזר?

2:10 Anthropic בנתה גם וויקי מקושר מעל המסמכים הפנימיים של Stainless. קלוד מארגן מידע קשור בין הפעלות, ואז משתמש בדפים אלה כדי לענות על שאלות. זה יכול לעזור כאשר תשובה משתרעת על פני מספר מסמכים. הקבצים המקוריים נשארים זמינים לבדיקת המפה. בחיפוש בלבד, קלוד השיג חמישים ושלושה אחוזים מהקריטריונים המדורגים. חיפוש בתוספת הוויקי הגדול יותר הגיע לשישים ואחד אחוזים.

2:32 אלה היו עשרים וחמש שאלות על מסמכי חברה אחת. עבודה נוספת לא מקוונת שיפרה את ההערכה הזו. המאמר לא נותן לנו מחיר כולל לבניית הוויקי, אז שמרו את עמודת החשבונית פתוחה. Dreaming משתמשת בתעריפי אסימוני API סטנדרטיים, ועבודות יכולות להימשך מדקות עד שעות. Anthropic אומרת שבדיקה מתמשכת של כל זיכרון עשויה להיות בלתי מעשית. המשמרת השנייה של הסוכן שלך עדיין עוברת בכרטיס האשראי שלך. אותו מאמר כולל משימה משפטית שבה הוויקי לא הראה רווח ברור מעל

מתי הוויקי לא מוסיף כלום?

2:56 חיפוש. וויקי אחר גדל להיות גדול יותר מהמסמכים שהוא סיכם. אם ניתן לענות על שאלה על ידי מציאת קטע אחד, בניית אנציקלופדיה תחילה יכולה להיות דרך יקרה להפליא להשתמש בכפתור החיפוש. קלוד קוד טוען אוטומטית נתח פתיחה מוגבל של אינדקס הזיכרון שלו, עם הערות מפורטות הנשמרות במקום אחר. הוראה שגויה מוזרקת יכולה להשפיע על כל הפעלה. ספר המתכונים של Anthropic מזהיר כי הזיכרון טוב רק כמו התמלילים. יומן אתמול אינו יכול לאמת את שינויי הבוקר.

למה שש עשרה עובדות חוזה נעלמו?

3:23 כעת למשימת החוזה. מספר סוכנים בונים וויקי לרכישה מדומה, כותבים תנאים לטבלה משותפת אחת. התקציר המתקבל כולל ארבעים ואחת מתוך חמישים ושבע עובדות מדורגות. שש עשרה עובדות נעלמו איפשהו בין החוזים לתשובה המלוטשת. זה מקום חשוב למדי לאבד מידע. Anthropic מייחסת את הכישלון לסיכומים גרועים ולסוכנים שדורסים זה את עבודתו של זה. המונחים החסרים מעולם לא נשמרו בבטחה להפעלת

3:47 התשובה. חלומות מאפשרים לקלוד להרהר בכשלים אלה, להציע הוראות וויקי שונות ולבנות מחדש. התיקון מגיע עד לאופן שבו הזיכרון נכתב. כל מי שערך את אותו מסמך עם עמיתים לעבודה מכיר את הכאב הזה. תנו לכל משתתף מוח גדול יותר, והם עדיין יכולים לשמור מעל עבודתו של מישהו אחר. בעיית זיכרון ה-AI המרגשת נדדה למטבח המשרדי לובשת באג עקביות.

4:08 כל חוזה מקבל דף משלו, שנכתב על ידי סוכן יחיד. המונחים מצוטטים מילה במילה. הוויקי המשופר תומך בכל חמישים ושבע העובדות המדורגות. זהו התיקון המובטח. בעלות נפרדת מונעת דריסה, וציטוטים מדויקים שומרים על התנאים. שני השינויים התרחשו יחד, כך שאף אחד מהם לא מקבל קרדיט בלעדי. שמרו זיכרונות חשובים ניתנים למעקב למקורותיהם. Managed Agents' Dreams שומר על קלט המאגר ומייצר פלט נפרד

4:32 שתוכלו לבדוק. אם אתם מעדיפים לקרוא את זה מאשר לשמוע אותי אומר את זה, ה-diff נוחת בתיבת הדואר הנכנס שלכם בכל בוקר, בחינם ב-thedailydiff.dev, קישור למטה.

האם הייתי בוטח במערכת זיכרון זו?

4:39 אז פסק הדין של היום הוא NEEDS REVIEW. הייתי משתמש בתיקון המגובה בתמליל מכיוון שטעות עקשנית ראויה לתיקון עקשני. הייתי בודק את ההערות שהשתנו ובודק אם הוויקי עוזר למשימה האמיתית שלי. הדוגמאות הנגדיות של Anthropic מראות באיזו קלות תחזוקת זיכרון הופכת לפרויקט נוסף שעליך כעת לתחזק. וזה ה-diff להיום. אני ניקו מ-Axrisi. מזג באחריות.

מקורות

1. The components of agent memory — Lance Martin; figures by Monika Tuchowska; Anthropic-reported evaluationsAnthropic
2. Dreams — research preview, separate output store, billing and lifecycleClaude Platform documentation
3. Claude Code memory — injected index boundaryClaude Code documentation
4. Dreaming with a dynamic workflow — transcript staleness and caller controlClaude Cookbook
5. Sleep-time Compute — April 2025 prior work, no replication of this article claimedKevin Lin and colleagues / arXiv
6. Harvey LAB — tasks, documents, grading rubrics and version scopeHarvey AI
7. Authentic Dario Amodei portrait — TechCrunch Disrupt 2023; cropped, background removed and resized; Anthropic identity only, no authorship, current reaction or endorsementTechCrunch / Wikimedia Commons
8. Original TechCrunch portrait source — Dario Amodei at Disrupt 2023TechCrunch / Flickr
9. Portrait licence — Creative Commons Attribution 2.0Creative Commons
10. Two Buttons — Jake Clark, Imgflip template; commentary labels added; brief process satire, hosting is not a licence or legal clearance and grants no blanket reuseJake Clark / Imgflip
11. Groundhog Day GIF — Bill Murray and Stephen Tobolowsky as Phil/Ned; @groundhogday; silent, resized and captioned narrator commentary; no present-day reaction or blanket reuse; hosting is not a licence or legal clearanceGroundhog Day / GIPHY
12. Two Buttons origin attribution — Jake Clark, October 2014; secondary sourceSupermeme
13. Groundhog Day source link supplied by the GIPHY uploaderGroundhog Day