Claude-ის აგენტის მეხსიერება: ტრანსკრიპტზე დაფუძნებული „ოცნება“ და საერთო მწერლის შეცდომები

რას მოიცავს ეს ვიდეო

• აგენტის მეხსიერება ინარჩუნებს კონტექსტს სესიებს შორის; აღწერილი შეკეთება ცვლის ჩანაწერებს და არა მოდელის წონებს.
• არასწორი ჩანაწერის სესიის ტრანსკრიპტთან შედარებამ გამოსწორებულ განშტოებას Cerulean City-ს მიღწევაში დაეხმარა.
• მხოლოდ ძიებამ კრიტერიუმების 53% დააგროვა; ძიებამ უფრო დიდ ვიკისთან ერთად 61%-ს მიაღწია 25 შეკითხვაზე Stainless-ის დოკუმენტების შესახებ.
• წყაროს მიერ მოხსენებულ სხვა სამართლებრივ ამოცანებში არ იყო ნათელი ვიკის ზრდა ან ვიკი უფრო დიდი იყო ვიდრე ორიგინალი დოკუმენტები.
• ხელშეკრულების სპეციფიკურმა გვერდებმა, თითო გვერდზე ერთმა მწერალმა და სიტყვასიტყვითმა პირობებმა 57-დან 57 შეფასებული ფაქტი აღადგინა; ორივე ცვლილება ერთად იქნა ტესტირებული.

ნათარგმნი ტრანსკრიპტი

ნათარგმნია ორიგინალური ინგლისური ნარატივიდან. ხელმისაწვდომი აუდიო და სუბტიტრები კონტროლდება YouTube-ის მიერ.

რატომ ინარჩუნებდა მეხსიერება კლოდს ხაფანგში?

0:00 კლოდისთვის მეხსიერების მიცემამ ხელი უნდა შეუშალოს შეცდომების გამეორებას. ანთროპიკმა ნახა, რომ ერთმა არასწორმა ჩანაწერმა ის Pokémon-ის იმავე კლდიდან სამჯერ გადააგდო. ამ ვიდეოში, როგორ ატყუებს მეხსიერება კლოდს? და რა ასწორებს მას რეალურად? ანთროპიკი შეკეთებას „ოცნებას“ უწოდებს. დამატებითი მოდელის სესიები ხელახლა განიხილავს შენახულ ტრანსკრიპტებს და ასწორებს მეხსიერების ფაილებს. მისმა კონტრაქტის ტესტმა დაკარგული ფაქტებიც კი აღადგინა, იმის შეცვლით, თუ როგორ იწერებოდა ეს მეხსიერებები. გაიხსენეთ ეს აზრი.

0:22 შაბათია, 7 ნოემბერი, და ეს არის The Daily Diff. აგენტის მეხსიერება არის კონტექსტი, რომელიც შენახულია სესიებს შორის. მოდელის წონები უცვლელი რჩება. გარემო პროგრამული უზრუნველყოფა წყვეტს, როდის ხდება გაწმენდა და რა ტრანსკრიპტებს ხედავს. მართული აგენტების სიზმრების ფუნქცია კვლევის წინასწარ ვერსიაშია. ეს სტატია არ რთავს სიზმრებს ყველა Claude-ის მომხმარებლისთვის. ანთროპიკმა ლანს მარტინის სტატია პარასკევს გამოაქვეყნა.

რა გამოსცადა ანთროპიკმა სინამდვილეში?

0:41 დღევანდელ Hacker News-ის დისკუსიაში ადამიანები კამათობენ იმაზე, თუ რომელ მეხსიერებებს წაშლიან. რა ხდება, როდესაც თავდაჯერებულად არასწორი ჩანაწერი სხვა სესიაში გადადის? ჩვენ ჰალუცინაციას მივეცით საარქივო კარადა. კლოდმა უნდა გადაკვეთოს მთვარის მთა, ახლომდებარე Pokémon Center-ის გამოყენებით, როგორც საორიენტაციო მონაცემი. ის წერს, რომ შენობა აღმოსავლეთ მხარესაა, მიუხედავად იმისა, რომ ის დასავლეთითაა. ის ტოვებს რწმენით, რომ გამოქვაბული უკვე მის უკანაა. შემდეგ ის გადის ცალმხრივი კლდეზე იმ მარშრუტზე, საიდანაც მოვიდა. მისი ნავიგაციის ინსტრუმენტი გამოტოვებს ვარდნას, ამიტომ კლოდი წარუმატებლობას გადაჭარბებულ სროლად ხსნის.

1:05 შემდეგი მცდელობა იწყება იმავე არასწორი ვარაუდით. გამძლეობამ შეინარჩუნა შეცდომა. მესამე ვარდნის შემდეგ, კლოდი წერს, რომ შეჩერდება, ვიდრე გააგრძელებს მარყუჟს. მკვლევარების დაყენება ავტომატურად ეუბნება მას გაგრძელებას. ის ბრუნდება ადრინდელ ქალაქში, და ეს გაშვება სრულდება Cerulean City-ს მიღწევის გარეშე. ბოტსაც კი სურს, რომ ეს შეხვედრა დასრულდეს. მკვლევარები აწარმოებენ „ოცნებას“ გაუმართავი მეხსიერების საქაღალდეზე. კლოდი ამოწმებს ჩანაწერს თავდაპირველ სესიის ტრანსკრიპტთან,

როგორ გამოასწორა „ოცნებამ“ მარშრუტი?

1:30 აღმოაჩენს ადგილმდებარეობის შეცდომას და ხელახლა წერს მას. გამოსწორებული ჩანაწერით, ის ხელახლა შედის მთვარის მთაზე და საბოლოოდ აღწევს Cerulean-ს. ეს არის სასარგებლო შედეგი აქ. შენახული მოთხოვნა მოწმდება მტკიცებულებებთან სხვა მცდელობამდე. ერთ გაშვებაში, Sonnet სამი წერტილი შვიდმა ასობით ფაილი დააგროვა ერთი სამკერდე ნიშნის მიღებისას. Fable ხუთმა შეინარჩუნა უფრო მცირე კოლექცია და ოთხი მიიღო. სხვადასხვა მოდელები, თითო გაშვება, ამიტომ საარქივო სისტემის წვლილის იზოლირება შეუძლებელია. Hacker News-ზე, yfontana ამბობს, რომ ისინი შლიან თითქმის ყველა ავტომატურ მეხსიერებას, რადგან ჩანაწერები ჩვეულებრივ მიმდინარე ამოცანას ეკუთვნის.

1:50 ეს არის ერთი მომხმარებლის გამოცდილება. გუშინდელი კოორდინატები ცუდი კომპასია მას შემდეგ, რაც გადაადგილდებით. ანთროპიკმა ასევე შექმნა დაკავშირებული ვიკი Stainless-ის შიდა დოკუმენტებზე. კლოდი აწყობს დაკავშირებულ ინფორმაციას სესიებს შორის, შემდეგ იყენებს ამ გვერდებს კითხვებზე პასუხის გასაცემად. ამან შეიძლება დაგვეხმაროს, როდესაც პასუხი რამდენიმე დოკუმენტს მოიცავს.

როდის ეხმარება მეხსიერების ვიკი?

2:10 ორიგინალი ფაილები რჩება ხელმისაწვდომი რუკის შესამოწმებლად. მხოლოდ ძიებით, კლოდმა შეფასებული კრიტერიუმების ორმოცდაცამეტ პროცენტი დააგროვა. ძიებამ უფრო დიდ ვიკისთან ერთად სამოცდაერთ პროცენტს მიაღწია. ეს იყო ოცდახუთი შეკითხვა ერთი კომპანიის დოკუმენტების შესახებ. დამატებითმა ოფლაინ მუშაობამ გააუმჯობესა ეს შეფასება. სტატია არ გვაწვდის ვიკის შექმნის საერთო ფასს, ამიტომ ინვოისის სვეტი ღია დატოვეთ. სიზმრები იყენებს სტანდარტულ API ტოკენების ტარიფებს, და სამუშაოებს შეიძლება წუთებიდან საათებამდე დასჭირდეს. ანთროპიკი ამბობს, რომ ყველა მეხსიერების უწყვეტი შემოწმება შეიძლება არაპრაქტიკული იყოს.

2:32 თქვენი აგენტის მეორე ცვლა კვლავ თქვენს საკრედიტო ბარათზე მიდის. იმავე სტატიაში მოცემულია იურიდიული ამოცანა, სადაც ვიკიმ ძიებაზე მკაფიო ზრდა არ აჩვენა. სხვა ვიკი გაიზარდა იმ დოკუმენტებზე დიდი, რომლებსაც ის აჯამებდა. თუ კითხვაზე პასუხის გაცემა შესაძლებელია ერთი პასაჟის პოვნით, ენციკლოპედიის აგება შეიძლება იყოს საოცრად ძვირი გზა ღილაკის „ძიება“ გამოსაყენებლად. Claude Code ავტომატურად იტვირთება თავისი მეხსიერების ინდექსის შეზღუდული საწყისი ნაწილი, დეტალური ჩანაწერები კი სხვაგან ინახება. არასწორად შეყვანილმა ინსტრუქციამ შეიძლება გავლენა მოახდინოს ყველა სესიაზე. ანთროპიკის კულინარიული წიგნი აფრთხილებს, რომ მეხსიერება ისეთივე კარგია, როგორც ტრანსკრიპტები.

როდის არაფერს არ მატებს ვიკი?

2:56 გუშინდელი ჟურნალი ვერ დაადასტურებს ამ დილის ცვლილებებს. ახლა კი ხელშეკრულების ამოცანისთვის. რამდენიმე აგენტი აშენებს ვიკის სიმულირებული შერწყმისთვის, წერს პირობებს ერთ საერთო ცხრილში. შედეგად მიღებული მოკლე შინაარსი მოიცავს ორმოცდაერთს ორმოცდაშვიდი შეფასებული ფაქტიდან. თექვსმეტი ფაქტი სადღაც გაქრა ხელშეკრულებებსა და დასრულებულ პასუხს შორის. ეს საკმაოდ მნიშვნელოვანი ადგილია ინფორმაციის დასაკარგავად. ანთროპიკი შეცდომას ცუდ შეჯამებებს და აგენტების ერთმანეთის ნამუშევრების გადაწერას უკავშირებს. დაკარგული პირობები არასოდეს ყოფილა უსაფრთხოდ შენახული პასუხის გასაცემად.

რატომ გაქრა ხელშეკრულების თექვსმეტი ფაქტი?

3:23 „ოცნება“ კლოდს საშუალებას აძლევს, იფიქროს ამ შეცდომებზე, შესთავაზოს სხვადასხვა ვიკის ინსტრუქციები და ხელახლა ააწყოს. შეკეთება აღწევს იქამდე, თუ როგორ იწერება მეხსიერება. ყველამ, ვინც იმავე დოკუმენტი თანამშრომლებთან ერთად შეასწორა, იცის ეს ტკივილი. მიეცით ყველა მონაწილეს უფრო დიდი ტვინი, და მათ მაინც შეუძლიათ სხვისი ნამუშევრის შენახვა. საინტერესო AI მეხსიერების პრობლემა ოფისის სამზარეულოში შემოვიდა თანხვედრის შეცდომით. თითოეული ხელშეკრულება იღებს საკუთარ გვერდს, რომელსაც წერს ერთი აგენტი. პირობები სიტყვასიტყვით არის ციტირებული. გაუმჯობესებული ვიკი მხარს უჭერს ყველა ორმოცდაშვიდ შეფასებულ ფაქტს.

3:47 ეს არის დაპირებული გამოსწორება. ცალკეული საკუთრება ხელს უშლის განადგურებას, და ზუსტი ციტატები ინარჩუნებს პირობებს. ორივე ცვლილება ერთად მოხდა, ამიტომ არც ერთს არ აქვს ერთადერთი დამსახურება. მნიშვნელოვანი მოგონებები უნდა იყოს მიკვლევადი მათ წყაროებამდე. მართული აგენტების სიზმრები ინარჩუნებს შეყვანის მაღაზიას და აწარმოებს ცალკეულ გამომავალს, რომლის გადახედვაც შეგიძლიათ. თუ ამის წაკითხვა გსურთ, ვიდრე ჩემგან მოსმენა, განსხვავება ყოველ დილით თქვენს შემოსულებში ხვდება, უფასოდ daily diff dot dev-ზე, ბმული ქვემოთ. ასე რომ, დღევანდელი ვერდიქტი არის NEEDS REVIEW. მე გამოვიყენებდი ტრანსკრიპტზე დაფუძნებულ შეკეთებას, რადგან მუდმივი შეცდომა მუდმივ გამოსწორებას იმსახურებს.

4:08 მე შევამოწმებდი შეცვლილ ჩანაწერებს და შევამოწმებდი, ეხმარება თუ არა ვიკი ჩემს რეალურ ამოცანას. ანთროპიკის საპირისპირო მაგალითები აჩვენებს, თუ რამდენად ადვილად ხდება მეხსიერების მოვლა კიდევ ერთი პროექტი, რომლის შენარჩუნებაც ახლა გჭირდებათ. და ეს არის დღევანდელი განსხვავება. მე ვარ ნიკო Axrisi-დან. შეაერთეთ პასუხისმგებლობით. რა ცვლის „ოცნება“ აგენტის მეხსიერების სისტემაში? „ოცნება“ განიხილავს წინა სესიების ტრანსკრიპტებს და აწყობს შენახულ კონტექსტს, რომლის წაკითხვაც შემდგომ სესიებს შეუძლიათ. ანთროპიკის კვლევა აგენტის მეხსიერებას განსაზღვრავს როგორც შენახულ კონტექსტს და გამორიცხავს მოდელის წონების ცვლილებებს.

4:32 გარემო პროგრამული უზრუნველყოფა ირჩევს, როდის ხდება სამუშაო და რა ტრანსკრიპტებს იღებს. მართული აგენტების სიზმრების API არის კვლევის წინასწარ ვერსიაში და აწარმოებს ცალკეულ გამომავალ მაღაზიას გადახედვისთვის. როგორ შეინარჩუნა არასწორმა მეხსიერებამ კლოდი მთვარის მთაზე?

ვანდობდი თუ არა ამ მეხსიერების სისტემას?

4:39 კლოდმა Pokémon Center მთვარის მთის არასწორ მხარეს ჩაწერა, შემდეგ კი დატოვა რწმენით, რომ გამოქვაბული მის უკანა იყო. ანთროპიკი იუწყება, რომ ცალმხრივმა კლდეზე დაბრუნებამ ის ადრინდელ მარშრუტზე დააბრუნა, ხოლო მისმა ნავიგაციის ინსტრუმენტმა ვარდნა გამოტოვა. შენახული ჩანაწერის ორიგინალურ ტრანსკრიპტთან შემოწმებამ ადგილმდებარეობა გამოასწორა. გამოსწორებულმა განშტოებამ საბოლოოდ Cerulean City-ს მიაღწია. როდის ვერ შეძლო დაკავშირებულმა მეხსიერების ვიკიმ წყაროს ძიების გაუმჯობესება? ვიკიმ არ აჩვენა მკაფიო ზრდა ერთ მოხსენებულ იურიდიულ ამოცანაზე, სადაც კრიტერიუმები ხშირად შეიძლება დაკმაყოფილებულიყო ერთი დოკუმენტიდან ინფორმაციის მოძიებით. ანთროპიკი ასევე აღწერს ცალკეულ ამოცანას, რომლის ვიკი უფრო დიდი გახდა ვიდრე ორიგინალი დოკუმენტები. სტატიის შედეგები მხარს უჭერს წარმოდგენის ამოცანის სპეციფიკურ შეფასებას, მოვლის ხარჯების გათვალისწინებით ნებისმიერ პასუხის სარგებელთან ერთად.

წყაროები

1. The components of agent memory — Lance Martin; figures by Monika Tuchowska; Anthropic-reported evaluationsAnthropic
2. Dreams — research preview, separate output store, billing and lifecycleClaude Platform documentation
3. Claude Code memory — injected index boundaryClaude Code documentation
4. Dreaming with a dynamic workflow — transcript staleness and caller controlClaude Cookbook
5. Sleep-time Compute — April 2025 prior work, no replication of this article claimedKevin Lin and colleagues / arXiv
6. Harvey LAB — tasks, documents, grading rubrics and version scopeHarvey AI
7. Authentic Dario Amodei portrait — TechCrunch Disrupt 2023; cropped, background removed and resized; Anthropic identity only, no authorship, current reaction or endorsementTechCrunch / Wikimedia Commons
8. Original TechCrunch portrait source — Dario Amodei at Disrupt 2023TechCrunch / Flickr
9. Portrait licence — Creative Commons Attribution 2.0Creative Commons
10. Two Buttons — Jake Clark, Imgflip template; commentary labels added; brief process satire, hosting is not a licence or legal clearance and grants no blanket reuseJake Clark / Imgflip
11. Groundhog Day GIF — Bill Murray and Stephen Tobolowsky as Phil/Ned; @groundhogday; silent, resized and captioned narrator commentary; no present-day reaction or blanket reuse; hosting is not a licence or legal clearanceGroundhog Day / GIPHY
12. Two Buttons origin attribution — Jake Clark, October 2014; secondary sourceSupermeme
13. Groundhog Day source link supplied by the GIPHY uploaderGroundhog Day