Spomin agenta Claude: sanjanje s pomočjo prepisov in napake pri deljenem pisanju

Kaj zajema ta videoposnetek

• Spomin agenta ohranja kontekst med sejami; opisano popravilo spreminja opombe in ne uteži modela.
• Preverjanje napačne opombe glede na prepis seje je pomagalo popravljeni veji doseči mesto Cerulean City.
• Samo iskanje je doseglo 53% meril; iskanje in večja wiki sta dosegla 61% pri 25 vprašanjih o dokumentih Stainless.
• Druge pravne naloge, ki jih je poročal vir, niso pokazale jasnega dobička wiki ali pa je bila wiki večja od izvirnih dokumentov.
• Pogodbeno specifične strani, en pisec na stran in dobesedni pogoji so rešili 57/57 ocenjenih dejstev; obe spremembi sta bili preizkušeni skupaj.

Preveden prepis

Prevedeno iz izvirnega angleškega pripovedovanja. Razpoložljivi zvok in podnapisi so nadzorovani s strani YouTuba.

Zakaj je spomin ujel Claudea v past?

0:00 Dajanje spomina Claudeu naj bi preprečilo ponavljanje napak. Anthropic je opazoval, kako ga je ena napačna opomba poslala čez isti rob Pokémona trikrat. V tem videu, kako spomin ujame Claudea v past? In kaj ga dejansko popravi? Anthropic popravilo imenuje sanjanje. Dodatne seje modela ponovno pregledajo shranjene prepise in uredijo datoteke spomina. Njegov preizkus pogodbe je celo rešil vsako manjkajoče dejstvo s spremembo načina, kako so ti spomini bili napisani.

0:22 Držite to misel. Je sobota, sedmi november, in to je The Daily Diff. Spomin agenta je kontekst, shranjen med sejami. Uteži modela ostanejo nespremenjene. Okoliška programska oprema odloča, kdaj se izvede čiščenje in katere prepise vidi. Funkcija Managed Agents' Dreams je v predogledu raziskave. Ta članek ne vklopi sanj za vsakega uporabnika Claudea.

Kaj je Anthropic dejansko testiral?

0:41 Anthropic je v petek objavil članek Lancea Martina. Današnja razprava na Hacker News ima ljudi, ki se prepirajo o tem, katere spomine izbrišejo. Kaj se zgodi, ko samozavestno napačna opomba preživi v drugo sejo? Halucinaciji smo dali arhivsko omaro. Claude mora prečkati goro Mount Moon, pri čemer uporabi bližnji Pokémon Center kot mejnik. Zapiše, da je stavba na vzhodni strani, čeprav je na zahodni. Odhaja z prepričanjem, da je jama že za njim.

1:05 Nato hodi čez enosmerni rob na pot, iz katere je prišel. Njegovo navigacijsko orodje zgreši padec, zato Claude razloži napako kot prekoračitev. Naslednji poskus se začne z isto napačno predpostavko. Vztrajnost je ohranila napako. Po tretjem padcu Claude zapiše, da bo prenehal, namesto da bi nadaljeval z ponavljanjem. Raziskovalci ga avtomatsko pozovejo k nadaljevanju. Vrne se v prejšnje mesto, in ta tek se konča, ne da bi dosegel Cerulean City. Celo bot želi, da se to srečanje konča.

Kako je sanjanje popravilo pot?

1:30 Raziskovalci izvedejo sanjanje na mapo z napačnimi spomini. Claude preveri opombo glede na izvirni prepis seje, ujame napako lokacije in jo prepiše. Z popravljeno opombo ponovno vstopi v Mount Moon in sčasoma doseže Cerulean. To je tukaj koristen rezultat. Shranjena trditev se preveri glede na dokaze pred naslednjim poskusom. V enem teku je Sonnet tri točka sedem zbral na stotine datotek, medtem ko je zaslužil

1:50 eno značko. Fable pet je hranil manjšo zbirko in zaslužil štiri. Različni modeli, vsak en tek, zato prispevka sistema za shranjevanje ni mogoče izolirati. Na Hacker News yfontana pravi, da izbriše skoraj vse samodejne spomine, ker opombe običajno pripadajo trenutni nalogi. To je izkušnja enega uporabnika. Včerajšnje koordinate so slab kompas, ko ste se premaknili.

Kdaj pomaga spominska wiki?

2:10 Anthropic je zgradil tudi povezano wiki nad internimi dokumenti podjetja Stainless. Claude organizira povezane informacije med sejami, nato uporablja te strani za odgovarjanje na vprašanja. To lahko pomaga, ko se odgovor razprostira na več dokumentov. Izvirne datoteke ostanejo na voljo za preverjanje zemljevida. Samo z iskanjem je Claude dosegel triinpetdeset odstotkov ocenjenih meril. Iskanje in večja wiki sta dosegla enainšestdeset odstotkov.

2:32 To je bilo petindvajset vprašanj o dokumentih enega podjetja. Dodatno delo brez povezave je izboljšalo to oceno. Članek nam ne daje skupne cene za izgradnjo wikija, zato pustite stolpec računa odprt. Sanje uporabljajo standardne stopnje žetonov API, in naloge lahko trajajo od minut do ur. Anthropic pravi, da je nenehno preverjanje vsakega spomina lahko nepraktično. Druga izmena vašega agenta še vedno gre na vašo kreditno kartico. Isti članek vključuje pravno nalogo, kjer wiki ni pokazal jasne prednosti pred

Kdaj wiki nič ne doda?

2:56 iskanjem. Druga wiki je postala večja od dokumentov, ki jih je povzela. Če je na vprašanje mogoče odgovoriti z iskanjem enega odlomka, lahko izgradnja enciklopedije najprej postane izjemno drag način uporabe gumba za iskanje. Claude Code samodejno naloži omejen začetni del svojega pomnilniškega indeksa, s podrobnimi opombami shranjenimi drugje. Napačno vstavljeno navodilo lahko vpliva na vsako sejo. Anthropicov kuharski recept opozarja, da je spomin tako dober kot prepisi. Včerajšnji dnevnik ne more preveriti današnjih sprememb.

Zakaj je izginilo šestnajst pogodbenih dejstev?

3:23 Sedaj pa k pogodbeni nalogi. Več agentov zgradi wiki za simulirano pridobitev, zapisuje pogoje v eno skupno tabelo. Nastali povzetek vključuje enainštirideset od sedeminpetdesetih ocenjenih dejstev. Šestnajst dejstev je izginilo nekje med pogodbami in poliranim odgovorom. To je precej pomembno mesto za izgubo informacij. Anthropic pripisuje napako slabim povzetkom in agentom, ki so si prepisovali delo. Manjkajoči pogoji nikoli niso bili varno shranjeni za sejo odgovarjanja.

3:47 Sanjanje omogoča Claudeu, da razmisli o teh napakah, predlaga različna navodila za wiki in jo ponovno zgradi. Popravilo sega nazaj do načina, kako je spomin zapisan. Vsak, ki je urejal isti dokument s sodelavci, pozna to bolečino. Dajte vsakemu udeležencu večje možgane, in še vedno lahko shranijo čez tuje delo. Navdušujoč problem spomina AI se je zataknil v pisarniški kuhinji z napako sočasnosti.

4:08 Vsaka pogodba dobi svojo stran, ki jo napiše en sam agent. Pogoji so citirani dobesedno. Izboljšana wiki podpira vseh sedeminpetdeset ocenjenih dejstev. To je obljubljena popravka. Ločeno lastništvo preprečuje uničenje, in natančni citati ohranjajo pogoje. Obe spremembi sta se zgodili skupaj, zato nobena ne dobi izključne zasluge. Pomembne spomine hranite sledljive do njihovih virov. Managed Agents' Dreams ohranja vhodno shranjevanje in ustvari ločen izhod,

4:32 ki ga lahko pregledate. Če bi raje to prebrali kot slišali od mene, diff pristane v vašem nabiralniku vsako jutro, brezplačno na thedailydiff.dev, povezava spodaj.

Bi zaupal temu spominskemu sistemu?

4:39 Torej je današnja sodba POTREBEN PREGLED. Uporabil bi popravilo, podprto s prepisi, ker si vztrajna napaka zasluži vztrajno popravilo. Preveril bi spremenjene opombe in preizkusil, ali mi wiki pomaga pri moji dejanski nalogi. Anthropicovi proti-primeri kažejo, kako zlahka vzdrževanje spomina postane še en projekt, ki ga zdaj morate vzdrževati. In to je današnji diff. Sem Niko iz Axrisi. Združujte odgovorno.

Viri

1. The components of agent memory — Lance Martin; figures by Monika Tuchowska; Anthropic-reported evaluationsAnthropic
2. Dreams — research preview, separate output store, billing and lifecycleClaude Platform documentation
3. Claude Code memory — injected index boundaryClaude Code documentation
4. Dreaming with a dynamic workflow — transcript staleness and caller controlClaude Cookbook
5. Sleep-time Compute — April 2025 prior work, no replication of this article claimedKevin Lin and colleagues / arXiv
6. Harvey LAB — tasks, documents, grading rubrics and version scopeHarvey AI
7. Authentic Dario Amodei portrait — TechCrunch Disrupt 2023; cropped, background removed and resized; Anthropic identity only, no authorship, current reaction or endorsementTechCrunch / Wikimedia Commons
8. Original TechCrunch portrait source — Dario Amodei at Disrupt 2023TechCrunch / Flickr
9. Portrait licence — Creative Commons Attribution 2.0Creative Commons
10. Two Buttons — Jake Clark, Imgflip template; commentary labels added; brief process satire, hosting is not a licence or legal clearance and grants no blanket reuseJake Clark / Imgflip
11. Groundhog Day GIF — Bill Murray and Stephen Tobolowsky as Phil/Ned; @groundhogday; silent, resized and captioned narrator commentary; no present-day reaction or blanket reuse; hosting is not a licence or legal clearanceGroundhog Day / GIPHY
12. Two Buttons origin attribution — Jake Clark, October 2014; secondary sourceSupermeme
13. Groundhog Day source link supplied by the GIPHY uploaderGroundhog Day