+− THE DAILY DIFFdev & AI news
NEEDS REVIEW

Kujtesa e agjentit Claude: ëndërrimi i mbështetur në transkript dhe dështimet e shkrimtarit të përbashkët

Një pikë referimi e gabuar e shpëtuar e dërgoi Claude-n mbi të njëjtin shkëmb Pokémon tre herë në eksperimentin e raportuar të Anthropic-ut.

Want to see our stories first on Google? Add us to your preferred sources — it helps us grow.

Një pikë referimi e gabuar e shpëtuar e dërgoi Claude-n mbi të njëjtin shkëmb Pokémon tre herë në eksperimentin e raportuar të Anthropic-ut. Ëndërrimi i mbështetur në transkript korrigjoi shënimin, ndërsa faqe të veçanta kontrate dhe terma të përpiktë zbuluan fakte të notuara që mungonin në një detyrë tjetër.

Lexoni edicionin e shkruar (anglisht) ↗

Çfarë mbulon kjo video

  • Kujtesa e agjentit vazhdon kontekstin ndërmjet sesioneve; riparimi i përshkruar ndryshon shënimet dhe jo peshat e modelit.
  • Kontrollimi i shënimit të gabuar kundrejt transkriptit të sesionit ndihmoi degën e korrigjuar të arrinte në qytetin Cerulean.
  • Vetëm kërkimi shënoi 53% të kritereve; kërkimi plus wiki-n më të madhe arritën 61% në 25 pyetje rreth dokumenteve Stainless.
  • Detyra të tjera ligjore të raportuara nga burime nuk treguan fitime të qarta wiki ose një wiki më të madhe se dokumentet origjinale.
  • Faqe specifike të kontratës, një shkrimtar për faqe dhe terma të përpiktë rikuperuan 57/57 fakte të notuara; të dy ndryshimet u testuan së bashku.

Pyetje dhe përgjigje

Çfarë ndryshon ëndërrimi në një sistem kujtese agjentësh?

Ëndërrimi rishikon transkriptet e sesioneve të mëparshme dhe riorganizon kontekstin e ruajtur që sesionet e mëvonshme mund ta lexojnë. Kërkimi i Anthropic-ut e përkufizon kujtesën e agjentit si kontekst të ruajtur dhe përjashton ndryshimet në peshat e modelit. Softueri përreth zgjedh kur të ekzekutohet puna dhe cilat transkripte merr. API-ja Managed Agents' Dreams është në fazën e parapamjes kërkimore dhe prodhon një ruajtje të veçantë të daljes për rishikim.

Shikoni këtë pjesë 0:41 · Anthropic · Claude Platform documentation

Si e mbajti një kujtesë e gabuar Claude-n të bllokuar në Malin e Hënës?

Claude regjistroi Qendrën Pokémon në anën e gabuar të Malit të Hënës, pastaj u largua duke besuar se shpella ishte pas tij. Anthropic raporton se një shkëmb me një drejtim e ktheu atë në një rrugë më të hershme, ndërsa mjeti i tij i navigimit humbi rënien. Kontrollimi i shënimit të ruajtur kundrejt transkriptit origjinal korrigjoi vendndodhjen. Dega e korrigjuar përfundimisht arriti në qytetin Cerulean.

Shikoni këtë pjesë 1:30 · Anthropic

Kur dështoi një wiki kujtese e lidhur të përmirësonte kërkimin e burimeve?

Një wiki nuk tregoi fitime të qarta në një detyrë ligjore të raportuar ku kriteret shpesh mund të plotësoheshin duke marrë informacion nga një dokument i vetëm. Anthropic përshkruan gjithashtu një detyrë të veçantë, wiki e së cilës u bë më e madhe se dokumentet origjinale. Rezultatet e artikullit mbështesin vlerësimin specifik të detyrës së përfaqësimit, me kostot e mirëmbajtjes të konsideruara së bashku me çdo përfitim të përgjigjes.

Shikoni këtë pjesë 2:53 · Anthropic

Cilat ndryshime shkrimi rikuperuan faktet e kontratës që mungonin?

Çdo kontratë mori faqen e saj të wiki-s me një agjent të vetëm që e shkruante atë, dhe termat u cituan fjalë për fjalë. Detyra e simulimit të blerjes së Anthropic-ut më pas mbështeti të gjitha pesëdhjetë e shtatë faktet e notuara, pasi versioni i tabelës së përbashkët përfshinte dyzet e një. Pronësia dhe citimi ndryshuan së bashku, kështu që testi nuk mund të izolojë kontributin e asnjërit ndryshim. Rezultati është një rezultat standard pa garanci universale të saktësisë ligjore.

Shikoni këtë pjesë 3:23 · Anthropic · Harvey AI

Cili ishte verdikti i The Daily Diff për riparimin e kujtesës të mbështetur në transkript?

Verdikti i The Daily Diff ishte NEEDS REVIEW. Niko do të përdorte riparimin e mbështetur në transkript, do të inspektonte shënimet e ndryshuara dhe do të testonte nëse një wiki ndihmon detyrën aktuale. Kundërshembujt e vetë Anthropic-ut tregojnë se një përfaqësim mund të shtojë punë pa një përfitim të qartë. Libri i saj i recetave paralajmëron se transkriptet e vjetra nuk mund të vendosin ndryshime të mëvonshme të jashtme, kështu që faktet e rëndësishme në ndryshim ende kanë nevojë për verifikim.

Shikoni këtë pjesë 4:39 · Anthropic · Claude Cookbook

Transkript i përkthyer

Përkthyer nga tregimi origjinal në anglisht. Audio dhe titrat e disponueshme kontrollohen nga YouTube.

Pse e mbajti kujtesa Claude-n të bllokuar?

0:00 Dhënia e një kujtese Claude duhet ta ndalojë atë të përsërisë gabimet. Anthropic pa një shënim të gabuar ta dërgonte atë mbi të njëjtin shkëmb Pokémon tre herë. Në këtë video, si e bllokon kujtesa Claude-n? Dhe çfarë e rregullon në të vërtetë? Anthropic e quan riparimin ëndërrim. Sesionet shtesë të modelit rivizitojnë transkriptet e ruajtura dhe redaktojnë skedarët e kujtesës. Testi i saj i kontratës madje rikuperoi çdo fakt që mungonte duke ndryshuar mënyrën se si ato kujtesa ishin shkruar.

0:22 Mbajeni këtë mendim. Është e shtunë, shtatë nëntor, dhe ky është The Daily Diff. Kujtesa e agjentit është kontekst i ruajtur ndërmjet sesioneve. Peshat e modelit mbeten të pandryshuara. Softueri përreth vendos kur të ekzekutohet pastrimi dhe cilat transkripte ai sheh. Funksioni Managed Agents' Dreams është në fazën e parapamjes kërkimore. Ky artikull nuk aktivizon ëndrrat për çdo përdorues të Claude.

Çfarë testoi në të vërtetë Anthropic?

0:41 Anthropic botoi artikullin e Lance Martin të premten. Diskutimi i sotëm i Hacker News ka njerëz që argumentojnë se cilat kujtime ata i fshijnë. Çfarë ndodh kur një shënim i gabuar me siguri mbijeton në një tjetër sesion? Ne i kemi dhënë halucinacionit një dollap skedarësh. Claude duhet të kalojë Malin e Hënës, duke përdorur një Qendër Pokémon aty pranë si pikë referimi. Ai shkruan se ndërtesa është në anën lindore, edhe pse është në perëndim. Ai largohet duke besuar se shpella është tashmë pas tij.

1:05 Më pas ecën mbi një shkëmb me një drejtim në rrugën nga erdhi. Mjeti i tij i navigimit humbet rënien, kështu që Claude e shpjegon dështimin si tepërzbatim. Përpjekja tjetër fillon me të njëjtin supozim të gabuar. Qëndrueshmëria e ka ruajtur gabimin. Pas rënies së tretë, Claude shkruan se do të ndalojë në vend që të vazhdojë të qarkullojë. Konfigurimi i studiuesve e udhëzon automatikisht të vazhdojë. Ai kthehet në një qytet më të hershëm, dhe ajo vrapim përfundon pa arritur në Cerulean City. Edhe bota dëshiron që ky takim të përfundojë.

Si e rregulloi ëndërrimi rrugën?

1:30 Studiuesit ekzekutojnë ëndërrimin në dosjen e kujtesës së dëmtuar. Claude kontrollon shënimin kundrejt transkriptit origjinal të sesionit, kap gabimin e vendndodhjes dhe e rishkruan atë. Me shënimin e korrigjuar, ai rihyn në Malin e Hënës dhe përfundimisht arrin në Cerulean. Ky është rezultati i dobishëm këtu. Një kërkesë e ruajtur kontrollohet kundrejt provave para një përpjekjeje tjetër. Në një ekzekutim, Sonnet tre pikë shtatë grumbulloi qindra skedarë duke fituar

1:50 një distinktiv. Fable pesë mbajti një koleksion më të vogël dhe fitoi katër. Modele të ndryshme, një ekzekutim secila, kështu që kontributi i sistemit të arkivimit nuk mund të jetë i izoluar. Në Hacker News, yfontana thotë se fshijnë pothuajse të gjitha kujtesat automatike sepse shënimet zakonisht i përkasin detyrës aktuale. Kjo është përvoja e një përdoruesi. Koordinatat e djeshme bëjnë një busull të keqe pasi të jeni zhvendosur.

Kur ndihmon një wiki kujtese?

2:10 Anthropic ndërtoi gjithashtu një wiki të lidhur mbi dokumentet e brendshme të Stainless. Claude organizon informacionin e lidhur ndërmjet sesioneve, më pas përdor ato faqe për të dhënë përgjigje. Kjo mund të ndihmojë kur një përgjigje shtrihet në disa dokumente. Skedarët origjinalë mbeten të disponueshëm për të kontrolluar hartën. Me vetëm kërkim, Claude shënoi pesëdhjetë e tre përqind të kritereve të notuara. Kërkimi plus wiki-n më të madhe arriti gjashtëdhjetë e një përqind.

2:32 Këto ishin njëzet e pesë pyetje rreth dokumenteve të një kompanie. Puna shtesë offline përmirësoi atë vlerësim. Artikulli nuk na jep një çmim total për ndërtimin e wiki-s, kështu që mbajeni kolonën e faturës hapur. Dreams përdor tarifa standarde token API, dhe punët mund të zgjasin nga minuta në orë. Anthropic thotë se kontrolli i vazhdueshëm i çdo kujtese mund të jetë jopraktik. Turni i dytë i agjentit tuaj ende shkon në kartën tuaj të kreditit. I njëjti artikull përfshin një detyrë ligjore ku wiki nuk tregoi fitime të qarta mbi

Kur nuk shton asgjë wiki?

2:56 kërkimin. Një wiki tjetër u bë më e madhe se dokumentet që ajo përmblodhi. Nëse një pyetje mund të përgjigjet duke gjetur një pasazh të vetëm, ndërtimi i një enciklopedie së pari mund të jetë një mënyrë jashtëzakonisht e shtrenjtë për të përdorur butonin e gjetjes. Claude Code ngarkon automatikisht një pjesë të kufizuar fillestare të indeksit të kujtesës së tij me shënime të detajuara të mbajtura diku tjetër. Një udhëzim i gabuar i injektuar mund të ndikojë në çdo sesion. Libri i recetave të Anthropic-ut paralajmëron se kujtesa është aq e mirë sa transkriptet. Regjistri i djeshëm nuk mund të verifikojë ndryshimet e mëngjesit.

Pse u zhdukën gjashtëmbëdhjetë fakte të kontratës?

3:23 Tani për detyrën e kontratës. Disa agjentë ndërtojnë një wiki për një blerje të simuluar, duke shkruar terma në një tabelë të përbashkët. Përmbledhja rezultuese përfshin dyzet e një nga pesëdhjetë e shtatë faktet e notuara. Gjashtëmbëdhjetë fakte janë zhdukur diku ndërmjet kontratave dhe përgjigjes së rregulluar. Ky është një vend mjaft i rëndësishëm për të humbur informacionin. Anthropic e gjurmon dështimin tek përmbledhjet e këqija dhe agjentët që mbishkruajnë punën e njëri-tjetrit. Termat që mungonin nuk u ruajtën kurrë në mënyrë të sigurt për sesionin e përgjigjes.

3:47 Ëndërrimi e lejon Claude-n të reflektojë mbi ato dështime, të propozojë udhëzime të ndryshme wiki dhe të rindërtojë. Riparimi arrin deri në mënyrën se si shkruhet kujtesa. Kushdo që ka redaktuar të njëjtin dokument me bashkëpunëtorë e njeh këtë dhimbje. Jepini çdo pjesëmarrësi një tru më të madh, dhe ata ende mund të shpëtojnë mbi punën e dikujt tjetër. Problemi emocionues i kujtesës së AI ka endur në kuzhinën e zyrës duke mbajtur një gabim të konkurrencës.

4:08 Çdo kontratë merr faqen e saj, shkruar nga një agjent i vetëm. Termat citohen fjalë për fjalë. Wiki e përmirësuar mbështet të gjitha pesëdhjetë e shtatë faktet e notuara. Kjo është zgjidhja e premtuar. Pronësia e veçantë parandalon shkatërrimin, dhe citimet e sakta ruajnë termat. Të dy ndryshimet ndodhën së bashku, kështu që asnjëri nuk merr merita të vetme. Mbajini kujtimet e rëndësishme të gjurmueshme nga burimet e tyre. Dreams Agjentët e Menaxhuar ruajnë ruajtjen e hyrjes dhe prodhojnë një dalje të veçantë

4:32 që mund ta rishikoni. Nëse preferoni ta lexoni këtë në vend që të më dëgjoni ta them, ndryshimi arrin në kutinë tuaj hyrëse çdo mëngjes, falas në thedailydiff.dev, linku më poshtë.

Do t'i besoja këtij sistemi kujtese?

4:39 Pra, vendimi i sotëm është NEEDS REVIEW. Do të përdorja riparimin e mbështetur në transkript sepse një gabim i vazhdueshëm meriton një rregullim të vazhdueshëm. Do të kontrolloja shënimet e ndryshuara dhe do të testoja nëse wiki ndihmon detyrën time aktuale. Kundërshembujt e Anthropic-ut tregojnë sa lehtë mirëmbajtja e kujtesës bëhet një projekt tjetër që tani duhet të mirëmbani. Dhe ky është ndryshimi për sot. Unë jam Niko nga Axrisi. Bashkohuni me përgjegjësi.

Burimet

  1. The components of agent memory — Lance Martin; figures by Monika Tuchowska; Anthropic-reported evaluationsAnthropic
  2. Dreams — research preview, separate output store, billing and lifecycleClaude Platform documentation
  3. Claude Code memory — injected index boundaryClaude Code documentation
  4. Dreaming with a dynamic workflow — transcript staleness and caller controlClaude Cookbook
  5. Sleep-time Compute — April 2025 prior work, no replication of this article claimedKevin Lin and colleagues / arXiv
  6. Harvey LAB — tasks, documents, grading rubrics and version scopeHarvey AI
  7. Authentic Dario Amodei portrait — TechCrunch Disrupt 2023; cropped, background removed and resized; Anthropic identity only, no authorship, current reaction or endorsementTechCrunch / Wikimedia Commons
  8. Original TechCrunch portrait source — Dario Amodei at Disrupt 2023TechCrunch / Flickr
  9. Portrait licence — Creative Commons Attribution 2.0Creative Commons
  10. Two Buttons — Jake Clark, Imgflip template; commentary labels added; brief process satire, hosting is not a licence or legal clearance and grants no blanket reuseJake Clark / Imgflip
  11. Groundhog Day GIF — Bill Murray and Stephen Tobolowsky as Phil/Ned; @groundhogday; silent, resized and captioned narrator commentary; no present-day reaction or blanket reuse; hosting is not a licence or legal clearanceGroundhog Day / GIPHY
  12. Two Buttons origin attribution — Jake Clark, October 2014; secondary sourceSupermeme
  13. Groundhog Day source link supplied by the GIPHY uploaderGroundhog Day

Niko from Axrisi

Nikoloz Turazashvili · Vexrail · Axrisi

LinkedIn · dev.to · GitHub · X · Substack

Video të ngjashme