Pamięć agenta Claude: korekta błędów przez 'śnienie' wspierane transkrypcją i problemy ze wspólnym pisaniem

Co obejmuje ten film

• Pamięć agenta utrzymuje kontekst między sesjami; opisana naprawa zmienia notatki, a nie wagi modelu.
• Sprawdzenie błędnej notatki na podstawie transkrypcji sesji pomogło poprawionej ścieżce dotrzeć do Cerulean City.
• Samo wyszukiwanie osiągnęło 53% kryteriów; wyszukiwanie plus większa wiki osiągnęło 61% na 25 pytaniach dotyczących dokumentów Stainless.
• Inne zadania prawne zgłoszone przez źródła nie wykazały wyraźnego zysku z wiki lub wiki było większe niż oryginalne dokumenty.
• Strony specyficzne dla kontraktów, jeden autor na stronę i dokładne terminy odzyskały 57/57 ocenionych faktów; obie zmiany były testowane jednocześnie.

Przetłumaczona transkrypcja

Przetłumaczono z oryginalnej narracji angielskiej. Dostępne audio i napisy są kontrolowane przez YouTube.

Dlaczego pamięć uwięziła Claude'a?

0:00 Nadanie Claude'owi pamięci powinno zapobiec powtarzaniu błędów. Anthropic obserwował, jak jedna błędna notatka sprawia, że Claude trzykrotnie spada z tej samej krawędzi Pokémon. W tym filmie, jak pamięć uwięzia Claude'a? I co właściwie to naprawia? Anthropic nazywa tę naprawę 'śnieniem'. Dodatkowe sesje modelu ponownie przeglądają zapisane transkrypcje i edytują pliki pamięci. Jego test kontraktowy odzyskał nawet każdy brakujący fakt, zmieniając sposób zapisywania tych wspomnień.

0:22 Zapamiętaj to. Jest sobota, siódmy listopada, a to jest The Daily Diff. Pamięć agenta to kontekst zapisany między sesjami. Wagi modelu pozostają niezmienione. Otaczające oprogramowanie decyduje, kiedy uruchomić czyszczenie i które transkrypcje zobaczy. Funkcja Managed Agents' Dreams jest w fazie podglądu badań. Ten artykuł nie włącza 'snów' dla każdego użytkownika Claude'a.

Co właściwie testował Anthropic?

0:41 Anthropic opublikował artykuł Lance'a Martina w piątek. Dzisiejsza dyskusja na Hacker News zawiera ludzi spierających się o to, które wspomnienia usuwają. Co się dzieje, gdy pewnie błędna notatka przetrwa do kolejnej sesji? Dajemy halucynacji szafkę na dokumenty. Claude musi przejść przez Górę Księżycową, używając pobliskiego Centrum Pokémon jako punktu orientacyjnego. Zapisuje, że budynek jest po wschodniej stronie, chociaż jest po zachodniej. Wyrusza, wierząc, że jaskinia jest już za nim.

1:05 Następnie przechodzi przez jednokierunkową krawędź na trasę, z której przyszedł. Jego narzędzie nawigacyjne nie zauważa spadku, więc Claude tłumaczy porażkę jako przekroczenie celu. Następna próba zaczyna się od tego samego błędnego założenia. Trwałość zachowała błąd. Po trzecim upadku Claude pisze, że przestanie, zamiast kontynuować pętlę. Ustawienie badaczy automatycznie każe mu kontynuować. Wracamy do wcześniejszego miasta, a to podejście kończy się bez dotarcia do Cerulean City. Nawet bot chce, aby to spotkanie się skończyło.

Jak 'śnienie' naprawiło trasę?

1:30 Badacze uruchamiają 'śnienie' na folderze z wadliwą pamięcią. Claude sprawdza notatkę z oryginalną transkrypcją sesji, wykrywa błąd lokalizacji i przepisuje ją. Z poprawioną notatką ponownie wchodzi na Górę Księżycową i ostatecznie dociera do Cerulean. To jest tutaj użyteczny wynik. Zapisane twierdzenie jest sprawdzane z dowodami przed kolejną próbą. W jednym podejściu Sonnet trzy punkt siedem zgromadził setki plików, zdobywając

1:50 jedną odznakę. Fable pięć zachował mniejszą kolekcję i zdobył cztery. Różne modele, po jednym uruchomieniu każdy, więc wkład systemu archiwizacji nie może być izolowany. Na Hacker News yfontana mówi, że usuwa prawie wszystkie automatyczne wspomnienia, ponieważ notatki zazwyczaj należą do bieżącego zadania. To doświadczenie jednego użytkownika. Wczorajsze współrzędne to kiepski kompas, gdy już się przesuniesz.

Kiedy wiki pamięci pomaga?

2:10 Anthropic zbudował również połączoną wiki nad wewnętrznymi dokumentami Stainless. Claude organizuje powiązane informacje między sesjami, a następnie używa tych stron do odpowiadania na pytania. Może to pomóc, gdy odpowiedź obejmuje kilka dokumentów. Oryginalne pliki pozostają dostępne do sprawdzenia mapy. Samym wyszukiwaniem Claude uzyskał pięćdziesiąt trzy procent ocenianych kryteriów. Wyszukiwanie plus większa wiki osiągnęło sześćdziesiąt jeden procent.

2:32 Było to dwadzieścia pięć pytań dotyczących dokumentów jednej firmy. Dodatkowa praca offline poprawiła tę ocenę. Artykuł nie podaje nam całkowitej ceny budowy wiki, więc pozostaw kolumnę z fakturami otwartą. Dreamy korzystają ze standardowych stawek tokenów API, a zadania mogą trwać od minut do godzin. Anthropic mówi, że ciągłe sprawdzanie każdej pamięci może być niepraktyczne. Druga zmiana twojego agenta nadal obciąża twoją kartę kredytową. Ten sam artykuł zawiera zadanie prawne, w którym wiki nie wykazało wyraźnego zysku w porównaniu z

Kiedy wiki nic nie dodaje?

2:56 wyszukiwaniem. Inna wiki rozrosła się do rozmiarów większych niż dokumenty, które podsumowywała. Jeśli na pytanie można odpowiedzieć, znajdując jeden fragment, budowanie encyklopedii najpierw może być niezwykle kosztownym sposobem użycia przycisku znajdź. Claude Code automatycznie ładuje ograniczony początkowy fragment swojego indeksu pamięci, z szczegółowymi notatkami przechowywanymi gdzie indziej. Błędnie wstrzyknięta instrukcja może wpływać na każdą sesję. Książka kucharska Anthropic ostrzega, że pamięć jest tylko tak dobra, jak transkrypcje. Wczorajszy dziennik nie może zweryfikować dzisiejszych zmian.

Dlaczego zaginęło szesnaście faktów z umowy?

3:23 Teraz przejdźmy do zadania kontraktowego. Kilku agentów buduje wiki do symulowanego przejęcia, wpisując terminy do jednej wspólnej tabeli. Powstała notatka zawiera czterdzieści jeden z pięćdziesięciu siedmiu ocenionych faktów. Szesnaście faktów zniknęło gdzieś między kontraktami a dopracowaną odpowiedzią. To dość ważne miejsce na utratę informacji. Anthropic przypisuje błąd złym podsumowaniom i agentom nadpisującym nawzajem swoje prace. Brakujące terminy nigdy nie zostały bezpiecznie zachowane na sesję odpowiedzi.

3:47 Dreaming pozwala Claude'owi zastanowić się nad tymi błędami, zaproponować inne instrukcje wiki i przebudować. Naprawa sięga aż do sposobu, w jaki pamięć jest zapisywana. Każdy, kto edytował ten sam dokument ze współpracownikami, zna ten ból. Daj każdemu uczestnikowi większy mózg, a nadal mogą zapisywać nad pracą kogoś innego. Ekscytujący problem z pamięcią AI przeniknął do biurowej kuchni w postaci błędu współbieżności.

4:08 Każdy kontrakt otrzymuje własną stronę, napisaną przez jednego agenta. Terminy są cytowane dosłownie. Ulepszona wiki obsługuje wszystkie pięćdziesiąt siedem ocenionych faktów. To obiecana naprawa. Oddzielna własność zapobiega nadpisywaniu, a dokładne cytaty zachowują terminy. Obie zmiany nastąpiły jednocześnie, więc żadna nie otrzymuje wyłącznego uznania. Ważne wspomnienia należy śledzić do ich źródeł. Managed Agents' Dreams zachowuje magazyn wejściowy i tworzy oddzielny magazyn wyjściowy,

4:32 który można przeglądać. Jeśli wolisz to przeczytać, niż usłyszeć, jak to mówię, 'diff' trafia na Twoją skrzynkę odbiorczą każdego ranka, za darmo na thedailydiff.dev, link poniżej.

Czy zaufałbym temu systemowi pamięci?

4:39 Dzisiejszy werdykt to 'WYMAGA PRZEGLĄDU'. Użyłbym naprawy opartej na transkrypcjach, ponieważ uporczywy błąd zasługuje na uporczywą naprawę. Sprawdziłbym zmienione notatki i przetestowałbym, czy wiki pomaga w moim rzeczywistym zadaniu. Przykłady Anthropic pokazują, jak łatwo utrzymanie pamięci staje się kolejnym projektem, który teraz musisz utrzymywać. I to tyle na dzisiaj. Jestem Niko z Axrisi. Łącz odpowiedzialnie.

Źródła

1. The components of agent memory — Lance Martin; figures by Monika Tuchowska; Anthropic-reported evaluationsAnthropic
2. Dreams — research preview, separate output store, billing and lifecycleClaude Platform documentation
3. Claude Code memory — injected index boundaryClaude Code documentation
4. Dreaming with a dynamic workflow — transcript staleness and caller controlClaude Cookbook
5. Sleep-time Compute — April 2025 prior work, no replication of this article claimedKevin Lin and colleagues / arXiv
6. Harvey LAB — tasks, documents, grading rubrics and version scopeHarvey AI
7. Authentic Dario Amodei portrait — TechCrunch Disrupt 2023; cropped, background removed and resized; Anthropic identity only, no authorship, current reaction or endorsementTechCrunch / Wikimedia Commons
8. Original TechCrunch portrait source — Dario Amodei at Disrupt 2023TechCrunch / Flickr
9. Portrait licence — Creative Commons Attribution 2.0Creative Commons
10. Two Buttons — Jake Clark, Imgflip template; commentary labels added; brief process satire, hosting is not a licence or legal clearance and grants no blanket reuseJake Clark / Imgflip
11. Groundhog Day GIF — Bill Murray and Stephen Tobolowsky as Phil/Ned; @groundhogday; silent, resized and captioned narrator commentary; no present-day reaction or blanket reuse; hosting is not a licence or legal clearanceGroundhog Day / GIPHY
12. Two Buttons origin attribution — Jake Clark, October 2014; secondary sourceSupermeme
13. Groundhog Day source link supplied by the GIPHY uploaderGroundhog Day