Memori agen Claude: 'bermimpi' didukung transkrip dan kegagalan penulis bersama

Isi video ini

• Memori agen mempertahankan konteks antar sesi; perbaikan yang dijelaskan mengubah catatan daripada bobot model.
• Memeriksa catatan yang salah terhadap transkrip sesi membantu cabang yang dikoreksi mencapai Kota Cerulean.
• Pencarian saja mencetak 53% kriteria; pencarian ditambah wiki yang lebih besar mencapai 61% pada 25 pertanyaan tentang dokumen Stainless.
• Tugas hukum lain yang dilaporkan sumber tidak menunjukkan peningkatan wiki yang jelas atau wiki yang lebih besar dari dokumen aslinya.
• Halaman khusus kontrak, satu penulis per halaman, dan istilah verbatim mengembalikan 57/57 fakta yang dinilai; kedua perubahan diuji bersama.

Transkrip terjemahan

Diterjemahkan dari narasi asli bahasa Inggris. Audio dan teks tersedia yang dikontrol oleh YouTube.

Mengapa memori membuat Claude terjebak?

0:00 Memberi Claude memori seharusnya menghentikannya mengulangi kesalahan. Anthropic mengamati satu catatan yang salah mengirimnya melewati tebing Pokémon yang sama tiga kali. Dalam video ini, bagaimana memori menjebak Claude? Dan apa yang sebenarnya memperbaikinya? Anthropic menyebut perbaikan itu 'bermimpi'. Sesi model tambahan meninjau kembali transkrip yang tersimpan dan mengedit file memori. Uji kontraknya bahkan memulihkan setiap fakta yang hilang dengan mengubah cara memori-memori itu ditulis.

0:22 Simpan pemikiran itu. Ini Sabtu, tujuh November, dan ini adalah The Daily Diff. Memori agen adalah konteks yang disimpan antar sesi. Bobot model tetap tidak berubah. Perangkat lunak di sekitarnya memutuskan kapan pembersihan berjalan dan transkrip mana yang dilihatnya. Fitur Managed Agents' Dreams sedang dalam pratinjau penelitian. Artikel ini tidak mengaktifkan 'mimpi' untuk setiap pengguna Claude.

Apa yang sebenarnya diuji Anthropic?

0:41 Anthropic menerbitkan artikel Lance Martin pada hari Jumat. Diskusi Hacker News hari ini menampilkan orang-orang yang berdebat tentang memori mana yang mereka hapus. Apa yang terjadi ketika catatan yang salah dengan percaya diri bertahan hingga sesi lain? Kami telah memberi halusinasi sebuah lemari arsip. Claude perlu menyeberangi Gunung Bulan, menggunakan Pusat Pokémon terdekat sebagai penandanya. Ia menulis bahwa bangunan itu ada di sisi timur, padahal ada di barat. Ia pergi dengan keyakinan bahwa gua sudah di belakangnya.

1:05 Kemudian ia berjalan melewati tebing satu arah ke rute dari mana ia datang. Alat navigasinya tidak melihat jatuhnya, jadi Claude menjelaskan kegagalannya sebagai melampaui target. Upaya berikutnya dimulai dengan asumsi salah yang sama. Kegigihan telah mempertahankan bug tersebut. Setelah jatuh ketiga kalinya, Claude menulis bahwa ia akan berhenti daripada terus mengulang. Pengaturan peneliti secara otomatis menyuruhnya untuk melanjutkan. Ia kembali ke kota sebelumnya, dan perjalanan itu berakhir tanpa mencapai Kota Cerulean. Bahkan bot itu ingin pertemuan ini berakhir.

Bagaimana 'bermimpi' memperbaiki rute?

1:30 Para peneliti menjalankan 'bermimpi' pada folder memori yang salah. Claude memeriksa catatan tersebut terhadap transkrip sesi asli, menangkap kesalahan lokasi, dan menulis ulang. Dengan catatan yang dikoreksi, ia masuk kembali ke Gunung Bulan dan akhirnya mencapai Cerulean. Itu hasil yang berguna di sini. Klaim yang disimpan diperiksa terhadap bukti sebelum upaya lain. Dalam satu percobaan, Sonnet tiga titik tujuh mengumpulkan ratusan file saat mendapatkan

1:50 satu badge. Fable lima menyimpan koleksi yang lebih kecil dan mendapatkan empat. Model yang berbeda, masing-masing satu percobaan, jadi kontribusi sistem pengarsipan tidak dapat diisolasi. Di Hacker News, yfontana mengatakan mereka menghapus hampir semua memori otomatis karena catatan biasanya milik tugas saat ini. Itu pengalaman satu pengguna. Koordinat kemarin menjadi kompas yang buruk setelah Anda berpindah.

Kapan wiki memori membantu?

2:10 Anthropic juga membangun wiki tertaut di atas dokumen internal Stainless. Claude mengatur informasi terkait antar sesi, kemudian menggunakan halaman-halaman itu untuk menjawab pertanyaan. Ini dapat membantu ketika sebuah jawaban mencakup beberapa dokumen. File asli tetap tersedia untuk memeriksa peta. Dengan pencarian saja, Claude mencetak lima puluh tiga persen dari kriteria yang dinilai. Pencarian ditambah wiki yang lebih besar mencapai enam puluh satu persen.

2:32 Itu dua puluh lima pertanyaan tentang dokumen satu perusahaan. Pekerjaan offline tambahan meningkatkan evaluasi itu. Artikel tersebut tidak memberi kita harga total untuk membangun wiki, jadi biarkan kolom faktur terbuka. Dream menggunakan tarif token API standar, dan pekerjaan bisa memakan waktu menit hingga jam. Anthropic mengatakan terus-menerus memeriksa setiap memori mungkin tidak praktis. Shift kedua agen Anda masih masuk tagihan kartu kredit Anda. Artikel yang sama menyertakan tugas hukum di mana wiki tidak menunjukkan keuntungan yang jelas atas

Kapan wiki tidak menambahkan apa-apa?

2:56 pencarian. Wiki lain menjadi lebih besar dari dokumen yang diringkasnya. Jika sebuah pertanyaan dapat dijawab dengan menemukan satu bagian, membangun ensiklopedia terlebih dahulu bisa menjadi cara yang sangat mahal untuk menggunakan tombol cari. Claude Code secara otomatis memuat bagian pembuka terbatas dari indeks memorinya, dengan catatan rinci disimpan di tempat lain. Instruksi yang salah disuntikkan dapat memengaruhi setiap sesi. Buku masak Anthropic memperingatkan bahwa memori hanya sebaik transkripnya. Log kemarin tidak dapat memverifikasi perubahan pagi ini.

Mengapa enam belas fakta kontrak menghilang?

3:23 Sekarang untuk tugas kontrak. Beberapa agen membangun wiki untuk akuisisi simulasi, menulis istilah-istilah ke dalam satu tabel bersama. Ringkasan yang dihasilkan mencakup empat puluh satu dari lima puluh tujuh fakta yang dinilai. Enam belas fakta telah menghilang entah di mana antara kontrak dan jawaban yang dipoles. Itu adalah tempat yang cukup penting untuk kehilangan informasi. Anthropic melacak kegagalan tersebut pada ringkasan yang buruk dan agen yang menimpa pekerjaan satu sama lain. Istilah-istilah yang hilang tidak pernah disimpan dengan aman untuk sesi

3:47 menjawab. 'Bermimpi' memungkinkan Claude merenungkan kegagalan-kegalan itu, mengusulkan instruksi wiki yang berbeda, dan membangun kembali. Perbaikan itu kembali hingga ke cara memori ditulis. Siapa pun yang pernah mengedit dokumen yang sama dengan rekan kerja tahu rasa sakit ini. Berikan setiap peserta otak yang lebih besar, dan mereka masih bisa menyimpan di atas pekerjaan orang lain. Masalah memori AI yang menarik telah berkeliaran di dapur kantor dengan mengenakan bug konkurensi.

4:08 Setiap kontrak mendapatkan halamannya sendiri, ditulis oleh satu agen. Istilah-istilah dikutip kata demi kata. Wiki yang ditingkatkan mendukung semua lima puluh tujuh fakta yang dinilai. Itu perbaikan yang dijanjikan. Kepemilikan terpisah mencegah penimpaan, dan kutipan persis mempertahankan istilah-istilah. Kedua perubahan terjadi bersamaan, jadi tidak ada yang mendapatkan pujian tunggal. Jaga agar memori penting dapat dilacak ke sumbernya. Managed Agents' Dreams mempertahankan penyimpanan input dan menghasilkan output terpisah yang

4:32 dapat Anda tinjau. Jika Anda lebih suka membaca ini daripada mendengar saya mengatakannya, perbedaan itu tiba di kotak masuk Anda setiap pagi, gratis di the daily diff dot dev, tautan di bawah.

Akankah saya mempercayai sistem memori ini?

4:39 Jadi putusan hari ini adalah NEEDS REVIEW. Saya akan menggunakan perbaikan yang didukung transkrip karena kesalahan yang gigih layak mendapat perbaikan yang gigih. Saya akan memeriksa catatan yang diubah dan menguji apakah wiki membantu tugas aktual saya. Contoh tandingan Anthropic menunjukkan betapa mudahnya pemeliharaan memori menjadi proyek lain yang sekarang harus Anda pelihara. Dan itu perbedaannya untuk hari ini. Saya Niko dari Axrisi. Gabungkan dengan bertanggung jawab.

Sumber

1. The components of agent memory — Lance Martin; figures by Monika Tuchowska; Anthropic-reported evaluationsAnthropic
2. Dreams — research preview, separate output store, billing and lifecycleClaude Platform documentation
3. Claude Code memory — injected index boundaryClaude Code documentation
4. Dreaming with a dynamic workflow — transcript staleness and caller controlClaude Cookbook
5. Sleep-time Compute — April 2025 prior work, no replication of this article claimedKevin Lin and colleagues / arXiv
6. Harvey LAB — tasks, documents, grading rubrics and version scopeHarvey AI
7. Authentic Dario Amodei portrait — TechCrunch Disrupt 2023; cropped, background removed and resized; Anthropic identity only, no authorship, current reaction or endorsementTechCrunch / Wikimedia Commons
8. Original TechCrunch portrait source — Dario Amodei at Disrupt 2023TechCrunch / Flickr
9. Portrait licence — Creative Commons Attribution 2.0Creative Commons
10. Two Buttons — Jake Clark, Imgflip template; commentary labels added; brief process satire, hosting is not a licence or legal clearance and grants no blanket reuseJake Clark / Imgflip
11. Groundhog Day GIF — Bill Murray and Stephen Tobolowsky as Phil/Ned; @groundhogday; silent, resized and captioned narrator commentary; no present-day reaction or blanket reuse; hosting is not a licence or legal clearanceGroundhog Day / GIPHY
12. Two Buttons origin attribution — Jake Clark, October 2014; secondary sourceSupermeme
13. Groundhog Day source link supplied by the GIPHY uploaderGroundhog Day