Клод агентын санах ой: хуулбараар баталгаажсан мөрөөдөл ба хуваалцсан зохиолчийн алдаа

Энэ видео юуг хамардаг

• Агентын санах ой нь хуралдааны хооронд контекстийг хадгалдаг; тайлбарласан засвар нь загварын жинг биш, харин тэмдэглэлийг өөрчилдөг.
• Буруу тэмдэглэлийг хуралдааны хуулбартай харьцуулж шалгах нь засагдсан салбарыг Церулин хотод хүрэхэд тусалсан.
• Зөвхөн хайлт нь шалгуурын 53%-ийг гүйцэтгэсэн; хайлт дээр нэмэх нь том вики нь Stainless-ийн баримт бичгүүдийн тухай 25 асуултанд 61%-д хүрсэн.
• Бусад эх сурвалжаас тайлагнасан хууль зүйн даалгаврууд нь викигийн тодорхой ашиг эсвэл анхны баримт бичгүүдээс том викиг харуулаагүй.
• Гэрээний тусгай хуудас, хуудас тус бүрт нэг зохиолч, үгчилсэн нөхцөлүүд нь 57/57 үнэлэгдсэн баримтыг нөхөн сэргээсэн; хоёр өөрчлөлтийг хамтдаа туршсан.

Орчуулсан бичлэг

Англи хэл дээрх эх хувилбараас орчуулсан. Боломжтой дуу болон хадмал орчуулгыг YouTube хянадаг.

Яагаад санах ой Клодыг хавдчихав?

0:00 Клод-д санах ой өгөх нь алдаагаа давтахаас сэргийлэх ёстой. Антропик нэг буруу тэмдэглэл түүнийг Покемоны ижилхэн ирмэг дээгүүр гурван удаа илгээхийг харсан. Энэ видеонд санах ой Клодыг хэрхэн хавчдаг вэ? Мөн үнэндээ юу засаж байна вэ? Антропик уг засварыг мөрөөдөл гэж нэрлэдэг. Нэмэлт загварын хуралдаанууд хадгалагдсан хуулбаруудыг дахин үзэж, санах ойн файлуудыг засварладаг. Түүний гэрээний туршилт нь алдагдсан бүх баримтыг хэрхэн тэр санах ойг бичсэнээ өөрчилснөөр нөхөн сэргээсэн.

0:22 Тэр бодлоо бариарай. Өнөөдөр арван нэгдүгээр сарын долооны Бямба гараг, энэ бол The Daily Diff. Агентын санах ой нь хуралдааны хооронд хадгалагдсан контекст юм. Загварын жин өөрчлөгдөөгүй хэвээр байна. Хүрээлэн буй програм хангамж нь хэзээ цэвэрлэгээ хийх, ямар хуулбарыг харахаа шийддэг. Удирдах агентуудын мөрөөдөл функц нь судалгааны урьдчилсан хэлбэрт байна. Энэ нийтлэл нь Клод хэрэглэгч бүрт мөрөөдлийг асаахгүй.

Антропик үнэндээ юуг туршсан бэ?

0:41 Антропик Лэнс Мартины нийтлэлийг Баасан гарагт нийтэлсэн. Өнөөдрийн Hacker News-ийн хэлэлцүүлэгт хүмүүс ямар санах ойг устгахаа маргалдаж байна. Нэг итгэлтэй буруу тэмдэглэл өөр нэг хуралдаанд шилжвэл юу болох вэ? Бид хийсвэр зүйлд файлын шүүгээ өгсөн. Клод Моун уулыг гатлахын тулд ойролцоох Покемон төвийг тэмдэглэгээ болгон ашиглах ёстой. Энэ нь барилга нь зүүн талд байгаа гэж бичдэг, хэдийгээр баруун талд байдаг ч. Энэ нь агуй аль хэдийн ард нь байгаа гэж итгэн явдаг.

1:05 Тэгээд нэг талын ирмэгээр өөрийн ирсэн зам руу алхдаг. Түүний навигацийн хэрэгсэл уналтыг алдсан тул Клод энэ алдааг хэтрүүлэн явах гэж тайлбарладаг. Дараагийн оролдлого ижилхэн буруу таамаглалаар эхэлдэг. Тууштай байдал алдааг хадгалсан. Гурав дахь удаа унасны дараа Клод давтахаа больж зогсох гэж бичдэг. Судлаачдын тохируулга автоматаар үргэлжлүүлэхийг хэлдэг. Энэ нь өмнөх хот руу буцаж, тэр гүйлт Церулин хотод хүрэхгүйгээр дуусдаг. Бот хүртэл энэ уулзалтыг дуусгахыг хүсэж байна.

Мөрөөдөл замыг хэрхэн зассан бэ?

1:30 Судлаачид алдаатай санах ойн хавтсан дээр мөрөөдөл ажиллуулдаг. Клод тэмдэглэлийг анхны хуралдааны хуулбартай харьцуулж шалгадаг, байршлын алдааг олж, дахин бичдэг. Засагдсан тэмдэглэлтэйгээр Моун ууланд дахин орж эцэст нь Церулин хотод хүрдэг. Энэ бол эндхийн ашигтай үр дүн. Хадгалагдсан нэхэмжлэлийг өөр оролдлого хийхээс өмнө нотлох баримттай харьцуулж шалгадаг. Нэг удаагийн гүйлтэнд Соннет гурван цэг долоо зуу зуун файл хуримтлуулж,

1:50 нэг тэмдэг авсан. Фабле тав бага цуглуулга хадгалж дөрвийг авсан. Өөр өөр загварууд, тус бүр нэг гүйлт, тиймээс файлын системийн хувь нэмрийг тусгаарлах боломжгүй. Hacker News дээр yfontana бараг бүх автомат санах ойг устгадаг гэж хэлсэн, учир нь тэмдэглэлүүд ихэвчлэн одоогийн даалгаварт хамаардаг. Энэ бол нэг хэрэглэгчийн туршлага. Та нүүсний дараа өчигдрийн координат муу луужин болдог.

Санах ойн вики хэзээ тусалдаг вэ?

2:10 Антропик мөн Stainless-ийн дотоод баримт бичгүүд дээр холбогдсон вики үүсгэсэн. Клод холбогдох мэдээллийг хуралдааны хооронд зохион байгуулдаг, дараа нь эдгээр хуудсыг ашиглан асуултанд хариулдаг. Энэ нь хариулт хэд хэдэн баримт бичгийг хамарсан үед тусалж чадна. Анхны файлууд газрын зургийг шалгахад бэлэн хэвээр байна. Зөвхөн хайлтаар Клод үнэлэгдсэн шалгуурын тавин гурван хувийг авсан. Хайлт дээр нэмэх нь том вики жаран нэгэн хувьд хүрсэн.

2:32 Эдгээр нь нэг компанийн баримт бичгүүдийн тухай хорин таван асуулт байсан. Нэмэлт офлайн ажил тэр үнэлгээг сайжруулсан. Нийтлэл нь викиг барих нийт үнийг өгөөгүй, тиймээс нэхэмжлэхийн баганыг нээлттэй байлгаарай. Мөрөөдөл нь стандарт API токенын тарифыг ашигладаг бөгөөд ажлууд хэдэн минутээс хэдэн цаг хүртэл үргэлжилж болно. Антропик санах ой бүрийг тасралтгүй шалгах нь боломжгүй байж магадгүй гэж хэлжээ. Таны агентын хоёр дахь ээлж таны кредит карт дээр хэвээр үлдэнэ. Ижил нийтлэлд вики нь хайлтаас илүү тодорхой ашиг харуулаагүй хууль зүйн даалгавар багтсан.

Вики хэзээ юу ч нэмдэггүй вэ?

2:56 Өөр нэг вики нь нэгтгэсэн баримт бичгүүдээсээ том болсон. Хэрэв асуултанд нэг хэсгийг олох замаар хариулж болох юм бол, эхлээд нэвтэрхий толь бичих нь хайх товчлуурыг ашиглах гайхалтай үнэтэй арга байж болно. Клод код санах ойн индексийн хязгаарлагдмал эхлэлийн хэсгийг автоматаар ачаалдаг, нарийвчилсан тэмдэглэлүүдийг өөр газар хадгалдаг. Буруу оруулсан заавар нь хуралдаан бүрт нөлөөлж болно. Антропикийн тогооны ном нь санах ой нь зөвхөн хуулбаруудтай адил сайн байдаг гэж анхааруулдаг. Өчигдрийн бүртгэл өнөө өглөөний өөрчлөлтүүдийг баталгаажуулж чадахгүй.

Яагаад арван зургаан гэрээний баримт алга болсон бэ?

3:23 Одоо гэрээний даалгавар. Хэд хэдэн агент симуляц хийсэн худалдан авалтад зориулж вики үүсгэдэг, нөхцөлүүдийг нэг хуваалцсан хүснэгтэд бичдэг. Үр дүнгийн товчлол нь тавин долоон үнэлэгдсэн баримтын дөчин нэгийг агуулдаг. Арван зургаан баримт гэрээнүүд болон сайтар боловсруулсан хариултын хооронд алга болсон. Энэ бол мэдээлэл алдах нэлээд чухал газар. Антропик энэ алдааг муу хураангуй болон агентууд бие биенийхээ ажлыг дарж бичсэнээс үүдэлтэй гэж үздэг. Алга болсон нөхцөлүүдийг хариулах хуралдаанд хэзээ ч аюулгүй хадгалаагүй.

3:47 Мөрөөдөл Клодыг эдгээр алдаануудыг эргэцүүлж, өөр вики заавруудыг санал болгож, дахин барих боломжийг олгодог. Засвар нь санах ойг хэрхэн бичсэнээс эхлэн бүх зүйлийг хамруулдаг. Ажлынхантайгаа ижилхэн баримт бичгийг засаж байсан хүн бүр энэ зовиурыг мэднэ. Оролцогч бүрт том тархи өгвөл тэд өөр хэн нэгний ажлыг дарж хадгалж чадна. Сэтгэл хөдөлгөм AI санах ойн асуудал оффисын гал тогоонд зэрэгцээ ажиллагааны алдаатай гарч ирсэн.

4:08 Гэрээ бүр өөрийн хуудсыг нэг агент бичсэнээр авдаг. Нөхцөлүүдийг үгээр нь иш татдаг. Сайжруулсан вики тавин долоон үнэлэгдсэн баримтыг бүгдийг нь дэмждэг. Энэ бол амласан засвар. Тусдаа өмчлөл давхцахаас сэргийлдэг бөгөөд яг таг ишлэлүүд нөхцөлүүдийг хадгалдаг. Хоёр өөрчлөлт хамтдаа болсон тул аль нь ч ганцаарчилсан гавьяа авахгүй. Чухал санах ойг эх сурвалжтай нь холбож байх хэрэгтэй. Удирдах агентуудын мөрөөдөл нь оролтын санг хадгалж, таны хянах боломжтой

4:32 тусдаа гаралтыг гаргадаг. Хэрэв та үүнийг сонсохоос илүү уншихыг хүсвэл, diff өглөө бүр таны имэйл хайрцагт үнэгүй the daily diff dot dev хаягаар ирнэ, холбоос доор байна.

Би энэ санах ойн системд итгэх болов уу?

4:39 Тэгэхээр өнөөдрийн дүгнэлт нь ХЯНАЛТ ХИЙХ ШААРДЛАГАТАЙ. Би хуулбараар баталгаажсан засварыг ашиглах байсан, учир нь тогтмол алдаа тогтмол засварыг хүртэх ёстой. Би өөрчлөгдсөн тэмдэглэлүүдийг шалгаж, вики миний жинхэнэ даалгаварт тусалдаг эсэхийг турших байсан. Антропикийн эсрэг жишээнүүд санах ойн засвар үйлчилгээ хэрхэн амархан өөр нэг та одоо хадгалах ёстой төсөл болж хувирдгийг харуулдаг. Ингээд өнөөдрийн diff дууслаа. Би Axrisi-ийн Нико. Хариуцлагатай нэгтгээрэй.

Эх сурвалжууд

1. The components of agent memory — Lance Martin; figures by Monika Tuchowska; Anthropic-reported evaluationsAnthropic
2. Dreams — research preview, separate output store, billing and lifecycleClaude Platform documentation
3. Claude Code memory — injected index boundaryClaude Code documentation
4. Dreaming with a dynamic workflow — transcript staleness and caller controlClaude Cookbook
5. Sleep-time Compute — April 2025 prior work, no replication of this article claimedKevin Lin and colleagues / arXiv
6. Harvey LAB — tasks, documents, grading rubrics and version scopeHarvey AI
7. Authentic Dario Amodei portrait — TechCrunch Disrupt 2023; cropped, background removed and resized; Anthropic identity only, no authorship, current reaction or endorsementTechCrunch / Wikimedia Commons
8. Original TechCrunch portrait source — Dario Amodei at Disrupt 2023TechCrunch / Flickr
9. Portrait licence — Creative Commons Attribution 2.0Creative Commons
10. Two Buttons — Jake Clark, Imgflip template; commentary labels added; brief process satire, hosting is not a licence or legal clearance and grants no blanket reuseJake Clark / Imgflip
11. Groundhog Day GIF — Bill Murray and Stephen Tobolowsky as Phil/Ned; @groundhogday; silent, resized and captioned narrator commentary; no present-day reaction or blanket reuse; hosting is not a licence or legal clearanceGroundhog Day / GIPHY
12. Two Buttons origin attribution — Jake Clark, October 2014; secondary sourceSupermeme
13. Groundhog Day source link supplied by the GIPHY uploaderGroundhog Day