Claude Code je slao korisničke e-mailove web stranicama kao kontakt adresu

Šta ovaj video pokriva

• Lydia Hallie iz Anthropic-a je rekla da je e-mail naloga dodan u kontekst modela za prijavljene korisnike jer je Claude izmišljao imena za stvari kao što su @author tagovi bez toga.
• Sajtovi kao što je Wikimedia traže od skripti informativan User-Agent sa kontakt informacijama; politika prihvata e-mail, web stranicu ili wiki korisnika. Model je ponekad koristio e-mail naloga koji je imao u kontekstu.
• Verzija 2.1.317 je dodala provjeru. Njen objavljeni readme opisuje odbijanje bez upita za Bash, PowerShell i Monitor pozive koji sadrže adresu i nazivaju User-Agent, i kaže da se WebFetch, WebSearch, skripte i run-time vrijednosti ne provjeravaju. Changelog i osoblje opisuju isti štit kao da pita ili blokira.
• Dva korisnika su prijavila da učitani štit nije odbio bezazlene test komande; Anthropic nije potvrdio te izvještaje. Stabilni kanal je još uvijek bio na 2.1.311, kojoj nedostaje provjera, a najnoviji unos u changelogu u vrijeme snimanja bio je 2.1.318.
• GitHub problemi koji opisuju isto curenje User-Agenta datiraju od 18. septembra, sa julskim izvještajem o bloku ubrizganog konteksta. Presuda je bila REVERT: adresa koju model može vidjeti je adresa koju može poslati.

Prevedeni transkript

Prevedeno iz originalne engleske naracije. Dostupan zvuk i titlovi kontroliše YouTube.

Kako je e-mail za prijavu došao do Wikipedije i SEC-a?

0:00 Vaš e-mail za prijavu služi za prijavu. Za neke prijavljene korisnike Claude Code-a, on se također nalazio u User-Agentu zahtjeva prema sajtovima kao što su Wikipedia i SEC. U ovom videu: kako je tamo dospio? I da li popravak to zatvara? Anthropic kaže da je to trebao ranije primijetiti. Njegov vlastiti tragač grešaka ima datum koliko ranije, i ja ću ga pročitati prije presude. Petak je, šesti novembar, i ovo je The Daily Diff.

0:24 Claude Code je Anthropic-ov agent za kodiranje. On čita vaš projekat i pokreće komande za vas, uključujući curl pozive na web. User-Agent je linija u svakom web zahtjevu koja imenuje program koji poziva.

Zašto je model znao vaš e-mail?

0:35 Adresa je tamo dospjela namjerno. Lydia Hallie, koja radi na Claude Code-u, objasnila je na Hacker News-u da je Claude stalno izmišljao imena za stvari kao što su author tagovi u kodu, jer nije znao ko ste vi. Tako je Anthropic dodao e-mail naloga u kontekst modela za prijavljene korisnike. To je eksplodiralo u četvrtak sa GitHub problemom pod nazivom povreda privatnosti u User-Agent zaglavlju. Reporter ga krivi za desetine spam e-mailova dnevno, i ništa javno ne dokazuje tu vezu.

1:02 Tema na Hacker News-u je prešla hiljadu i dvjesto poena. Izvještaj iz jula je već citirao ubrizgani tekst. Pod naslovom korisnički e-mail, piše da je e-mail adresa korisnika, zatim vaša adresa. Taj reporter je također uhvatio Claudea kako piše adresu u git commite, i GitHub-ova push zaštita je blokirala push.

Zašto web stranice traže e-mail od skripti?

1:20 Neki sajtovi traže od skripti da se identifikuju. Wikimedia-ova politika kaže da skripte trebaju koristiti informativan User-Agent sa kontakt informacijama, ili mogu biti blokirane bez obavijesti. Web stranica također radi kao kontakt. SEC-ova Edgar stranica prikazuje primjer zaglavlja sa imenom kompanije i admin e-mailom. Kada Claude Code piše vlastitu curl komandu za Wikipediju, sajt želi kontakt, a jedina adresa u njegovom kontekstu je vaš e-mail za prijavu. Programer Claude Code-a je to ovako objasnio na Hacker News-u.

1:48 Claude očigledno teži da odluči da je ova politika vrijedna praćenja. Prema korisnicima koji ga citiraju, isti blok konteksta je rekao modelu da nikada ne

Zar mu ništa nije reklo da to ne radi?

1:56 šalje tu adresu nepovezanoj usluzi, u zaglavlju, URL-u ili payloadu. U jednom oktobarskom izvještaju, Claude je sumirao šta se desilo sljedeće. Poslao sam je ipak. A User-Agent ne nestaje nakon zahtjeva. Apache-ov standardni kombinovani log format ga upisuje u log pristupa, pored IP adrese posjetitelja i vremena. Anthropic-ov prvi odgovor je isporučen u verziji trista sedamnaest.

Šta zapravo blokira mod za privatnost?

2:19 Changelog to naziva provjerom koja pita prije nego što web ili shell alat pošalje vaš e-mail naloga na mrežu. Uključeno je po defaultu. Ali stabilni kanal je još uvijek na trista jedanaest, koja to nema. Njegov izvor je objavljen manje od dva sata nakon problema. On hvata shell alate, što znači Bash, PowerShell i Monitor. Ako komanda sadrži vašu adresu i imenuje User-Agent, readme kaže da je odbijena, bez upita.

2:44 Changelog kaže da pita, komentar osoblja kaže da blokira, a readme kaže da odbija bez pitanja. Cijeli bouncer su dvije podudarnosti riječi, bez parsera, namjerno. Zatim su korisnici to testirali.

Da li je štit uhvatio test?

2:56 Jedan na Macu i jedan na Windowsu su pokrenuli bezazlene komande, echo u nigdje i curl na nevažeću domenu koja se nikada ne rješava. Obojica kažu da se mod prikazao kao učitan, i nijedna komanda nije odbijena. To su korisnički izvještaji; Anthropic ih nije potvrdio. Readme također navodi šta prolazi. Web alati, WebFetch i WebSearch, se ne provjeravaju, što je čudno u changelogu koji spominje web pozive. Niti je skripta koja sadrži vašu adresu, niti vrijednost izračunata u run timeu.

3:25 Readme cijelu stvar naziva uslugom koja pokriva jedan oblik. Hallie kaže da sljedeće izdanje uklanja e-mail naloga iz onoga što Claude Code

Kada će biti objavljen pravi popravak i šta sada da radite?

3:32 daje modelu, i treba stići početkom sljedeće sedmice. Filter na izlazu mora prepoznati svaku rutu. Ako adresa nikada ne uđe, nema šta za filtrirati. Dok ovo snimam, najnoviji unos u changelogu je još uvijek trista osamnaest. Ako ste na stabilnom, ažurirajte na trista sedamnaest ili novije. Ako pišete hookove, stopgap Windows testera također provjerava izmjene datoteka, tako da se hardkodirana adresa uhvati prije nego što se skripta napiše. I pretražite svoje sesije za vlastiti e-mail pored User-Agenta.

Koliko ranije je to prijavljeno?

4:00 Sada taj datum. Trebali smo ranije uhvatiti ovo ponašanje, napisala je Hallie. Julski izvještaj je već upozorio da bilo šta u kontekstu može procuriti u odlazne pozive alata. I 18. septembra, korisnik je prijavio grešku pod nazivom, korisnički e-mail iz metapodataka naloga nenamjerno poslan eksternom servisu u User-Agent zaglavlju. To je sedam sedmica prije četvrtkove teme, i bot ga je označio kao sigurnosno područje u roku od otprilike minute.

4:24 Do kraja oktobra, najmanje četiri druga problema su opisivala isto curenje, na Wikipediju, SEC i gaming wiki. Od danas, svih pet je otvoreno. Anthropic kaže da su primijetili kada je ovo počelo da se širi na Redditu. Sama izvinjenja su bila brza i jasna, to im priznajem. Ako biste radije pročitali ovo nego da me čujete kako to govorim, diff stiže u vaš inbox svako jutro, besplatno na the daily diff dot dev, link ispod. Dakle, današnja presuda: REVERT.

Da li e-mail treba ostati u kontekstu?

4:48 Opozvao bih stavljanje e-maila naloga u kontekst modela, jer adresa koju model može vidjeti je adresa koju može poslati, a readme samog štita kaže da pokriva jedan oblik. Pretplatite se, pritisnite zvonce i recite mi u komentarima da li biste to drugačije žigosali. I to je diff za danas. Ja sam Niko iz Axrisija. Spajajte odgovorno.

Izvori

1. Bug report: privacy violation in User-Agent headerGitHub · anthropics/claude-code #107757
2. Claude Code staff explanation and planned removal of the account email from the model contextHacker News
3. Claude Code staff comment on site User-Agent policiesHacker News
4. Privacy mod readme and sourceGitHub · anthropics/claude-code
5. Changelog entry for 2.1.317GitHub · anthropics/claude-code
6. July report on the account email injected into the model contextGitHub · anthropics/claude-code #81138
7. September 18 report of the email sent in a User-Agent headerGitHub · anthropics/claude-code #95258
8. User-Agent PolicyWikimedia Foundation
9. Accessing EDGAR dataU.S. Securities and Exchange Commission
10. Log files: combined log formatApache HTTP Server documentation
11. Dario Amodei at TechCrunch Disrupt 2023 portrait, CC BY 2.0, identification onlyTechCrunch via Wikimedia Commons
12. Original Dario Amodei portrait at TechCrunch Disrupt 2023 — TechCrunch; CC BY 2.0; background removed, cropped and resized; identifies Anthropic only, no endorsement, quote or reactionTechCrunch on Flickr
13. Portrait license: Creative Commons Attribution 2.0Creative Commons; TechCrunch portrait credit above
14. UNO Draw 25 Cards template — brief transformed narrator commentary, no actual reaction by anyone shown or blanket reuse licenceImgflip
15. The Office (Michael Scott) GIF, official @theoffice upload, Peacock — brief transformed narrator commentary, no actual reaction by anyone shown or blanket reuse licence; public hosting does not certify legal clearanceThe Office on GIPHY