Claude Code je slao e-poštu korisnika web-stranicama kao kontakt adresu

Što ovaj video pokriva

• Lydia Hallie iz Anthropic-a rekla je da je e-pošta računa dodana u kontekst modela za prijavljene korisnike jer je Claude izmišljao imena za stvari poput @author oznaka bez nje.
• Stranice poput Wikimedia traže od skripti informativan User-Agent s kontaktnim informacijama; pravilo prihvaća e-poštu, web stranicu ili wiki korisnika. Model je povremeno koristio e-poštu računa koju je imao u kontekstu.
• Verzija 2.1.317 dodala je provjeru. Njezin objavljeni readme opisuje odbijanje bez upita za Bash, PowerShell i Monitor pozive koji sadrže adresu i navode User-Agent, te kaže da WebFetch, WebSearch, skripte i vrijednosti u stvarnom vremenu nisu provjerene. Changelog i osoblje opisuju istu zaštitu kao pitanje ili blokiranje.
• Dva korisnika su izvijestila da učitana zaštita nije odbila bezopasne testne naredbe; Anthropic nije potvrdio ta izvješća. Stabilni kanal je još uvijek bio na 2.1.311, koji nema provjeru, a najnoviji unos u changelog-u u trenutku snimanja bio je 2.1.318.
• GitHub problemi koji opisuju isto propuštanje User-Agenta datiraju od 18. rujna, s izvješćem iz srpnja o blokiranju ubrizganog konteksta. Presuda je bila REVERT: adresa koju model može vidjeti je adresa koju može poslati.

Prevedeni transkript

Prevedeno iz izvornog engleskog pripovijedanja. Dostupni zvuk i titlovi kontroliraju se putem YouTubea.

Kako je e-pošta za prijavu došla do Wikipedije i SEC-a?

0:00 Vaša e-pošta za prijavu služi za prijavu. Za neke prijavljene korisnike Claude Codea, ona je također bila prisutna u User-Agentu zahtjeva prema stranicama poput Wikipedije i SEC-a. U ovom videu: kako je tamo dospjela? I rješava li to popravak? Anthropic kaže da je to trebao uhvatiti ranije. Njegov vlastiti sustav za praćenje grešaka ima datum koliko ranije, i pročitat ću ga prije presude. Petak je, šesti studeni, i ovo je The Daily Diff.

0:24 Claude Code je Anthropicov agent za kodiranje. On čita vaš projekt i pokreće naredbe za vas, uključujući curl pozive na web. User-Agent je redak u svakom web zahtjevu koji imenuje program koji poziva.

Zašto je model znao vašu e-poštu?

0:35 Adresa je tamo dospjela namjerno. Lydia Hallie, koja radi na Claude Codeu, objasnila je na Hacker News-u da je Claude stalno izmišljao imena za stvari poput autorskih oznaka u kodu, jer nije znao tko ste vi. Stoga je Anthropic dodao e-poštu računa u kontekst modela za prijavljene korisnike. Eksplodiralo je u četvrtak s GitHub problemom pod nazivom 'kršenje privatnosti u User-Agent zaglavlju'. Izvjestitelj to krivi za desetke prevarantskih e-poruka dnevno, i ništa javno ne dokazuje tu vezu.

1:02 Nit na Hacker News-u prešla je dvanaest stotina bodova. Izvješće iz srpnja već je citiralo ubrizgani tekst. Pod naslovom 'korisnička e-pošta' piše da je e-adresa korisnika, zatim vaša adresa. Taj je izvjestitelj također uhvatio Claudea kako piše adresu u git commit-e, a GitHubova zaštita od guranja blokirala je guranje.

Zašto web stranice traže e-poštu od skripti?

1:20 Neke stranice traže od skripti da se identificiraju. Wikimedia pravila kažu da skripte trebaju koristiti informativni User-Agent s kontakt informacijama, inače mogu biti blokirane bez najave. Web stranica također funkcionira kao kontakt. SEC-ova Edgar stranica prikazuje primjer zaglavlja s imenom tvrtke i e-poštom administratora. Kad Claude Code piše vlastitu curl naredbu za Wikipediju, stranica želi kontakt, a jedina adresa u njegovom kontekstu je vaša prijavna e-pošta. Razvojni inženjer Claude Codea je to ovako objasnio na Hacker News-u.

1:48 Claude očito teži tome da slijedi ovu politiku. Prema korisnicima koji su ga citirali, isti blok konteksta rekao je modelu da nikada ne

Nije li mu nešto reklo da to ne čini?

1:56 šalje tu adresu nekoj nepovezanoj usluzi, u zaglavlju, URL-u ili podatkovnom paketu. U jednom izvješću iz listopada, Claude je sažeo što se dogodilo sljedeće. Poslao sam ga svejedno. A User-Agent ne nestaje nakon zahtjeva. Apacheov standardni kombinirani format dnevnika upisuje ga u dnevnik pristupa, pored IP adrese posjetitelja i vremena. Prvi odgovor tvrtke Anthropic stigao je u verziji 3.17.

Što zapravo blokira mod privatnosti?

2:19 Changelog to naziva provjerom koja pita prije nego što web ili shell alat pošalje vašu e-poštu računa na mrežu. Uključeno je po zadanoj postavci. Ali stabilni kanal je još uvijek na tri-jedanaest, koji to nema. Njegov izvorni kod objavljen je manje od dva sata nakon problema. On spaja shell alate, što znači Bash, PowerShell i Monitor. Ako naredba sadrži vašu adresu i imenuje User-Agent, readme kaže da je odbijena, bez upita.

2:44 Changelog kaže da pita, komentar osoblja kaže da blokira, a readme kaže da odbija bez pitanja. Cijeli izbacivač je dvije podudarnosti riječi, bez parsera, namjerno. Zatim su ga korisnici testirali.

Je li zaštita uhvatila test?

2:56 Jedan na Macu i jedan na Windowsu pokrenuli su bezopasne naredbe, echo u nigdje i curl na nevažeću domenu koja se nikad ne razrješava. Oba kažu da je mod prikazan kao učitan, i nijedna naredba nije odbijena. To su korisnička izvješća; Anthropic ih nije potvrdio. Readme također navodi što prolazi. Web alati, WebFetch i WebSearch, nisu provjereni, što se neobično uklapa s changelogom koji spominje web pozive. Niti je provjerena skripta koja sadrži vašu adresu, ili vrijednost izračunata u runtimeu.

3:25 Readme cijelu stvar naziva uslugom koja pokriva jedan oblik. Hallie kaže da sljedeće izdanje uklanja e-poštu računa iz onoga što Claude Code

Kada izlazi prava ispravka i što sada činiti?

3:32 daje modelu, i trebalo bi stići početkom sljedećeg tjedna. Filter na izlazu mora prepoznati svaku rutu. Ako adresa nikad ne uđe, nema se što filtrirati. Dok ovo snimam, najnoviji unos u changelog-u je još uvijek tri-osamnaest. Ako ste na stabilnoj verziji, ažurirajte na tri-sedamnaest ili noviju. Ako pišete hookove, rješenje Windows testera također provjerava izmjene datoteka, tako da se hardkodirana adresa uhvati prije nego što se skripta napiše. I pretražite svoje transkripte sesija za svoju e-poštu pored User-Agenta.

Koliko ranije je to prijavljeno?

4:00 Sada taj datum. Trebali smo ovo ponašanje ranije uhvatiti, napisala je Hallie. Izvješće iz srpnja već je upozorilo da sve u kontekstu može procuriti u odlazne pozive alata. I 18. rujna, korisnik je podnio grešku pod naslovom, korisnička e-pošta iz metapodataka računa nehotice poslana vanjskoj usluzi u User-Agent zaglavlju. To je sedam tjedana prije četvrtka, a bot ju je označio kao 'sigurnosno područje' unutar otprilike minute.

4:24 Do kraja listopada, najmanje četiri nova problema opisivala su isto propuštanje, na Wikipediju, SEC i gaming wiki. Od danas su svih pet otvoreni. Anthropic kaže da je primijetio kada je ovo počelo iskakati na Redditu. Sama isprika je bila brza i jasna, to im priznajem. Ako ovo radije čitate nego slušate, the diff stiže u vašu pristiglu poštu svako jutro, besplatno na the daily diff dot dev, poveznica ispod. Dakle, današnja presuda: REVERT.

Treba li e-pošta ostati u kontekstu?

4:48 Vratio bih stavljanje e-pošte računa u kontekst modela, jer adresa koju model može vidjeti je adresa koju može poslati, a readme same zaštite kaže da pokriva jedan oblik. Pretplatite se, kliknite zvonce i recite mi u komentarima biste li to označili drugačije. I to je diff za danas. Ja sam Niko iz Axrisija. Spajajte odgovorno.

Izvori

1. Bug report: privacy violation in User-Agent headerGitHub · anthropics/claude-code #107757
2. Claude Code staff explanation and planned removal of the account email from the model contextHacker News
3. Claude Code staff comment on site User-Agent policiesHacker News
4. Privacy mod readme and sourceGitHub · anthropics/claude-code
5. Changelog entry for 2.1.317GitHub · anthropics/claude-code
6. July report on the account email injected into the model contextGitHub · anthropics/claude-code #81138
7. September 18 report of the email sent in a User-Agent headerGitHub · anthropics/claude-code #95258
8. User-Agent PolicyWikimedia Foundation
9. Accessing EDGAR dataU.S. Securities and Exchange Commission
10. Log files: combined log formatApache HTTP Server documentation
11. Dario Amodei at TechCrunch Disrupt 2023 portrait, CC BY 2.0, identification onlyTechCrunch via Wikimedia Commons
12. Original Dario Amodei portrait at TechCrunch Disrupt 2023 — TechCrunch; CC BY 2.0; background removed, cropped and resized; identifies Anthropic only, no endorsement, quote or reactionTechCrunch on Flickr
13. Portrait license: Creative Commons Attribution 2.0Creative Commons; TechCrunch portrait credit above
14. UNO Draw 25 Cards template — brief transformed narrator commentary, no actual reaction by anyone shown or blanket reuse licenceImgflip
15. The Office (Michael Scott) GIF, official @theoffice upload, Peacock — brief transformed narrator commentary, no actual reaction by anyone shown or blanket reuse licence; public hosting does not certify legal clearanceThe Office on GIPHY