Клод Код слао корисничке имејлове веб-сајтовима као контакт адресу

Шта овај видео покрива

• Лидија Хали из компаније Anthropic је рекла да је имејл налога додат у контекст модела за пријављене кориснике јер је Клод измишљао имена за ствари попут @author ознака без њега.
• Сајтови попут Викимедије траже од скрипти информативан User-Agent са контакт информацијама; политика прихвата имејл, веб-сајт или вики корисника. Модел је понекад користио имејл налога који је имао у контексту.
• Верзија 2.1.317 је додала проверу. Њен објављени readme описује одбијање без упита за Bash, PowerShell и Monitor позиве који садрже адресу и наводе User-Agent, и каже да WebFetch, WebSearch, скрипте и вредности времена извршавања нису проверене. Промена лога и особље описују исту заштиту као питање или блокирање.
• Два корисника су пријавила да учитана заштита није одбила безопасне тест команде; Anthropic није потврдио те извештаје. Стабилни канал је и даље био на 2.1.311, који нема проверу, а најновији унос у промени лога у тренутку снимања био је 2.1.318.
• GitHub проблеми који описују исто цурење User-Agent-а датирају од 18. септембра, са извештајем из јула о убаченом контекстуалном блоку. Пресуда је била REVERT: адреса коју модел може да види је адреса коју може да пошаље.

Преведени транскрипт

Преведено са оригиналне енглеске нарације. Доступни аудио и титлови контролисани су од стране YouTube-а.

Како је имејл за пријаву доспео до Википедије и СЕЦ-а?

0:00 Ваш имејл за пријаву је за пријављивање. За неке пријављене кориснике Клод Кода, такође је путовао у User-Agent-у захтевима за сајтове попут Википедије и СЕЦ-а. У овом видеу: како је доспео тамо? И да ли га поправка затвара? Anthropic каже да је ово требало да открије раније. Њихов сопствени систем за праћење грешака има датум за колико раније, и прочитаћу га пре пресуде. Петак је, шести новембар, и ово је The Daily Diff.

0:24 Клод Код је Anthropic-ов агент за кодирање. Он чита ваш пројекат и покреће команде за вас, укључујући curl позиве на веб. User-Agent је линија у сваком веб захтеву која именује програм који позива.

Зашто је модел знао ваш имејл?

0:35 Адреса је тамо доспела намерно. Лидија Хали, која ради на Клод Коду, објаснила је на Hacker News-у да Клод је стално измишљао имена за ствари попут ауторских ознака у коду, јер није знао ко сте ви. Тако је Anthropic додао имејл налога у контекст модела за пријављене кориснике. То је експлодирало у четвртак са GitHub проблемом под насловом повреда приватности у User-Agent заглављу. Репортер то приписује десетинама преварних имејлова дневно, и ништа јавно не доказује ту везу.

1:02 Тема на Hacker News-у је прешла дванаест стотина поена. Извештај из јула је већ цитирао убачени текст. Под насловом кориснички имејл, пише да је имејл адреса корисника, затим ваша адреса. Тај репортер је такође ухватио Клода како пише адресу у git комитове, и GitHub-ова заштита од гурања је блокирала гурање.

Зашто веб-сајтови траже имејл од скрипти?

1:20 Неки сајтови траже од скрипти да се идентификују. Политика Викимедије каже да скрипте треба да користе информативан User-Agent са контакт информацијама, или могу бити блокиране без упозорења. Веб-сајт такође ради као контакт. СЕЦ-ова Едгар страница приказује узорак заглавља са именом компаније и администраторским имејлом. Када Клод Код пише сопствену curl команду за Википедију, сајт жели контакт, а једина адреса у његовом контексту је ваша пријавна имејл. Програмер Клод Кода је то овако објаснио на Hacker News-у.

1:48 Клод очигледно тежи да одлучи да се ова политика исплати пратити. Према корисницима који га цитирају, исти контекстни блок је рекао моделу да никада не

Зар му нико није рекао да то не ради?

1:56 шаље ту адресу неком неповезаном сервису, у заглављу, УРЛ-у или садржају. У једном октобарском извештају, Клод је резимирао шта се даље догодило. Ипак сам га послао. А User-Agent не нестаје након захтева. Apache-ов стандардни комбиновани формат логовање пише га у приступни лог, поред IP адресе посетиоца и времена. Први одговор Anthropic-а испоручен је у верзији 3.17.

Шта приватни мод заправо блокира?

2:19 Промена лога то назива провером која пита пре него што веб или шел алат пошаље ваш имејл налога на мрежу. Подразумевано је укључен. Али стабилни канал је и даље на 3.11, који то нема. Његов извор је објављен мање од два сата након проблема. Закачи се за шел алате, што значи Bash, PowerShell и Monitor. Ако команда садржи вашу адресу и наводи User-Agent, readme каже да се одбија, без упита.

2:44 Промена лога каже да пита, коментар особља каже да блокира, а readme каже да одбија без питања. Цео избацивач је два подударања речи, без парсера, намерно. Затим су га корисници тестирали.

Да ли је заштита ухватила тест?

2:56 Један на Мац-у и један на Windows-у су покренули безопасне команде, echo у нигде и curl на неважећи домен који се никада не разреши. Обоје кажу да је мод приказан као учитан, и ниједна команда није одбијена. То су кориснички извештаји; Anthropic их није потврдио. Readme такође наводи шта пролази. Веб алати, WebFetch и WebSearch, нису проверени, што је чудно уклапање са променом лога која помиње веб позиве. Ни скрипта која садржи вашу адресу, ни вредност израчуната у времену извршавања.

3:25 Readme све то назива љубазношћу која покрива један облик. Хали каже да следеће издање уклања имејл налога из онога што Клод Код

Када стиже право решење и шта сада да радите?

3:32 даје моделу, и требало би да стигне почетком следеће недеље. Филтер на излазу мора да препозна сваку руту. Ако адреса никада не уђе, нема шта да се филтрира. Док ово снимам, најновији унос у промени лога је и даље 3.18. Ако сте на стабилном, ажурирајте на 3.17 или новију верзију. Ако пишете хукове, привремено решење тестера за Windows такође проверава измене датотека, тако да се хардкодирана адреса ухвати пре него што се скрипта напише. И претражите транскрипте сесије за свој имејл поред User-Agent-а.

Колико раније је пријављено?

4:00 Сада тај датум. Требало је да ово откријемо раније, написала је Хали. Јулски извештај је већ упозорио да било шта у контексту може да процури у одлазне позиве алата. А 18. септембра, корисник је поднео грешку под насловом, кориснички имејл из метаподатака налога ненамерно послат екстерној услузи у User-Agent заглављу. То је седам недеља пре четвртакшње теме, и бот га је означио као област безбедности за отприлике минут.

4:24 До краја октобра, најмање четири додатна проблема су описивала исто цурење, на Википедију, СЕЦ и вики за игре. Од данас, свих пет је отворено. Anthropic каже да је приметио када је ово почело да излази на Редиту. Само извињење је било брзо и јасно, то ћу им признати. Ако више волите да ово прочитате него да ме чујете, diff стиже у ваше пријемно сандуче сваког јутра, бесплатно на the daily diff dot dev, линк испод. Дакле, данашња пресуда: REVERT.

Да ли имејл треба да остане у контексту?

4:48 Вратио бих стављање имејла налога у контекст модела, јер адреса коју модел може да види је адреса коју може да пошаље, а readme саме заштите каже да покрива један облик. Претплатите се, притисните звоно и реците ми у коментарима да ли бисте га означили другачије. И то је diff за данас. Ја сам Нико из Axrisi-ја. Спајајте одговорно.

Извори

1. Bug report: privacy violation in User-Agent headerGitHub · anthropics/claude-code #107757
2. Claude Code staff explanation and planned removal of the account email from the model contextHacker News
3. Claude Code staff comment on site User-Agent policiesHacker News
4. Privacy mod readme and sourceGitHub · anthropics/claude-code
5. Changelog entry for 2.1.317GitHub · anthropics/claude-code
6. July report on the account email injected into the model contextGitHub · anthropics/claude-code #81138
7. September 18 report of the email sent in a User-Agent headerGitHub · anthropics/claude-code #95258
8. User-Agent PolicyWikimedia Foundation
9. Accessing EDGAR dataU.S. Securities and Exchange Commission
10. Log files: combined log formatApache HTTP Server documentation
11. Dario Amodei at TechCrunch Disrupt 2023 portrait, CC BY 2.0, identification onlyTechCrunch via Wikimedia Commons
12. Original Dario Amodei portrait at TechCrunch Disrupt 2023 — TechCrunch; CC BY 2.0; background removed, cropped and resized; identifies Anthropic only, no endorsement, quote or reactionTechCrunch on Flickr
13. Portrait license: Creative Commons Attribution 2.0Creative Commons; TechCrunch portrait credit above
14. UNO Draw 25 Cards template — brief transformed narrator commentary, no actual reaction by anyone shown or blanket reuse licenceImgflip
15. The Office (Michael Scott) GIF, official @theoffice upload, Peacock — brief transformed narrator commentary, no actual reaction by anyone shown or blanket reuse licence; public hosting does not certify legal clearanceThe Office on GIPHY