Claude Code адправіў электронныя лісты карыстальнікаў на вэб-сайты ў якасці кантактнага адраса

Што ахоплівае гэта відэа

• Лідзія Халі з Anthropic заявіла, што электронная пошта ўліковага запісу была дададзена ў кантэкст мадэлі для зарэгістраваных карыстальнікаў, таму што Claude без яе прыдумляў назвы для такіх рэчаў, як тэгі @author.
• Такія сайты, як Wikimedia, запытваюць у сцэнарыяў інфарматыўны User-Agent з кантактнай інфармацыяй; палітыка прымае электронную пошту, вэб-сайт або карыстальніка вікі. Мадэль часам выкарыстоўвала электронную пошту ўліковага запісу, якая была ў яе ў кантэксце.
• Версія 2.1.317 дадала праверку. Яе апублікаванае readme апісвае адмову без запыту для выклікаў Bash, PowerShell і Monitor, якія ўтрымліваюць адрас і называюць User-Agent, і кажа, што WebFetch, WebSearch, сцэнарыі і значэнні часу выканання не правяраюцца. Журнал змяненняў і персанал апісваюць тую ж абарону як запыт або блакіроўку.
• Два карыстальнікі паведамілі, што загружаная абарона не адмовіла ў бясшкодных тэставых камандах; Anthropic не пацвердзіў гэтыя паведамленні. Стабільны канал усё яшчэ быў на 2.1.311, які не мае праверкі, і найноўшы запіс у журнале змяненняў на момант запісу быў 2.1.318.
• Праблемы GitHub, якія апісваюць тую ж уцечку User-Agent, датуюцца 18 верасня, з паведамленнем за ліпень аб укаранёным кантэкстным блоку. Вердыкт быў REVERT: адрас, які мадэль можа бачыць, - гэта адрас, які яна можа адправіць.

Перакладзеная стэнаграма

Перакладзена з арыгінальнай англійскай агучкі. Даступнае аўдыя і субтытры кантралююцца YouTube.

Як электронны ліст для ўваходу трапіў у Wikipedia і SEC?

0:00 Ваш электронны ліст для ўваходу прызначаны для ўваходу. Для некаторых зарэгістраваных карыстальнікаў Claude Code, ён таксама перадаваўся ў User-Agent запытаў да такіх сайтаў, як Wikipedia і SEC. У гэтым відэа: як ён туды трапіў? І ці вырашае гэта выпраўленне праблему? Anthropic кажа, што яны павінны былі злавіць гэта раней. Іх уласны трэкер памылак мае дату, наколькі раней, і я прачытаю яе перад вердыктам. Сёння пятніца, шостага лістапада, і гэта The Daily Diff.

0:24 Claude Code - гэта агент кадавання Anthropic. Ён чытае ваш праект і выконвае каманды за вас, уключаючы выклікі curl у сетку. User-Agent - гэта радок у кожным вэб-запыце, які называе праграму, якая выклікае.

Чаму мадэль ведала ваш электронны ліст?

0:35 Адрас трапіў туды наўмысна. Лідзія Халі, якая працуе над Claude Code, патлумачыла на Hacker News, што Claude працягваў прыдумляць назвы для такіх рэчаў, як тэгі аўтара ў кодзе, таму што ён не ведаў, хто вы. Таму Anthropic дадаў электронны ліст уліковага запісу ў кантэкст мадэлі для зарэгістраваных карыстальнікаў. Гэта выбухнула ў чацвер з праблемай на GitHub пад назвай парушэнне прыватнасці ў загалоўку User-Agent. Рэпарцёр вінаваціць гэта ў дзясятках махлярскіх электронных лістоў у дзень, і нішто публічна не даказвае гэтую сувязь.

1:02 Тэма на Hacker News набрала больш за тысячу дзвесце балаў. У паведамленні за ліпень ужо цытаваўся ўстаўлены тэкст. Пад загалоўкам «электронная пошта карыстальніка» гаворыцца, што адрас электроннай пошты карыстальніка затым ваш адрас. Той рэпарцёр таксама злавіў Claude, які запісваў адрас у git commits, і абарона ад выштурхоўвання GitHub заблакавала выштурхоўванне.

Чаму вэб-сайты запытваюць у сцэнарыяў электронны ліст?

1:20 Некаторыя сайты просяць сцэнарыі ідэнтыфікаваць сябе. Палітыка Wikimedia кажа, што сцэнарыі павінны выкарыстоўваць інфарматыўны User-Agent з кантактнай інфармацыяй, інакш яны могуць быць заблакаваныя без папярэджання. Вэб-сайт таксама працуе як кантакт. Старонка Edgar ад SEC паказвае ўзор загалоўка з назвай кампаніі і электронным лістом адміністратара. Калі Claude Code піша ўласную каманду curl для Wikipedia, сайт хоча кантакт, і адзіны адрас у яго кантэксце - гэта ваш электронны ліст для ўваходу. Распрацоўшчык Claude Code выказаўся такім чынам на Hacker News.

1:48 Claude, відаць, схільны вырашаць, што гэтую палітыку варта выконваць. Па словах карыстальнікаў, якія яго цытуюць, той жа кантэкстны блок загадаў мадэлі ніколі не

Ці не сказаў ёй ніхто, каб яна гэтага не рабіла?

1:56 адпраўляць гэты адрас у незвязаны сэрвіс, у загалоўку, URL або карыснай нагрузцы. У адным кастрычніцкім паведамленні Claude падвёў вынікі таго, што адбылося далей. Я ўсё роўна адправіў яго. І User-Agent не знікае пасля запыту. Стандартны камбінаваны фармат лога Apache запісвае яго ў лог доступу, побач з IP-адрасам наведвальніка і часам. Першы адказ Anthropic быў выпушчаны ў версіі 3.17.

Што насамрэч блакуе мод прыватнасці?

2:19 Журнал змяненняў называе гэта праверкай, якая запытвае, перш чым выклік вэб- або абалонкі адправіць ваш электронны ліст уліковага запісу ў сетку. Ён уключаны па змаўчанні. Але стабільны канал усё яшчэ знаходзіцца на 3.11, які гэтага не мае. Яго зыходны код стаў публічным менш чым праз дзве гадзіны пасля праблемы. Ён падключае інструменты абалонкі, што азначае Bash, PowerShell і Monitor. Калі каманда ўтрымлівае ваш адрас і называе User-Agent, readme кажа, што яна адхіляецца, без запыту.

2:44 Журнал змяненняў кажа, што ён запытвае, каментар персаналу кажа, што ён блакуе, а readme кажа, што ён адхіляе без запыту. Увесь вышыбала - гэта два супадзенні слоў, без парсера, наўмысна. Затым карыстальнікі пратэставалі яго.

Ці злавіла абарона тэст?

2:56 Адзін на Mac і адзін на Windows запускалі бясшкодныя каманды, echo у нікуды і curl на несапраўдны дамен dot, які ніколі не вырашаецца. Абодва кажуць, што мод быў паказаны як загружаны, і ні адна каманда не была адхілена. Гэта паведамленні карыстальнікаў; Anthropic не пацвердзіў іх. Readme таксама пералічвае, што праходзіць. Вэб-інструменты, WebFetch і WebSearch, не правяраюцца, што дзіўна супадае з журналам змяненняў, які згадвае вэб-выклікі. Таксама не правяраецца сцэнарый, які ўтрымлівае ваш адрас, або значэнне, вылічанае ў час выканання.

3:25 Readme называе ўсё гэта ветлівасцю, якая ахоплівае адну форму. Халі кажа, што наступны выпуск выдаліць электронны ліст уліковага запісу з таго, што Claude Code

Калі выйдзе сапраўднае выпраўленне, і што рабіць цяпер?

3:32 дае мадэлі, і павінен з'явіцца ў пачатку наступнага тыдня. Фільтр на выхадзе павінен распазнаваць кожны маршрут. Калі адрас ніколі не ўводзіцца, няма чаго фільтраваць. На момант запісу, найноўшы запіс у журнале змяненняў усё яшчэ 3.18. Калі вы выкарыстоўваеце стабільную версію, абнавіцеся да 3.17 або навей. Калі вы пішаце хукі, прамежкавае рашэнне тэсціроўшчыка Windows таксама правярае змены файлаў, так што жорстка закадаваны адрас перахопліваецца да таго, як сцэнарый будзе напісаны. І шукайце ў сваіх стэнаграмах сесій свой уласны электронны ліст побач з User-Agent.

Наколькі раней пра гэта паведамлялася?

4:00 Цяпер гэтая дата. Мы павінны былі злавіць гэтыя паводзіны раней, напісала Халі. Ліпеньскае паведамленне ўжо папярэджвала, што усё ў кантэксце можа пратачыцца ў выходныя выклікі інструментаў. І васемнаццатага верасня карыстальнік падаў памылку пад назвай, электронны ліст карыстальніка з метаданых уліковага запісу ненаўмысна адпраўлены ў знешні сэрвіс у загалоўку User-Agent. Гэта за сем тыдняў да чацвяргавай тэмы, і бот пазначыў яе як вобласць бяспекі прыкладна праз хвіліну.

4:24 Да канца кастрычніка, па меншай меры, яшчэ чатыры праблемы апісвалі тую ж уцечку, на Wikipedia, SEC і гульнявую вікі. На сённяшні дзень усе пяць адкрыты. Anthropic кажа, што яны заўважылі, калі гэта пачало з'яўляцца на Reddit. Само прабачэнне было хуткім і простым, я прызнаю гэта. Калі вы аддаеце перавагу прачытаць гэта, чым пачуць, як я гэта кажу, 'diff' прыходзіць у вашу паштовую скрыню кожную раніцу, бясплатна на thedailydiff.dev, спасылка ніжэй. Такім чынам, сённяшні вердыкт: REVERT.

Ці павінен электронны ліст заставацца ў кантэксце?

4:48 Я б адмяніў даданне электроннага ліста ўліковага запісу ў кантэкст мадэлі, таму што адрас, які мадэль можа бачыць, - гэта адрас, які яна можа адправіць, і ўласны readme абароны кажа, што яна ахоплівае адну форму. Падпішыцеся, націсніце на званочак і скажыце мне ў каментарах, ці паставілі б вы гэта інакш. І гэта 'diff' на сёння. Я Ніка з Axrisi. Злівайце адказна.

Крыніцы

1. Bug report: privacy violation in User-Agent headerGitHub · anthropics/claude-code #107757
2. Claude Code staff explanation and planned removal of the account email from the model contextHacker News
3. Claude Code staff comment on site User-Agent policiesHacker News
4. Privacy mod readme and sourceGitHub · anthropics/claude-code
5. Changelog entry for 2.1.317GitHub · anthropics/claude-code
6. July report on the account email injected into the model contextGitHub · anthropics/claude-code #81138
7. September 18 report of the email sent in a User-Agent headerGitHub · anthropics/claude-code #95258
8. User-Agent PolicyWikimedia Foundation
9. Accessing EDGAR dataU.S. Securities and Exchange Commission
10. Log files: combined log formatApache HTTP Server documentation
11. Dario Amodei at TechCrunch Disrupt 2023 portrait, CC BY 2.0, identification onlyTechCrunch via Wikimedia Commons
12. Original Dario Amodei portrait at TechCrunch Disrupt 2023 — TechCrunch; CC BY 2.0; background removed, cropped and resized; identifies Anthropic only, no endorsement, quote or reactionTechCrunch on Flickr
13. Portrait license: Creative Commons Attribution 2.0Creative Commons; TechCrunch portrait credit above
14. UNO Draw 25 Cards template — brief transformed narrator commentary, no actual reaction by anyone shown or blanket reuse licenceImgflip
15. The Office (Michael Scott) GIF, official @theoffice upload, Peacock — brief transformed narrator commentary, no actual reaction by anyone shown or blanket reuse licence; public hosting does not certify legal clearanceThe Office on GIPHY