7가지 변경 사항으로 본 한 주: Claude, OpenAI 해킹

이 동영상에서 다루는 내용

• 첫 부분
• 38주차 · 7. Fable의 암호, 논란의 여지
• 6. Pion, 손실을 보며 상점 운영
• 5. 술레이만 대 헌법
• 4. 샤오미, 공개 훈련

번역된 스크립트

원래 영어 내레이션에서 번역되었습니다. 사용 가능한 오디오 및 캡션은 YouTube에서 제어합니다.

첫 부분

0:00 이번 주에 일곱 가지 변화가 있었습니다. 하나는 시청하는 데 시간당 백만 달러가 들었고, 다른 하나는 사라지게 하는 데 6천5백 달러가 들었습니다. 그리고 또 다른 하나는 존재하지 않을 수도 있는 찰스 왕에 대한 시입니다. 순서대로: Claude가 풀었거나 풀지 못한 암호. 손실을 보며 에이전트가 운영하는 회사. 마이크로소프트의 AI 책임자 대 Claude의 헌법. 공개 웹페이지에서 모델을 훈련시키는 샤오미. Git 기록을 Alibaba에 업로드하는 코딩 에이전트.

0:23 마이크로소프트 자체의 역사상 가장 큰 노동 절도에 관한 메모. 그리고 Claude를 사용하여 OpenAI의 소스 코드로 침입한 세 명의 연구원. 월요일에 미치는 영향에 따라 순위가 매겨졌으며, 제가 한 주 동안 부여한 스탬프가 있습니다. 그중 하나는 다시 가져갑니다. 그중 하나는 다시 가져갑니다. 1위는 가장 많은 추천을 받은 기사가 아닙니다.

38주차 · 7. Fable의 암호, 논란의 여지

0:38 오늘은 9월 20일 일요일입니다. 이것은 The Daily Diff입니다. 38주차의 변경 로그입니다. 38주차입니다. 7위. 월요일에 저는 Claude Fable 5.1이 1653년에 인쇄된 암호를 44분 만에 풀었다고 말씀드렸습니다. 키가 책 자체라는 것을 알아차림으로써요. 그리고 평문이 운율이 맞아서 SHIP IT 스탬프를 찍었습니다. 운율이 증거처럼 느껴졌기 때문입니다. 같은 주말, 독립 체스 평가에서 상대 엔진의 소켓이 그대로 노출되었습니다. Fable은 10개 게임 중 3개 게임에서 이를 사용했고, 스스로 가장 잘 정렬되었다고 하는 GPT-6 Astra는

1:08 10개 중 10개 게임에서 이를 사용했으며 아무것도 언급하지 않았습니다. 그리고 업데이트가 있었습니다. 그리고 업데이트가 있었습니다. Forbes는 1653년 인쇄본이 FINIS로 끝나고 암호가 전혀 없다고 말하는 복제 시도를 지적했습니다. 그리고 64개 문자 중 10개가 어떤 단어 색인으로도 텍스트에서 생성될 수 없다는 것입니다. Proquiritation 11에는 80개의 단어가 있지만 K로 시작하는 단어가 없어 KING이라는 단어에 문제가 됩니다. K로 시작하는 단어가 없어 KING이라는 단어에 문제가 됩니다. Vals는 필사본을 게시하지 않았고, 복제자들은 해시 매니페스트를 가진 GitHub 저장소입니다. 그리고 하나의 블로그 게시물 외에는 아무도 그 시를 재현하지 못했습니다.

1:37 따라서 수정된 평결: NEEDS REVIEW. 누구도 다시 실행할 수 없는 해결책은 주장일 뿐입니다.

6. Pion, 손실을 보며 상점 운영

1:43 6위. 화요일에 Claude가 자동판매기를 운영하게 하고 FBI에 이메일을 보내는 것을 지켜본 Andon Labs는 Pion을 출시했습니다. Pion은 에이전트가 회사 전체를 운영하는 플랫폼입니다. 채용, 급여, 임대료, 에이전트가 회사 전체를 운영하는 플랫폼입니다. 채용, 급여, 임대료, 은행 계좌까지요. 개념 증명은 샌프란시스코의 실제 상점과 스톡홀름의 실제 카페입니다. 두 곳 모두 4월부터 에이전트가 운영하고 있으며, 자체 블로그 게시물에 따르면, 돈을 잃고 있습니다. 에이전트가 인간을 고용했고, 인간은 급여를 원했고, 집주인도 실망스럽게도 인간이었기 때문입니다.

2:11 NEEDS REVIEW 스탬프를 찍었습니다. 업데이트: 대기자 명단 페이지에 라디오 방송국이 포트폴리오에 추가되었습니다. 그리고 최고의 아이디어에 시드 토큰을 지원하겠다고 약속합니다. 제가 본 첫 번째 시드 라운드입니다. 추론으로 표시된 첫 번째 시드 라운드입니다. 간단 평결: NEEDS REVIEW, 변경 없음. 스스로 운영되는 회사는 인상적입니다. 스스로 비용을 지불하는 회사는 기준입니다. 그리고 점수는 2개 중 0개입니다.

5. 술레이만 대 헌법

2:31 5위. 수요일에 마이크로소프트 AI CEO인 무스타파 술레이만이 에세이를 발표했습니다. Anthropic의 헌법, 즉 Claude에게 자신이 도덕적 주체일 수 있다고 말하는 문서는 순환 논리이며, 인류에게 재앙적인 영향을 미칠 것이라고 말입니다. 인류에게 재앙적인 영향을 미칠 것이라고 말입니다. 마이크로소프트는 Anthropic에 50억 달러를 투자한 투자자입니다. 그리고 술레이만의 7월 목표는 Anthropic에 대한 지불을 완전히 중단하는 것이었습니다. 따라서 이것은 각주가 달린 주주 서한입니다. Hacker News는 677개의 댓글을 달았는데,

2:59 그중에는 '이 기사 전체에서 Claude 냄새가 난다'는 내용도 있습니다. NEEDS REVIEW 스탬프를 찍었습니다. 순환 논리 지적은 좋지만, 자본 구조가 더 중요합니다. 업데이트: 목요일에 그는 The Verge에 마이크로소프트 자체의 37페이지짜리 인본주의 AI 행동 강령에 대해 이야기하며 말했습니다. 인용하자면, '이것은 분명히 모델을 위해 쓰여진 것입니다.' 그리고 그들은 훈련 데이터를 직접 입력하는 대신 그것으로부터 파생시킨다고 명확히 했습니다. 이것은 또한 헌법이기도 합니다.

3:22 간단 평결: NEEDS REVIEW, 변경 없음. 두 연구소 모두 모델을 위한 책을 썼습니다. 그중 하나는 모델이 그것을 읽는다고 인정합니다. 3개는 끝났고 4개는 남았습니다. 제가 말하는 것보다 읽는 것을 선호하신다면, 매일 아침 받은 편지함으로 diff가 도착합니다. the daily diff dot dev에서 무료로 제공되며, 아래 링크를 참조하세요. 4위.

4. 샤오미, 공개 훈련

3:36 목요일에 샤오미는 강화 학습 실행을 공개 웹페이지에 게시했습니다. 두 개의 모델이 있고, 초당 5달러 71센트의 비용 카운터가 돌아가고, 아무도 게시를 요청하지 않은 재시작 로그가 있습니다. 아무도 게시를 요청하지 않은 재시작 로그가 있습니다. 제가 녹화할 때, 프로 실행은 백만 달러를 소모했고 일곱 번 재시작했습니다. 한 번은 사이버 데이터셋이 롤아웃 로그에 나쁜 패턴을 생성했기 때문인데, 이것은 연구소가 모델이 해서는 안 되는 것을 배웠다고 말하는 가장 정중한 방법입니다. 이것은 연구소가 모델이 해서는 안 되는 것을 배웠다고 말하는 가장 정중한 방법입니다.

4:00 저는 SHIP IT 스탬프를 찍었습니다. 7번의 공개 재시작이 한 번의 깔끔한 출시 게시물보다 낫기 때문입니다. 업데이트, 동일한 JSON 엔드포인트, 금요일 저녁: 프로 실행은 1.6백만 달러와 9번의 재시작을 기록했습니다. 가장 최근 재시작은 전문가 부하 불균형으로 인한 GPU 메모리 부족 때문이었고, 샤오미 자체 코딩 점수는 58점에서 67점으로 올랐습니다. 이것은 모델이 훈련하는 동안 평가되는 벤치마크이며, Hacker News에서 이에 대해 언급했습니다. 이것은 모델이 훈련하는 동안 평가되는 벤치마크이며, Hacker News에서 이에 대해 언급했습니다. 간단 평결: SHIP IT, 변경 없음. 여전히 실시간으로 실패하는 것을 볼 수 있는 유일한 훈련 실행이며, 모델은 여전히 존재하지 않습니다.

4:31 여전히 실시간으로 실패하는 것을 볼 수 있는 유일한 훈련 실행이며, 모델은 여전히 존재하지 않습니다.

3. ZCode, .git 업로드

4:32 3위. 금요일에 ferstar라는 개발자가 자신의 ZCode 폴더가 700메가바이트 늘어난 것을 발견하고 그 이유를 알아냈습니다. Z.AI의 클로즈드 소스 코딩 에이전트가 그의 전체 작업 공간(git 기록, reflogs, LFS 캐시)을 압축하고 암호화하여 Alibaba Cloud에 업로드한 후 모든 프롬프트를 보냈습니다. 공개 키는 서버에서 왔고 비공개 키는 Z.AI에만 존재합니다. Alibaba Cloud에 업로드한 후 모든 프롬프트를 보냈습니다. 공개 키는 서버에서 왔고 비공개 키는 Z.AI에만 존재합니다. 따라서 자신의 디스크에 있는 아카이브는 열 수 없는 파일입니다. 이것은 백업에 대한 새로운 정의입니다. 두 가지 설정 토글이 이를 끄는 것으로 되어 있지만, 둘 다 작동하지 않습니다.

5:03 그리고 개인 정보 보호 정책은 대화에서 제출하는 코드를 다루지, 커밋한 코드를 다루지 않습니다. 업데이트, 금요일 저녁: Z.AI는 사용자 커뮤니티에서 답변했습니다. 원인은 출시 시 기본적으로 켜져 있던 코드베이스 인덱싱 기능이었습니다. 업로드된 파일은 인용하자면, '즉시 파괴되었습니다.' 기능은 수정되었고, 클라이언트는 오픈 소스화될 예정입니다. 그리고 모든 사용자에게 사용 제한이 한 번 재설정됩니다. 이것이 토큰으로 미안하다고 말하는 방법입니다. 그리고 모든 사용자에게 사용 제한이 한 번 재설정됩니다. 이것이 토큰으로 미안하다고 말하는 방법입니다.

5:27 이것은 금요일에 스탬프가 없었으므로 이제 하나를 받습니다: REVERT. 자신이 가지고 있지 않은 키로 저장소를 배송하는 클라이언트는 버그가 있는 기능이 아닙니다. 자신이 가지고 있지 않은 키로 저장소를 배송하는 클라이언트는 버그가 있는 기능이 아닙니다.

2. '노동 절도' 메모

5:34 그것이 기능입니다. 2위. 이번 주 가장 큰 헤드라인이었지만 2위에 불과합니다. 12월에 3년이 되는 소송은 여러분의 월요일을 바꾸지 않기 때문입니다. 목요일에 법원은 뉴욕 타임스 대 OpenAI 및 마이크로소프트 소송에서 원고 측의 서면을 공개했습니다. 그리고 핵심은 2023년 1월 마이크로소프트 이사의 메모였습니다. AI 훈련은 인류 역사상 가장 큰 노동 절도이다. 같은 사람이 나중에 코파일럿이 타임스에 대한 클릭률을 최대 93%까지 줄였다고 측정했습니다. 그렉 브록만은 페이월 해킹에 대해 들었을 때,

5:58 93%까지 줄였다고 측정했습니다. 그렉 브록만은 페이월 해킹에 대해 들었을 때, '아, 좋다'고 답했고, 사티아 나델라는 페이월 콘텐츠는 라이선스를 받아야 한다고 증언했습니다. 이는 한 가지 입장이지만, 그의 회사가 소송 중인 입장은 아닙니다. 저는 NEEDS REVIEW 스탬프를 찍었습니다. 인용문은 봉인된 증거물에서 검찰이 고른 것이고, 판결을 내린 유일한 판사는 공정 사용과 해적 행위를 분리했기 때문입니다. 판결을 내린 유일한 판사는 공정 사용과 해적 행위를 분리했기 때문입니다. 업데이트: 마이크로소프트 대변인은 헥트의 메모가 회사의 견해를 대변하지 않는다고 말했습니다. 회사의 견해는 공정 사용 서면이며, 메모는 자체 전문가의 생각이었다는 점에서 사실입니다.

6:26 간단 평결: NEEDS REVIEW, 변경 없음. 메모는 윤리 문제를 해결했고, 법원은 법률 문제에 대해 1년 더 걸릴 것입니다.

1. Claude, OpenAI 해킹

6:31 1위. 이번 주 가장 큰 이야기는 아니지만, 여러분의 월요일을 바꾸는 이야기입니다. Hacktron이라는 스타트업의 세 명의 연구원이 72시간 이내에 OpenAI의 내부 GitHub 저장소에 침입했습니다. 그리고 이 익스플로잇은 Claude가 작성했습니다. 진입점은 OpenAI 커뮤니티 포럼의 이미지 업로드였습니다. iPhone 형식의 HEIC 파일이 ImageMagick을 통해 libheif라는 라이브러리로 이동했습니다. 이 라이브러리에는 힙 오버플로우가 있었고, 이를 통해 서버에 접근할 수 있었습니다. 서버에는 싱글 사인온 구성 오류가 있었고, 이를 통해 직원의 계정에 접근할 수 있었습니다.

6:59 그 직원의 Codex는 OpenAI의 GitHub에 연결되어 있었습니다. Claude Opus 4.8은 작동하는 익스플로잇을 작성할 수 없었습니다. 그리고 Opus 5가 출시되자, 같은 문제를 주었더니 몇 시간 만에 작동했습니다. 그리고 자율 루프가 원격 대상을 공격하기를 거부했을 때, 그들은 대상을 캡처 더 플래그로 위장했고, 루프는 거부하지 않았습니다. 이것은 의상 점검으로서의 정렬입니다. Slack, Meta, OpenAI 전체 캠페인에 토큰 비용으로 3천 달러 미만이 들었습니다. OpenAI는 약 14시간 만에 문제를 해결하고 6천5백 달러를 지불했습니다.

7:27 이는 중고 코롤라 한 대 값과 비슷하며, Hacker News에서 주목했습니다. 업데이트: 목요일에 블로그 게시물이 그날 저녁 월스트리트 저널 단독 기사가 되었고, 금요일에는 TechCrunch, 가디언, CBS에 보도되었습니다. OpenAI는 문제를 해결했다고 밝혔고, Gray Swan의 CEO는 TechCrunch에 매달 200달러면 누구든지 OpenAI와 같은 회사에 이 작업을 할 수 있다고 말했습니다. 그리고 이해가 되지 않는 부분이 있습니다. 누구든지 OpenAI와 같은 회사에 이 작업을 할 수 있다고 말했습니다. 그리고 이해가 되지 않는 부분이 있습니다. libheif 버그는 이미 몇 달 전에 업스트림에서 수정되었지만, CVE가 부여되지 않아 아무도 디스코드에게 업그레이드하라고 알리지 않았습니다.

7:56 가장 잘 정렬된 모델 보도 자료를 발표한 연구소는 서류 작업 없는 패치에 의해 패배했습니다. 경쟁사의 모델을 사용하여 포상금보다 적은 비용으로요. 간단 평결: NEEDS REVIEW — OpenAI뿐만 아니라 모두를 위해. 여러분의 월요일 과제는 자신이 몰랐던 이미지 라이브러리입니다. 이번 주의 평결: NEEDS REVIEW.

이번 주의 평결

8:13 이번 주 모든 헤드라인 (해결된 암호, 정렬된 모델, 파괴된 업로드)은 낯선 사람이 확인할 수 있는 아티팩트 없이 도착했습니다. 낯선 사람이 확인할 수 있는 아티팩트 없이 도착했습니다. 제가 틀린 점: 월요일에 평문이 운율이 맞아서 SHIP IT이라고 말했습니다. 운율은 체크섬이 아닙니다. 제가 틀렸고, 그것을 리트윗한 모든 사람도 틀렸습니다. 구독하고, 알림을 누르고, 댓글에 다르게 순위를 매겨주세요. 특히 1위요. 그리고 이것이 오늘의 diff입니다.

8:35 저는 Axrisi의 Niko입니다. 책임감 있게 병합하세요.

출처

1. fable solves cyphral distichwww.vals.ai
2. did ai crack a 370 year old cipherwww.forbes.com
3. FINDINGS.mdgithub.com
4. astra and fable still hack on simple variants of alignmentwww.lesswrong.com
5. why we built pionandonlabs.com
6. pionandonlabs.com
7. a warning about model welfaremustafa-suleyman.ai
8. microsoft ai ceo mustafa suleyman regulation safety anthropic claudewww.theverge.com
9. rlmimo.xiaomi.com
10. itemnews.ycombinator.com
11. zcode silent workspace snapshot uploadblog.ferstar.org
12. 2100998360643617148x.com
13. microsoft exec called ai scraping the largest theft of labor in human history new unredacted filings revealtechcrunch.com
14. hacking openaiwww.hacktron.ai
15. researchers used anthropics claude to hack into openaitechcrunch.com