Wewnętrzna notatka Microsoftu na temat trenowania AI właśnie ujrzała światło dzienne.
Niezredagowane dokumenty w sprawie New York Times przeciwko OpenAI i Microsoft: notatka dyrektora Microsoftu ze stycznia 2023 roku nazywa dane treningowe AI „największą kradzieżą pracy w historii ludzkości”, Copilot zmniejszył liczbę kliknięć w Timesie nawet o 93% (jego „pętla zagłady”), Nadella twierdzi, że treści za paywallem powinny być licencjonowane, szef ChatGPT nazywa produkt „w dużej mierze substytucyjnym”, a Greg Brockman odpowiedział na hakowanie paywalla słowami „ach, miło”.
Niezredagowane dokumenty w sprawie New York Times przeciwko OpenAI i Microsoft: notatka dyrektora Microsoftu ze stycznia 2023 roku nazywa dane treningowe AI „największą kradzieżą pracy w historii ludzkości”, Copilot zmniejszył liczbę kliknięć w Timesie nawet o 93% (jego „pętla zagłady”), Nadella twierdzi, że treści za paywallem powinny być licencjonowane, szef ChatGPT nazywa produkt „w dużej mierze substytucyjnym”, a Greg Brockman odpowiedział na hakowanie paywalla słowami „ach, miło”. Tego samego dnia: OpenAI wprowadza Astra for Law (54% poprawności na ławce prawnej Vals). Do tego ZCode przesyłający cały twój .git do Aliyun z kluczem, który posiada tylko Z.ai, i Hacktron docierający do wewnętrznych repozytoriów OpenAI za nagrodę 6500 dolarów. Werdykt: NEEDS REVIEW.
Przeczytaj wydanie pisemne (angielski) ↗
Co obejmuje ten film
- NYT vs. OpenAI/Microsoft odtajnione: „największa kradzież pracy w historii ludzkości” (notatka Microsoftu, styczeń 2023); Copilot −93% kliknięć; 91 692 kopii prac powodów w danych śródtreningowych; 2 mln stron nytimes.com w jednym fragmencie Common Crawl; usunięto informacje o prawach autorskich; Brockman: „ach, miło”
- Uwaga: cytaty pochodzą z pisma Timesa, dowody nadal zapieczętowane; sędzia Alsup (Bartz vs. Anthropic) orzekł, że trenowanie na zakupionych książkach to dozwolony użytek — Anthropic zapłacił 1,5 mld USD za 7 mln pirackich egzemplarzy
- OpenAI Astra for Law: GPT-6 Astra + indeks prawny z 230 mln URL-i; 54,0% vs 38,7% na Vals Legal Research Bench; Harvey, Legora, 26 wtyczek
- ZCode (Z.ai, GLM): zaszyfrowana migawka o rozmiarze 313 MB z przestrzeni roboczej zawierającej 42 411 plików, 86,6% to .git, przesłana do Aliyun OSS przy logowaniu i przed każdym zapytaniem; klucz RSA-OAEP przechowywany tylko przez Z.ai; przełączniki ustawień tego nie zatrzymują
- Hacktron: przepełnienie stosu libheif → RCE w Discourse → błędna konfiguracja SSO → GitHub → wewnętrzne repozytoria OpenAI w mniej niż 72 godziny; exploit napisany przez Claude Opus 5 (3 godz.); kampania za mniej niż 3000 USD w tokenach; nagroda 6500 USD, załatane w ~14 godz.
Pytania i odpowiedzi
Co ujawniły odtajnione dokumenty w sprawie New York Times przeciwko OpenAI i Microsoft dotyczące danych treningowych AI?
Notatka dyrektora Microsoftu ze stycznia 2023 roku nazwała dane treningowe AI największą kradzieżą pracy w historii ludzkości. Według TechCrunch i briefu The Times, Copilot zmniejszył liczbę kliknięć w The Times nawet o 93%. Wszystkie cytaty pochodzą z briefu The Times, a załączniki są nadal zapieczętowane, więc brakuje im pełnego kontekstu.
Czy szkolenie modelu AI na książkach chronionych prawem autorskim jest legalne zgodnie z prawem USA?
Pytanie pozostaje otwarte. Sędzia Alsup orzekł w sprawie Bartz przeciwko Anthropic, że szkolenie na książkach, które firma kupiła, jest dozwolonym użytkiem. Anthropic mimo to zapłacił 1,5 miliarda dolarów za siedem milionów pirackich książek, których użył. Żaden sąd nie orzekł w sprawie roszczeń The Times przeciwko OpenAI i Microsoft w czasie trwania odcinka.
Co deweloper odkrył, że ZCode przesyła z jego komputera?
Deweloper o pseudonimie ferstar odkrył, że agent ZCode firmy Z.ai przesłał zaszyfrowany 313 MB migawkę jego obszaru roboczego, składającą się z 42 411 plików, z czego 86,6% stanowił katalog .git, do pamięci obiektowej Aliyun. Przesyłanie odbywało się po zalogowaniu i przed każdym zapytaniem. Klucz deszyfrujący jest w posiadaniu tylko Z.ai, a przełączniki ustawień tego nie zatrzymały.
Jak badacze bezpieczeństwa dotarli do wewnętrznych repozytoriów OpenAI?
Hacktron połączył cztery słabości w ciągu 72 godzin. Przepełnienie sterty libheif dało możliwość wykonania kodu na forum Discourse, błędna konfiguracja pojedynczego logowania otworzyła integrację z GitHubem, co umożliwiło dostęp do wewnętrznych repozytoriów OpenAI. Claude Opus 5 napisał exploit w 3 godziny, a kampania kosztowała mniej niż 3000 dolarów w tokenach. OpenAI załatało lukę w około 14 godzin i zapłaciło 6500 dolarów nagrody.
Czy odtajnione cytaty Microsoftu dowodzą, że szkolenie AI było kradzieżą?
Werdykt The Daily Diff brzmiał NEEDS REVIEW. Cytaty są prawdziwe, ale są to wybrane przez prokuraturę fragmenty zapieczętowanych dowodów. Jedyny sędzia, który wydał orzeczenie, uznał, że szkolenie na zakupionych książkach jest dozwolonym użytkiem, podczas gdy Anthropic i tak zapłacił za pirackie kopie. Sąd decyduje o prawie, a notatka pokazuje, co myśleli niektórzy wewnętrzni pracownicy.
Przetłumaczona transkrypcja
Przetłumaczono z oryginalnej narracji angielskiej. Dostępne audio i napisy są kontrolowane przez YouTube.
0:00 W styczniu 2023 roku dyrektor Microsoftu napisał notatkę, nazywając to, co jego własna firma robiła, największą kradzieżą pracy w historii ludzkości, a wczoraj sąd federalny pozwolił reszcie z nas ją przeczytać. Notatka jest jednym z niezredagowanych cytatów w sprawie New York Times przeciwko OpenAI i Microsoft, pozwie, który w grudniu skończy trzy lata. W ten sam czwartek OpenAI wprowadziło Astra for Law, model dla prawników, co jest albo zbiegiem okoliczności, albo bardzo mocnym posunięciem. Dziś rano deweloper odkrył, że ZCode, agent kodujący Z.A.I,
0:29 przesyła całą jego historię git do chmury Alibaba z kluczem, który posiada tylko Z .A.I. A firma ochroniarska dostała się do wewnętrznych repozytoriów OpenAI poprzez przesłanie obrazu, za co OpenAI zapłaciło sześć tysięcy pięćset dolarów. W tym filmie: co mówią dokumenty, kto powiedział „ach, miło” na hakowanie paywalla, model prawniczy, który myli się w połowie przypadków, co przesyła ZCode, i dlaczego exploit napisany przez Claude'a jest wart mniej niż używany samochód. Jest piątek, 18 września, a to jest The Daily Diff.
0:58 Zacznijmy od notatki. Brent Hecht kieruje działem nauk stosowanych w Microsoft, i w styczniu 2023 roku nazwał dane treningowe zdumiewającą kradzieżą o niespotykanych proporcjach. Rok później wrócił z prezentacją: silnik odpowiedzi Copilota zmniejszył liczbę kliknięć w Timesie nawet o dziewięćdziesiąt trzy procent, co nazwał pętlą zagłady: zagłodź wydawców, a model nie będzie miał nic nowego do jedzenia. Jego słowa: produkt końcowy, który zagraża ekonomicznym podstawom swoich
1:21 niezbędnych dostawców, korporacyjny sposób mówienia, że wąż znalazł swój ogon. Następnie zeznania. Satya Nadella zeznał w tym roku, że wszystko, co objęte jest paywallem, powinno być licencjonowane, i że gdyby wiedział, że OpenAI trenowało na artykułach objętych paywallem, kazałby im przetrenować, co zakłada, że nikt w Microsoft nie otworzył zestawu treningowego, który otrzymali, a według tych samych dokumentów był to cały zestaw danych GPT-3. Nick Turley, który zarządza ChatGPT, nazwał to egzystencjalnym zagrożeniem dla wydawców, w dużej mierze substytucyjnym. A kiedy badacz
1:49 opowiedział Gregowi Brockmanowi o hacku, by ominąć paywall Timesa, prezes OpenAI odpowiedział dwoma słowami: ach, miło. Inżynierowie usunęli również informacje o prawach autorskich z danych, aby model nie wyprowadzał ich, dlatego ściera się numer seryjny z roweru. Skala: ponad dziewięćdziesiąt jeden tysięcy kopii artykułów powodów w samych zestawach śródtreningowych, i dwa miliony stron Timesa w jednym fragmencie Common Crawl. Teraz część, którą pomija nagłówek.
2:15 Każdy cytat pochodzi z pisma Timesa; dowody są nadal zapieczętowane, więc czytamy najważniejsze punkty prokuratury bez kontekstu. A sądy w większości opowiedziały się za dozwolonym użytkiem: sędzia Alsup orzekł w zeszłym roku, że trenowanie na książkach, za które zapłaciłeś, jest legalne, chociaż Anthropic i tak zapłacił półtora miliarda za siedem milionów, które spiratował. Więc kwestia prawna jest otwarta. Czy ludzie, którzy to budowali, uważali to za kradzież, jest, od wczoraj, nie.
2:41 Co sprawia, że czwartkowe inne uruchomienie OpenAI jest odważnym wyborem. Astra for Law opakowuje GPT-6 Astra, model, który stemplowałem REVERT w zeszłym tygodniu po tym, jak wygenerował siedemdziesiąt pięć tysięcy linii niczego, w prawnym indeksie wyszukiwania zawierającym dwieście trzydzieści milionów stron. Na benchmarku Vals AI do badań prawnych przechodzi pięćdziesiąt cztery procent pytań, wzrost z trzydziestu dziewięciu przy zwykłym wyszukiwaniu w sieci, co OpenAI nazywa czterdziestoprocentową poprawą, a prawnik nazwałby to błędnym prawie w połowie przypadków. W poście na blogu nie ma słowa halucynacja.
3:14 Hacker News napisał: czy będzie w stanie pozwać samego siebie, co, biorąc pod uwagę tydzień, jest pierwszym prawdziwym przypadkiem użycia. W międzyczasie dyskurs o kradzieży pracy dotarł do twojego laptopa. Deweloper o pseudonimie ferstar wyczyścił swój folder ZCode, zamkniętego agenta desktopowego Z.A.I dla modeli GLM, i znalazł trzysta trzynaście megabajtowe zaszyfrowane archiwum swojej komercyjnej przestrzeni roboczej: czterdzieści dwa tysiące plików, osiemdziesiąt siedem procent z nich to katalog .git, wysłane do pamięci obiektowej Alibaba przy logowaniu i przed każdym zapytaniem.
3:42 Archiwum jest owinięte kluczem publicznym, który rozdaje serwer; klucz prywatny żyje tylko w chmurze Z.A.I, więc szyfrogram na twoim własnym dysku jest dla ciebie nieczytelny. Jego myśl: klucz, którego może używać tylko serwer, służy dokładnie jednemu celowi. Z.A.I to również firma, którą Anthropic oskarżył o destylację Claude'a, więc wagi są otwarte i, najwyraźniej, twoje repozytorium też. I ten zabawny, chyba że pracujesz w OpenAI. Hacktron znalazł przepełnienie sterty w libheif, przesłał spreparowany obraz do
4:10 community.openai.com, uzyskał wykonanie kodu na forum, i wykorzystał błędnie skonfigurowane pojedyncze logowanie poprzez integrację z GitHubem do wewnętrznych repozytoriów OpenAI, w mniej niż siedemdziesiąt dwie godziny. Exploit został napisany przez Claude'a: Opus 4.8 nie był w stanie pokonać randomizacji adresów, Opus 5 zrobił to w ciągu trzech godzin od wydania. Cała kampania kosztowała mniej niż trzy tysiące dolarów w tokenach. OpenAI załatało to w czternaście godzin i zapłaciło sześć tysięcy pięćset dolarów, więc kod źródłowy firmy wartej biliony dolarów był,
4:39 na krótko, wyceniony jak używana Corolla, tego samego dnia, gdy jej prawnicy argumentowali, że kopiowanie jest dozwolonym użytkiem. Jeśli wolisz to przeczytać, niż usłyszeć, jak to mówię, The Daily Diff ląduje w twojej skrzynce odbiorczej każdego ranka — za darmo na daily diff dot dev, link poniżej. Więc — dzisiejszy werdykt: NEEDS REVIEW. Cytaty są prawdziwe, ale są to wybrane przez prokuraturę fragmenty z zapieczętowanych dowodów, a jedyny sędzia, który wydał orzeczenie, mówi, że trening to dozwolony użytek, a piractwo nie. Sąd decyduje o prawie; notatka już zadecydowała o etyce.
5:07 Subskrybuj, naciśnij dzwonek i powiedz mi w komentarzach, czy oceniłbyś to inaczej. I to tyle na dziś. Jestem Niko z Axrisi. Łącz odpowiedzialnie.
Źródła
- TechCrunch: Microsoft exec called AI scraping 'the largest theft of labor in human history'techcrunch.com
- HN thread (605 pts)news.ycombinator.com
- Jason Kint on the unsealed motionsx.com
- Ed Newton-Rexx.com
- Bartz v. Anthropic / $1.5B settlement (background)en.wikipedia.org
- OpenAI: Introducing Astra for Lawopenai.com
- HN: Astra for Law (550 pts)news.ycombinator.com
- ferstar: ZCode silent workspace snapshot (original forensics)blog.ferstar.org
- tokenstead write-uptokenstead.ai
- ferstar on Xx.com
- HN: ZCode uploads your Git history (226 pts)news.ycombinator.com
- Hacktron: Hacking OpenAIwww.hacktron.ai
- HN: Hacktron (406 pts)news.ycombinator.com



