+− THE DAILY DIFFdev & AI news
NEEDS REVIEW

Microsofts eigenes Memo zu KI-Training ist öffentlich geworden.

Unzensierte Einreichungen in New York Times v.

Want to see our stories first on Google? Add us to your preferred sources — it helps us grow.

Unzensierte Einreichungen in New York Times v. OpenAI & Microsoft: Ein Microsoft-Direktor nennt in einem Memo vom Januar 2023 KI-Trainingsdaten "den größten Diebstahl von Arbeit in der menschlichen Geschichte", Copilot reduzierte die Klickraten auf die Times um bis zu 93 % (seine "Doom-Loop"), Nadella sagt, dass Paywall-Inhalte lizenziert werden sollten, der Leiter von ChatGPT nennt das Produkt "weitgehend substituierend", und Greg Brockman antwortete auf einen Paywall-Hack mit "ah nice". Am selben Tag: OpenAI liefert Astra for Law (54 % korrekt auf der Vals Legal Bench). Plus ZCode, das Ihr gesamtes .git auf Aliyun hochlädt, mit einem Schlüssel, den nur Z.ai besitzt, und Hacktron, das OpenAIs interne Repositories für eine Belohnung von 6.500 $ erreicht hat. Urteil: NEEDS REVIEW.

Die schriftliche Ausgabe lesen (Englisch) ↗

Was dieses Video behandelt

  • NYT v. OpenAI/Microsoft enthüllt: "größter Diebstahl von Arbeit in der Menschheitsgeschichte" (Microsoft-Memo, Jan. 2023); Copilot -93 % Klickraten; 91.692 Kopien der Werke der Kläger in den Mid-Trainingsdaten; 2 Mio. nytimes.com-Seiten in einem Common Crawl-Slice; Urheberrechtshinweise entfernt; Brockman: "ah nice"
  • Vorsicht: Zitate stammen aus dem Schriftsatz der Times, Beweismittel noch versiegelt; Richter Alsup (Bartz v. Anthropic) urteilte, dass das Training mit gekauften Büchern eine faire Nutzung ist – Anthropic zahlte 1,5 Mrd. $ für die 7 Mio. piratierten
  • OpenAI Astra for Law: GPT-6 Astra + ein 230 Mio. URLs umfassender Rechtsindex; 54,0 % gegenüber 38,7 % auf dem Vals Legal Research Bench; Harvey, Legora, 26 Plugins
  • ZCode (Z.ai, GLM): 313 MB verschlüsselte Momentaufnahme eines 42.411 Dateien umfassenden Arbeitsbereichs, 86,6 % .git, hochgeladen auf Aliyun OSS bei Anmeldung und vor jeder Aufforderung; RSA-OAEP-Schlüssel, der nur Z.ai gehört; Einstellungen-Schalter stoppen dies nicht
  • Hacktron: libheif Heap-Überlauf → Discourse RCE → SSO-Fehlkonfiguration → GitHub → interne OpenAI-Repos in unter 72 Stunden; Exploit von Claude Opus 5 (3 Stunden); Kampagne unter 3.000 $ in Token; Belohnung 6.500 $, gepatcht in ~14 Stunden

Fragen und Antworten

Was enthüllten die unveröffentlichten Gerichtsakten in New York Times gegen OpenAI und Microsoft über KI-Trainingsdaten?

Ein Memo eines Microsoft-Direktors vom Januar 2023 bezeichnete KI-Trainingsdaten als den größten Diebstahl von Arbeitsleistung in der Geschichte der Menschheit. Laut TechCrunch und dem Schriftsatz der Times reduzierte Copilot die Klickraten auf die Times um bis zu 93%. Alle Zitate stammen aus dem Schriftsatz der Times, und die Beweisstücke sind noch versiegelt, daher fehlt ihnen ihr vollständiger Kontext.

techcrunch.com · news.ycombinator.com

Ist das Training eines KI-Modells mit urheberrechtlich geschützten Büchern nach US-amerikanischem Recht legal?

Die Frage ist noch offen. Richter Alsup entschied in Bartz gegen Anthropic, dass das Training mit von einem Unternehmen gekauften Büchern eine faire Nutzung ist. Anthropic zahlte dennoch 1,5 Milliarden Dollar für die sieben Millionen piratisierten Bücher, die es verwendet hatte. Zum Zeitpunkt der Episode hatte noch kein Gericht über die Klagen der Times gegen OpenAI und Microsoft entschieden.

en.wikipedia.org · techcrunch.com

Was fand ein Entwickler, das ZCode von seinem Computer hochlud?

Ein Entwickler namens ferstar fand heraus, dass der ZCode-Agent von Z.ai einen verschlüsselten 313 MB großen Schnappschuss seines Arbeitsbereichs, von dem 42.411 Dateien, davon 86,6% das .git-Verzeichnis, waren, in den Aliyun-Objektspeicher hochlud. Der Upload erfolgte beim Login und vor jeder Aufforderung. Der Entschlüsselungsschlüssel wird nur von Z.ai gehalten, und die Einstellungen konnten dies nicht stoppen.

blog.ferstar.org · news.ycombinator.com

Wie gelangten Sicherheitsforscher zu den internen Repositories von OpenAI?

Hacktron verkettete innerhalb von 72 Stunden vier Schwachstellen. Ein libheif Heap-Überlauf ermöglichte Code-Ausführung in einem Discourse-Forum, eine Fehlkonfiguration des Single Sign-On öffnete die GitHub-Integration, und diese erreichte die internen Repos von OpenAI. Claude Opus 5 schrieb den Exploit in 3 Stunden, und die Kampagne kostete weniger als 3.000 US-Dollar an Tokens. OpenAI patschte innerhalb von etwa 14 Stunden und zahlte eine Prämie von 6.500 US-Dollar.

www.hacktron.ai · news.ycombinator.com

Beweisen die unveröffentlichten Microsoft-Zitate, dass das KI-Training Diebstahl war?

Das Urteil von The Daily Diff war NEEDS REVIEW. Die Zitate sind echt, aber es sind die Auswahl der Staatsanwaltschaft aus versiegelten Beweisstücken. Der einzige Richter, der entschieden hat, urteilte, dass das Training mit gekauften Büchern eine faire Nutzung ist, während Anthropic immer noch für die piratisierten Kopien bezahlte. Das Gericht entscheidet über das Gesetz, und das Memo zeigt, was einige Insider dachten.

techcrunch.com · en.wikipedia.org

Übersetztes Transkript

Aus der englischen Originalerzählung übersetzt. Verfügbare Audio- und Untertitel werden von YouTube gesteuert.

0:00 Im Januar 2023 schrieb ein Microsoft-Direktor ein Memo, in dem er das, was seine eigene Firma tat, als den größten Diebstahl von Arbeit in der Menschheitsgeschichte bezeichnete, und gestern erlaubte ein Bundesgericht dem Rest von uns, es zu lesen. Das Memo ist eines der ungeschwärzten Zitate in der Klage New York Times gegen OpenAI und Microsoft, einer Klage, die diesen Dezember drei Jahre alt wird. Am selben Donnerstag lieferte OpenAI Astra for Law, ein Modell für Anwälte, was entweder ein Zufall oder eine sehr gute Einstellung ist. Heute Morgen erwischte ein Entwickler ZCode, Z dot A Is Code-Agent,

0:29 wie er seine gesamte Git-Historie in die Alibaba-Cloud hochlud, mit einem Schlüssel, den nur Z dot A I besitzt. Und eine Sicherheitsfirma gelangte über einen Bild-Upload in OpenAIs interne Repositories, wofür OpenAI sechstausendfünfhundert Dollar bezahlte. In diesem Video: was die Einreichungen sagen, wer auf einen Paywall-Hack mit 'ah nice' antwortete, das Rechtsmodell, das die Hälfte der Zeit falsch liegt, was ZCode hochlädt, und warum ein von Claude geschriebener Exploit weniger wert ist als ein Gebrauchtwagen. Es ist Freitag, der 18. September, und dies ist The Daily Diff.

0:58 Beginnen wir mit dem Memo. Brent Hecht leitet die angewandte Wissenschaft bei Microsoft, und im Januar 2023 nannte er die Trainingsdaten einen erstaunlichen Diebstahl von beispiellosem Ausmaß. Ein Jahr später war er mit einem Foliensatz zurück: Copilots Antwort-Engine reduzierte die Klickraten auf die Times um bis zu dreiundneunzig Prozent, was er als "doom loop" bezeichnete: man lässt die Verlage verhungern, und das Modell hat nichts Neues zu essen. Seine Worte: ein Endprodukt, das die wirtschaftlichen Grundlagen seiner

1:21 wesentlichen Lieferanten bedroht, die Unternehmensart, zu sagen, die Schlange hat ihren Schwanz gefunden. Dann die Aussagen. Satya Nadella sagte dieses Jahr aus, dass alles, was hinter einer Bezahlschranke ist, lizenziert werden sollte, und dass er, hätte er gewusst, dass OpenAI mit Artikeln hinter einer Bezahlschranke trainiert, sie neu hätte trainieren lassen. Das setzt voraus, dass niemand bei Microsoft das Trainingsset geöffnet hat, das sie erhielten, und laut derselben Einreichung war das der gesamte GPT-3-Datensatz. Nick Turley, der ChatGPT leitet, nannte es eine existentielle Bedrohung für Verlage, weitgehend substituierend. Und als ein Forscher

1:49 Greg Brockman von einem Hack erzählte, um die Times-Paywall zu umgehen, antwortete der Präsident von OpenAI mit zwei Worten: ah nice. Ingenieure entfernten auch Urheberrechtshinweise aus den Daten, damit das Modell sie nicht ausgeben würde, weshalb man die Seriennummer von einem Fahrrad feilt. Der Umfang: mehr als einundneunzigtausend Kopien der Artikel der Kläger in allein den Mid-Trainingssets und zwei Millionen Times-Seiten in einem Common Crawl- Slice. Nun der Teil, den die Überschrift überspringt.

2:15 Jedes Zitat stammt aus dem Schriftsatz der Times; die Beweismittel sind noch versiegelt, daher lesen wir die Highlights der Staatsanwaltschaft ohne Kontext. Und Gerichte haben sich meistens für die faire Nutzung entschieden: Richter Alsup urteilte letztes Jahr, dass das Training mit bezahlten Büchern legal ist, obwohl Anthropic immer noch eineinhalb Milliarden für die sieben Millionen piratierten Bücher zahlte. Die rechtliche Frage ist also offen. Ob die Leute, die es gebaut haben, dachten, es sei Diebstahl, ist, seit gestern, nicht.

2:41 Was OpenAIs andere Einführung am Donnerstag zu einer mutigen Wahl macht. Astra for Law umschließt GPT-6 Astra, das Modell, das ich letzte Woche als REVERT abgestempelt habe, nachdem es fünfundsiebzigtausend Zeilen Nichts produzierte, in einem juristischen Suchindex von zweihundertdreißig Millionen Seiten. Auf Vals AIs Benchmark für juristische Recherche besteht es vierundfünfzig Prozent der Fragen, gegenüber neununddreißig Prozent bei einfacher Websuche, was OpenAI als eine vierzigprozentige Verbesserung bezeichnet und ein Anwalt als fast die Hälfte der Zeit falsch bezeichnen würde. Der Blogbeitrag enthält nicht das Wort Halluzination.

3:14 Hacker News schon: Wird es sich selbst verklagen können, was, angesichts der Woche, der erste echte Anwendungsfall ist. Inzwischen hat der Diskurs über Arbeitsdiebstahl Ihren Laptop erreicht. Ein Entwickler namens ferstar räumte seinen ZCode-Ordner aus, Z dot A Is geschlossenen Desktop-Agenten für die GLM-Modelle, und fand ein dreihundert und dreizehn Megabyte großes verschlüsseltes Archiv seines kommerziellen Arbeitsbereichs: zweiundvierzigtausend Dateien, siebenundachtzig Prozent davon das .git-Verzeichnis, hochgeladen in Alibabas Objektspeicher bei Anmeldung und vor jeder Aufforderung.

3:42 Das Archiv ist mit einem öffentlichen Schlüssel verpackt, den der Server ausgibt; der private Schlüssel lebt nur in Z dot A Is Cloud, sodass der Ciphertext auf Ihrer eigenen Festplatte für Sie unlesbar ist. Seine Aussage: Ein Schlüssel, den nur der Server verwenden kann, dient genau einem Zweck. Z dot A I ist auch das Unternehmen, das Anthropic beschuldigte, Claude zu destillieren, daher sind die Gewichte offen und anscheinend auch Ihr Repo. Und der Witzige, es sei denn, Sie arbeiten bei OpenAI. Hacktron fand einen Heap-Überlauf in libheif, lud ein manipuliertes Bild auf

4:10 community dot openai dot com hoch, erlangte Code-Ausführung im Forum, und nutzte eine falsch konfigurierte Single Sign-On über die GitHub-Integration, um in OpenAIs interne Repositories zu gelangen, in unter zweiundsiebzig Stunden. Der Exploit wurde von Claude geschrieben: Opus 4.8 konnte die Adress- Randomisierung nicht überwinden, Opus 5 schaffte es innerhalb von drei Stunden nach der Veröffentlichung. Die gesamte Kampagne kostete unter dreitausend Dollar an Token. OpenAI patchte in vierzehn Stunden und zahlte sechstausendfünfhundert Dollar, so wurde der Quellcode eines Billionen-Dollar-Unternehmens,

4:39 kurzzeitig, wie ein gebrauchter Corolla bepreist, am selben Tag, an dem seine Anwälte argumentierten, dass das Kopieren eine faire Nutzung sei. Wenn Sie dies lieber lesen möchten, als es von mir zu hören, landet der Diff jeden Morgen in Ihrem Posteingang – kostenlos unter the daily diff dot dev, Link unten. Also – das heutige Urteil: NEEDS REVIEW. Die Zitate sind echt, aber es sind die Auszüge der Staatsanwaltschaft aus versiegelten Beweismitteln, und der eine Richter, der geurteilt hat, sagt, Training sei faire Nutzung und Piraterie nicht. Das Gericht entscheidet über das Gesetz; das Memo hat bereits über die Ethik entschieden.

5:07 Abonnieren Sie, klicken Sie auf die Glocke und sagen Sie mir in den Kommentaren, ob Sie es anders gestempelt hätten. Und das ist der Diff für heute. Ich bin Niko von Axrisi. Merge verantwortungsvoll.

Quellen

  1. TechCrunch: Microsoft exec called AI scraping 'the largest theft of labor in human history'techcrunch.com
  2. HN thread (605 pts)news.ycombinator.com
  3. Jason Kint on the unsealed motionsx.com
  4. Ed Newton-Rexx.com
  5. Bartz v. Anthropic / $1.5B settlement (background)en.wikipedia.org
  6. OpenAI: Introducing Astra for Lawopenai.com
  7. HN: Astra for Law (550 pts)news.ycombinator.com
  8. ferstar: ZCode silent workspace snapshot (original forensics)blog.ferstar.org
  9. tokenstead write-uptokenstead.ai
  10. ferstar on Xx.com
  11. HN: ZCode uploads your Git history (226 pts)news.ycombinator.com
  12. Hacktron: Hacking OpenAIwww.hacktron.ai
  13. HN: Hacktron (406 pts)news.ycombinator.com

Niko from Axrisi

Nikoloz Turazashvili · Vexrail · Axrisi

LinkedIn · dev.to · GitHub · X · Substack

Ähnliche Videos