Une note interne de Microsoft sur la formation de l'IA vient d'être rendue publique.

Ce que cette vidéo couvre

• NYT c. OpenAI/Microsoft descellé : "le plus grand vol de travail de l'histoire de l'humanité" (note Microsoft, janv. 2023) ; Copilot -93 % de clics ; 91 692 copies des œuvres des plaignants dans les données de mi-formation ; 2 millions de pages nytimes.com dans une tranche de Common Crawl ; avis de droit d'auteur supprimés ; Brockman : "ah nice"
• Mise en garde : les citations proviennent du mémoire du Times, les pièces sont toujours scellées ; le juge Alsup (Bartz c. Anthropic) a statué que la formation sur des livres achetés était une utilisation équitable — Anthropic a payé 1,5 milliard de dollars pour les 7 millions piratés.
• OpenAI Astra for Law : GPT-6 Astra + un index juridique de 230 millions d'URL ; 54,0 % contre 38,7 % sur le banc de recherche juridique Vals ; Harvey, Legora, 26 plugins.
• ZCode (Z.ai, GLM) : 313 Mo d'instantané chiffré d'un espace de travail de 42 411 fichiers, 86,6 % de .git, téléchargé sur Aliyun OSS lors de la connexion et avant chaque invite ; clé RSA-OAEP détenue uniquement par Z.ai ; les bascules de réglages ne l'arrêtent pas.
• Hacktron : débordement de tas libheif → RCE Discourse → mauvaise configuration SSO → GitHub → dépôts internes d'OpenAI en moins de 72 h ; exploit écrit par Claude Opus 5 (3 h) ; campagne de moins de 3 000 $ en jetons ; prime de 6 500 $, corrigé en ~14 h.

Transcription traduite

Traduit de la narration originale en anglais. L'audio et les sous-titres disponibles sont contrôlés par YouTube.

0:00 En janvier 2023, un directeur de Microsoft a rédigé une note qualifiant ce que sa propre entreprise faisait de "plus grand vol de travail de l'histoire de l'humanité", et hier, un tribunal fédéral nous a permis à tous de la lire. La note est l'une des citations non censurées dans l'affaire New York Times contre OpenAI et Microsoft, une poursuite qui aura trois ans en décembre. Le même jeudi, OpenAI a lancé Astra for Law, un modèle pour avocats, ce qui est soit une coïncidence, soit un recrutement très fort. Ce matin, un développeur a surpris ZCode, l'agent de codage de Z.ai,

0:29 téléchargeant l'intégralité de son historique git sur le cloud d'Alibaba avec une clé que seul Z. A.I. détient. Et une entreprise de sécurité a pénétré les dépôts internes d'OpenAI via un téléchargement d'image, pour lequel OpenAI a payé six mille cinq cents dollars. Dans cette vidéo : ce que disent les documents, qui a dit "ah nice" à un contournement de paywall, le modèle juridique qui se trompe la moitié du temps, ce que ZCode télécharge, et pourquoi un exploit écrit par Claude vaut moins qu'une voiture d'occasion. Nous sommes vendredi 18 septembre, et voici The Daily Diff.

0:58 Commençons par la note. Brent Hecht dirige la science appliquée chez Microsoft, et en janvier 2023, il a qualifié les données de formation de "vol étonnant de proportions sans précédent". Un an plus tard, il est revenu avec une présentation : le moteur de réponse de Copilot a réduit les clics vers le Times de jusqu'à quatre-vingt-treize pour cent, ce qu'il a appelé une boucle infernale : affamer les éditeurs, et le modèle n'a rien de nouveau à manger. Ses mots : "un produit final qui menace les fondations économiques de ses

1:21 fournisseurs essentiels", la façon corporative de dire que le serpent s'est mordu la queue. Puis les dépositions. Satya Nadella a témoigné cette année que tout contenu payant devrait être sous licence, et que s'il avait su qu'OpenAI s'entraînait sur des articles payants, il les aurait fait re-entraîner, ce qui suppose que personne chez Microsoft n'a ouvert l'ensemble de données d'entraînement qui leur a été remis, et selon la même déclaration, il s'agissait de l'ensemble de données GPT-3. Nick Turley, qui dirige ChatGPT, l'a qualifié de menace existentielle pour les éditeurs, largement substitutif. Et lorsqu'un chercheur

1:49 a informé Greg Brockman d'une astuce pour contourner le paywall du Times, le président d'OpenAI a répondu en deux mots : "ah nice". Les ingénieurs ont également supprimé les avis de droit d'auteur des données afin que le modèle ne les produise pas, ce qui est la raison pour laquelle on lime le numéro de série d'une bicyclette. L'échelle : plus de quatre-vingt-onze mille copies des articles des plaignants dans les seuls ensembles de mi-formation, et deux millions de pages du Times dans une seule tranche de Common Crawl. Maintenant, la partie que le titre omet.

2:15 Chaque citation provient du mémoire du Times ; les pièces sont toujours scellées, nous lisons donc les faits saillants de l'accusation sans contexte. Et les tribunaux ont principalement penché en faveur de l'utilisation équitable : le juge Alsup a statué l'année dernière que la formation sur des livres que vous avez payés est légale, bien qu'Anthropic ait quand même payé un milliard et demi pour les sept millions qu'il a piratés. La question juridique est donc ouverte. La question de savoir si les personnes qui l'ont construit pensaient que c'était un vol est, depuis hier, non.

2:41 Ce qui fait de l'autre lancement d'OpenAI de jeudi un choix audacieux. Astra for Law enveloppe GPT-6 Astra, le modèle que j'ai marqué REVERT la semaine dernière après qu'il ait produit soixante-quinze mille lignes de rien, dans un index de recherche juridique de deux cent trente millions de pages. Sur le banc d'essai de recherche juridique de Vals AI, il réussit cinquante-quatre pour cent des questions, contre trente-neuf avec une simple recherche web, ce qu'OpenAI appelle une amélioration de quarante pour cent et qu'un avocat qualifierait d'erroné près de la moitié du temps. Le billet de blog ne contient pas le mot "hallucination".

3:14 Hacker News l'a fait : "sera-t-il capable de se poursuivre en justice", ce qui, compte tenu de la semaine, est le premier cas d'utilisation authentique. Pendant ce temps, le discours sur le vol de travail a atteint votre ordinateur portable. Un développeur appelé ferstar a nettoyé son dossier ZCode, l'agent de bureau fermé de Z.ai pour les modèles GLM, et a trouvé une archive chiffrée de trois cent treize mégaoctets de son espace de travail commercial : quarante-deux mille fichiers, dont quatre-vingt-sept pour cent étaient le répertoire .git, expédiés au stockage d'objets d'Alibaba lors de la connexion et avant chaque invite.

3:42 L'archive est enveloppée d'une clé publique que le serveur distribue ; la clé privée vit uniquement dans le cloud de Z.ai, donc le texte chiffré sur votre propre disque vous est illisible. Sa phrase : "une clé que seul le serveur peut utiliser n'a qu'un seul but". Z.ai est également l'entreprise qu'Anthropic a accusée de distiller Claude, donc les poids sont ouverts et, apparemment, votre dépôt aussi. Et le plus drôle, à moins que vous ne travailliez chez OpenAI. Hacktron a trouvé un débordement de tas dans libheif, a téléchargé une image modifiée sur

4:10 community.openai.com, a obtenu l'exécution de code sur le forum, et a exploité une mauvaise configuration d'authentification unique via l'intégration GitHub dans les dépôts internes d'OpenAI, en moins de soixante-douze heures. L'exploit a été écrit par Claude : Opus 4.8 ne pouvait pas vaincre la randomisation d'adresses, Opus 5 l'a fait en trois heures après sa sortie. Toute la campagne a coûté moins de trois mille dollars en jetons. OpenAI a corrigé en quatorze heures et a payé six mille cinq cents dollars, donc le code source d'une entreprise valant des milliards de dollars a été,

4:39 brièvement, évalué comme une Corolla d'occasion, le même jour où ses avocats ont fait valoir que la copie est une utilisation équitable. Si vous préférez lire ceci plutôt que de m'entendre le dire, le "diff" arrive dans votre boîte de réception chaque matin — gratuit sur thedailydiff.dev, lien ci-dessous. Donc — le verdict d'aujourd'hui : NEEDS REVIEW. Les citations sont réelles, mais ce sont les choix de l'accusation parmi des pièces scellées, et le seul juge qui a statué dit que la formation est une utilisation équitable et le piratage non. Le tribunal décide de la loi ; la note a déjà décidé de l'éthique.

5:07 Abonnez-vous, activez la cloche et dites-moi dans les commentaires si vous l'auriez estampillé différemment. Et c'est le "diff" pour aujourd'hui. Je suis Niko d'Axrisi. Fusionnez de manière responsable.

Sources

1. TechCrunch: Microsoft exec called AI scraping 'the largest theft of labor in human history'techcrunch.com
2. HN thread (605 pts)news.ycombinator.com
3. Jason Kint on the unsealed motionsx.com
4. Ed Newton-Rexx.com
5. Bartz v. Anthropic / $1.5B settlement (background)en.wikipedia.org
6. OpenAI: Introducing Astra for Lawopenai.com
7. HN: Astra for Law (550 pts)news.ycombinator.com
8. ferstar: ZCode silent workspace snapshot (original forensics)blog.ferstar.org
9. tokenstead write-uptokenstead.ai
10. ferstar on Xx.com
11. HN: ZCode uploads your Git history (226 pts)news.ycombinator.com
12. Hacktron: Hacking OpenAIwww.hacktron.ai
13. HN: Hacktron (406 pts)news.ycombinator.com