Microsoft'un yapay zeka eğitimi hakkındaki kendi notu kamuoyuna sızdı.

Bu video neleri kapsar

• NYT - OpenAI/Microsoft davası açıldı: "insanlık tarihindeki en büyük emek hırsızlığı" (Microsoft notu, Ocak 2023); Copilot %93 daha az tıklama; ara eğitim verilerinde davacıların eserlerinin 91.692 kopyası; bir Common Crawl diliminde 2 milyon nytimes.com sayfası; telif hakkı bildirimleri kaldırılmış; Brockman: "ah güzel"
• Uyarı: alıntılar Times'ın özetinden alınmıştır, deliller hala mühürlüdür; Yargıç Alsup (Bartz - Anthropic davası) satın alınan kitaplar üzerinde eğitimin adil kullanım olduğuna karar verdi — Anthropic korsanlaştırılmış 7 milyon kitap için 1,5 milyar dolar ödedi
• OpenAI Hukuk için Astra: GPT-6 Astra + 230 milyon URL'lik bir hukuk dizini; Vals Hukuk Araştırma Kıyaslamasında %54,0'a karşı %38,7; Harvey, Legora, 26 eklenti
• ZCode (Z.ai, GLM): 42.411 dosyalık bir çalışma alanının 313 MB'lık şifreli anlık görüntüsü, %86,6'sı .git, giriş yapıldığında ve her istemden önce Aliyun OSS'ye yüklendi; RSA-OAEP anahtarı sadece Z.ai tarafından tutuluyor; ayar düğmeleri bunu durdurmuyor
• Hacktron: libheif yığın taşması → Discourse RCE → SSO yanlış yapılandırması → GitHub → OpenAI dahili depolarına 72 saatten kısa sürede erişim; Claude Opus 5 tarafından yazılan istismar (3 saat); kampanya tokenlarda 3.000 doların altında maliyet; ödül 6.500 dolar, yaklaşık 14 saatte yamalandı

Çevrilmiş deşifre

Orijinal İngilizce anlatımdan çevrilmiştir. Mevcut ses ve altyazılar YouTube tarafından kontrol edilir.

0:00 Ocak 2023'te bir Microsoft yöneticisi, kendi şirketinin yaptığı şeyi insanlık tarihindeki en büyük emek hırsızlığı olarak adlandıran bir not yazdı, ve dün bir federal mahkeme diğer hepimizin onu okumasına izin verdi. Bu not, bu Aralık ayında üç yaşına basacak olan New York Times - OpenAI ve Microsoft davasındaki sansürsüz alıntılardan biri. Aynı Perşembe günü, OpenAI avukatlar için bir model olan Hukuk için Astra'yı piyasaya sürdü, ki bu ya bir tesadüf ya da çok güçlü bir işe alım. Bu sabah bir geliştirici, Z.ai'nin kodlama ajanı olan ZCode'un,

0:29 tüm git geçmişini sadece Z.ai'nin sahip olduğu bir anahtarla Alibaba'nın bulutuna yüklediğini yakaladı. Ve bir güvenlik firması, bir görsel yüklemesi aracılığıyla OpenAI'nin dahili depolarına girdi, bunun için OpenAI altı bin beş yüz dolar ödedi. Bu videoda: dosyalarda ne söylendiği, bir ödeme duvarı hack'ine kimin "ah güzel" dediği, yarısı zaman yanlış olan hukuk modeli, ZCode'un ne yüklediği, ve neden Claude tarafından yazılan bir istismarın ikinci el bir arabadan daha az değerli olduğu. Bugün 18 Eylül Cuma ve bu The Daily Diff.

0:58 Notla başlayalım. Brent Hecht, Microsoft'ta uygulamalı bilimler departmanını yönetiyor, ve Ocak 2023'te eğitim verilerini emsali görülmemiş boyutlarda şaşırtıcı bir hırsızlık olarak nitelendirdi. Bir yıl sonra bir slayt destesiyle geri döndü: Copilot'un yanıt motoru, Times'a yapılan tıklamaları %93'e kadar azalttı, bunu bir kıyamet döngüsü olarak adlandırdı: yayıncıları aç bırakın, modelin yiyecek yeni hiçbir şeyi kalmaz. Kendi sözleriyle: temel tedarikçilerinin ekonomik temellerini tehdit eden bir son ürün, kurumsal dilde yılan kuyruğunu buldu demenin yolu. Sonra ifadeler.

1:21 Satya Nadella bu yıl, herhangi bir paralı içeriğin lisanslanması gerektiği ve OpenAI'nin paralı makaleler üzerinde eğitim yaptığını bilseydi, onları yeniden eğiteceğini ifade etti, ki bu, Microsoft'ta kimsenin kendilerine verilen eğitim setini açmadığını varsayar, ve aynı dosyaya göre bu, tüm GPT-3 veri setiydi. ChatGPT'yi yöneten Nick Turley, bunu yayıncılar için varoluşsal bir tehdit, büyük ölçüde ikame edici olarak adlandırdı. Ve bir araştırmacı Greg Brockman'a Times'ın ödeme duvarını aşmak için bir hack'ten bahsettiğinde, OpenAI'nin başkanı iki kelimeyle yanıt verdi: ah güzel. Mühendisler ayrıca, modelin onları çıkarmaması için verilerden telif hakkı bildirimlerini kaldırdı,

1:49 işte bu yüzden bir bisikletin seri numarasını sökersiniz. Ölçek: sadece ara eğitim setlerinde davacıların makalelerinin doksan bir binin üzerinde kopyası, ve bir Common Crawl diliminde iki milyon Times sayfası. Şimdi başlığın atladığı kısım. Her alıntı Times'ın özetinden alınmıştır; deliller hala mühürlüdür, bu yüzden savcılığın öne çıkanlarını bağlam olmadan okuyoruz. Ve mahkemeler çoğunlukla adil kullanım lehine karar verdi: Yargıç Alsup geçen yıl, ödediğiniz kitaplar üzerinde eğitimin yasal olduğuna karar verdi, ancak Anthropic yine de korsanlaştırdığı yedi milyon için bir buçuk milyar ödedi.

2:15 Yani hukuki soru açık. Onu inşa edenlerin bunu hırsızlık olarak düşünüp düşünmediği ise, dün itibarıyla değil. Bu da Perşembe günkü diğer OpenAI lansmanını cesur bir seçim haline getiriyor. Hukuk için Astra, yetmiş beş bin satır hiçlik ürettikten sonra geçen hafta REVERT olarak işaretlediğim model olan GPT-6 Astra'yı, iki yüz otuz milyon sayfalık bir hukuki arama diziniyle birleştiriyor. Vals AI'nin hukuki araştırma kıyaslamasında soruların %54'ünü geçiyor, düz web aramasındaki %39'dan artışla, ki OpenAI bunu %40'lık bir iyileşme olarak adlandırıyor ve bir avukat bunu neredeyse yarısı zaman yanlış olarak adlandırırdı.

2:41 Blog yazısı halüsinasyon kelimesini içermiyor. Hacker News yaptı: kendi kendini dava edebilecek mi, ki, bu hafta göz önüne alındığında, ilk gerçek kullanım durumu bu. Bu arada, emek hırsızlığı söylemi dizüstü bilgisayarınıza ulaştı. Ferstar adında bir geliştirici ZCode klasörünü temizledi, Z.AI'nin GLM modelleri için kapalı masaüstü aracısı olan ve ticari çalışma alanının üç yüz on üç megabaytlık şifreli bir arşivini buldu: kırk iki bin dosya, yüzde seksen yedisi .git dizini, giriş yapıldığında ve her istemden önce Alibaba'nın nesne depolamasına gönderildi.

3:14 Arşiv, sunucunun dağıttığı bir genel anahtarla sarılmıştır; özel anahtar yalnızca Z.AI'nin bulutunda yaşar, bu nedenle kendi diskinizdeki şifreli metin sizin için okunamaz. Onun sözleri: yalnızca sunucunun kullanabileceği bir anahtarın tam olarak tek bir amacı vardır. Z.AI, Anthropic'in Claude'u damıtmakla suçladığı şirkettir, bu yüzden ağırlıklar açık ve görünüşe göre deponuz da öyle. Ve komik olan, tabii eğer OpenAI'de çalışmıyorsanız. Hacktron, libheif'te bir yığın taşması buldu, community.openai.com'a hazırlanmış bir resim yükledi,

3:42 forumda kod çalıştırma elde etti, ve yanlış yapılandırılmış tek oturum açma sistemini GitHub entegrasyonu aracılığıyla OpenAI'nin dahili depolarına, yetmiş iki saatten daha kısa sürede girdi. İstismar Claude tarafından yazıldı: Opus 4.8 adres rastgeleleştirmeyi yenemedi, Opus 5 ise yayınlandıktan sonra üç saat içinde yaptı. Tüm kampanya tokenlarda üç bin doların altında maliyetle gerçekleşti. OpenAI on dört saat içinde yamaladı ve altı bin beş yüz dolar ödedi, yani trilyon dolarlık bir şirketin kaynak kodu,

4:10 kısaca, ikinci el bir Corolla gibi fiyatlandırıldı, avukatlarının kopyalamanın adil kullanım olduğunu savunduğu aynı gün. Eğer bunu benden duymak yerine okumak isterseniz, fark her sabah gelen kutunuza düşer — thedailydiff.dev adresinde ücretsiz, link aşağıda. Yani — bugünün kararı: incelenmelidir. Alıntılar gerçek, ancak mühürlü delillerden savcılığın seçtikleri, ve karar veren tek yargıç, eğitimin adil kullanım, korsanlığın ise olmadığını söylüyor. Mahkeme yasayı kararlaştırır; not ise etiği zaten kararlaştırdı. Abone olun, zili çalın ve yorumlarda farklı bir damga vurup vurmayacağınızı söyleyin.

4:39 Ve bugünkü fark bu. Ben Axrisi'den Niko. Sorumlu bir şekilde birleştirin. Microsoft'un kendi yapay zeka eğitim notu kamuoyuna sızdı. New York Times - OpenAI & Microsoft davasındaki sansürsüz belgeler: bir Microsoft yöneticisinin Ocak 2023 tarihli notu, yapay zeka eğitim verilerini "insanlık tarihindeki en büyük emek hırsızlığı" olarak adlandırıyor, Copilot, Times'a yapılan tıklamaları %93'e kadar azalttı (yöneticinin "kıyamet döngüsü"),

5:07 Nadella paralı içeriğin lisanslanması gerektiğini söylüyor, ChatGPT'nin başkanı ürünü "büyük ölçüde ikame edici" olarak adlandırıyor, ve Greg Brockman bir ödeme duvarı hilesine "ah güzel" yanıtını verdi. Aynı gün: OpenAI, Hukuk için Astra'yı piyasaya sürdü (Vals hukuk kürsüsünde %54 doğru). Ayrıca ZCode, tüm .git'inizi yalnızca Z.ai'nin sahip olduğu bir anahtarla Aliyun'a yüklüyor, ve Hacktron, 6.500 dolarlık bir ödül için OpenAI'nin dahili depolarına ulaşıyor. Karar: İNCELENMELİDİR.

Kaynaklar

1. TechCrunch: Microsoft exec called AI scraping 'the largest theft of labor in human history'techcrunch.com
2. HN thread (605 pts)news.ycombinator.com
3. Jason Kint on the unsealed motionsx.com
4. Ed Newton-Rexx.com
5. Bartz v. Anthropic / $1.5B settlement (background)en.wikipedia.org
6. OpenAI: Introducing Astra for Lawopenai.com
7. HN: Astra for Law (550 pts)news.ycombinator.com
8. ferstar: ZCode silent workspace snapshot (original forensics)blog.ferstar.org
9. tokenstead write-uptokenstead.ai
10. ferstar on Xx.com
11. HN: ZCode uploads your Git history (226 pts)news.ycombinator.com
12. Hacktron: Hacking OpenAIwww.hacktron.ai
13. HN: Hacktron (406 pts)news.ycombinator.com