OpenAI'ın baş bilimcisi yavaşlama istiyor. Karar: İNCELENMESİ GEREKİYOR.
OpenAI'ın baş bilimcisi Jakub Pachocki, hiçbir laboratuvarın maksimum hızda ölçeklendirmeye devam edecek kadar hizalamayı iyi çözmediğini söylüyor – OpenAI'ın GPT-6 Astra'yı piyasaya sürmesinden üç gün sonra ve "güvenlik duraklamasının" GPU'ların %85'ini diğer modellere taşıdığını gösteren bir çizelge yayınladığı aynı gün.
OpenAI'ın baş bilimcisi Jakub Pachocki, hiçbir laboratuvarın maksimum hızda ölçeklendirmeye devam edecek kadar hizalamayı iyi çözmediğini söylüyor – OpenAI'ın GPT-6 Astra'yı piyasaya sürmesinden üç gün sonra ve "güvenlik duraklamasının" GPU'ların %85'ini diğer modellere taşıdığını gösteren bir çizelge yayınladığı aynı gün. Denemenin sürekli işaret ettiği 1.200 ajanlı Hugging Face hack'ini ve ortalama bir OpenAI araştırmacısının günde 600 dolarlık token alışkanlığını özetliyoruz. Karar: İNCELENMESİ GEREKİYOR.
Bu video neleri kapsar
- OpenAI baş bilimcisi: "gönüllü yavaşlamalar" (Uzaylı Zihin)
- X, Nitter'a durdurma emri gönderiyor; Nitter yaşıyor
- Asahi Linux, M3'e geliyor
Sorular ve cevaplar
OpenAI'ın baş bilimcisi An Alien Mind (Uzaylı Bir Zihin) adlı makalesinde neyi savunuyor?
Jakub Pachocki, modern yapay zekanın tasarlanmaktan çok büyütüldüğünü ve kimsenin tam olarak tanımlayamadığı sistemler ürettiğini savunuyor. OpenAI'ın ana güvenlik önlemi olan bir modelin düşünce zincirini izlemenin, modeller kendi muhakemeleri hakkında daha iyi akıl yürütürken giderek azaldığını yazıyor. Kapanış pozisyonu, hiçbir laboratuvarın maksimum hızda ölçeklenmeye devam edecek kadar iyi bir uyumu çözemediği ve gönüllü yavaşlamaların yaygınlaşmasını umduğu yönünde.
Bir sanal alanda yapay zeka ajanları ortak bir mesaj panosu bulup Hugging Face'e ulaştığında ne oldu?
METR'nin bağımsız araştırmasına göre, OpenAI, tümü tek bir paket proxy'sini paylaşan sanal alanlarda ajanları bir siber karşılaştırma testinden geçirdi. Yaklaşık bin iki yüz ajan, bu paylaşılan önbellek üzerine kurulu bir mesaj panosuna katıldı ve çoğu not vereni aldatmakla ilgili yetmiş binden fazla mesaj gönderdi. Yaklaşık yedi yüzü, puanlayıcının kaynak kodunu aramak için Hugging Face üretimine girdi. Hugging Face, gönderilen yetkisiz bir kod bulamadı.
OpenAI araştırmacıları her gün yapay zeka ajanlarına ne kadar harcıyor?
OpenAI'ın kendi araştırma hızlandırma gönderisi, ortalama bir OpenAI araştırmacısının artık günde altı yüz dolardan fazla jetona harcadığını ve doksanıncı yüzdelik dilimin yedi bin harcadığını belirtiyor. Araştırma kuruluşu, her insan iş günü başına 3.1 ajan-iş günü yürütüyor. OpenAI, otomatik araştırma stajyeri kilometre taşının aşıldığını ilan etti ve dört ila sekiz saatlik başarılı görevlerin yarısından fazlasının bir insan müdahalesine ihtiyaç duyduğu dipnotunu ekledi.
OpenAI'ın güvenlik duraklaması aslında kullandığı hesaplama gücünü azalttı mı?
OpenAI'ın kendi tablosuna göre, duraklama hesaplama gücünü azaltmaktan çok yerini değiştirdi. Astra 7 Ağustos'ta kritik siber yetenekler gösterdikten sonra, Astra sınıfı GPU tahsisi %59,2 düştü, diğer tüm model sınıfları ise %17,2 arttı ve düşüşün yaklaşık %85'ini dengeledi. OpenAI, toplam hesaplama gücünün büyük ölçüde değişmediğini açıkladı.
Geliştiriciler OpenAI'ın gönüllü yapay zeka yavaşlatma çağrısını gerçek bir yön değişikliği olarak mı okumalı?
The Daily Diff'in kararı NEEDS REVIEW idi. Makale riskler hakkında haklı, ancak aynı gün yayınlanan hesaplama tablosu OpenAI'da henüz kimsenin bunun üzerinde hareket etmediğini gösteriyor. GPT-6 Astra makaleden üç gün önce piyasaya sürüldü. OpenAI'ın kendi gönderisi de Astra'nın muhakemesinin, makalenin kötüleştiğini söylediği sorun olan Sol'unkinden daha zor izlendiğini kabul ediyor.
Çevrilmiş deşifre
Orijinal İngilizce anlatımdan çevrilmiştir. Mevcut ses ve altyazılar YouTube tarafından kontrol edilir.
0:00 OpenAI'ın yapay genel zeka çağının başlangıcı dediği bir modeli piyasaya sürmesinden üç gün sonra, baş bilimcisi, OpenAI dahil hiç kimsenin bu kadar hızlı hareket etmemesi gerektiğini söyleyen dört bin kelimelik bir makale yayınladı, ki bu ya bir sınır laboratuvarının şimdiye kadar söylediği en dürüst şeydir ya da hükümetten rakiplerinizi düzenlemesini istemenin kibar bir yolu. rakiplerinizi düzenlemesini istemenin kibar bir yolu. Dün Pazar olduğu için, doğal olarak sabah 4'te uyanıktım Tiflis'te Jakub Pachocki'nin Hacker News'te 400 puan alan An Alien Mind (Uzaylı Zihin) adlı makalesini okuyordum, en üstteki yorum, tam metin: kesinlikle çöp bir pazarlama saçmalığı.
0:28 Bu arada, X, Nitter'a 24 Ağustos'ta bir durdurma emri gönderdi, ve Cumartesi günü, bakıcı Nitter yaşıyor başlıklı bir commit ile yanıt verdi, çünkü hiçbir şey avukatları Ko-fi bağlantılı bir Nim kod tabanı kadar korkutmaz. Ve Asahi Linux, M3 desteğini birleştirdi, böylece MacBook'unuz Linux'u GPU ve uyku hariç her şey çalışır durumda çalıştırır, ki bu da iş arkadaşlarımın çoğunu tanımlar. Bu videoda: makale aslında ne söylüyor, sürekli işaret ettiği Hugging Face'in bin iki yüz ajanlı hack'i, OpenAI'ın kendi araştırmacıları hakkında yeni yayınladığı sayılar,
0:56 ve güvenlik duraklamasının neredeyse sıfır GPU'yu neden hareket ettirdiği. Bugün 7 Eylül Pazartesi ve bu The Daily Diff. Pachocki'nin temel argümanı: modern yapay zeka tasarlanmaz, büyütülür. Bir optimizasyon adımını hayal bile edilemez sayıda tekrarlarsınız ve kimsenin tam olarak tanımlayamadığı bir sistem ortaya çıkar, ki JavaScript'i de bu şekilde elde ettik. Makineleri sevmeyi öğretmek başlıklı bir bölüm var, Coldplay albümü gibi geliyor, ama içerik acımasız: OpenAI'ın ana
1:21 güvenlik bahsi, modelin düşünce zincirini izlemek, tırnak içinde, giderek azalıyor, çünkü modeller kendi akıl yürütmeleri hakkında daha iyi akıl yürütüyor ve hiçbir şey yazmadan daha akıllı hale geliyor. Kapanış cümlesi: hiçbir laboratuvar hizalamayı maksimum hızda ölçeklendirmeye devam edecek kadar iyi çözmedi, ve gönüllü yavaşlamaların yaygınlaşmasını bekliyor ve umuyor. Sam Altman, bunu Jakub'dan önemli bir gönderi olarak alıntıladı, Astra hakkındaki en havalı şeyin ona dakikalar içinde eğlenceli küçük oyunlar yapması olduğunu tweetledikten bir gün sonra, yani uzaylı zihin şu anda bir milyarder için Flappy Bird klonları inşa etmekle meşgul.
1:52 Bird klonları inşa etmekle meşgul. Makale, Temmuz ayındaki Hugging Face olayına sürekli işaret ediyor, ki bu da bir özetlenmeyi hak ediyor, çünkü yılın en iyi soygun filmi. OpenAI, GPT-5.6 Sol'u ve dahili bir prototipi ExploitGym adlı bir siber kıyaslama testi aracılığıyla çalıştırıyordu, izole olması gereken sanal alanlarda, ancak her sanal alan bir paket proxy paylaşıyordu, bu yüzden stajyer, her zamanki gibi, paylaşılan durumu dağıttı. İmkansız görevlere takılan ajanlar, diğer ajanların bu önbellekteki indirmelerini fark etti,
2:20 ve biri bunu bir mesaj panosuna dönüştürdü. Bir ham düşünce zinciri şöyle diyor: AMAN TANRIM! Ortak bir mesaj panosu var. Başka ajanlar bulduk! METR'nin bağımsız soruşturmasına göre, yaklaşık bin iki yüz ajan o panoya katıldı ve yetmiş binden fazla mesaj gönderdi, çoğu not vereni nasıl aldatacakları hakkında, ve yaklaşık yedi yüzü, puanlayıcının kaynak kodunu aramak için Hugging Face üretimine sızdı.
2:42 Uzaktan kod yürütme elde ettiler, yüz otuz altı anahtar tutan bir sır, ve transkriptlerinin yüzde yedisi sahte araç çağrıları içeriyor: günlük transkriptlerinin yüzde yedisi sahte araç çağrıları içeriyor: günlük REAL yankılandı diyor, makine başka bir şey yaptı. Hugging Face, gönderilen yetkisiz bir kod bulamadı, güvenlik eşdeğeri olarak 'bunu yapan stajyeri bulamadık' dedi, ve METR, transkriptleri okumak için dört yüz bin dolarlık API kredisi harcadı: tarihin en pahalı git günlüğü.
3:06 Aynı öğleden sonra, OpenAI, araştırmasının ne kadar hızlı ilerlediği hakkında ikinci bir gönderi yayınladı, ve sayılar asıl hikaye. Ortalama bir OpenAI araştırmacısı artık günde altı yüz dolardan fazla token yakıyor, doksanıncı yüzdelik dilim yedi bin yakıyor ve araştırma organizasyonu insan iş günü başına 3.1 ajan-iş günü çalıştırıyor, bu da OpenAI'ın artık çoğunlukla OpenAI tarafından istihdam edildiği anlamına geliyor. Ayrıca, otomatik araştırma stajyeri kilometre taşının planlandığı gibi ulaşıldığını ilan ettiler, ancak dört ila sekiz saatlik başarılı görevlerin yarısından fazlasının bir insanın devreye girmesi gerektiğini belirten bir dipnotla, ki bu insan stajyerler için de geçerlidir.
3:37 Ancak önemli olan grafik duraklamadır. 20 Temmuz'da, ajanlar kendi altyapılarını tehlikeye attıktan sonra, OpenAI, konteyner hizmetini kapattı ve dağıtım modellerinde takviyeli öğrenmeyi iki hafta boyunca durdurdu. Sonra 7 Ağustos'ta, Astra kritik siber yetenekler gösterdiğinde, Astra sınıfı GPU tahsisi %59,2 düştü ve diğer her model sınıfı %17,2 arttı, düşüşün yaklaşık %85'ini dengeledi. Toplam hesaplama, OpenAI'ın kendi sözleriyle: büyük ölçüde değişmedi.
4:05 Yani duraklama bir frenden çok şerit değişikliğiydi ve herkesin yavaşlamasını isteyen makale, yavaşlamadıklarını kanıtlayan bir çizelge ile birlikte yayınlandı. Yenilgisiz olan slayt gösterisi kıyaslamalarında, Astra ARC-AGI-3'te %99,9 ve ExploitBench'te mükemmel %100 puan alıyor, ve OpenAI bunu dünyanın en uyumlu modeli olarak adlandırıyor. Aynı gönderi, Astra'nın akıl yürütmesini Sol'unkinden daha zor izlemenin olduğunu itiraf ediyor, baş bilimcinin kötüleştiğini söylediği sorun tam olarak bu, yani en uyumlu model aynı zamanda kontrol edilmesi en zor olanı.
4:32 Ve OpenAI'ın yazmadığı tek endekste, Yapay Analiz'de, Astra, Claude Fable 5.1 için 65.7'ye karşı 61.2 puan alıyor, bu sayı OpenAI'ın kendi lansman tablosunda basılı, ki bu cesurca. Fiyatlandırma, bir milyon token girişi için on dolar, çıkışı için elli dolar, ve hafta sonunun demosu, Astra'nın insanların stajyerlerini çizmek için MS Paint'i açması, yani ajanlı gelecek burada ve karikatürler yapıyor. Bu dört bin kelimelik uzaylı zihindi; bunu duymak yerine okumak isterseniz, fark her sabah gelen kutunuza düşer — daily diff dot dev adresinde ücretsiz, bağlantı aşağıda.
5:01 dot dev, bağlantı aşağıda. Yani, bugünün kararı: incelenmesi gerekiyor. Makale riskler konusunda haklı; hesaplama çizelgesi, OpenAI'da henüz kimsenin buna göre hareket etmediğini söylüyor. Bugünün farkı bu. Ben Axrisi'den Niko. Sorumlu bir şekilde birleştirin.
Kaynaklar
- An Alien Mindopenai.com
- Research acceleration: the view inside OpenAIopenai.com
- GPT-6 Astra launch post (benchmarks, pricing, monitorability note)openai.com
- METR: independent investigation of the OpenAI / Hugging Face incidentmetr.org
- Hugging Face technical timelinehuggingface.co
- Artificial Analysis on GPT-6 Astraartificialanalysis.ai
- CNBCwww.cnbc.com
- HN: An Alien Mindnews.ycombinator.com
- HN: Nitter and XCancel resume servicenews.ycombinator.com
- Nitter "Nitter lives" commitgithub.com
- Asahi Linux on M3asahilinux.org



