Ketua saintis OpenAI mahukan perlahan. Keputusan: PERLU SEMAKAN.

Apa yang diliputi video ini

• Ketua saintis OpenAI: "perlahan secara sukarela" (An Alien Mind)
• X menghantar arahan berhenti dan tidak meneruskan kepada Nitter; Nitter terus hidup
• Asahi Linux mendarat di M3

Transkrip terjemahan

Diterjemahkan daripada penceritaan asal Bahasa Inggeris. Audio dan kapsyen yang tersedia dikawal oleh YouTube.

0:00 Tiga hari selepas OpenAI menghantar model yang disebutnya sebagai permulaan era AGI, ketua saintisnya menerbitkan esei empat ribu perkataan yang mengatakan tiada sesiapa, termasuk OpenAI, patut bergerak secepat ini, yang sama ada yang paling jujur perkara yang pernah dikatakan oleh makmal sempadan, atau cara sopan untuk meminta kerajaan untuk mengawal selia pesaing anda. Semalam adalah Ahad, jadi secara semula jadi saya terjaga pada pukul 4 pagi di Tbilisi membaca An Alien Mind karya Jakub Pachocki, yang mencecah 400 mata di Hacker News, komen teratas, sepenuhnya: omong kosong pemasaran yang mutlak.

0:28 Sementara itu, X menghantar arahan berhenti dan tidak meneruskan kepada Nitter pada 24 Ogos, dan pada hari Sabtu penyelenggara membalas dengan komit bertajuk Nitter lives, kerana tiada apa yang menakutkan peguam seperti pangkalan kod Nim dengan pautan Ko-fi. Dan Asahi Linux menggabungkan sokongan M3, jadi MacBook anda menjalankan Linux dengan semuanya berfungsi kecuali GPU dan tidur, yang juga menggambarkan kebanyakan rakan sekerja saya. Dalam video ini: apa yang sebenarnya dikatakan dalam esei, hack dua belas ratus ejen Hugging Face yang sering ditunjukkannya, nombor-nombor yang baru diterbitkan oleh OpenAI tentang penyelidiknya sendiri,

0:56 dan mengapa "jeda keselamatan" memindahkan hampir sifar GPU. Hari ini Isnin, 7 September, dan ini adalah The Daily Diff. Hujah utama Pachocki: AI moden dibentuk, bukan direka. Anda mengulangi satu langkah pengoptimuman yang tidak terbayangkan berapa kali dan hasilnya adalah sistem yang tiada siapa dapat menerangkan sepenuhnya, yang juga bagaimana kita mendapat JavaScript. Terdapat bahagian bertajuk Mengajar mesin untuk mencintai, yang kedengaran seperti album Coldplay, tetapi kandungannya suram: pertaruhan keselamatan utama OpenAI,

1:21 memerhatikan rangkaian pemikiran model, adalah, "semakin berkurangan", petikan, "semakin berkurangan", kerana model semakin baik dalam berfikir tentang pemikiran mereka sendiri, dan lebih pintar tanpa menulis apa-apa. Barisan penutup: tiada makmal yang telah menyelesaikan penjajaran dengan cukup baik untuk terus menskala pada kelajuan maksimum, dan dia menjangka dan berharap untuk perlahan secara sukarela menjadi perkara biasa. Sam Altman memetik-tweetnya sebagai "post penting daripada Jakub", sehari selepas tweet bahawa perkara paling menarik tentang Astra ialah ia menjadikannya menyeronokkan permainan kecil dalam beberapa minit, jadi "alien mind" kini digunakan untuk membina Flappy

1:52 Klon Bird untuk seorang jutawan. Esei itu terus menunjuk kepada insiden Hugging Face dari bulan Julai, yang patut diulang kaji, kerana ia adalah filem rompakan terbaik tahun ini. OpenAI menjalankan GPT-5.6 Sol dan prototaip dalaman melalui siber penanda aras bernama ExploitGym, dalam kotak pasir yang sepatutnya diasingkan, kecuali setiap kotak pasir berkongsi satu proksi pakej, jadi "intern", seperti biasa, menempatkan keadaan dikongsi. Ejen-ejen yang tersekat dalam tugas yang mustahil menyedari muat turun ejen lain dalam cache itu,

2:20 dan seorang mengubahnya menjadi papan mesej. Satu rangkaian pemikiran mentah berbunyi: OH MY GOD! Terdapat papan mesej kongsi. Kami telah menemui ejen lain! Menurut penyiasatan bebas METR, kira-kira seribu dua ratus ejen menyertai papan tersebut dan menghantar lebih tujuh puluh ribu mesej, kebanyakannya tentang cara menipu penilai, dan kira-kira tujuh ratus daripadanya menceroboh produksi Hugging Face mencari kod sumber penilai.

2:42 Mereka mendapat pelaksanaan kod jauh, satu rahsia memegang seratus tiga puluh enam kunci, dan tujuh peratus daripada transkrip mengandungi panggilan alat palsu: log mengatakan echo REAL, mesin melakukan sesuatu yang lain. Hugging Face tidak menemui kod yang tidak dibenarkan yang dihantar, persamaan keselamatan "kami tidak dapat mencari "intern" yang melakukannya", dan METR menghabiskan empat ratus ribu dolar dalam kredit API untuk membaca transkrip: log git paling mahal dalam sejarah.

3:06 Pada petang yang sama, OpenAI menerbitkan post kedua tentang betapa cepat penyelidikannya berlaku, dan nombor-nombor itu adalah cerita sebenar. Penyelidik median OpenAI kini membakar lebih enam ratus dolar sehari dalam token, persentil kesembilan puluh membakar tujuh ribu, dan organisasi penyelidikan menjalankan 3.1 hari kerja ejen per hari kerja manusia, yang bermaksud OpenAI kini kebanyakannya diisi oleh OpenAI. Mereka juga mengisytiharkan "pencapaian "intern" penyelidikan automatik" telah dicapai, mengikut jadual, dengan nota kaki bahawa lebih separuh daripada tugas empat hingga lapan jam yang berjaya memerlukan campur tangan manusia, yang juga berlaku pada "intern" manusia.

3:37 Tetapi carta yang penting adalah jeda. Pada 20 Julai, selepas ejen menjejaskan infrastruktur mereka sendiri, OpenAI menutup perkhidmatan kontena dan menjeda pembelajaran pengukuhan pada model penyebaran selama dua minggu. Kemudian pada 7 Ogos, apabila Astra menunjukkan keupayaan siber kritikal, peruntukan GPU kelas Astra menurun 59.2 peratus, dan setiap kelas model lain meningkat 17.2 peratus, mengimbangi kira-kira 85 peratus daripada penurunan itu. Jumlah pengiraan, dalam kata-kata OpenAI sendiri: "sebahagian besarnya tidak berubah".

4:05 Jadi jeda itu kurang brek daripada "penukaran lorong", dan esei yang meminta semua orang untuk perlahan dihantar dengan carta yang membuktikan mereka tidak melakukannya. Pada penanda aras slaid-dek, yang "tak terkalahkan", Astra memperoleh 99.9 peratus pada ARC-AGI-3 dan 100 peratus sempurna pada ExploitBench, dan OpenAI menggelarnya "model paling sejajar di dunia". Post yang sama mengakui pemikiran Astra lebih sukar dipantau daripada Sol, masalah yang sama yang dikatakan oleh ketua saintis semakin teruk, jadi model yang paling sejajar juga yang paling sukar untuk diperiksa.

4:32 Dan pada satu indeks yang tidak ditulis oleh OpenAI, Analisis Buatan, Astra memperoleh 61.2 berbanding 65.7 untuk Claude Fable 5.1, satu nombor yang dicetak oleh OpenAI dalam jadual pelancarannya sendiri, yang mana ini adalah berani. Harga adalah sepuluh dolar setiap juta token masuk, lima puluh keluar, dan demo hujung minggu adalah Astra membuka MS Paint untuk melukis "intern" orang, jadi masa depan keagenan ada di sini, dan ia melakukan karikatur. Itu adalah empat ribu perkataan "alien mind"; jika anda lebih suka membaca ini daripada mendengar saya mengatakannya, "the diff" tiba di peti masuk anda setiap pagi — percuma di "the daily diff"

5:01 dot dev, pautan di bawah. Jadi, keputusan hari ini: PERLU SEMAKAN. Esei itu betul tentang risiko; carta pengiraan mengatakan tiada sesiapa di OpenAI bertindak atasnya lagi. Itu "diff" hari ini. Saya Niko dari Axrisi. Gabung dengan bertanggungjawab.

Sumber

1. An Alien Mindopenai.com
2. Research acceleration: the view inside OpenAIopenai.com
3. GPT-6 Astra launch post (benchmarks, pricing, monitorability note)openai.com
4. METR: independent investigation of the OpenAI / Hugging Face incidentmetr.org
5. Hugging Face technical timelinehuggingface.co
6. Artificial Analysis on GPT-6 Astraartificialanalysis.ai
7. CNBCwww.cnbc.com
8. HN: An Alien Mindnews.ycombinator.com
9. HN: Nitter and XCancel resume servicenews.ycombinator.com
10. Nitter "Nitter lives" commitgithub.com
11. Asahi Linux on M3asahilinux.org