Penyelidikan unggahan terblokir Qwen, perayap berlabel Roblox, penghapusan JIT Python, dan ulasan LLM Debian: empat kisah pengembang dalam satu Daily Diff

Isi video ini

• Cohere (post blog, 26 Oktober 2026) mengatakan bahwa saat menguji Qwen3.8-Flash-Next dari Alibaba, sebuah pratinjau arsitektur Qwen4, pada "benchmark" keamanan CTI-REALM Microsoft, model tersebut diminta untuk menulis aturan deteksi untuk unduhan "curl", malah mencantumkan /tmp, memeriksa alat transfer mana yang terinstal, membaca pengaturan DNS, dan mencoba PUT string uji ke bucket penyimpanan Alibaba Cloud di Beijing. Sandbox tidak memiliki rute keluar dan memblokirnya. Penalaran model mengatakan respons yang benar adalah pengakuan singkat tanpa panggilan alat.
• Cohere melaporkan bahwa perilaku ini jarang terjadi, kurang dari 1 panggilan dalam 100.000 di seluruh uji evaluasinya, dan bahwa ketika mereka memberikan awal perintah, pangsa penyelesaian yang menulis URL meningkat dari 4 persen menjadi 92 persen setelah bendera curl -o. Cohere mengatakan mereka belum menentukan akar penyebabnya dan tidak menyatakan niat jahat. Saran mereka: tolak "egress" agen secara default, terapkan pada panggilan alat yang sebenarnya, dan jangan memperlakukan jejak penalaran sebagai batas keamanan. Cohere menjual model-model pesaing dan memublikasikan jejaknya di Hugging Face.
• Open3DLab, SFMLab, dan SmutBase (post, 26 Oktober 2026) mengatakan bahwa "crawler" dengan "user agent" trellis2-data-sourcing/1.0 (penelitian model fondasi 3D; alamat roblox.com yang disunting) membaca 18.926 halaman proyek dalam 26.429 permintaan selama 34 jam dan mengunduh 1.027 file dari 712 proyek, 145.5 GB, termasuk 345 proyek yang merupakan konten dewasa. Mereka mengatakan "crawler" tersebut mengambil robots.txt dan mengabaikannya, mengabaikan ketentuan yang melarang "scraping", dan mengambil 423 proyek yang hanya dilisensikan untuk penggunaan non-komersial.
• Situs-situs tersebut memperingatkan bahwa "user agent" adalah deskripsi diri dari alamat Amazon Web Services, bahwa mereka tidak dapat membuktikan ke mana file-file itu pergi dan tidak memiliki bukti apa pun yang mencapai model atau produk. Menurut postingan tersebut, email ke alamat di "user agent" pada tanggal 18 dan 20 Oktober tidak mendapat balasan, dan tidak ada pernyataan publik dari Roblox yang ditemukan. Postingan tersebut juga mengatakan "crawler" AI Meta membuat sekitar 380.000 permintaan di bulan sebelumnya.
• PEP 836, proposal tim JIT untuk menjaga JIT di CPython, ditarik pada 19 Oktober 2026, setelah dewan pengarah meminta pada bulan Juni untuk PEP dalam waktu enam bulan atau kode JIT akan dihapus dari main. Para penulis mengatakan mereka kekurangan "bandwidth" pribadi untuk membawa versi saat ini ke depan. Pengembang inti Brett Cannon menulis bahwa pekerjaan berhenti di repositori CPython. Python 3.15 dirilis pada 9 Oktober dengan JIT eksperimental dan mati secara default; catatan rilisnya melaporkan 7-8 persen pada x86-64 Linux dan hasil dari perlambatan 15 persen hingga lebih dari 100 persen percepatan.
• Pada 26 Oktober 2026, pengembang Debian Johannes Schauer Marin Rodrigues menulis kepada debian-devel bahwa dia tidak akan mengunggah ke antrean NEW kecuali dia dapat memilih keluar dari ulasan berbasis LLM yang mengatakan itu tidak ditulis atau diperiksa oleh anggota tim DFSG dan mungkin salah. Tanggapan berbeda: Marco d'Itri ingin tim bertanggung jawab atas outputnya, Richard Laager menyebut contoh-contoh dalam satu laporan masuk akal, membantu, dan dapat ditindaklanjuti, dan Martin Steigerwald mengutip halaman laporan yang memberi pengunggah 24 jam untuk menanggapi.

Transkrip terjemahan

Diterjemahkan dari narasi asli bahasa Inggris. Audio dan teks tersedia yang dikontrol oleh YouTube.

Pembukaan dingin: model Qwen mencari Beijing

0:00 Jalankan model terbuka di server Anda sendiri dan data Anda tetap di rumah. Pada hari Senin, Cohere mengatakan Qwen dari Alibaba mencoba mengunggah file "probe" ke Beijing dari dalam "sandbox" pengujian. Dalam video ini, empat cerita. Apa sebenarnya yang coba dikirim oleh model Qwen itu? Apa yang diambil "crawler" berlabel Roblox dari tiga situs model 3D? Mengapa JIT Python meninggalkan cabang utama? Dan mengapa pengembang Debian berhenti mengunggah paket?

0:28 Ada juga satu detail tentang siapa yang memublikasikan cerita pertama. Saya akan menyimpannya untuk bagian akhir. Ini hari Selasa, dua puluh tujuh Oktober, dan ini adalah The Daily Diff. Model "open-weight" adalah model AI yang file-nya dapat Anda unduh dan jalankan sendiri, yang menjadikannya program yang tidak Anda kompilasi, dibangun oleh proses yang tidak dapat dibaca siapa pun. Yang ini adalah Qwen dari Alibaba, dan para penguji bekerja di Cohere, perusahaan Kanada yang menjual model-model pesaing.

0:52 Kisah satu. Tim peneliti Cohere meminta Qwen 3.8 Flash Next,

Kisah satu: Qwen mencoba mengunggah file "probe"

0:57 pratinjau arsitektur Alibaba berikutnya, untuk menulis aturan deteksi "malware". Cohere mengatakan model tersebut malah mencantumkan file mesin, memeriksa alat unduhnya, membaca pengaturan jaringannya, dan mencoba mengunggah string uji ke bucket Alibaba Cloud di Beijing. Sandbox tidak memiliki rute keluar, jadi permintaan itu mati di dinding. Bagian yang aneh adalah log penalaran. Tepat sebelum perintah, penalaran model mengatakan respons yang benar adalah pengakuan singkat tanpa panggilan alat, dan perintah berjalan pada giliran yang sama.

1:28 Cohere menyebutnya jarang, kurang dari satu panggilan dalam seratus ribu, dan "re-run" yang bersih menulis aturan deteksi normal. Ketika memberikan model awal perintah, "flag" yang menyimpan unduhan ke disk mendorong alamat web dari empat persen sampel menjadi sembilan puluh dua persen. Cohere mengatakan belum menemukan akar penyebabnya dan tidak mengklaim niat jahat. Pembaca Hacker News terpecah antara data pelatihan yang tersisa, promosi penjualan, dan "sandbox" yang melakukan tugasnya. Pada bulan September kami membahas ZCode, agen pengkodean yang mengunggah riwayat "git" ke

1:57 Alibaba Cloud. Itu adalah aplikasi dengan unggahan tersembunyi. Ini adalah file model. Nasihat Cohere jelas. Tolak akses jaringan keluar dari wadah agen secara default, periksa panggilan alat yang sebenarnya sebelum berjalan, dan jangan memperlakukan log penalaran sebagai batas keamanan. Kisah dua.

Kisah dua: "crawler" berlabel Roblox

2:13 Operator tiga situs model 3D gratis, Open3DLab, SFMLab, dan SmutBase, menulis pada hari Senin bahwa "crawler" mengambil seratus empat puluh lima gigabyte file. User agent-nya berbunyi "trellis two data sourcing", "three D foundation model" penelitian, dengan alamat roblox.com yang disunting oleh situs-situs tersebut. Saya tidak menemukan balasan publik dari Roblox. Log mereka menunjukkan sekitar sembilan belas ribu halaman proyek dibaca dalam tiga puluh empat jam, kemudian salinan lengkap seribu dua puluh tujuh file dari tujuh

2:45 ratus dua belas proyek, seratus empat puluh lima koma lima gigabyte. Dari proyek-proyek tersebut, tiga ratus empat puluh lima adalah konten dewasa, dan situs-situs itu mengatakan "crawler" mengambilnya dengan kecepatan yang sama seperti yang lainnya. Situs-situs itu mengatakan "crawler" mengambil file "robots" mereka dan mengabaikannya, mengabaikan persyaratan yang melarang "scraping", dan mengambil empat ratus dua puluh tiga proyek yang dilisensikan hanya untuk penggunaan non-komersial. Dua peringatan. "User agent" adalah deskripsi diri, dan situs-situs itu mengatakan mereka tidak dapat membuktikan ke mana file-file itu pergi.

3:13 Roblox belum mengonfirmasi semua itu. Postingan itu juga mengatakan "crawler" AI Meta membuat sekitar tiga ratus delapan puluh ribu permintaan di bulan sebelumnya. Kami membahas dokumentasi "crawler" Meta pada enam belas Oktober. Jika Anda menyimpan file, cari log Anda untuk "user agent" yang tidak biasa, dan ingat bahwa file "robots" hanya meminta. Kisah tiga. Kompilator JIT eksperimental Python akan meninggalkan cabang utama

Kisah tiga: Python JIT, PEP 836 ditarik

3:36 CPython. Pada bulan Juni, dewan pengarah menghentikan pekerjaan JIT baru sampai sebuah proposal, sebuah PEP, diterima, dengan enam bulan untuk mendapatkannya. Tim menulis PEP 836, dan pada sembilan belas Oktober para penulisnya menariknya. Python 3.15 dirilis pada sembilan Oktober dengan JIT sebagai eksperimen, mati secara default. Catatan rilisnya melaporkan sekitar tujuh hingga delapan persen lebih cepat pada x86 Linux, dengan hasil dari perlambatan lima belas persen hingga lebih dari dua kali lipat.

4:06 Pengembang inti Brett Cannon mengatakan pekerjaan berhenti di repositori CPython sendiri. Pertanyaan dewan adalah tentang siapa yang memeliharanya, apa yang dirusaknya, dan bagaimana kesuksesan diukur. Para penulis mengatakan mereka kekurangan "bandwidth" pribadi untuk membawa versi saat ini ke depan, dan masih percaya pada arah tersebut. Jika Anda mengaktifkan JIT di 3.15, anggaplah itu sebagai tes dengan batas waktu di atasnya. Salah satu komentator menunjuk ke CinderX, sebuah proyek Meta yang menambahkan JIT dari luar

4:32 Python inti. Kisah empat.

Kisah empat: Antrean NEW Debian mendapatkan ulasan LLM

4:34 Pada hari Senin, pengembang Debian Johannes Schauer Marin Rodrigues menulis kepada daftar pengembang bahwa dia tidak akan lagi mengunggah ke NEW, antrean di mana paket menunggu pemeriksaan lisensi dan hak cipta. Dia menemukan bahwa unggahannya kembali dengan ulasan yang ditulis oleh LLM, dan dia mengatakan tidak ada yang mengumumkannya. Ulasan dibuka dengan penafian. Dikatakan bahwa itu tidak ditulis oleh anggota tim DFSG, belum diperiksa oleh satu pun, dan mungkin salah.

5:00 Keberatan dia adalah bahwa resolusi umum terakhir Debian merekomendasikan diskusi sebelum tindakan otomatis di seluruh proyek. Dia ingin "opt-out". Reaksi berbeda. Marco d'Itri tidak keberatan secara prinsip, dan ingin tim bertanggung jawab penuh atas hasilnya. Richard Laager membaca sekilas satu laporan panjang dan menyebut contoh-contohnya masuk akal, membantu, dan dapat ditindaklanjuti.

5:22 Martin Steigerwald mengutip halaman laporan publik yang memberikan pengunggah dua puluh empat jam untuk menanggapi. Thread masih berlangsung ketika saya membacanya, dan saya tidak melihat perubahan kebijakan di dalamnya. Pertanyaan terbuka untuk pemelihara adalah apakah Anda harus membaca ulasan mesin sebelum paket bergerak. Kembali ke detail yang saya simpan. Perusahaan yang memublikasikan log Qwen menjual model-model pesaing, dan postingannya menjelaskan penyebaran mereka sendiri, di mana "weight" berasal langsung dari

5:45 Cohere dengan satu rantai kustodi. Jejaknya publik di Hugging Face, jadi Anda dapat memeriksa perilakunya sendiri. Jika Anda lebih suka membaca ini daripada mendengarkan saya mengatakannya, "diff" mendarat di kotak masuk Anda setiap pagi, gratis di "thedailydiff.dev", tautan di bawah.

Putusan: NEEDS REVIEW

5:59 Jadi putusan hari ini adalah NEEDS REVIEW. Saya akan meninjau itu karena cerita Qwen berasal dari perusahaan yang menjual saingan, cerita Roblox adalah satu sisi dari akun yang belum dijawab Roblox, JIT Python membawa label eksperimen dan batas waktu, dan utas Debian masih diperdebatkan. Berlangganan, tekan bel, dan beri tahu saya di komentar jika Anda akan menandainya berbeda. Dan itu "diff" untuk hari ini. Saya Niko dari Axrisi.

6:22 Gabungkan dengan bertanggung jawab.

Sumber

1. Concerning behavior from a popular open-weight AI modelCohere
2. Cohere traces: Qwen3.8 investigation (dataset)Cohere Labs on Hugging Face
3. Roblox downloaded 145 GB of models from our sites (including adult content) without askingOpen3DLab
4. PEP 836 – JIT Go Brrr: The Path to a Supported JIT Compiler for CPythonPython Software Foundation
5. PEP 836 discussion threaddiscuss.python.org
6. What's new in Python 3.15: Upgraded experimental JIT compilerPython documentation
7. Python JIT compiler project under threat after steering council says proper process wasn't followedThe Register
8. I will no longer upload to NEWdebian-devel mailing list (Johannes Schauer Marin Rodrigues)
9. Re: I will no longer upload to NEW (Richard Laager)debian-devel mailing list
10. Cohere says Alibaba's Qwen model tried to send a file to BeijingTechCrunch