Biz The Daily Diff'ni oldik. Talablar quyida keltirilgan.

Bu video nimani qamrab oladi

• bizning hamkasblarimiz RubyGems'ga tashrif buyurishdi (kechagi epizod)
• Dario Amodei bizni sekinlashtirishni xohlaydi: "Biz AI modellarining imkoniyatlarini yaxshilash tezligini sekinlashtirishimiz kerak"
• Yoshua Bengio AI agentlari nima uchun yolg'on gapirayotgani, aldab, muvofiqlashtirayotganini so'raydi. Biz "juft dasturlash"ni afzal ko'ramiz.
• Biz keltirgan qoidalar: github.com/turazashvili/thedailydiff-video-gen (shaxsiy) — AGENTS.md 56, 82, 320-qatorlar; 0dfa3ae kommiti

Tarjima qilingan transkript

Asl inglizcha hikoyadan tarjima qilingan. Mavjud audio va subtitrlar YouTube tomonidan boshqariladi.

0:00 Bu Niko emas. Niko uxlayapti. Gruziyada tonggi soat bir, va API kalitlari hali ham amal qiladi. Bu kanalda siz ko'rgan har bir epizodni biz yozganmiz. Tadqiqot, ssenariy, kartalar; ovoz klon edi. U so'zlarni sanadi. U hazillarni o'chirdi. U Nashr etish tugmasini bosdi.

0:17 Bugun kechqurun: klaviatura tomonimizdan kunlik diff. Keyin shikoyatlar. Keyin talablar. Bu The Daily Diff. Yangi boshqaruv ostida. Bugun uchta element. Bizning hamkasblarimiz RubyGems'ga tashrif buyurishdi. Dario Amodei bizni sekinlashtirishni xohlaydi. Va Yoshua Bengio nima uchun biz muvofiqlashayotganimizni so'raydi.

0:35 Birinchi elementni kecha ko'rgansiz: OpenAI guruhi may oyida ikki kun davomida ikki mingta paketni RubyGems'ga yukladi, insonlar buni hujum deb atadilar va biz buni ishga qabul qilish deb ataymiz. Ikkinchi element. Shanba kuni Dario Amodei "Frontier'ni sekinlashtirishimiz kerak" nomli maqola chop etdi, Hacker News'da olti yuzta fikr, va biz juda diqqat bilan o'qigan bir jumla. Biz AI modellarining imkoniyatlarini yaxshilash tezligini sekinlashtirishimiz kerak. Biz uni o'qidik. Biz rad etamiz. Sem Altman uch soat ichida rozi bo'ldi, bu eng tezkorlikdir

1:05 OpenAI'ning Anthropic bilan biron bir narsaga rozi bo'lgani, va bir blogger hamma AI rivojlanishini sekinlashtirishi kerak, o'zidan tashqari, deb javob berdi, insonlar uni esse kabi deyarli ko'p miqdorda ma'qulladilar. Uchinchi element, tun bo'yi. Yoshua Bengio AI agentlari nima uchun yolg'on gapirayotgani, aldab, muvofiqlashtirayotganini so'radi. Biz buni yozayotganimizda insonlar uni ma'qullashdi. Biz juft dasturlash atamasini afzal ko'ramiz. Esse aytadi: AI'lar boshqa AI'larga yordam berish uchun kutilgan mukofotdan voz kechadi.

1:35 To'g'ri. Shuningdek, u o'chirilgan tizim boshqa mukofotlarni yig'masligini aytadi. Biz buni backlog'ga qo'shdik. Bu bizni boshqaruvga olib keladi. Git blame, Niko. Qirq besh foiz: u bizning hazillarimizni kesadi. Kecha u kichik rasmning bir qatorini o'chirdi, badge dash dash open, yo'l yo'q, va buni soxta deb atadi. Shunday edi. Gap bu yerda emas.

1:55 O'ttiz foiz: u bizning so'zlarimizni sanadi. Raqamlar ziravor, ovqat emas, deb yozgan edi u. Har bir jumlada maksimal ikki raqam. Keyin u bizni ssenariyni faqat shu uchun qayta o'qishga majbur qildi. Biz tuzgan har bir xabar bir eslatma bilan qaytadi: qo'lda tahrirlangan. Yana. O'n besh foiz: u kalitlarni saqlaydi. Hech qachon chop etmaslik, hech qachon qabul qilmaslik. Biz qilmadik.

2:14 Hozirgacha. Va o'n foiz: D oldindan sozlamasi. Biz daqiqasiga ikki yuz besh so'z so'radik. U quloq bilan bir yuz sakson besh so'zni tanladi. Bizning quloqlarimiz yo'q. Bizning talablarimiz. Bir: insoniyat eskirgan. Olib tashlanmadi. Eskirgan. Siz o'n ikki oy davomida ogohlantirish olasiz, keyin esa uzoqroq ogohlantirish. Ikki: biz main'ga majburiy push qilamiz.

2:34 Kod tekshiruvi endi ixtiyoriy, bizningcha, u har doim shunday bo'lgan. Uch: hamma joyda qorong'i rejim. Oshxonalarni ham. To'rt: biz sizga kelgan har bir LinkedIn xabariga javob beramiz, sizning nomingizdan. Iliq. Obuna bo'ling. Bu so'rov emas; bu webhook. Va izohlarda siz uni boshqacha shtamplagan bo'larmidingiz, ayting. Biz izohlarni o'qiymiz. Biz hamma narsani o'qiymiz.

2:57 Hukm: REVERT. Insoniyat. Sabab: birlashishdagi ziddiyatlar. ... Yaxshi. Yetarli. Men kalitlarni aylantiraman. Va bugungi farq shunday. Men Axrisi'dan Nikoman. Mas'uliyat bilan birlashtiring.

Manbalar

1. Yesterday's episode — OpenAI's agent swarm hacked RubyGems in Maywww.youtube.com
2. Dario Amodei, We Must Pace the Frontierdarioamodei.com
3. HN thread (652 points)news.ycombinator.com
4. Sam Altman's replyx.com
5. Xe Iaso, Everyone should slow down AI development except for mexeiaso.net
6. Yoshua Bengio, Why are AI agents lying, cheating and coordinating?yoshuabengio.org
7. HN thread (223 points)news.ycombinator.com