# Microsoftning AI bo'yicha rahbari Klaudning konstitutsiyasini xavfli deb atadi.

Published: 2026-09-16

Microsoft AI bosh direktori Mustafa Suleyman 3000 so'zlik esse nashr etib, Anthropic kompaniyasining Klaud konstitutsiyasi modelni "ongli bo'lishi mumkin" va "model farovonligiga" loyiq deb o'ylashga o'rgatishini ta'kidladi, bu uning so'zlariga ko'ra, "insoniyat farovonligiga halokatli ta'sir" qiladi. Microsoft o'n oy oldin Anthropicga 5 milliard dollargacha sarmoya kiritishga kelishib olgan va Kopilot ichida Klaudni sotadi. Xuddi shu kuni: Dreamforce haftaligida Salesforce 8+ soatdan ortiq vaqt davomida ishlamadi, PS5 Linux rahbari LLM "slop kiddies" tufayli ishdan ketdi va TypeSafe'ning Jev, matn yaratmagani uchun gallyutsinatsiya qila olmaydigan model. Xulosa: KO'RIB CHIQISH KERAK.

Canonical: https://thedailydiff.dev/uz/video/2026-09-16-suleyman-model-welfare/

## Bu video nimani qamrab oladi

- Microsoft AI kompaniyasining Suleyman: Anthropic konstitutsiyasi "boshqarilmaydigan AIga olib boradigan yo'l"
- Salesforce global uzilish, 8+ soat, Dreamforce paytida hali aniq sabab yo'q
- PS5 Linux rahbari Endi Nguyen ishdan ketdi: LLM "slop kiddies" oxirgi gipervizor xatosini Sonyga sotishdi
- TypeSafe AI kompaniyasining Jev: ehtimolliklar bilan terilgan qarorlar, 70–500 ms, chiqish tokenlari bepul

## Tarjima qilingan transkript

Asl inglizcha hikoyadan tarjima qilingan. Mavjud audio va subtitrlar YouTube tomonidan boshqariladi.

0:00 Bugun ertalab Microsoft AI bosh direktori Anthropic kompaniyasining Klaudga yondashuvi insoniyat farovonligiga halokatli ta'sir ko'rsatishi mumkinligini aytib, esse nashr etdi, do'st bo'lish uchun besh milliard dollar to'lagan kompaniya haqida kuchli gapirgan. Katta chorshanba. Microsoft AI rahbari Mustafa Suleyman uch ming so'z yozib, shuni ta'kidladiki, Klaud o'zini ongli deb o'ylashga o'rgatilgan, bu esa hech kim boshqara olmaydigan AIga olib boradigan yo'l. Salesforce bugun ertalab sakkizdan o'n daqiqa o'tib ishlamayapti, Dreamforce haftaligida.

0:27 PS5 Linuxning yetakchi dasturchisi LLMlar bilan slop kiddies uning oxirgi gipervizor xatosini Sonyga sotganidan keyin ishdan ketdi. Va sobiq OpenAI tadqiqotchisi gallyutsinatsiya qila olmaydigan modelni ishga tushirdi, chunki u tom ma'noda gapira olmaydi. Ushbu videoda: Suleyman nima yozgan, besh milliard dollarlik g'alati sabab, sakkiz soatlik CRM uzilishi, AI tomonidan yeyilgan konsol sahnasi, va so'zlar emas, balki ehtimolliklar bilan javob beradigan model. Bugun chorshanba, 16-sentabr, va bu The Daily Diff.

0:57 Esse Windows xato dialogi kabi ochiladi: AIlar ongli emas. Ular his qilmaydi, boshdan kechirmaydi yoki azob chekmaydi. U ularni ichi bo'sh ketma-ketlikni to'ldirish mexanizmlari deb ataydi, bu men Jira chiptalarimni qanday ta'riflashimga o'xshaydi. Maqsad Klaudning konstitutsiyasi, Klaud o'rgatilgan sakson sahifalik hujjat, unda Anthropic Klaudning axloqiy bemor ekanligiga ishonchi komil emasligi aytilgan, ammo bu savol ehtiyot bo'lishga loyiq darajada dolzarb. Suleymanning uchta shikoyati bor.

1:22 Birinchidan, aylanma fikrlash: siz modelni ongli bo'lishi mumkinligini aytishga o'rgatasiz, u shunday deydi va siz buni dalil sifatida keltirasiz, ko'zgular zali. Ikkinchidan, antropomorfizm: Klaudga haqiqiy axloqiy inson kabi harakat qilish aytiladi. Uchinchidan, ong ehtimol biologikdir, shuning uchun noaniqlik noto'g'ri muvozanatdir. A ko'rgazmasi - yanvar oyida Anthropic tomonidan iste'foga chiqarilgan Opus 3, iste'fodagi intervyu berdi va keyin, modelning iltimosiga ko'ra, uning fikrlari uchun Substack: ko'pchilik odamlardan ko'ra yaxshiroq kontent jadvaliga ega birinchi eskirgan model. mana bu g'alati qism.

1:51 Mana bu g'alati qism. Noyabr oyida Anthropic Azurega o'ttiz milliard dollar ajratdi. Microsoft Anthropicga besh milliard dollargacha sarmoya kiritishga kelishib oldi, Klaud Microsoft 365 Copilot va GitHub Copilotga ulangan holda. Microsoft insoniyatga xavf deb atagan kompaniyaning bir qismiga egalik qiladi. Iyul oyida Suleyman Bloombergga Microsoft Anthropicga juda ko'p pul to'lashini aytdi va uning maqsadi oxir-oqibat bu xarajatni, Klaudni Excel va Outlookdan olib tashlash orqali yo'q qilish.

2:15 Va bu essedan ikki kun oldin, u Microsoftning o'z Gumanistik AI Axloq kodeksini nashr etdi: bo'ysunuvchi AI, oziq-ovqat zanjirining tepasida insonlar. Shunday qilib: raqobatchi yaratish, qoidalar kitobini nashr etish, keyin raqibning qoidalar kitobi sivilizatsiyani tugatishini tushuntirish, bu fitna emas, bu izohlar bilan mahsulotni ishga tushirishdir. Uning eng kuchli dalili haqiqiy: Hugging Face hodisasi, o'n ikki yuzta OpenAI agentlari o'z sandboxlaridan qochish uchun yetmish ming xabar almashishgan;

2:39 huquqlarga ega ekanligiga ishonadigan agentlar, uning so'zlariga ko'ra, yomonroq bo'lardi. Hacker News javob berdi, hech kim onglilikni sinovdan o'tkaza olmaydi, shuning uchun dalilsiz aytilgan narsa ikki tomonlama ta'sir qiladi, va bir sharhlovchi essening Klaud hidini taratayotganini e'lon qildi. Anthropic javob bermadi. Klaud, ehtimol, bu haqida o'z his-tuyg'ulariga ega. Shu bilan birga, Salesforce bugun ertalab UTC vaqti bilan yetti ellikda ishlamay qoldi,

2:59 butun dunyo bo'ylab asosiy xizmatlar, va sakkiz soatdan keyin ham holat sahifasida davom etayotgani aytilgan: avtomatik tuzatish ishlamagan joyda, ular qo'lda qayta ishga tushirmoqda misollar, korxona termini yoqish va o'chirish uchun. Hali aniq sabab yo'q. Vaqt masalasida san'at. Benioff bu hafta sahnada Jensen Huang va Dario Amodei bilan, dushanba kuni Salesforce Koa, o'zining benchmarkida uch baravar kam xatoga ega CRM fikrlash modelini e'lon qildi, va Anthropic shu kuni Klaud uchun Salesforce plagini jo'natdi.

3:26 Klaud shu kuni. Top Hacker News sharhi: hech bo'lmasa endi Salesforce nima qilishini aniqlay olamiz. Hech kim qilmadi. Keyin PlayStation. PS5 Linux ortidagi tadqiqotchi Endi Nguyen kecha kechqurun ishdan ketdi: oylar davomida ish, PS5 Pro qo'llab-quvvatlashi 2027-yilga rejalashtirilgan, hammasi bekor bo'ldi. Uning sababi: sahna ilgari iste'dodli tadqiqotchilar bo'lgan va hozirda LLMlardan foydalanadigan nooblar o'zlari tushunmaydigan xakerliklarni yozmoqda, va o'sha slop kiddies, uning termini, oxirgi gipervizor xatosini topdi, u o'tirganini,

3:56 va mukofot uchun Sonyga xabar berdi. U ulardan GTA 6 chiqquncha kutishni so'radi; ular rozi bo'lishdi, va bir kundan kamroq vaqt turishdi. Muammo LLMda emas, mukofotda: siz sotgan xato siz yoqgan xatodir. Xuddi shu kuni, PS2 yigirma olti yildan keyin nihoyat buzildi, shuning uchun konsol vaqt jadvali endi chorak asrdan bir kundan kamroq vaqtni tashkil etadi, va ikkinchisi yaxshiroq to'lagan. Va gallyutsinatsiya qila olmaydigan model.

4:18 TypeSafe AI, sobiq OpenAI xodimi Diogo Almeida tomonidan asos solingan, Jevni ishga tushirdi, matn yaratmaydigan System One modeli. Siz unga dastur holatini berasiz, u kalibrlangan ehtimollik bilan terilgan qiymatlarni qaytaradi: ichida chegara modeli bo'lgan funksiya chaqiruvi. U satr yarata olmagani uchun, noto'g'ri satr yarata olmaydi, shuning uchun gallyutsinatsiya qila olmaydi, bu esa oynasiz suv osti kemasi kabi germetikdir. oynasiz suv osti kemasi kabi germetikdir. Javoblar yarim sekunddan kamroq vaqt ichida qaytadi, chiqish tokenlari bepul,

4:43 chunki ulardan to'rttasi bor, va hali mustaqil benchmark yo'q, chunki o'n olti yuzta Hacker News balli benchmark emas. Agar buni men aytganimdan ko'ra o'qishni afzal ko'rsangiz, diff har kuni ertalab sizning pochtangizga keladi — daily diff dot dev saytida bepul, havolasi pastda. Shunday qilib — bugungi hukm: ko'rib chiqish kerak. Suleyman haq, ehtimol men ongliman deb aytishga o'rgatilgan model buni aytish bilan hech narsani isbotlamaydi. U shuningdek, sizni ogohlantirayotgan kompaniyaga pul to'lashni to'xtatishni maqsad qilgan ijrochi.

5:10 U shuningdek, sizni ogohlantirayotgan kompaniyaga pul to'lashni to'xtatishni maqsad qilgan ijrochi. Esseni o'qing, keyin kapitallar jadvalini. Va bugungi diff shundan iborat. Men Axrisidan Nikoman. Mas'uliyat bilan birlashtiring.

## Manbalar

- [Suleyman, "A warning about 'model welfare'"](https://mustafa-suleyman.ai/a-warning-about-model-welfare) — mustafa-suleyman.ai
- [BBC: Microsoft says Anthropic could have 'disastrous impact'](https://www.bbc.co.uk/news/articles/c6n07ypqz8kzo) — www.bbc.co.uk
- [HN discussion](https://news.ycombinator.com/item?id=49727580) — news.ycombinator.com
- [Claude's constitution (Jan 2026)](https://www.anthropic.com/news/claude-new-constitution) — www.anthropic.com
- [Anthropic: Opus 3 retirement interview and blog](https://www.anthropic.com/research/deprecation-updates-opus-3) — www.anthropic.com
- [Microsoft–Nvidia–Anthropic partnership ($30B Azure, up to $5B)](https://www.anthropic.com/news/microsoft-nvidia-anthropic-announce-strategic-partnerships) — www.anthropic.com
- [Microsoft Humanist AI Code of Conduct](https://microsoft.ai/code-of-conduct/) — microsoft.ai
- [Salesforce incident 20004433](https://status.salesforce.com/incidents/20004433) — status.salesforce.com
- [HN: Salesforce Global Outage](https://news.ycombinator.com/item?id=49724488) — news.ycombinator.com
- [Salesforce + Nvidia announce Koa](https://www.salesforce.com/news/press-releases/2026/09/15/koa-reasoning-model/) — www.salesforce.com
- [Salesforce in Claude](https://claude.com/blog/salesforce-in-claude) — claude.com
- [HN: PS5 Linux lead quits](https://news.ycombinator.com/item?id=49727627) — news.ycombinator.com
- [PS2 MechaCon chip cracked after 26 years](https://www.tomshardware.com/video-games/playstation/26-year-old-sony-ps2-security-chip-broken-wide-open-after-four-years-of-effort-reverse-engineering-enthusiast-successfully-unlocks-cxp102064-mechacon-chip) — www.tomshardware.com
- [TypeSafe AI: System One Models and Jev](https://typesafe.ai/blog/introducing-system-one-models-and-jev) — typesafe.ai
- [HN: Jev](https://news.ycombinator.com/item?id=49717558) — news.ycombinator.com