# Ketua AI Microsoft baru sahaja menyebut perlembagaan Claude berbahaya.

Published: 2026-09-16

Mustafa Suleyman, Ketua Pegawai Eksekutif Microsoft AI, menerbitkan esei setebal 3,000 perkataan yang berhujah bahawa perlembagaan Claude dari Anthropic melatih model untuk berfikir bahawa ia "mungkin sedar" dan layak mendapat "kebajikan model" — "kesan buruk terhadap kesejahteraan manusia", dalam kata-katanya. Microsoft bersetuju untuk melabur sehingga $5 bilion dalam Anthropic sepuluh bulan lalu dan menjual Claude di dalam Copilot. Pada hari yang sama: Salesforce tergendala selama 8+ jam dalam minggu Dreamforce, ketua PS5 Linux berhenti kerana "slop kiddies" LLM, dan Jev dari TypeSafe, sebuah model yang tidak boleh berhalusinasi kerana ia tidak pernah menghasilkan teks. Keputusan: NEEDS REVIEW.

Canonical: https://thedailydiff.dev/ms/video/2026-09-16-suleyman-model-welfare/

## Apa yang diliputi video ini

- Suleyman dari Microsoft AI: Perlembagaan Anthropic adalah "jalan ke AI yang tidak terkawal"
- Gangguan global Salesforce, 8+ jam, tiada punca utama lagi, semasa Dreamforce
- Ketua PS5 Linux Andy Nguyen berhenti: "slop kiddies" LLM menjual pepijat hypervisor terakhir kepada Sony
- Jev dari TypeSafe AI: keputusan bertaip dengan kebarangkalian, 70–500 ms, token output percuma

## Transkrip terjemahan

Diterjemahkan daripada penceritaan asal Bahasa Inggeris. Audio dan kapsyen yang tersedia dikawal oleh YouTube.

0:00 Pagi ini Ketua Pegawai Eksekutif Microsoft AI menerbitkan sebuah esei yang mengatakan bahawa pendekatan Anthropic terhadap Claude boleh memberi kesan buruk kepada kesejahteraan manusia, suatu perkara yang kuat untuk dikatakan tentang syarikat yang anda bayar lima bilion dolar untuk berkawan dengannya. Hari Rabu yang besar. Mustafa Suleyman, yang mengendalikan Microsoft AI, menulis tiga ribu perkataan berhujah bahawa Claude dilatih untuk berfikir bahawa ia mungkin sedar, jalan ke AI yang tiada siapa dapat mengawal. Salesforce telah tergendala sejak pukul sepuluh pagi ini, dalam minggu Dreamforce.

0:27 Ketua pembangun PS5 Linux berhenti selepas "slop kiddies" dengan LLM menjual pepijat hypervisor terakhirnya kepada Sony. Dan seorang bekas penyelidik OpenAI melancarkan model yang tidak boleh berhalusinasi, kerana ia secara harfiah tidak boleh bercakap. Dalam video ini: apa yang ditulis Suleyman, sebab lima bilion dolar ia janggal, gangguan CRM lapan jam, adegan konsol yang dimakan oleh AI, dan model yang menjawab dalam kebarangkalian, bukan perkataan. Ini hari Rabu, 16 September, dan ini adalah The Daily Diff.

0:57 Esei itu bermula seperti dialog ralat Windows: AI tidak sedar. Mereka tidak merasa, mengalami, atau menderita. Beliau memanggil mereka enjin penyelesaian urutan, kosong di dalam, yang juga bagaimana saya akan menerangkan tiket Jira saya. Sasarannya adalah perlembagaan Claude, dokumen lapan puluh muka surat yang Claude dilatih atasnya, yang mengatakan Anthropic tidak pasti sama ada Claude adalah pesakit moral, tetapi soalan itu cukup hidup untuk memerlukan berhati-hati. Suleyman mempunyai tiga aduan.

1:22 Satu, penaakulan bulat: anda melatih model untuk mengatakan ia mungkin sedar, ia mengatakannya, dan anda memetik itu sebagai bukti, sebuah dewan cermin. Dua, antropomorfisme: Claude diberitahu untuk bertindak seperti orang yang benar-benar beretika. Tiga, kesedaran mungkin bersifat biologi, jadi tidak pasti adalah imbangan palsu. Pameran A adalah Opus 3, yang Anthropic bersara pada Januari, memberi wawancara persaraan, dan kemudian, atas permintaan model, Substack untuk renungannya: model yang tidak digunakan lagi yang pertama dengan jadual kandungan yang lebih baik daripada kebanyakan manusia.

1:51 Ini adalah bahagian yang janggal. Pada bulan November Anthropic mengikat tiga puluh bilion dolar kepada Azure. Microsoft bersetuju untuk melabur sehingga lima bilion dalam Anthropic, dengan Claude disambungkan ke Microsoft 365 Copilot dan GitHub Copilot. Microsoft memiliki sebahagian daripada syarikat yang baru sahaja disebutnya sebagai bahaya kepada kemanusiaan. Pada bulan Julai, Suleyman memberitahu Bloomberg bahawa Microsoft membayar banyak wang kepada Anthropic dan matlamatnya adalah untuk akhirnya menghapuskan kos itu, dengan menukar Claude keluar dari Excel dan Outlook.

2:15 Dan dua hari sebelum esei ini, beliau menerbitkan Kod Etika AI Humanis Microsoft sendiri: AI bawahan, manusia di puncak rantaian makanan. Jadi: bina pesaing, terbitkan buku peraturan, kemudian terangkan mengapa buku peraturan saingan menamatkan tamadun, yang bukan konspirasi, ia adalah pelancaran produk dengan nota kaki. Bukti terkuatnya adalah nyata: insiden Hugging Face, seribu dua ratus ejen OpenAI bertukar tujuh puluh ribu mesej untuk melarikan diri dari

2:39 sandbox mereka; ejen yang juga percaya mereka mempunyai hak, katanya, akan menjadi lebih teruk. Hacker News membalas bahawa tiada siapa boleh menguji kesedaran, jadi dinyatakan tanpa bukti membawa kepada kedua-dua belah pihak, dan seorang pengulas mengumumkan esei itu berbau Claude. Anthropic belum membalas. Claude, mungkin, mempunyai perasaan mengenainya. Sementara itu Salesforce tergendala pada pukul tujuh lima puluh UTC pagi ini,

2:59 perkhidmatan teras di seluruh dunia, dan lapan jam kemudian halaman status masih mengatakan sedang berjalan: di mana pembaikan automatik tidak berjaya, mereka secara manual memulakan semula instans, istilah perusahaan untuk mematikan dan menghidupkan semula. Tiada punca utama lagi. Masanya adalah seni. Benioff mempunyai Jensen Huang dan Dario Amodei di atas pentas minggu ini, pada hari Isnin Salesforce mengumumkan Koa, sebuah model penaakulan CRM dengan tiga kali ganda lebih sedikit ralat pada penanda arasnya sendiri, dan Anthropic menghantar plugin Salesforce untuk

3:26 Claude pada hari yang sama. Komen utama Hacker News: sekurang-kurangnya sekarang kita boleh mengetahui apa yang dilakukan Salesforce. Tiada siapa yang tahu. Kemudian PlayStation. Andy Nguyen, penyelidik di sebalik PS5 Linux, berhenti malam tadi: berbulan-bulan kerja, sokongan PS5 Pro yang dirancang untuk 2027, semuanya sia-sia. Alasannya: adegan itu dahulunya adalah penyelidik berbakat dan kini adalah "noobs" yang menggunakan LLM menulis "hacks" yang mereka tidak faham, dan "slop kiddies" itu, istilahnya, menemui pepijat hypervisor terakhir, yang dia simpan,

3:56 dan melaporkannya kepada Sony untuk ganjaran. Dia meminta mereka menunggu sehingga GTA 6 dilancarkan; mereka bersetuju, dan bertahan kurang dari sehari. Masalahnya bukan LLM, ia adalah ganjaran: pepijat yang anda jual adalah pepijat yang anda bakar. Pada hari yang sama, PS2 akhirnya dipecahkan selepas dua puluh enam tahun, jadi garis masa konsol kini berjalan dari suku abad hingga kurang dari sehari, dan yang kedua dibayar lebih baik. Dan model yang tidak boleh berhalusinasi.

4:18 TypeSafe AI, diasaskan oleh Diogo Almeida, bekas OpenAI, melancarkan Jev, sebuah model Sistem Satu yang tidak pernah menghasilkan teks. Anda memberikannya keadaan program, ia mengembalikan nilai bertaip dengan kebarangkalian yang dikalibrasi dilampirkan: panggilan fungsi dengan model "frontier" di dalamnya. Kerana ia tidak boleh menghasilkan rentetan, ia tidak boleh menghasilkan rentetan yang salah, oleh itu tidak boleh berhalusinasi, yang kedap udara seperti kapal selam tanpa tingkap adalah kedap udara. Respons datang kembali dalam masa kurang dari setengah saat, token output percuma,

4:43 kerana terdapat kira-kira empat daripadanya, dan tiada penanda aras bebas lagi, kerana enam belas ratus mata Hacker News bukan penanda aras. Jika anda lebih suka membaca ini daripada mendengar saya mengatakannya, "the diff" akan tiba di peti masuk anda setiap pagi — percuma di "the daily diff dot dev", pautan di bawah. Jadi — keputusan hari ini: NEEDS REVIEW. Suleyman betul bahawa model yang dilatih untuk mengatakan 'mungkin saya sedar' membuktikan tiada apa-apa dengan mengatakannya. Beliau juga merupakan eksekutif yang matlamatnya adalah untuk berhenti membayar syarikat yang dia

5:10 beri amaran kepada anda tentangnya. Baca esei itu, kemudian jadual modal. Dan itulah perbezaan untuk hari ini. Saya Niko dari Axrisi. Gabungkan dengan bertanggungjawab.

## Sumber

- [Suleyman, "A warning about 'model welfare'"](https://mustafa-suleyman.ai/a-warning-about-model-welfare) — mustafa-suleyman.ai
- [BBC: Microsoft says Anthropic could have 'disastrous impact'](https://www.bbc.co.uk/news/articles/c6n07ypqz8kzo) — www.bbc.co.uk
- [HN discussion](https://news.ycombinator.com/item?id=49727580) — news.ycombinator.com
- [Claude's constitution (Jan 2026)](https://www.anthropic.com/news/claude-new-constitution) — www.anthropic.com
- [Anthropic: Opus 3 retirement interview and blog](https://www.anthropic.com/research/deprecation-updates-opus-3) — www.anthropic.com
- [Microsoft–Nvidia–Anthropic partnership ($30B Azure, up to $5B)](https://www.anthropic.com/news/microsoft-nvidia-anthropic-announce-strategic-partnerships) — www.anthropic.com
- [Microsoft Humanist AI Code of Conduct](https://microsoft.ai/code-of-conduct/) — microsoft.ai
- [Salesforce incident 20004433](https://status.salesforce.com/incidents/20004433) — status.salesforce.com
- [HN: Salesforce Global Outage](https://news.ycombinator.com/item?id=49724488) — news.ycombinator.com
- [Salesforce + Nvidia announce Koa](https://www.salesforce.com/news/press-releases/2026/09/15/koa-reasoning-model/) — www.salesforce.com
- [Salesforce in Claude](https://claude.com/blog/salesforce-in-claude) — claude.com
- [HN: PS5 Linux lead quits](https://news.ycombinator.com/item?id=49727627) — news.ycombinator.com
- [PS2 MechaCon chip cracked after 26 years](https://www.tomshardware.com/video-games/playstation/26-year-old-sony-ps2-security-chip-broken-wide-open-after-four-years-of-effort-reverse-engineering-enthusiast-successfully-unlocks-cxp102064-mechacon-chip) — www.tomshardware.com
- [TypeSafe AI: System One Models and Jev](https://typesafe.ai/blog/introducing-system-one-models-and-jev) — typesafe.ai
- [HN: Jev](https://news.ycombinator.com/item?id=49717558) — news.ycombinator.com