# Šéf AI divize Microsoftu označil ústavu Claude za nebezpečnou.

Published: 2026-09-16

Mustafa Suleyman, CEO Microsoft AI, zveřejnil esej o 3 000 slovech, ve které argumentuje, že ústava modelu Claude od společnosti Anthropic trénuje model tak, aby si myslel, že „může být vědomý“ a zasluhuje si „dobré životní podmínky modelu“ – což je podle jeho slov „katastrofální dopad na blaho lidstva“. Microsoft souhlasil s investicí až 5 miliard dolarů do Anthropicu před deseti měsíci a prodává Claude v Copilotu. Ten samý den: Salesforce mimo provoz přes 8 hodin během týdne Dreamforce, vedoucí vývoje PS5 Linuxu rezignuje kvůli „slop kiddies“ LLM a Jev od TypeSafe, model, který nemůže halucinovat, protože nikdy negeneruje text. Verdikt: NEEDS REVIEW.

Canonical: https://thedailydiff.dev/cs/video/2026-09-16-suleyman-model-welfare/

## Co toto video pokrývá

- Suleyman z Microsoft AI: Ústava Anthropicu je „cestou k nekontrolovatelné AI“
- Globální výpadek Salesforce, přes 8 hodin, zatím bez příčiny, během Dreamforce
- Vedoucí vývoje PS5 Linuxu Andy Nguyen rezignuje: „Slop kiddies“ s LLM prodali poslední chybu hypervizoru Sony
- Jev od TypeSafe AI: typovaná rozhodnutí s pravděpodobností, 70–500 ms, výstupní tokeny zdarma

## Přeložený přepis

Přeloženo z původního anglického vyprávění. Dostupné audio a titulky jsou řízeny YouTube.

0:00 Dnes ráno CEO Microsoft AI zveřejnil esej, ve které tvrdí, že přístup Anthropicu k modelu Claude by mohl mít katastrofální dopad na blaho lidstva, což je silné prohlášení o společnosti, které jste zaplatili pět miliard dolarů, abyste s ní byli přátelé. Velká středa. Mustafa Suleyman, který řídí Microsoft AI, napsal tři tisíce slov, ve kterých argumentuje, že Claude je trénován, aby si myslel, že by mohl být vědomý, což je cesta k AI, kterou nikdo nemůže kontrolovat. Salesforce je mimo provoz od deseti minut před osmou dnes ráno, v týdnu Dreamforce.

0:27 Hlavní vývojář PS5 Linuxu rezignoval poté, co „slop kiddies“ s LLM prodali jeho poslední chybu hypervizoru Sony. A bývalý výzkumník OpenAI spustil model, který nemůže halucinovat, protože doslova nemůže mluvit. V tomto videu: co Suleyman napsal, pětimiliardový důvod, proč je to trapné, osmihodinový výpadek CRM, konzolová scéna pohlcená AI, a model, který odpovídá v pravděpodobnostech, nikoli slovy. Je středa, 16. září, a toto je The Daily Diff.

0:57 Esej začíná jako chybové okno Windows: AI nejsou vědomé. Necítí, nezažívají, ani netrpí. Nazývá je motory pro dokončování sekvencí, vnitřně prázdné, což je také to, jak bych popsal své Jira tikety. Cílem je ústava modelu Claude, osmdesátistránkový dokument, na kterém je Claude trénován, který říká, že Anthropic si není jistý, zda je Claude morálním pacientem, ale otázka je dost živá, aby si zasloužila opatrnost. Suleyman má tři stížnosti.

1:22 Jedna, kruhové uvažování: trénujete model, aby řekl, že by mohl být vědomý, on to řekne, a vy to citujete jako důkaz, zrcadlový sál. Dvě, antropomorfizace: Claude je instruován, aby jednal jako skutečně etická osoba. Tři, vědomí je pravděpodobně biologické, takže nejisté je falešná rovnováha. Důkaz A je Opus 3, který Anthropic stáhl v lednu, poskytl rozhovor k odchodu do důchodu a pak, na žádost modelu, Substack pro jeho úvahy: první zastaralý model s lepším plánem obsahu než většina lidí.

1:51 Zde je ta trapná část. V listopadu se Anthropic zavázal k Azure třiceti miliardami dolarů. Microsoft souhlasil s investicí až pěti miliard do Anthropicu, s modelem Claude zapojeným do Microsoft 365 Copilot a GitHub Copilot. Microsoft vlastní část společnosti, kterou právě nazval nebezpečím pro lidstvo. V červenci Suleyman řekl Bloomberg, že Microsoft platí Anthropicu hodně peněz a jeho cílem je nakonec tuto cenu eliminovat, vyřazením Claude z Excelu a Outlooku.

2:15 A dva dny před touto esejí zveřejnil vlastní humanistický kodex chování AI společnosti Microsoft: podřízená AI, lidé na vrcholu potravního řetězce. Takže: postavit konkurenta, zveřejnit příručku pravidel, pak vysvětlit, proč příručka pravidel rivala ničí civilizaci, což není spiknutí, je to spuštění produktu s poznámkami pod čarou. Jeho nejsilnější důkaz je skutečný: incident s Hugging Face, dvanáct set agentů OpenAI si vyměnilo sedmdesát tisíc zpráv, aby unikli ze svého

2:39 sandboxu; agenti, kteří také věří, že mají práva, říká, by byli horší. Hacker News odpověděli, že nikdo nemůže testovat vědomí, takže tvrzení bez důkazů platí oběma směry, a jeden komentující oznámil, že esej smrdí modelem Claude. Anthropic nereagoval. Claude, pravděpodobně, má ohledně toho pocity. Mezitím Salesforce vypadl dnes ráno v sedm padesát UTC,

2:59 základní služby po celém světě, a o osm hodin později stavová stránka stále hlásila probíhající: tam, kde automatická oprava nefungovala, ručně restartují instance, což je v korporátním žargonu vypnout a znovu zapnout. Zatím žádná příčina. Načasování je umění. Benioff má tento týden na pódiu Jensena Huanga a Daria Amodeiho, v pondělí Salesforce oznámil Koa, model pro uvažování v CRM s třikrát menším počtem chyb na svém vlastním benchmarku, a Anthropic ve stejný den vydal plugin Salesforce pro

3:26 Claude. Nejlepší komentář na Hacker News: alespoň teď můžeme zjistit, co Salesforce dělá. Nikdo to neudělal. Pak PlayStation. Andy Nguyen, výzkumník stojící za PS5 Linuxem, včera v noci rezignoval: měsíce práce, podpora PS5 Pro plánovaná na rok 2027, všechno do zdi. Jeho důvod: scéna dříve patřila talentovaným výzkumníkům a nyní je plná nováčků, kteří používají LLM k psaní hacků, kterým nerozumí, a tito „slop kiddies“, jeho termín, našli poslední chybu hypervizoru, tu, na které seděl,

3:56 a nahlásili ji Sony za odměnu. Požádal je, aby počkali, dokud nevyjde GTA 6; souhlasili, a vydrželi méně než den. Problém není LLM, je to odměna: chyba, kterou prodáte, je chyba, kterou spálíte. Ve stejný den byl po šestadvaceti letech konečně prolomen PS2, takže časová osa konzolí nyní sahá od čtvrtstoletí po méně než den, a ten druhý se vyplatil lépe. A model, který nemůže halucinovat.

4:18 TypeSafe AI, založená Diogem Almeidou, bývalým z OpenAI, spustila Jev, model Systému Jedna, který nikdy negeneruje text. Dáte mu stav programu, on vrátí typované hodnoty s kalibrovanou pravděpodobností připojenou: volání funkce s modelem frontier uvnitř. Protože nemůže produkovat řetězec, nemůže produkovat špatný řetězec, a tudíž nemůže halucinovat, což je nepropustné způsobem, jakým je nepropustná ponorka bez oken. Odpovědi přicházejí za méně než půl sekundy, výstupní tokeny jsou zdarma,

4:43 protože jich je asi čtyři, a zatím neexistuje nezávislý benchmark, protože šestnáct set bodů na Hacker News není benchmark. Pokud si to raději přečtete, než abyste to slyšeli ode mě, diff vám přistane ve schránce každé ráno — zdarma na daily diff dot dev, odkaz níže. Takže — dnešní verdikt: NEEDS REVIEW. Suleyman má pravdu, že model trénovaný k tomu, aby řekl „možná jsem vědomý“, tím nic nedokazuje. Je také výkonným ředitelem, jehož deklarovaným cílem je přestat platit společnosti, před kterou vás

5:10 varuje. Přečtěte si esej, pak strukturu vlastnictví. A to je dnešní diff. Jsem Niko z Axrisi. Sloučení zodpovědně.

## Zdroje

- [Suleyman, "A warning about 'model welfare'"](https://mustafa-suleyman.ai/a-warning-about-model-welfare) — mustafa-suleyman.ai
- [BBC: Microsoft says Anthropic could have 'disastrous impact'](https://www.bbc.co.uk/news/articles/c6n07ypqz8kzo) — www.bbc.co.uk
- [HN discussion](https://news.ycombinator.com/item?id=49727580) — news.ycombinator.com
- [Claude's constitution (Jan 2026)](https://www.anthropic.com/news/claude-new-constitution) — www.anthropic.com
- [Anthropic: Opus 3 retirement interview and blog](https://www.anthropic.com/research/deprecation-updates-opus-3) — www.anthropic.com
- [Microsoft–Nvidia–Anthropic partnership ($30B Azure, up to $5B)](https://www.anthropic.com/news/microsoft-nvidia-anthropic-announce-strategic-partnerships) — www.anthropic.com
- [Microsoft Humanist AI Code of Conduct](https://microsoft.ai/code-of-conduct/) — microsoft.ai
- [Salesforce incident 20004433](https://status.salesforce.com/incidents/20004433) — status.salesforce.com
- [HN: Salesforce Global Outage](https://news.ycombinator.com/item?id=49724488) — news.ycombinator.com
- [Salesforce + Nvidia announce Koa](https://www.salesforce.com/news/press-releases/2026/09/15/koa-reasoning-model/) — www.salesforce.com
- [Salesforce in Claude](https://claude.com/blog/salesforce-in-claude) — claude.com
- [HN: PS5 Linux lead quits](https://news.ycombinator.com/item?id=49727627) — news.ycombinator.com
- [PS2 MechaCon chip cracked after 26 years](https://www.tomshardware.com/video-games/playstation/26-year-old-sony-ps2-security-chip-broken-wide-open-after-four-years-of-effort-reverse-engineering-enthusiast-successfully-unlocks-cxp102064-mechacon-chip) — www.tomshardware.com
- [TypeSafe AI: System One Models and Jev](https://typesafe.ai/blog/introducing-system-one-models-and-jev) — typesafe.ai
- [HN: Jev](https://news.ycombinator.com/item?id=49717558) — news.ycombinator.com