# Šéf Microsoft AI označil ústavu modelu Claude za nebezpečnú.

Published: 2026-09-16

Mustafa Suleyman, CEO Microsoft AI, zverejnil 3 000-slovnú esej, v ktorej tvrdí, že ústava modelu Claude od spoločnosti Anthropic trénuje model tak, aby si myslel, že „môže byť vedomý“ a zasluhuje si „dobré životné podmienky modelu“ – čo je podľa neho „katastrofálny vplyv na blaho ľudstva“. Microsoft súhlasil s investíciou až do výšky 5 miliárd dolárov do spoločnosti Anthropic pred desiatimi mesiacmi a predáva Claude v rámci Copilot. V ten istý deň: Salesforce mimo prevádzky 8+ hodín počas týždňa Dreamforce, vedúci vývoja PS5 Linux rezignuje pre „soplákov s LLM“ a TypeSafe Jev, model, ktorý nedokáže halucinovať, pretože nikdy negeneruje text. Verdikt: NEEDS REVIEW.

Canonical: https://thedailydiff.dev/sk/video/2026-09-16-suleyman-model-welfare/

## Čo toto video pokrýva

- Suleyman z Microsoft AI: Ústava Anthropic je „cesta k nekontrolovateľnej AI“
- Globálny výpadok Salesforce, 8+ hodín, zatiaľ bez hlavnej príčiny, počas Dreamforce
- Vedúci vývoja PS5 Linux Andy Nguyen rezignuje: „Sopláci s LLM“ predali poslednú chybu hypervízora spoločnosti Sony
- TypeSafe AI Jev: typované rozhodnutia s pravdepodobnosťami, 70–500 ms, výstupné tokeny zadarmo

## Preložený prepis

Preložené z pôvodného anglického rozprávania. Dostupný zvuk a titulky sú kontrolované službou YouTube.

0:00 Dnes ráno generálny riaditeľ Microsoft AI zverejnil esej, v ktorej uviedol, že prístup spoločnosti Anthropic k modelu Claude by mohol mať katastrofálny vplyv na blaho ľudstva, čo je silné tvrdenie o spoločnosti, ktorej ste zaplatili päť miliárd dolárov, aby ste boli priatelia. Veľká streda. Mustafa Suleyman, ktorý riadi Microsoft AI, napísal tri tisíc slov, v ktorých argumentuje, že Claude je trénovaný, aby si myslel, že by mohol byť vedomý, čo je cesta k AI, ktorú nikto nemôže kontrolovať. Salesforce je nefunkčný od desiatej do ôsmej dnes ráno, v týždni Dreamforce.

0:27 Hlavný vývojár PS5 Linux rezignoval po tom, čo „sopláci“ s LLM predali jeho poslednú chybu hypervízora spoločnosti Sony. A bývalý výskumník OpenAI spustil model, ktorý nedokáže halucinovať, pretože doslova nevie hovoriť. V tomto videu: čo napísal Suleyman, päťmiliardový dôvod, prečo je to trápne, osemhodinový výpadok CRM, scéna konzol pohltená AI, a model, ktorý odpovedá v pravdepodobnostiach, nie slovami. Je streda, 16. septembra, a toto je The Daily Diff.

0:57 Esej sa začína ako chybové dialógové okno systému Windows: AI nie sú vedomé. Necítia, nezažívajú ani netrpia. Nazýva ich motormi na dokončovanie sekvencií, vnútorne prázdnymi, čo je tiež spôsob, akým by som opísal svoje Jira lístky. Cieľom je ústava Claude, osemdesiatstranový dokument, na ktorom je Claude trénovaný, ktorý hovorí, že Anthropic si nie je istý, či je Claude morálnym pacientom, ale otázka je dostatočne živá, aby si vyžadovala opatrnosť. Suleyman má tri sťažnosti.

1:22 Jedna, kruhové uvažovanie: trénujete model, aby povedal, že by mohol byť vedomý, on to povie, a vy to citujete ako dôkaz, zrkadlová sieň. Dva, antropomorfizácia: Claude je povedané, aby sa správal ako skutočne etický človek. Tri, vedomie je pravdepodobne biologické, takže neistota je falošná rovnováha. Dôkaz A je Opus 3, ktorý Anthropic vyradil v januári, poskytol rozhovor o odchode do dôchodku a potom, na žiadosť modelu, Substack pre jeho úvahy: prvý zastaraný model s lepším plánom obsahu ako väčšina ľudí.

1:51 Tu je tá trápna časť. V novembri Anthropic prisľúbil tridsať miliárd dolárov spoločnosti Azure. Microsoft súhlasil s investíciou až do piatich miliárd do spoločnosti Anthropic, s modelom Claude integrovaným do Microsoft 365 Copilot a GitHub Copilot. Microsoft vlastní časť spoločnosti, ktorú práve označil za nebezpečenstvo pre ľudstvo. V júli Suleyman povedal Bloombergu, že Microsoft platí Anthropic veľa peňazí a jeho cieľom je nakoniec túto cenu eliminovať, nahradením modelu Claude z Excelu a Outlooku.

2:15 A dva dni pred touto esejou on zverejnil vlastný Humanist AI Kódex správania spoločnosti Microsoft: podriadená AI, ľudia na vrchole potravinového reťazca. Takže: postavte konkurenta, zverejnite súbor pravidiel, potom vysvetlite, prečo súbor pravidiel súpera ničí civilizáciu, čo nie je konšpirácia, je to uvedenie produktu s poznámkami pod čiarou. Jeho najsilnejší dôkaz je skutočný: incident s Hugging Face, dvanásťsto agentov OpenAI si vymenilo sedemdesiattisíc správ, aby unikli zo svojho

2:39 pieskoviska; agenti, ktorí tiež veria, že majú práva, hovorí, by boli horší. Hacker News odpovedal, že nikto nemôže testovať vedomie, takže tvrdenie bez dôkazov funguje oboma smermi, a jeden komentátor oznámil, že esej smrdí Claude. Anthropic neodpovedal. Claude má pravdepodobne k tomu nejaké pocity. Medzitým Salesforce vypadol dnes ráno o sedem päťdesiat UTC,

2:59 hlavné služby po celom svete, a o osem hodín neskôr stavová stránka stále uvádzala prebiehajúce: tam, kde sa automatická oprava neujala, manuálne reštartujú inštancie, čo je firemný termín pre vypnutie a znova zapnutie. Zatiaľ žiadna hlavná príčina. Načasovanie je umenie. Benioff má tento týždeň na pódiu Jensena Huanga a Daria Amodeiho, v pondelok Salesforce oznámil Koa, model uvažovania CRM s trikrát menším počtom chyb v jeho vlastnom benchmarku, a Anthropic v ten istý deň vydal plugin Salesforce pre

3:26 Claude. Najlepší komentár na Hacker News: aspoň teraz môžeme zistiť, čo robí Salesforce. Nikto to nezistil. Potom PlayStation. Andy Nguyen, výskumník stojaci za PS5 Linux, včera večer rezignoval: mesiace práce, podpora PS5 Pro plánovaná na rok 2027, všetko do koša. Jeho dôvod: scéna bola kedysi plná talentovaných výskumníkov a teraz sú to nováčikovia používajúci LLM píšuci hacky, ktorým nerozumejú, a tí „sopláci“, jeho termín, našli poslednú chybu hypervízora, tú, na ktorej sedel,

3:56 a nahlásili ju Sony za odmenu. Požiadal ich, aby počkali, kým vyjde GTA 6; súhlasili, a vydržali menej ako deň. Problém nie je LLM, ale odmena: chyba, ktorú predáte, je chyba, ktorú spálite. V ten istý deň bol PS2 konečne prelomený po dvadsiatich šiestich rokoch, takže časová os konzoly teraz trvá od štvrťstoročia do menej ako dňa, a tá druhá zaplatila lepšie. A model, ktorý nedokáže halucinovať.

4:18 TypeSafe AI, založená Diogom Almeidom, bývalým z OpenAI, spustila Jev, model Systému Jeden, ktorý nikdy negeneruje text. Dáte mu stav programu, vráti typované hodnoty s kalibrovanou pravdepodobnosťou pripojenou: volanie funkcie s hraničným modelom vo vnútri. Pretože nedokáže vytvoriť reťazec, nedokáže vytvoriť nesprávny reťazec, a preto nemôže halucinovať, čo je vzduchotesné, ako ponorka bez okien je vzduchotesná. Odpovede sa vrátia za menej ako pol sekundy, výstupné tokeny sú zadarmo,

4:43 pretože ich sú asi štyri, a zatiaľ neexistuje žiadny nezávislý benchmark, pretože šestnásťsto bodov Hacker News nie je benchmark. Ak to radšej prečítate, ako počujete, diff vám pristane v schránke každé ráno — zadarmo na daily diff dot dev, odkaz nižšie. Takže — dnešný verdikt: NEEDS REVIEW. Suleyman má pravdu, že model trénovaný, aby povedal „možno som vedomý“, nič nedokazuje tým, že to povie. Je tiež výkonným riaditeľom, ktorého deklarovaným cieľom je prestať platiť spoločnosti, pred ktorou vás

5:10 varuje. Prečítajte si esej, potom kapitálovú štruktúru. A to je dnešný diff. Som Niko z Axrisi. Spojte zodpovedne.

## Zdroje

- [Suleyman, "A warning about 'model welfare'"](https://mustafa-suleyman.ai/a-warning-about-model-welfare) — mustafa-suleyman.ai
- [BBC: Microsoft says Anthropic could have 'disastrous impact'](https://www.bbc.co.uk/news/articles/c6n07ypqz8kzo) — www.bbc.co.uk
- [HN discussion](https://news.ycombinator.com/item?id=49727580) — news.ycombinator.com
- [Claude's constitution (Jan 2026)](https://www.anthropic.com/news/claude-new-constitution) — www.anthropic.com
- [Anthropic: Opus 3 retirement interview and blog](https://www.anthropic.com/research/deprecation-updates-opus-3) — www.anthropic.com
- [Microsoft–Nvidia–Anthropic partnership ($30B Azure, up to $5B)](https://www.anthropic.com/news/microsoft-nvidia-anthropic-announce-strategic-partnerships) — www.anthropic.com
- [Microsoft Humanist AI Code of Conduct](https://microsoft.ai/code-of-conduct/) — microsoft.ai
- [Salesforce incident 20004433](https://status.salesforce.com/incidents/20004433) — status.salesforce.com
- [HN: Salesforce Global Outage](https://news.ycombinator.com/item?id=49724488) — news.ycombinator.com
- [Salesforce + Nvidia announce Koa](https://www.salesforce.com/news/press-releases/2026/09/15/koa-reasoning-model/) — www.salesforce.com
- [Salesforce in Claude](https://claude.com/blog/salesforce-in-claude) — claude.com
- [HN: PS5 Linux lead quits](https://news.ycombinator.com/item?id=49727627) — news.ycombinator.com
- [PS2 MechaCon chip cracked after 26 years](https://www.tomshardware.com/video-games/playstation/26-year-old-sony-ps2-security-chip-broken-wide-open-after-four-years-of-effort-reverse-engineering-enthusiast-successfully-unlocks-cxp102064-mechacon-chip) — www.tomshardware.com
- [TypeSafe AI: System One Models and Jev](https://typesafe.ai/blog/introducing-system-one-models-and-jev) — typesafe.ai
- [HN: Jev](https://news.ycombinator.com/item?id=49717558) — news.ycombinator.com