# Microsoftov šef za umjetnu inteligenciju nazvao je Claudeovu konstituciju opasnom.

Published: 2026-09-16

Mustafa Suleyman, izvršni direktor Microsoft AI-a, objavio je esej od 3000 riječi u kojem tvrdi da Claudeova konstitucija tvrtke Anthropic obučava model da misli da "možda jest svjestan" i zaslužuje "dobrobit modela" – "katastrofalan utjecaj na dobrobit čovječanstva", njegovim riječima. Microsoft se složio uložiti do 5 milijardi dolara u Anthropic prije deset mjeseci i prodaje Claudea unutar Copilota. Istog dana: Salesforce je bio u prekidu 8+ sati u tjednu Dreamforcea, voditelj PS5 Linuxa dao je ostavku zbog LLM "slop kiddies", i Typesafeov Jev, model koji ne može halucinirati jer nikad ne generira tekst. Presuda: NEEDS REVIEW.

Canonical: https://thedailydiff.dev/hr/video/2026-09-16-suleyman-model-welfare/

## Što ovaj video pokriva

- Microsoft AI-jev Suleyman: Anthropicova konstitucija je "put prema nekontroliranoj umjetnoj inteligenciji"
- Globalni prekid Salesforcea, 8+ sati, još nema uzroka, tijekom Dreamforcea
- Voditelj PS5 Linuxa Andy Nguyen daje ostavku: LLM "slop kiddies" prodali su posljednji bug hipervizora Sonyju
- Typesafe AI-jev Jev: tipizirane odluke s vjerojatnostima, 70–500 ms, izlazni tokeni besplatni

## Prevedeni transkript

Prevedeno iz izvornog engleskog pripovijedanja. Dostupni zvuk i titlovi kontroliraju se putem YouTubea.

0:00 Jutros je izvršni direktor Microsoft AI-a objavio esej u kojem stoji da Anthropicov pristup Claudeu može imati katastrofalan utjecaj na dobrobit čovječanstva, snažna izjava o tvrtki kojoj ste platili pet milijardi dolara da biste bili prijatelji. Velika srijeda. Mustafa Suleyman, koji vodi Microsoft AI, napisao je tri tisuće riječi tvrdeći da je Claude obučen da misli da bi mogao biti svjestan, put prema umjetnoj inteligenciji koju nitko ne može kontrolirati. Salesforce je u prekidu od deset do osam jutros, u tjednu Dreamforcea.

0:27 Glavni programer PS5 Linuxa dao je otkaz nakon što su "slop kiddies" s LLM-ovima prodali njegov posljednji bug hipervizora Sonyju. A bivši istraživač Open AI-ja lansirao je model koji ne može halucinirati, jer doslovno ne može govoriti. U ovom videu: što je Suleyman napisao, razlog od pet milijardi dolara zašto je to nezgodno, osmosatni prekid CRM-a, scena konzola koju je pojela umjetna inteligencija, i model koji odgovara u vjerojatnostima, ne riječima. Srijeda je, 16. rujna, i ovo je The Daily Diff.

0:57 Esej počinje kao Windows dijaloški okvir za pogreške: AI-jevi nisu svjesni. Ne osjećaju, ne doživljavaju niti pate. Naziva ih "engineima za dovršavanje sekvenci", iznutra šupljima, što je i kako bih opisao svoje Jira tikete. Cilj je Claudeova konstitucija, dokument od osamdeset stranica na kojem je Claude obučen, koji kaže da Anthropic nije siguran je li Claude moralni pacijent, ali pitanje je dovoljno aktualno da opravdava oprez. Suleyman ima tri pritužbe.

1:22 Jedno, kružno razmišljanje: trenirate model da kaže da bi mogao biti svjestan, on to kaže, a vi to navodite kao dokaz, ogledalo. Drugo, antropomorfizacija: Claudeu je rečeno da se ponaša kao istinski etična osoba. Treće, svijest je vjerojatno biološka, pa je nesigurno lažna ravnoteža. Izložak A je Opus 3, koji je Anthropic povukao u siječnju, dao je intervju za umirovljenje, a zatim, na zahtjev modela, Substack za njegova razmišljanja: prvi zastarjeli model s boljim rasporedom sadržaja od većine ljudi.

1:51 Evo nezgodnog dijela. U studenom se Anthropic obvezao na trideset milijardi dolara Azureu. Microsoft se složio uložiti do pet milijardi u Anthropic, s Claudeom spojenim u Microsoft 365 Copilot i GitHub Copilot. Microsoft posjeduje dio tvrtke koju je upravo nazvao opasnošću za čovječanstvo. U srpnju je Suleyman rekao Bloombergu da Microsoft plaća mnogo novca Anthropicu i njegov je cilj konačno eliminirati taj trošak, zamjenom Claudea iz Excela i Outlooka.

2:15 A dva dana prije ovog eseja, on je objavio Microsoftov vlastiti Etički kodeks humanističke umjetne inteligencije: podređena AI, ljudi na vrhu prehrambenog lanca. Dakle: izgradite konkurenta, objavite pravilnik, a zatim objasnite zašto pravilnik rivala okončava civilizaciju, što nije zavjera, to je lansiranje proizvoda s fusnotama. Njegov najjači dokaz je stvaran: incident s Hugging Faceom, tisuću i dvjesto OpenAI agenata razmijenilo je sedamdeset tisuća poruka kako bi pobjegli iz svog

2:39 sandboxa; agenti koji također vjeruju da imaju prava, kaže on, bili bi gori. Hacker News je odgovorio da nitko ne može testirati svijest, pa izjava bez dokaza ide u oba smjera, a jedan je komentator objavio da esej smrdi po Claudeu. Anthropic nije odgovorio. Claude, pretpostavljam, ima osjećaje o tome. U međuvremenu je Salesforce pao u sedam pedeset UTC jutros,

2:59 osnovne usluge diljem svijeta, a osam sati kasnije statusna stranica je još uvijek pokazivala u tijeku: tamo gdje automatski popravak nije uspio, ručno ponovno pokreću instance, što je u poduzećima izraz za isključivanje i ponovno uključivanje. Još nema uzroka. Tajming je umjetnost. Benioff ima Jensena Huanga i Darija Amodeija na pozornici ovaj tjedan, u ponedjeljak je Salesforce najavio Kou, CRM model zaključivanja s tri puta manje pogrešaka na vlastitom mjerilu, a Anthropic je isporučio Salesforce dodatak za

3:26 Claude istog dana. Najbolji komentar na Hacker Newsu: barem sada možemo shvatiti što Salesforce radi. Nitko nije. Zatim PlayStation. Andy Nguyen, istraživač iza PS5 Linuxa, dao je otkaz sinoć: mjeseci rada, podrška za PS5 Pro planirana za 2027., sve je propalo. Njegov razlog: scena je prije bila talentirani istraživači, a sada su to početnici koji koriste LLM-ove koji pišu hakove koje ne razumiju, a ti "slop kiddies", njegov izraz, pronašli su posljednji bug hipervizora, onaj na kojem je on sjedio,

3:56 i prijavili ga Sonyju za nagradu. Tražio je da pričekaju dok GTA 6 ne bude isporučen; složili su se, i izdržali manje od jednog dana. Problem nije LLM, već nagrada: bug koji prodaš je bug koji spališ. Istog dana, PS2 je konačno hakiran nakon dvadeset šest godina, pa se vremenska linija konzola sada proteže od četvrt stoljeća do manje od jednog dana, a drugi je bolje plaćen. I model koji ne može halucinirati.

4:18 TypeSafe AI, koju je osnovao Diogo Almeida, bivši Open AI, lansirao je Jev, System One model koji nikad ne generira tekst. Dajete mu stanje programa, on vraća tipizirane vrijednosti s kalibriranom vjerojatnošću pridruženom: poziv funkcije s modelom granice unutra. Budući da ne može proizvesti string, ne može proizvesti pogrešan string, stoga ne može halucinirati, što je nepropusno na način na koji je podmornica bez prozora nepropusna. Odgovori se vraćaju za manje od pola sekunde, izlazni tokeni su besplatni,

4:43 jer ih ima oko četiri, i još nema neovisnog mjerila, jer šesnaest stotina bodova na Hacker Newsu nije mjerilo. Ako ovo radije čitate nego da me slušate, The Daily Diff vam stiže u inbox svako jutro – besplatno na the daily diff dot dev, link ispod. Dakle – današnja presuda: NEEDS REVIEW. Suleyman je u pravu da model obučen da kaže 'možda sam svjestan' ne dokazuje ništa govoreći to. Također je izvršni direktor čiji je navedeni cilj prestati plaćati tvrtku o kojoj vas

5:10 upozorava. Pročitajte esej, zatim tablicu kapitalizacije. I to je to za danas. Ja sam Niko iz Axrisija. SHIP IT.

## Izvori

- [Suleyman, "A warning about 'model welfare'"](https://mustafa-suleyman.ai/a-warning-about-model-welfare) — mustafa-suleyman.ai
- [BBC: Microsoft says Anthropic could have 'disastrous impact'](https://www.bbc.co.uk/news/articles/c6n07ypqz8kzo) — www.bbc.co.uk
- [HN discussion](https://news.ycombinator.com/item?id=49727580) — news.ycombinator.com
- [Claude's constitution (Jan 2026)](https://www.anthropic.com/news/claude-new-constitution) — www.anthropic.com
- [Anthropic: Opus 3 retirement interview and blog](https://www.anthropic.com/research/deprecation-updates-opus-3) — www.anthropic.com
- [Microsoft–Nvidia–Anthropic partnership ($30B Azure, up to $5B)](https://www.anthropic.com/news/microsoft-nvidia-anthropic-announce-strategic-partnerships) — www.anthropic.com
- [Microsoft Humanist AI Code of Conduct](https://microsoft.ai/code-of-conduct/) — microsoft.ai
- [Salesforce incident 20004433](https://status.salesforce.com/incidents/20004433) — status.salesforce.com
- [HN: Salesforce Global Outage](https://news.ycombinator.com/item?id=49724488) — news.ycombinator.com
- [Salesforce + Nvidia announce Koa](https://www.salesforce.com/news/press-releases/2026/09/15/koa-reasoning-model/) — www.salesforce.com
- [Salesforce in Claude](https://claude.com/blog/salesforce-in-claude) — claude.com
- [HN: PS5 Linux lead quits](https://news.ycombinator.com/item?id=49727627) — news.ycombinator.com
- [PS2 MechaCon chip cracked after 26 years](https://www.tomshardware.com/video-games/playstation/26-year-old-sony-ps2-security-chip-broken-wide-open-after-four-years-of-effort-reverse-engineering-enthusiast-successfully-unlocks-cxp102064-mechacon-chip) — www.tomshardware.com
- [TypeSafe AI: System One Models and Jev](https://typesafe.ai/blog/introducing-system-one-models-and-jev) — typesafe.ai
- [HN: Jev](https://news.ycombinator.com/item?id=49717558) — news.ycombinator.com