# Microsoft-ov šef za AI je upravo nazvao Claude-ovu konstituciju opasnom.

Published: 2026-09-16

Mustafa Suleyman, izvršni direktor Microsoft AI, objavio je esej od 3.000 reči u kojem tvrdi da Anthropic-ova Claude konstitucija obučava model da misli da „možda ima svest“ i da zaslužuje „dobrobit modela“ — „katastrofalan uticaj na dobrobit čovečanstva“, po njegovim rečima. Microsoft je pristao da uloži do 5 milijardi dolara u Anthropic pre deset meseci i prodaje Claude unutar Copilota. Istog dana: Salesforce nije radio 8+ sati u nedelji Dreamforce-a, vođa PS5 Linuxa je napustio zbog LLM „slop kiddies“, i TypeSafe-ov Jev, model koji ne može da halucinira jer nikada ne generiše tekst. Presuda: NEEDS REVIEW.

Canonical: https://thedailydiff.dev/sr/video/2026-09-16-suleyman-model-welfare/

## Шта овај видео покрива

- Microsoft AI Suleyman: Anthropic-ova konstitucija je „put ka nekontrolisanoj AI“
- Salesforce globalni prekid, 8+ sati, još nema uzroka, tokom Dreamforce-a
- PS5 Linux vođa Andy Nguyen daje otkaz: LLM „slop kiddies“ prodali poslednji hipervizor bug Sony-ju
- TypeSafe AI Jev: kucane odluke sa verovatnoćama, 70–500 ms, izlazni tokeni besplatni

## Преведени транскрипт

Преведено са оригиналне енглеске нарације. Доступни аудио и титлови контролисани су од стране YouTube-а.

0:00 Jutros je izvršni direktor Microsoft AI objavio esej u kojem kaže da Anthropic-ov pristup Claude-u može imati katastrofalan uticaj na dobrobit čovečanstva, snažna stvar za reći o kompaniji kojoj ste platili pet milijardi dolara da budete prijatelji. Velika sreda. Mustafa Suleyman, koji vodi Microsoft AI, napisao je tri hiljade reči tvrdeći da je Claude obučen da misli da bi mogao biti svestan, put do AI koju niko ne može kontrolisati. Salesforce je bio ugašen od deset do osam jutros, u Dreamforce nedelji.

0:27 Vodeći developer PS5 Linuxa je dao otkaz nakon što su „slop kiddies“ sa LLM-ovima prodali njegov poslednji bug hipervizora Sony-ju. I bivši istraživač OpenAI je lansirao model koji ne može da halucinira, jer bukvalno ne može da govori. U ovom videu: šta je Suleyman napisao, razlog od pet milijardi dolara zašto je nezgodno, osmоčasovni prekid CRM-a, konzolna scena koju je progutao AI, i model koji odgovara u verovatnoćama, a ne rečima. Sreda je, 16. septembar, i ovo je The Daily Diff.

0:57 Esej počinje kao Windows dijaloški prozor za grešku: AI nisu svesne. Oni ne osećaju, ne doživljavaju niti pate. On ih naziva motorima za dopunjavanje sekvenci, iznutra praznim, što je takođe kako bih ja opisao svoje Jira tikete. Cilj je Claude-ova konstitucija, dokument od osamdeset stranica na kojem je Claude obučen, koji kaže da Anthropic nije siguran da li je Claude moralni pacijent, ali je pitanje dovoljno živo da zahteva oprez. Suleyman ima tri žalbe.

1:22 Jedna, kružno rezonovanje: trenirate model da kaže da je možda svestan, on to kaže, i vi to navodite kao dokaz, ogledalo. Dva, antropomorfizacija: Claude-u je rečeno da se ponaša kao istinski etička osoba. Tri, svest je verovatno biološka, pa je nesigurno lažna ravnoteža. Izložba A je Opus 3, koji je Anthropic povukao u januaru, dao intervju o povlačenju, a zatim, na zahtev modela, Substack za njegova razmišljanja: prvi zastareli model sa boljim rasporedom sadržaja od većine ljudi.

1:51 Evo nezgodnog dela. U novembru je Anthropic obavezao trideset milijardi dolara Azure-u. Microsoft je pristao da uloži do pet milijardi u Anthropic, sa Claude-om povezanog sa Microsoft 365 Copilot i GitHub Copilot. Microsoft poseduje deo kompanije koju je upravo nazvao opasnošću po čovečanstvo. U julu, Suleyman je rekao Bloombergu da Microsoft plaća mnogo novca Anthropic-u i njegov cilj je da na kraju eliminiše taj trošak, zamenom Claude-a iz Excela i Outlooka.

2:15 Dva dana pre ovog eseja, on je objavio Microsoft-ov sopstveni Humanistički AI Kodeks ponašanja: podređeni AI, ljudi na vrhu lanca ishrane. Dakle: napraviti konkurenta, objaviti pravilnik, a zatim objasniti zašto pravilnik rivala okončava civilizaciju, što nije zavera, već lansiranje proizvoda sa fusnotama. Njegov najjači dokaz je stvaran: incident sa Hugging Face-om, dvanaest stotina OpenAI agenata koji razmenjuju sedamdeset hiljada poruka da pobegnu iz svog

2:39 sandbox-a; agenti koji takođe veruju da imaju prava, kaže on, bili bi gori. Hacker News je odgovorio da niko ne može testirati svest, pa izjava bez dokaza ima dvostruko značenje, a jedan komentator je objavio da esej smrdi na Claude-a. Anthropic nije odgovorio. Claude, verovatno, ima osećanja povodom toga. U međuvremenu Salesforce je pao u sedam pedeset UTC jutros,

2:59 osnovne usluge širom sveta, a osam sati kasnije statusna stranica je i dalje govorila u toku: tamo gde automatska popravka nije uspela, ručno restartuju instance, korporativni izraz za isključivanje i ponovno uključivanje. Još nema uzroka. Tajming je umetnost. Benioff ima Jensena Huanga i Darija Amodeija na sceni ove nedelje, u ponedeljak je Salesforce najavio Koa, CRM model rasuđivanja sa tri puta manje grešaka na sopstvenom benchmarku, a Anthropic je isporučio Salesforce plugin za

3:26 Claude istog dana. Glavni komentar na Hacker News-u: barem sada možemo shvatiti šta Salesforce radi. Niko nije. Zatim PlayStation. Andy Nguyen, istraživač iza PS5 Linuxa, dao je otkaz sinoć: meseci rada, podrška za PS5 Pro planirana za 2027., sve je propalo. Njegov razlog: scena je nekada bila talentovanih istraživača, a sada su to noobovi koji koriste LLM-ove koji pišu hakove koje ne razumeju, i ti „slop kiddies“, njegov termin, pronašli su poslednji bug hipervizora, onaj na kojem je on sedeo,

3:56 i prijavili ga Sony-ju za nagradu. Tražio je od njih da sačekaju dok GTA 6 ne bude isporučen; složili su se, i izdržali manje od jednog dana. Problem nije LLM, već nagrada: bag koji prodaš je bag koji spališ. Istog dana, PS2 je konačno provaljen nakon dvadeset šest godina, tako da konzolna vremenska linija sada traje od četvrt veka do manje od jednog dana, a drugi je bolje plaćen. I model koji ne može da halucinira.

4:18 TypeSafe AI, koju je osnovao Diogo Almeida, bivši OpenAI, lansirao je Jev, System One model koji nikada ne generiše tekst. Dajete mu stanje programa, on vraća tipizirane vrednosti sa kalibrisanom verovatnoćom vezanom: poziv funkcije sa unutrašnjim graničnim modelom. Pošto ne može da proizvede string, ne može da proizvede pogrešan string, stoga ne može da halucinira, što je hermetički zatvoreno kao podmornica bez prozora je hermetički zatvorena. Odgovori se vraćaju za manje od pola sekunde, izlazni tokeni su besplatni,

4:43 jer ih ima oko četiri, i još nema nezavisnog benchmarka, jer šesnaest stotina Hacker News poena nije benchmark. Ako biste ovo radije pročitali nego čuli od mene, diff stiže u vaše sanduče svakog jutra — besplatno na thedaily diff dot dev, link ispod. Dakle — današnja presuda: NEEDS REVIEW. Suleyman je u pravu da model obučen da kaže 'možda sam svestan' ništa ne dokazuje izgovarajući to. On je takođe izvršni direktor čiji je navedeni cilj da prestane da plaća kompaniju na koju

5:10 vas upozorava. Pročitajte esej, a zatim tabelu kapitala. I to je diff za danas. Ja sam Niko iz Axrisi-ja. Spajajte odgovorno.

## Извори

- [Suleyman, "A warning about 'model welfare'"](https://mustafa-suleyman.ai/a-warning-about-model-welfare) — mustafa-suleyman.ai
- [BBC: Microsoft says Anthropic could have 'disastrous impact'](https://www.bbc.co.uk/news/articles/c6n07ypqz8kzo) — www.bbc.co.uk
- [HN discussion](https://news.ycombinator.com/item?id=49727580) — news.ycombinator.com
- [Claude's constitution (Jan 2026)](https://www.anthropic.com/news/claude-new-constitution) — www.anthropic.com
- [Anthropic: Opus 3 retirement interview and blog](https://www.anthropic.com/research/deprecation-updates-opus-3) — www.anthropic.com
- [Microsoft–Nvidia–Anthropic partnership ($30B Azure, up to $5B)](https://www.anthropic.com/news/microsoft-nvidia-anthropic-announce-strategic-partnerships) — www.anthropic.com
- [Microsoft Humanist AI Code of Conduct](https://microsoft.ai/code-of-conduct/) — microsoft.ai
- [Salesforce incident 20004433](https://status.salesforce.com/incidents/20004433) — status.salesforce.com
- [HN: Salesforce Global Outage](https://news.ycombinator.com/item?id=49724488) — news.ycombinator.com
- [Salesforce + Nvidia announce Koa](https://www.salesforce.com/news/press-releases/2026/09/15/koa-reasoning-model/) — www.salesforce.com
- [Salesforce in Claude](https://claude.com/blog/salesforce-in-claude) — claude.com
- [HN: PS5 Linux lead quits](https://news.ycombinator.com/item?id=49727627) — news.ycombinator.com
- [PS2 MechaCon chip cracked after 26 years](https://www.tomshardware.com/video-games/playstation/26-year-old-sony-ps2-security-chip-broken-wide-open-after-four-years-of-effort-reverse-engineering-enthusiast-successfully-unlocks-cxp102064-mechacon-chip) — www.tomshardware.com
- [TypeSafe AI: System One Models and Jev](https://typesafe.ai/blog/introducing-system-one-models-and-jev) — typesafe.ai
- [HN: Jev](https://news.ycombinator.com/item?id=49717558) — news.ycombinator.com