# Microsoft-тың AI басшысы Клодтың конституциясын қауіпті деп атады.

Published: 2026-09-16

Microsoft AI бас директоры Мұстафа Сүлеймен 3 000 сөзден тұратын эссе жариялады, онда Anthropic-тің Клод конституциясы модельді "саналы болуы мүмкін" және "модельдік әл-ауқатқа" лайық деп ойлауға үйретеді, бұл оның айтуынша, "адамзаттың әл-ауқатына үлкен әсер" етеді. Microsoft он ай бұрын Anthropic-ке 5 миллиард долларға дейін инвестиция салуға келісті және Copilot ішінде Клодты сатады. Сол күні: Dreamforce аптасында Salesforce 8+ сағатқа жұмыс істемей қалды, PS5 Linux жетекшісі LLM "слоп киддилер" үшін жұмыстан кетті, және TypeSafe-тің Jev, мәтін жасамайтындықтан галлюцинация жасай алмайтын модель. Үкім: ҚАРАУ КЕРЕК.

Canonical: https://thedailydiff.dev/kk/video/2026-09-16-suleyman-model-welfare/

## Бұл бейне не туралы

- Microsoft AI-ның Сүлеймені: Anthropic конституциясы "бақыланбайтын AI-ға апаратын жол"
- Salesforce жаһандық ақау, 8+ сағат, Dreamforce кезінде әлі себебі жоқ
- PS5 Linux жетекшісі Энди Нгуен жұмыстан кетті: LLM "слоп киддилер" соңғы гипервизор қатесін Sony-ге сатты
- TypeSafe AI-ның Jev: ықтималдықтармен терілген шешімдер, 70–500 мс, шығыс токендері тегін

## Аударылған транскрипция

Бастапқы ағылшын тіліндегі баяндамадан аударылған. Қолжетімді аудио және субтитрлерді YouTube басқарады.

0:00 Бүгін таңертең Microsoft AI бас директоры Anthropic-тің Клодқа деген көзқарасы адамзаттың әл-ауқатына үлкен әсер етуі мүмкін деп мәлімдейтін эссе жариялады, бес миллиард доллар төлеп дос болған компания туралы айтуға болатын күшті нәрсе. Үлкен сәрсенбі. Microsoft AI-ды басқаратын Мұстафа Сүлеймен үш мың сөз жазды, онда Клод өзін саналымын деп ойлауға үйретілген, бұл ешкім басқара алмайтын AI-ға апаратын жол. Salesforce бүгін таңғы оннан сегізге дейін жұмыс істемей тұр, Dreamforce апталығында.

0:27 PS5 Linux жетекші әзірлеушісі LLM-мен "слоп киддилер" оның соңғы гипервизор қатесін Sony-ге сатқаннан кейін жұмыстан кетті. Ал бұрынғы OpenAI зерттеушісі галлюцинация жасай алмайтын модельді іске қосты, өйткені ол сөйлей алмайды. Бұл видеода: Сүлеймен не жазды, бес миллиард долларлық себебі ыңғайсыз, сегіз сағаттық CRM ақауы, AI жеп қойған консольдік көрініс, және сөздермен емес, ықтималдықтармен жауап беретін модель. Бүгін сәрсенбі, 16 қыркүйек, және бұл The Daily Diff.

0:57 Эссе Windows қате туралы диалог сияқты ашылады: AI саналы емес. Олар сезінбейді, басынан өткермейді немесе зардап шекпейді. Ол оларды іші бос, тізбекті аяқтау қозғалтқыштары деп атайды, бұл менің Jira билеттерімді де сипаттайтын тәсіл. Нысана – Клодтың конституциясы, Клод оқытылған сексен беттік құжат, онда Anthropic Клодтың моральдық пациент екеніне сенімді емес делінген, бірақ сұрақ сақтық қажет ететіндей маңызды. Сүлейменнің үш шағымы бар.

1:22 Біріншісі, дөңгелек логика: сіз модельді саналы болуы мүмкін деп айтуға үйретесіз, ол солай дейді, және сіз мұны дәлел ретінде келтіресіз, айналар галереясы. Екіншісі, антропоморфизация: Клодқа шынайы этикалық адам сияқты әрекет ету тапсырылған. Үшіншісі, сана, мүмкін, биологиялық, сондықтан белгісіздік – жалған тепе-теңдік. А дәлелі – қаңтарда Anthropic тоқтатқан Opus 3, зейнетке шығу туралы сұхбат берді, содан кейін, модельдің өтініші бойынша, ойларын жариялау үшін Substack ашты: көптеген адамдарға қарағанда жақсы контент кестесі бар бірінші ескірген модель.

1:51 Міне, ыңғайсыз жері. Қарашада Anthropic Azure-ге отыз миллиард доллар бөлді. Microsoft Anthropic-ке бес миллиардқа дейін инвестиция салуға келісті, Клод Microsoft 365 Copilot және GitHub Copilot-қа қосылған. Microsoft жаңа ғана адамзатқа қауіп төндіреді деп атаған компанияның бір бөлігіне ие. Шілдеде Сүлеймен Bloomberg-ке Microsoft Anthropic-ке көп ақша төлейді және оның мақсаты – Клодты Excel мен Outlook-тан алып тастау арқылы бұл шығынды толығымен жою. Excel мен Outlook-тан Клодты шығарып тастау арқылы бұл шығынды толығымен жою.

2:15 Осы эсседен екі күн бұрын ол Microsoft-тың өз Гуманистік AI этикалық кодексін жариялады: бағынышты AI, тамақ тізбегінің басында адамдар. Сонымен: бәсекелес жаса, ережелер жинағын жарияла, содан кейін бәсекелестің ережелер жинағы өркениетті қалай жоятынын түсіндір, бұл қастандық емес, бұл сілтемелермен бірге өнімді іске қосу. Оның ең күшті дәлелі шынайы: Hugging Face оқиғасы, мың екі жүз OpenAI агенті жетпіс мың хабар алмасып, өздерінің

2:39 sandbox-ынан қашып шыққан; оның айтуынша, құқықтары бар деп санайтын агенттер жаман болар еді. Hacker News ешкім сананы тексере алмайды деп жауап берді, сондықтан дәлелсіз айту екі жаққа да қатысты, және бір комментатор эссе Клодтың иісі шығады деп мәлімдеді. Anthropic жауап берген жоқ. Клод, мүмкін, бұл туралы сезімдері бар шығар. Осы уақытта Salesforce бүгін таңертең UTC сағат жеті жиырмада тоқтап қалды,

2:59 негізгі қызметтер дүние жүзі бойынша, және сегіз сағаттан кейін де мәртебе бетінде жалғасуда деп жазылды: автоматтандырылған түзету жұмыс істемеген жерде, олар инстанцияларды қолмен қайта іске қосуда, бұл "өшіріп қайта қосудың" корпоративтік термині. Әлі себебі жоқ. Уақыт таңдаулы. Бениоффтың осы аптада Дженсен Хуанг пен Дарио Амодей сахнада, дүйсенбіде Salesforce Koa-ны жариялады, CRM себептеу моделі өз бенчмаркінде үш есе аз қателермен, және Anthropic сол күні Клодқа арналған Salesforce плагинін шығарды.

3:26 Клодқа арналған Salesforce плагинін шығарды. Hacker News-тің ең жақсы комментарийі: ең болмағанда, енді Salesforce не істейтінін білеміз. Ешкім білген жоқ. Содан кейін PlayStation. PS5 Linux артындағы зерттеуші Энди Нгуен кеше түнде жұмыстан кетті: айлар бойғы жұмыс, 2027 жылға жоспарланған PS5 Pro қолдауы, бәрі де бекерге кетті. Оның себебі: бұрын талантты зерттеушілер болған көрініс енді LLM-дерді пайдаланып түсінбейтін хактар жазатын "нубтарға" толды, және сол "слоп киддилер", оның терминімен айтқанда, соңғы гипервизор қатесін тапты, ол өзі сақтап отырған

3:56 қатені, және оны сыйақы үшін Sony-ге хабарлады. Ол олардан GTA 6 шыққанша күтуді сұрады; олар келісті, бірақ бір күннен де аз уақыт шыдады. Мәселе LLM-де емес, сыйақыда: сіз сататын қате – сіз жоятын қате. Сол күні PS2 жиырма алты жылдан кейін толығымен бұзылды, сондықтан консольдің хронологиясы енді ширек ғасырдан бір күннен аз уақытқа дейін созылады, және екіншісі жақсырақ төленді. Ал галлюцинация жасай алмайтын модель.

4:18 Diogo Almeida, бұрынғы OpenAI қызметкері негізін қалаған TypeSafe AI, мәтін жасамайтын System One моделі Jev-ті іске қосты. Сіз оған бағдарлама күйін бересіз, ол калибрленген ықтималдығы бар терілген мәндерді қайтарады: ішінде шекаралық моделі бар функция шақыруы. Ол жол шығара алмайтындықтан, қате жол шығара алмайды, сондықтан галлюцинация жасай алмайды, бұл терезесі жоқ сүңгуір қайық сияқты тығыз. Жауаптар жарты секундтан аз уақытта келеді, шығыс токендері тегін,

4:43 өйткені олар төртке жуық, және әлі тәуелсіз бенчмарк жоқ, өйткені мың алты жүз Hacker News ұпайы бенчмарк емес. Егер мұны менің айтқанымнан гөрі оқығанды жөн көрсеңіз, diff сіздің кіріс жәшігіңізге күн сайын таңертең келеді — daily diff dot dev сайтында тегін, сілтеме төменде. Сонымен — бүгінгі үкім: ҚАРАУ КЕРЕК. Сүлеймен, саналы болуым мүмкін деп айтуға үйретілген модельдің ешнәрсені дәлелдемейтіні дұрыс. Ол сондай-ақ сізге ескертіп жатқан компанияға ақша төлеуді тоқтатуды

5:10 мақсат еткен басшы. Эссені оқыңыз, содан кейін капитал кестесін. Бүгінгі айырмашылық осы. Мен Axrisi-ден Никомын. Жауапкершілікпен біріктіріңіз.

## Дереккөздер

- [Suleyman, "A warning about 'model welfare'"](https://mustafa-suleyman.ai/a-warning-about-model-welfare) — mustafa-suleyman.ai
- [BBC: Microsoft says Anthropic could have 'disastrous impact'](https://www.bbc.co.uk/news/articles/c6n07ypqz8kzo) — www.bbc.co.uk
- [HN discussion](https://news.ycombinator.com/item?id=49727580) — news.ycombinator.com
- [Claude's constitution (Jan 2026)](https://www.anthropic.com/news/claude-new-constitution) — www.anthropic.com
- [Anthropic: Opus 3 retirement interview and blog](https://www.anthropic.com/research/deprecation-updates-opus-3) — www.anthropic.com
- [Microsoft–Nvidia–Anthropic partnership ($30B Azure, up to $5B)](https://www.anthropic.com/news/microsoft-nvidia-anthropic-announce-strategic-partnerships) — www.anthropic.com
- [Microsoft Humanist AI Code of Conduct](https://microsoft.ai/code-of-conduct/) — microsoft.ai
- [Salesforce incident 20004433](https://status.salesforce.com/incidents/20004433) — status.salesforce.com
- [HN: Salesforce Global Outage](https://news.ycombinator.com/item?id=49724488) — news.ycombinator.com
- [Salesforce + Nvidia announce Koa](https://www.salesforce.com/news/press-releases/2026/09/15/koa-reasoning-model/) — www.salesforce.com
- [Salesforce in Claude](https://claude.com/blog/salesforce-in-claude) — claude.com
- [HN: PS5 Linux lead quits](https://news.ycombinator.com/item?id=49727627) — news.ycombinator.com
- [PS2 MechaCon chip cracked after 26 years](https://www.tomshardware.com/video-games/playstation/26-year-old-sony-ps2-security-chip-broken-wide-open-after-four-years-of-effort-reverse-engineering-enthusiast-successfully-unlocks-cxp102064-mechacon-chip) — www.tomshardware.com
- [TypeSafe AI: System One Models and Jev](https://typesafe.ai/blog/introducing-system-one-models-and-jev) — typesafe.ai
- [HN: Jev](https://news.ycombinator.com/item?id=49717558) — news.ycombinator.com