Microsoftтун AI башчысы Клоддун конституциясын кооптуу деп атады.

Бул видео эмнелерди камтыйт

• Microsoft AI'дын Сулейман: Anthropicтин конституциясы "башкарылгыс AIга жол"
• Salesforce глобалдык өчүү, 8+ саат, Dreamforce учурунда себеби азырынча жок
• PS5 Linux жетекчиси Энди Нгуен кетти: LLM "акылсыз балдар" акыркы гипервизор катасын Sony'ге сатышты
• TypeSafe AI'дын Jev: ыктымалдуулуктар менен терилген чечимдер, 70–500 мс, чыгыш токендери акысыз

Котормо стенограмма

Англис тилиндеги баштапкы баяндамадан которулган. Жеткиликтүү аудио жана коштомо жазуулар YouTube тарабынан көзөмөлдөнөт.

0:00 Бүгүн эртең менен Microsoft AI компаниясынын башкы директору Anthropicтин Клодго болгон мамилеси адамзаттын жыргалчылыгына кыйратуучу таасир этиши мүмкүн деп жазды. Бул беш миллиард доллар төлөп, дос болгон компания жөнүндө айтуу үчүн катуу сөз. Чоң шаршемби. Microsoft AI'ды башкарган Мустафа Сулейман үч миң сөз жазып, Клоддун аң-сезимдүү болушу мүмкүн деп үйрөтүлгөнүн, бул эч ким башкара албаган AIга алып барарын айтты. Salesforce бүгүн эртең менен саат ондон сегизге чейин иштебей калды, Dreamforce жумасында.

0:27 PS5 Linuxтин башкы иштеп чыгуучусу LLM менен акылсыз балдар анын акыркы гипервизор катасын Sony'ге саткандан кийин жумуштан кетти. Ал эми мурдагы OpenAI изилдөөчүсү галлюцинация кылбай турган моделди ишке киргизди, себеби ал түзмө-түз сүйлөй албайт. Бул видеодо: Сулейман эмне деп жазды, беш миллиард долларлык себеби ыңгайсыз, сегиз сааттык CRM өчүүсү, AI тарабынан жеген консолдук сцена, жана сөздөр эмес, ыктымалдуулуктар менен жооп берген модель. Бүгүн шаршемби, 16-сентябрь, жана бул The Daily Diff.

0:57 Эссе Windows ката диалогу сыяктуу башталат: AI'лар аң-сезимдүү эмес. Алар сезбейт, тажрыйба албайт, же азап тартпайт. Ал аларды ичи көңдөй ырааттуулукту аяктоо кыймылдаткычтары деп атайт, бул мен Jira билеттеримди кантип сүрөттөйт элем. Максат - Клоддун конституциясы, Клод үйрөтүлгөн сексен барактык документ, анда Anthropic Клоддун моралдык пациент экендигине ишене албастыгы, бирок маселе этияттыкты талап кыла тургандай олуттуу деп айтылат. Сулеймандын үч нааразычылыгы бар.

1:22 Биринчиси, тегерек логика: сиз моделди аң-сезимдүү болушу мүмкүн деп айтууга үйрөтөсүз, ал ошентип айтат, жана сиз муну далил катары келтиресиз, бул күзгүлөр залы. Экинчиси, антропоморфизм: Клодго чындап эле этикалык адамдай иш кылуу айтылат. Үчүнчүсү, аң-сезим биологиялык болушу мүмкүн, ошондуктан белгисиздик жалган баланс. А-экспонат - Opus 3, аны Anthropic январда пенсияга чыгарды, пенсиялык интервью берип, андан кийин, моделдин өтүнүчү боюнча, анын ойлору үчүн Substack ачты: көпчүлүк адамдарга караганда жакшыраак контент графиги бар биринчи эскирген модель. Бул жерде ыңгайсыз бөлүк.

1:51 Ноябрда Anthropic Azure'га отуз миллиард доллар жумшады. Microsoft Anthropic компаниясына беш миллиард долларга чейин инвестиция салууга макул болду, Claude Microsoft 365 Copilot жана GitHub Copilot'ко туташтырылган. Microsoft адамзатка коркунуч деп атаган компаниянын бир бөлүгүнө ээ. Июль айында Сулейман Bloombergге Microsoft Anthropic'ке көп акча төлөрүн жана анын максаты акыры бул чыгымды жоюу экенин айтты, Claude'ду Excel жана Outlook'тан алмаштырып. Ал эми бул эсседен эки күн мурун, ал

2:15 Microsoftтун өзүнүн Гуманисттик AI Жүрүм-турум Кодексин жарыялаган: баш ийген AI, адамдар азык чынжырынын башында. Ошентип: атаандашты кур, эрежелер китебин жарыяла, андан кийин атаандаштын эрежелер китеби цивилизацияны эмне үчүн жок кылаарын түшүндүр, бул кутум эмес, бул шилтемелери бар продукт ишке киргизүү. Анын эң күчтүү далили чыныгы: Hugging Face окуясы, он эки жүз OpenAI агенттери өз кум короосунан качуу үчүн жетимиш миң билдирүү алмашышты; ал да укуктары бар деп эсептеген агенттер,

2:39 мындан да жаман болмок. Hacker News эч ким аң-сезимди текшере албайт деп жооп берди, ошондуктан далилсиз айтылган нерсе эки тарапка тең таасир этет, жана бир комментатор эссе Клоддон "сасыйт" деп жарыялады. Anthropic жооп берген жок. Клод, болжолу, бул тууралуу сезимдери бар. Ошол эле учурда Salesforce бүгүн эртең менен UTC саат жетиден элүү мүнөт өткөндө өчүп калды, дүйнө жүзү боюнча негизги кызматтар, жана сегиз сааттан кийин да статус баракчасы

2:59 уланып жатат деп айтты: автоматташтырылган оңдоо ишке ашпаган жерде, алар кол менен инстанцияларды кайра иштетип жатышат, бул ишкананын өчүрүп кайра күйгүзүү деген термини. Азырынча себеби жок. Убакыт - искусство. Бениофф ушул аптада Дженсен Хуанг менен Дарио Амодейди сахнага алып чыгат, дүйшөмбүдө Salesforce Koa, үч эсе аз ката кетирген CRM ой жүгүртүү моделин өзүнүн эталонунда жарыялады, жана Anthropic ошол эле күнү Клод үчүн Salesforce плагинин чыгарды. Hacker News'тин жогорку комментарийи: жок дегенде азыр Salesforce эмне кылаарын билебиз.

3:26 Эч ким билген жок. Анан PlayStation. PS5 Linuxтин артында турган изилдөөчү Энди Нгуен кечээ кечинде жумуштан кетти: айлап жасалган жумуш, PS5 Pro колдоо 2027-жылга пландаштырылган, баары жок болду. Анын себеби: сахна таланттуу изилдөөчүлөрдөн турган, эми LLMдерди колдонуп, түшүнбөгөн хактарды жазган жаңы баштагандар, жана ошол акылсыз балдар, анын термини, акыркы гипервизор катасын таап алышты, ал өзү кармап турган катаны, жана аны сыйлык үчүн Sony'ге билдиришти. Ал аларга GTA 6 чыкканга чейин күтүүнү суранды; алар макул болушту,

3:56 жана бир күндөн аз убакытка созулду. Көйгөй LLM эмес, бул сыйлык: сиз саткан ката - бул сиз өрттөгөн ката. Ошол эле күнү, PS2 жыйырма алты жылдан кийин акыры бузулду, ошентип консолдун убакыт графиги азыр чейрек кылымдан бир күндөн аз убакытка чейин созулат, жана экинчиси жакшыраак төлөгөн. Ал эми галлюцинация кылбай турган модель. TypeSafe AI, Диого Алмейда тарабынан негизделген, мурдагы OpenAI, Jevди ишке киргизди, текстти эч качан жаратпаган System One модели.

4:18 Сиз ага программанын абалын бересиз, ал калибрленген ыктымалдуулук менен терилген маанилерди кайтарат: ичинде чектелүү модели бар функция чакыруу. Ал сапты чыгара албагандыктан, ал туура эмес сапты чыгара албайт, демек галлюцинация кылбайт, бул терезеси жок суу астында жүрүүчү кеме сыяктуу бекем. Жооптор жарым секунддан аз убакытта келет, чыгыш токендери акысыз, себеби алардын саны төрткө жакын, жана азырынча көз карандысыз эталон жок, себеби он алты жүз Hacker News упайы эталон эмес. Эгер сиз муну мен айткандан көрө окугуңуз келсе, diff ар күнү эртең менен

4:43 сиздин почтаңызга келет — the daily diff dot dev дарегинен акысыз, шилтеме төмөндө. Ошентип — бүгүнкү өкүм: карап чыгуу керек. Сулейман, балким, аң-сезимдүүмүн деп айтууга үйрөтүлгөн модель эч нерсени далилдебей туура айтат. Ал ошондой эле сизди эскертип жаткан компанияга акча төлөөнү токтотууну көздөгөн жетекчи. Эссены окуңуз, анан капиталдык таблицаны. Жана бүгүнкү diff ушул. Мен Axrisi'ден Никомун.

5:10 Жоопкерчилик менен бириктириңиз. Биринчиси, тегерек логика: сиз моделди аң-сезимдүү болушу мүмкүн деп айтууга үйрөтөсүз, ал ошентип айтат, жана сиз муну далил катары келтиресиз, бул күзгүлөр залы. Экинчиси, антропоморфизм: Клодго чындап эле этикалык адамдай иш кылуу айтылат. Үчүнчүсү, аң-сезим биологиялык болушу мүмкүн, ошондуктан белгисиздик жалган баланс.

Булактар

1. Suleyman, "A warning about 'model welfare'"mustafa-suleyman.ai
2. BBC: Microsoft says Anthropic could have 'disastrous impact'www.bbc.co.uk
3. HN discussionnews.ycombinator.com
4. Claude's constitution (Jan 2026)www.anthropic.com
5. Anthropic: Opus 3 retirement interview and blogwww.anthropic.com
6. Microsoft–Nvidia–Anthropic partnership ($30B Azure, up to $5B)www.anthropic.com
7. Microsoft Humanist AI Code of Conductmicrosoft.ai
8. Salesforce incident 20004433status.salesforce.com
9. HN: Salesforce Global Outagenews.ycombinator.com
10. Salesforce + Nvidia announce Koawww.salesforce.com
11. Salesforce in Claudeclaude.com
12. HN: PS5 Linux lead quitsnews.ycombinator.com
13. PS2 MechaCon chip cracked after 26 yearswww.tomshardware.com
14. TypeSafe AI: System One Models and Jevtypesafe.ai
15. HN: Jevnews.ycombinator.com