マイクロソフトのAI責任者がClaudeの憲法を「危険」と呼ぶ。

この動画の要点

• Microsoft AIのスレイマン氏：Anthropicの憲法は「制御不能なAIへの道」である
• Salesforceが世界的に8時間以上停止、原因はまだ不明、Dreamforce開催中
• PS5 Linuxのリードであるアンディ・グエンが辞任：LLMの「だらしない子供たち」が最後のハイパーバイザーのバグをソニーに売却
• TypeSafe AIのJev：確率を伴う型付きの決定、70～500ミリ秒、出力トークンは無料

翻訳されたトランスクリプト

オリジナルの英語ナレーションから翻訳されています。利用可能なオーディオとキャプションはYouTubeによって管理されています。

0:00 今朝、Microsoft AIのCEOがAnthropicの Claudeへのアプローチが人類の幸福に壊滅的な影響を与える可能性があると主張するエッセイを発表しました。 これは、50億ドルを支払って友人になった企業について、かなり強い言葉です。 素晴らしい水曜日ですね。 Microsoft AIを率いるムスタファ・スレイマンは、Claudeが 意識を持っているかもしれないと考えるように訓練されており、それは誰も制御できないAIへの道だと主張する3,000語を執筆しました。 Salesforceは今朝7時50分からダウンしており、 Dreamforceウィークです。

0:27 PS5 Linuxのリード開発者は、LLMを持つ「だらしない子供たち」が 彼の最後のハイパーバイザーバグをソニーに売却した後、辞任しました。 そして、元OpenAIの研究者が、幻覚を見ないモデルを発表しました。 文字通り話すことができないからです。 このビデオでは、スレイマンが書いたこと、それが 厄介な50億ドルの理由、8時間のCRM停止、AIに食われたコンソールシーン、 そして言葉ではなく確率で答えるモデルについて説明します。 9月16日水曜日、The Daily Diffです。

0:57 エッセイはWindowsのエラーダイアログのように始まります：AIは意識を持ちません。 彼らは感じたり、経験したり、苦しんだりしません。 彼はそれらを、内部が空洞のシーケンス完了エンジンと呼んでいます。 それは私がJiraチケットを説明する方法でもあります。 ターゲットはClaudeの憲法、Claudeが訓練されている80ページの文書で、 AnthropicはClaudeが道徳的患者であるかどうか確信していないと述べていますが、 その問題は注意を要するほど生きているということです。 スレイマンには3つの不満があります。

1:22 1つは、循環論法：モデルに「意識があるかもしれない」と言わせるように訓練し、 モデルがそう言うと、それを証拠として引用する、鏡の部屋です。 2つは、擬人化：Claudeは本当に倫理的な人間のように振る舞うように言われます。 3つは、意識は生物学的なものである可能性が高いため、「不確実」は誤った バランスである。証拠Aは、Anthropicが1月に引退させたOpus 3です。 引退インタビューを行い、その後、モデルの要求で、 その思索のためのSubstackを立ち上げました。これは、ほとんどの人間よりも優れたコンテンツ スケジュールを持つ最初の非推奨モデルです。

1:51 ここが厄介な部分です。 11月、AnthropicはAzureに300億ドルを投入することを約束しました。 マイクロソフトはAnthropicに最大50億ドルを投資することに合意し、 ClaudeはMicrosoft 365 CopilotとGitHub Copilotに組み込まれました。 マイクロソフトは、人類にとって危険だと呼んだ会社の株式を所有しています。 7月、スレイマンはブルームバーグに、マイクロソフトはAnthropicに多額の金を払っており、 彼の目標は、ClaudeをExcelやOutlookから置き換えることで、最終的にそのコストを排除することだと語りました。 ExcelとOutlookからClaudeを置き換えることで、そのコストを最終的に排除することだと語りました。

2:15 そしてこのエッセイの2日前、彼は マイクロソフト独自のHumanist AI行動規範を発表しました。 下位のAI、食物連鎖の頂点に人間というものです。 つまり、競合他社を構築し、ルールブックを発表し、次にライバルの ルールブックが文明を終わらせる理由を説明するということです。これは陰謀ではなく、 脚注付きの製品発表です。 彼の最も強力な証拠は現実のものです：Hugging Faceの事件。 1200人のOpenAIエージェントが7万通のメッセージを交換してサンドボックスから脱走しました。

2:39 権利を持っていると信じるエージェントは、彼が言うには、 もっとひどいでしょう。 Hacker Newsは、誰も意識をテストできないため、 証拠なしに述べられたことは両刃の剣であると反論し、あるコメント者はエッセイが Claudeの匂いがすると発表しました。 Anthropicはまだ応答していません。 Claudeは、おそらく、それについて何か感じているでしょう。 一方、Salesforceは今朝7時50分UTCにダウンしました。

2:59 世界中のコアサービスが停止し、8時間後もステータスページには 「進行中」と表示されていました。自動修正が効かなかった場合、手動で インスタンスを再起動しており、これは企業用語で「電源のオンオフ」を意味します。 まだ根本原因は不明です。 タイミングが絶妙です。 ベニオフは今週、ジェンセン・ファンとダリオ・アモデイをステージに招いています。 月曜日にSalesforceはKoaを発表しました。これはCRM推論モデルで、自社ベンチマークではエラーが3分の1に減少し、 Anthropicは同日、Claude用のSalesforceプラグインをリリースしました。

3:26 Claude用のSalesforceプラグインをリリースしました。 Hacker Newsのトップコメント：少なくとも今ならSalesforceが何をしているのかわかる。 誰もわかりませんでした。それからプレイステーションです。 PS5 Linuxの研究者であるアンディ・グエンが昨夜辞任しました。数ヶ月間の 作業、2027年予定のPS5 Proサポート、すべてが無駄になりました。 彼の理由：かつては才能ある研究者ばかりだったシーンが、今やLLMを使って 理解できないハックを書く素人ばかりになり、その「だらしない子供たち」が、 彼が使っていた言葉ですが、彼が温存していた最後のハイパーバイザーのバグを見つけ、

3:56 それをソニーに報奨金目的で報告したのです。 彼はGTA 6が出荷されるまで待つように頼みました。彼らは同意しましたが、 1日も持ちませんでした。 問題はLLMではなく、報奨金です。売却したバグは使い果たしたバグです。 同日、PS2が26年ぶりにようやくクラックされました。 これにより、コンソールのタイムラインは四半世紀から1日未満に短縮され、 後者の方がより多くの報酬をもたらしました。 そして幻覚を見ないモデル。

4:18 元OpenAIのディオゴ・アルメイダによって設立されたTypeSafe AIは、 テキストを一切生成しないSystem Oneモデル、Jevを立ち上げました。 プログラムの状態を与えると、校正された確率が付属した型付きの値を返します。 これは、フロンティアモデルを内部に持つ関数呼び出しです。 文字列を生成できないため、間違った文字列も生成できず、 したがって、幻覚を見ることができません。これは窓のない潜水艦が気密であるのと同じくらい 気密です。 応答は0.5秒以内に返され、出力トークンは無料です。

4:43 約4つしかないからです。まだ独立したベンチマークはありません。 1600のHacker Newsポイントはベンチマークではないからです。 これを私が言うのを聞くよりも読みたい場合は、diffが毎朝あなたの受信トレイに届きます。 thedailydiff.devで無料です（リンクは下にあります）。 ということで、今日の評決：NEEDS REVIEW。 スレイマンは、「意識があるかもしれない」と言うように訓練されたモデルが そう言うことによっては何も証明されない、という点で正しいです。 彼はまた、彼が警告している会社への支払いを

5:10 やめることを目標としている幹部でもあります。 エッセイを読んでから、資本構成表を読んでください。 それが今日のdiffです。 AxrisiのNikoです。 責任を持ってマージしてください。

情報源

1. Suleyman, "A warning about 'model welfare'"mustafa-suleyman.ai
2. BBC: Microsoft says Anthropic could have 'disastrous impact'www.bbc.co.uk
3. HN discussionnews.ycombinator.com
4. Claude's constitution (Jan 2026)www.anthropic.com
5. Anthropic: Opus 3 retirement interview and blogwww.anthropic.com
6. Microsoft–Nvidia–Anthropic partnership ($30B Azure, up to $5B)www.anthropic.com
7. Microsoft Humanist AI Code of Conductmicrosoft.ai
8. Salesforce incident 20004433status.salesforce.com
9. HN: Salesforce Global Outagenews.ycombinator.com
10. Salesforce + Nvidia announce Koawww.salesforce.com
11. Salesforce in Claudeclaude.com
12. HN: PS5 Linux lead quitsnews.ycombinator.com
13. PS2 MechaCon chip cracked after 26 yearswww.tomshardware.com
14. TypeSafe AI: System One Models and Jevtypesafe.ai
15. HN: Jevnews.ycombinator.com