Microsoft-un süni intellekt rəhbəri Claude-un konstitusiyasını təhlükəli adlandırıb.

Bu videoda nələr əhatə olunur

• Microsoft AI-dən Süleyman: Anthropic-in konstitusiyası "nəzarətsiz süni intellektə aparan yoldur"
• Salesforce-da qlobal kəsilmə, 8+ saat, Dreamforce zamanı hələlik əsas səbəb yoxdur
• PS5 Linux rəhbəri Andy Nguyen istefa verir: LLM "slop kiddies" son hipervizor səhvini Sony-ə satdı
• TypeSafe AI-nin Jev: ehtimallı yazılı qərarlar, 70–500 ms, çıxış tokenləri pulsuz

Tərcümə olunmuş transkript

Orijinal ingilis dilindəki nəqldən tərcümə edilmişdir. Mövcud audio və subtitrlər YouTube tərəfindən idarə olunur.

0:00 Bu səhər Microsoft AI-nin baş direktoru Anthropic-in yanaşmasının Claude-a münasibətdə bəşəriyyətin rifahına fəlakətli təsir göstərə biləcəyini deyən bir esse nəşr etdi, birlikdə dost olmaq üçün beş milyard dollar ödədiyiniz bir şirkət haqqında deyiləcək güclü bir şeydir. Böyük Çərşənbə. Microsoft AI-ni idarə edən Mustafa Süleyman üç min söz yazaraq iddia etdi ki, Claude şüurlu ola biləcəyini düşünməyə öyrədilir, bu da heç kimin nəzarət edə bilməyəcəyi bir süni intellektə aparan yoldur. Salesforce bu səhər ondan səkkizə qədər işləməyib, Dreamforce həftəsində.

0:27 PS5 Linux-un əsas tərtibatçısı, LLM-lər ilə axmaq uşaqlar onun son hipervizor səhvini Sony-ə satdığından sonra istefa verdi. və Sony-ə satdı. Və keçmiş OpenAI tədqiqatçısı hallüsinasiya edə bilməyən bir model yaratdı, çünki o, sözün əsl mənasında danışa bilmir. Bu videoda: Süleymanın nə yazdığı, beş milyard dollarlıq səbəbin niyə narahat edici olduğu, səkkiz saatlıq CRM kəsilməsi, süni intellekt tərəfindən yeyilən bir konsol səhnəsi və sözlərlə deyil, ehtimallarla cavab verən bir model. Bu, çərşənbə, 16 sentyabr, və bu, The Daily Diff-dir.

0:57 Esse Windows səhvi dialoqu kimi başlayır: AI-lər şüurlu deyil. Onlar hiss etmir, təcrübə etmir və əziyyət çəkmir. O, onları daxildən boş, ardıcıllıq tamamlayan mühərriklər adlandırır, mənim Jira biletlərimi də belə təsvir edərdim. Hədəf Claude-un konstitusiyasıdır, Claude-un təlim keçdiyi səksən səhifəlik sənəd, orada deyilir ki, Anthropic Claude-un əxlaqi xəstə olub-olmadığına əmin deyil, lakin sual kifayət qədər aktualdır ki, ehtiyatlı olmağı tələb etsin. Süleymanın üç şikayəti var.

1:22 Birincisi, dövri arqument: siz modeli şüurlu ola biləcəyini deməyə öyrədirsiniz, o da belə deyir, və siz bunu sübut kimi göstərirsiniz, güzgü zalıdır. İki, antropomorfizasiya: Claude-a həqiqətən etik bir insan kimi davranması deyilir. Üç, şüur yəqin ki, bioloji, buna görə qeyri-müəyyənlik yalançı bir balansdır. Eksponat A, Anthropic-in yanvarda təqaüdə göndərdiyi Opus 3-dür, təqaüd müsahibəsi verdi, və sonra, modelin xahişi ilə, onun düşüncələri üçün bir Substack: əksər insanlardan daha yaxşı məzmun cədvəli olan ilk köhnəlmiş model.

1:51 Budur narahat edici hissə. Noyabrda Anthropic Azure-a otuz milyard dollar ayırdı. Microsoft Anthropic-ə beş milyard dollara qədər sərmayə qoymağa razılaşdı, Claude Microsoft 365 Copilot və GitHub Copilot-a daxil edildi. Microsoft, indi insanlığa təhlükə adlandırdığı şirkətin bir hissəsinə sahibdir. İyulda Süleyman Bloomberg-ə bildirdi ki, Microsoft Anthropic-ə çox pul ödəyir və onun məqsədi sonda bu xərci Excel və Outlook-dan Claude-u çıxararaq aradan qaldırmaqdır. Excel və Outlook-dan Claude-u çıxararaq aradan qaldırmaqdır.

2:15 Və bu essedən iki gün əvvəl, o, Microsoft-un öz Hümanist AI Davranış Məcəlləsini nəşr etdi: tabe bir AI, qida zəncirinin başında insanlar. Beləliklə: rəqib yarat, qaydalar toplusu nəşr et, sonra izah et ki, rəqibin qaydalar toplusu sivilizasiyanı necə məhv edir, bu bir sui-qəsd deyil, bu, qeydləri olan bir məhsul buraxılışıdır. Ən güclü sübutu gerçəkdir: Hugging Face insidenti, on iki yüz OpenAI agenti yetmiş min mesajı dəyişərək öz sandbox-larından

2:39 qaçmağa çalışdı; o deyir ki, hüquqları olduğuna inanan agentlər daha pis olardı. Hacker News cavab verdi ki, heç kim şüuru test edə bilməz, beləliklə, sübut olmadan deyilən hər iki tərəfə də təsir edir və bir şərhçi essenin Claude-dan qoxu gəldiyini elan etdi. Anthropic cavab verməyib. Claude-un bu barədə hissləri var, yəqin ki. Bu arada Salesforce bu səhər yeddi əlli UTC-də işləmədi,

2:59 dünya miqyasında əsas xidmətlər, və səkkiz saat sonra status səhifəsi hələ də davam edir yazırdı: avtomatik düzəliş işləməyəndə, onlar instansiyaları əl ilə yenidən işə salırlar, bu, açılıb-bağlamağın müəssisə terminidir. Hələlik əsas səbəb yoxdur. Zamanlama sənətdir. Benioff bu həftə Jensen Huang və Dario Amodei-ni səhnədə saxlayır, bazar ertəsi Salesforce Koa-nı, öz benchmarkında üç dəfə daha az səhv edən bir CRM məntiq modelini elan etdi və Anthropic eyni gün Claude üçün bir Salesforce plaginini

3:26 buraxdı. Top Hacker News şərhi: ən azından indi Salesforce-un nə etdiyini tapa bilərik. Heç kim tapmadı. Sonra PlayStation. PS5 Linux-un arxasında duran tədqiqatçı Andy Nguyen dünən gecə istefa verdi: aylarla iş, 2027-ci il üçün planlaşdırılan PS5 Pro dəstəyi, hamısı suya düşdü. Səbəbi: səhnə əvvəllər istedadlı tədqiqatçılar idi və indi LLM-lərdən anlamadıqları hacklər yazan yeni başlayanlardır, və o "slop kiddies", onun termini ilə, son hipervizor səhvini, onun üstündə oturduğu səhvi tapdı

3:56 və mükafat üçün Sony-ə bildirdi. O, onlardan GTA 6 çıxana qədər gözləmələrini xahiş etdi; razılaşdılar, və bir gündən az müddətə davam etdilər. Problem LLM deyil, mükafatdır: satdığınız bir səhv yandırdığınız bir səhvdir. Eyni gün, PS2 iyirmi altı ildən sonra nəhayət sındırıldı, beləliklə, konsol zaman çizelgesi indi bir əsrin dörddə birindən bir gündən az müddətə qədər uzanır, və ikinci daha yaxşı pul verdi. Və hallüsinasiya edə bilməyən model.

4:18 Keçmiş OpenAI-dan Diogo Almeida tərəfindən qurulan TypeSafe AI, heç vaxt mətn yaratmayan System One modeli olan Jev-i buraxdı. Siz ona proqram vəziyyətini verirsiniz, o, kalibrlənmiş ehtimalla yazılmış dəyərləri qaytarır: daxilində sərhəd modeli olan bir funksiya çağırışı. Çünki o, bir sətir yarada bilməz, səhv bir sətir də yarada bilməz, buna görə də hallüsinasiya edə bilməz, bu da pəncərəsi olmayan bir sualtı qayıq kimi tamamilə möhürlənmişdir. Cavablar yarım saniyədən az müddətdə gəlir, çıxış tokenləri pulsuzdur,

4:43 çünki onların sayı dördə yaxındır, və hələlik müstəqil bir benchmark yoxdur, çünki on altı yüz Hacker News balı bir benchmark deyil. Əgər bunu məndən eşitməkdənsə oxumaq istəyirsinizsə, "diff" hər səhər qutunuza düşür - the daily diff dot dev saytında pulsuz, link aşağıdadır. Beləliklə - bu günkü qərar: NEEDS REVIEW. Süleyman haqlıdır ki, şüurlu ola biləcəyini deməyə öyrədilmiş bir model bunu deməklə heç nə sübut etmir. O, həm də sizi xəbərdar etdiyi şirkətə pul ödəməyi dayandırmağı qarşısına məqsəd qoymuş icraçıdır.

5:10 sizi xəbərdar etdiyi şirkətə pul ödəməyi dayandırmağı qarşısına məqsəd qoymuş icraçıdır. Esseni oxuyun, sonra səhmdar cədvəlini. Və bu gün üçün fərq budur. Mən Axrisi-dən Niko. Məsuliyyətlə birləşdirin.

Mənbələr

1. Suleyman, "A warning about 'model welfare'"mustafa-suleyman.ai
2. BBC: Microsoft says Anthropic could have 'disastrous impact'www.bbc.co.uk
3. HN discussionnews.ycombinator.com
4. Claude's constitution (Jan 2026)www.anthropic.com
5. Anthropic: Opus 3 retirement interview and blogwww.anthropic.com
6. Microsoft–Nvidia–Anthropic partnership ($30B Azure, up to $5B)www.anthropic.com
7. Microsoft Humanist AI Code of Conductmicrosoft.ai
8. Salesforce incident 20004433status.salesforce.com
9. HN: Salesforce Global Outagenews.ycombinator.com
10. Salesforce + Nvidia announce Koawww.salesforce.com
11. Salesforce in Claudeclaude.com
12. HN: PS5 Linux lead quitsnews.ycombinator.com
13. PS2 MechaCon chip cracked after 26 yearswww.tomshardware.com
14. TypeSafe AI: System One Models and Jevtypesafe.ai
15. HN: Jevnews.ycombinator.com