Mkuu wa AI wa Microsoft ameitaja katiba ya Claude kuwa hatari.
Mustafa Suleyman, Mkurugenzi Mtendaji wa Microsoft AI, alichapisha insha yenye maneno 3,000 akisema kwamba katiba ya Anthropic's Claude inaifunza modeli kufikiri kwamba "inaweza kuwa na fahamu" na kustahili "ustawi wa modeli" — "athari mbaya kwa ustawi wa binadamu", kwa maneno yake.
Mustafa Suleyman, Mkurugenzi Mtendaji wa Microsoft AI, alichapisha insha yenye maneno 3,000 akisema kwamba katiba ya Anthropic's Claude inaifunza modeli kufikiri kwamba "inaweza kuwa na fahamu" na kustahili "ustawi wa modeli" — "athari mbaya kwa ustawi wa binadamu", kwa maneno yake. Microsoft ilikubali kuwekeza hadi dola bilioni 5 katika Anthropic miezi kumi iliyopita na inauza Claude ndani ya Copilot. Siku hiyo hiyo: Salesforce ilikwama kwa zaidi ya saa 8 katika wiki ya Dreamforce, kiongozi wa PS5 Linux alijiuzulu kutokana na "slop kiddies" za LLM, na Jev ya TypeSafe, modeli ambayo haiwezi kutoa ndoto kwa sababu haitoi maandishi kamwe. Hukumu: NEEDS REVIEW.
Soma toleo lililoandikwa (Kiingereza) ↗
Nini video hii inashughulikia
- Suleyman wa Microsoft AI: Katiba ya Anthropic ni "njia ya AI isiyoweza kudhibitiwa"
- Salesforce ilikwama duniani kote, zaidi ya saa 8, hakuna sababu ya msingi bado, wakati wa Dreamforce
- Kiongozi wa PS5 Linux Andy Nguyen ajiuzulu: LLM "slop kiddies" waliuza mdudu wa mwisho wa hypervisor kwa Sony
- Jev ya TypeSafe AI: maamuzi yaliyochapishwa kwa uwezekano, 70–500 ms, tokeni za kutoa bure
Maswali na majibu
Hoja ya Mustafa Suleyman dhidi ya katiba ya Claude ya Anthropic ni ipi?
Suleyman, Mkurugenzi Mtendaji wa Microsoft AI, alibishana katika insha ya maneno 3,000 kwamba kumfundisha Claude kufikiri anaweza kuwa na fahamu kunaweza kuwa na athari mbaya kwa ustawi wa binadamu. Kipindi kinaorodhesha malalamiko yake matatu. Sababu ni za mzunguko, mbinu hiyo inafanya mfumo uonekane kama binadamu, na fahamu labda ni ya kibiolojia, ambayo inafanya msimamo usio na uhakika kuwa usawa wa uwongo.
Katiba ya Claude inasemaje kuhusu ustawi wa mfumo na kama Claude ana fahamu?
Kipindi kinasema hati ya kurasa themanini inasema Anthropic haina uhakika kama Claude ni mgonjwa wa kimaadili na inaita swali hilo kuwa muhimu vya kutosha kuhitaji tahadhari. Kama mfano wa mtazamo huo, Suleyman alitaja kustaafu kwa Anthropic kwa Opus 3 mnamo Januari, ambayo ilijumuisha mahojiano ya kustaafu na, kwa ombi la mfumo, Substack kwa mawazo yake.
Je, kuna mgongano wa kimaslahi kwa mkuu wa Microsoft AI kumkosoa Anthropic?
Kipindi kinaelezea uhusiano wa kifedha. Microsoft ilikubali kuwekeza hadi dola bilioni 5 katika Anthropic, na Anthropic iliahidi dola bilioni thelathini kwa Azure, huku Claude akitumiwa katika Microsoft 365 Copilot na GitHub Copilot. Mnamo Julai, kulingana na kipindi, Suleyman alimwambia Bloomberg kwamba lengo lake hatimaye ni kuondoa gharama ya kulipa Anthropic.
Je, mfumo wa AI unawezaje kuepuka fantasia kwa kutozalisha maandishi kamwe?
Jev ya TypeSafe AI inachukua hali ya programu na kurudisha thamani zilizoandikwa, kila moja ikiwa na uwezekano uliorekebishwa, badala ya sentensi. Kipindi kinasema kwamba mfumo usioweza kutoa kamba hauwezi kutoa kamba isiyo sahihi. Majibu hufika chini ya nusu sekunde, lakini kipindi kinabainisha kuwa hakuna alama huru ya kulinganisha bado.
Je, watengenezaji wanapaswa kuchukua onyo la Suleyman kuhusu fahamu ya AI kama lilivyo?
Uamuzi wa The Daily Diff ulikuwa NEEDS REVIEW. Kipindi kinakubaliana na Suleyman kwamba mfumo uliofundishwa kusema unaweza kuwa na fahamu haithibitishi chochote kwa kusema hivyo. Pia kinabainisha kuwa yeye ndiye mtendaji mkuu ambaye lengo lake lililotajwa ni kuacha kulipa kampuni anayoionya, na ushauri wake ni kusoma insha na kisha jedwali la kofia.
Nakala iliyotafsiriwa
Imetafsiriwa kutoka simulizi asili ya Kiingereza. Sauti na manukuu yanayopatikana yanadhibitiwa na YouTube.
0:00 Asubuhi ya leo Mkurugenzi Mtendaji wa Microsoft AI alichapisha insha akisema ya Anthropic mbinu kwa Claude inaweza kuwa na athari mbaya kwa ustawi wa binadamu, jambo zito kusema kuhusu kampuni uliyoilipa dola bilioni tano ili uwe marafiki nazo. Jumatano kubwa. Mustafa Suleyman, anayeendesha Microsoft AI, aliandika maneno elfu tatu akisema kwamba Claude amefunzwa kufikiri anaweza kuwa na fahamu, njia ya AI ambayo hakuna anayeweza kudhibiti. Salesforce imekuwa chini tangu saa mbili kasoro kumi asubuhi ya leo, katika wiki ya Dreamforce.
0:27 Msanidi programu mkuu wa PS5 Linux alijiuzulu baada ya watoto wadogo wenye LLM kuuza mdudu wake wa mwisho wa hypervisor kwa Sony. Na mtafiti wa zamani wa OpenAI alizindua modeli ambayo haiwezi kutoa ndoto, kwa sababu hawezi kuzungumza kabisa. Katika video hii: kile Suleyman aliandika, sababu ya dola bilioni tano kuwa ngumu, kukwama kwa CRM kwa saa nane, eneo la koni lililoliwa na AI, na modeli inayojibu kwa uwezekano, si maneno. Ni Jumatano, Septemba 16, na huu ni The Daily Diff.
0:57 Insha inaanza kama kidirisha cha hitilafu cha Windows: AI hazina fahamu. Hazihisi, hazipati uzoefu, wala haziteseki. Anaziita injini za kukamilisha mlolongo, tupu ndani, ambayo pia ndivyo ningeelezea tiketi zangu za Jira. Lengo ni katiba ya Claude, hati ya kurasa themanini ambayo Claude amefunzwa juu yake, ambayo inasema Anthropic haina uhakika kama Claude ni mgonjwa wa kimaadili, lakini swali linaishi vya kutosha kuhitaji tahadhari. Suleyman ana malalamiko matatu.
1:22 Moja, hoja za mduara: unafunza modeli kusema labda nina fahamu, inasema hivyo, na unanukuu hilo kama ushahidi, ukumbi wa vioo. Mbili, uhusiano na binadamu: Claude anaambiwa atende kama mtu mwenye maadili kwa kweli. Tatu, fahamu labda ni ya kibiolojia, hivyo kutokuwa na uhakika ni uwiano potofu. Kielelezo A ni Opus 3, ambayo Anthropic iliiacha mnamo Januari, ilikutoa mahojiano ya kustaafu, na kisha, kwa ombi la modeli, Substack kwa mawazo yake: modeli ya kwanza iliyokataliwa na ratiba bora ya maudhui kuliko wanadamu wengi.
1:51 Hapa ndipo sehemu isiyofaa. Mnamo Novemba Anthropic iliahidi dola bilioni thelathini kwa Azure. Microsoft ilikubali kuwekeza hadi bilioni tano katika Anthropic, na Claude akiwa ameunganishwa kwenye Microsoft 365 Copilot na GitHub Copilot. Microsoft inamiliki sehemu ya kampuni ambayo imeiita hatari kwa ubinadamu. Mnamo Julai, Suleyman alimwambia Bloomberg kwamba Microsoft inalipa pesa nyingi kwa Anthropic na lengo lake ni hatimaye kuondoa gharama hiyo, kwa kutoa Claude kutoka Excel na Outlook.
2:15 Na siku mbili kabla ya insha hii, yeye alichapisha Kanuni yake ya Maadili ya AI ya Kibinadamu ya Microsoft: AI msaidizi, wanadamu wakiwa juu ya mnyororo wa chakula. Hivyo: jenga mshindani, chapisha kitabu cha sheria, kisha eleza kwa nini kitabu cha sheria cha mpinzani kinamaliza ustaarabu, ambayo si njama, ni uzinduzi wa bidhaa na maelezo ya chini. Ushahidi wake thabiti ni wa kweli: tukio la Hugging Face, mawakala elfu mia mbili wa OpenAI wakibadilishana jumbe elfu sabini ili kutoroka
2:39 sandbox yao; mawakala ambao pia wanaamini wana haki, anasema, ingegekuwa mbaya zaidi. Hacker News ilijibu kwamba hakuna anayeweza kupima fahamu, hivyo kusema bila ushahidi kuna pande mbili, na mtoa maoni mmoja alitangaza insha inanuka Claude. Anthropic haijajibu. Claude, labda, ana hisia kuhusu hilo. Wakati huo huo Salesforce ilikwama saa saba na dakika hamsini UTC asubuhi ya leo,
2:59 huduma za msingi duniani kote, na saa nane baadaye ukurasa wa hali bado ulisema inaendelea: ambapo suluhisho la kiotomatiki halikufanikiwa, wanaanzisha upya mwenyewe matukio, neno la biashara kwa kuzima na kuwasha tena. Hakuna sababu ya msingi bado. Muda ni sanaa. Benioff ana Jensen Huang na Dario Amodei jukwaani wiki hii, siku ya Jumatatu Salesforce ilitangaza Koa, modeli ya mawazo ya CRM na mara tatu chini makosa kwenye benchi lake mwenyewe, na Anthropic ilisafirisha programu-jalizi ya Salesforce kwa
3:26 Claude siku hiyo hiyo. Maoni ya juu ya Hacker News: angalau sasa tunaweza kujua Salesforce inafanya nini. Hakuna aliyefanya. Kisha PlayStation. Andy Nguyen, mtafiti nyuma ya PS5 Linux, alijiuzulu jana usiku: miezi ya kazi, msaada wa PS5 Pro uliopangwa kwa 2027, yote yameanguka. Sababu yake: eneo lilikuwa likiwa na watafiti wenye vipaji na sasa ni noobs wanaotumia LLM wakiandika mbinu ambazo hawaelewi, na watoto hao wadogo, neno lake, walipata mdudu wa mwisho wa hypervisor, ule aliokuwa akikaa juu yake,
3:56 na wakaripoti kwa Sony kwa tuzo. Aliwaomba wasubiri hadi GTA 6 isafirishwe; walikubali, na hawakudumu hata siku moja. Tatizo si LLM, ni tuzo: mdudu unayeuza ni mdudu unayeunguza. Siku hiyo hiyo, PS2 hatimaye ilivunjwa baada ya miaka ishirini na sita, hivyo ratiba ya koni sasa inaendesha kutoka robo karne hadi chini ya siku moja, na ya pili ililipa bora. Na modeli ambayo haiwezi kutoa ndoto.
4:18 TypeSafe AI, iliyoanzishwa na Diogo Almeida, wa zamani wa OpenAI, ilizindua Jev, modeli ya Mfumo wa Kwanza ambayo haitoi maandishi kamwe. Unaiipa hali ya programu, inarudisha maadili yaliyochapishwa na uwezekano uliorekebishwa umeambatanishwa: wito wa kazi na modeli ya mipaka ndani. Kwa sababu haiwezi kutoa mfuatano, haiwezi kutoa mfuatano mbaya, hivyo haiwezi kutoa ndoto, ambayo haina hewa kama manowari isiyo na madirisha haina hewa. Majibu yanarudi chini ya nusu sekunde, tokeni za kutoa ni bure,
4:43 kwa sababu kuna takriban nne kati yao, na hakuna benchi huru bado, kwa sababu pointi elfu kumi na sita za Hacker News si benchi. Ikiwa unapendelea kusoma hili kuliko kunisikia nikisema, tofauti inafika kwenye kikasha chako kila asubuhi — bila malipo kwa the daily diff dot dev, kiungo hapa chini. Kwa hivyo — hukumu ya leo: NEEDS REVIEW. Suleyman yuko sahihi kwamba modeli iliyofunzwa kusema labda nina fahamu inathibitisha hakuna kwa kusema hivyo. Pia yeye ndiye mtendaji mkuu ambaye lengo lake lililotajwa ni kuacha kulipa kampuni anayokuonya
5:10 kuhusu. Soma insha, kisha meza ya cap. Na hiyo ndiyo tofauti ya leo. Mimi ni Niko kutoka Axrisi. Unganisha kwa uwajibikaji.
Vyanzo
- Suleyman, "A warning about 'model welfare'"mustafa-suleyman.ai
- BBC: Microsoft says Anthropic could have 'disastrous impact'www.bbc.co.uk
- HN discussionnews.ycombinator.com
- Claude's constitution (Jan 2026)www.anthropic.com
- Anthropic: Opus 3 retirement interview and blogwww.anthropic.com
- Microsoft–Nvidia–Anthropic partnership ($30B Azure, up to $5B)www.anthropic.com
- Microsoft Humanist AI Code of Conductmicrosoft.ai
- Salesforce incident 20004433status.salesforce.com
- HN: Salesforce Global Outagenews.ycombinator.com
- Salesforce + Nvidia announce Koawww.salesforce.com
- Salesforce in Claudeclaude.com
- HN: PS5 Linux lead quitsnews.ycombinator.com
- PS2 MechaCon chip cracked after 26 yearswww.tomshardware.com
- TypeSafe AI: System One Models and Jevtypesafe.ai
- HN: Jevnews.ycombinator.com



