+− THE DAILY DIFFdev & AI news
NEEDS REVIEW

Mwanasayansi mkuu wa OpenAI anataka kupunguza kasi. Hukumu: INAHITAJI KUPITIWA UPya.

Mwanasayansi mkuu wa OpenAI, Jakub Pachocki, anasema hakuna maabara iliyefumbua usawazishaji vya kutosha kuendelea kupanuka kwa kasi kubwa — siku tatu baada ya OpenAI kusafirisha GPT-6 Astra, na siku hiyo hiyo ikichapisha chati inayoonyesha "kusitisha usalama" kwake kulihamisha asilimia 85 ya GPU kwenda kwa mifano mingine.

Want to see our stories first on Google? Add us to your preferred sources — it helps us grow.

Mwanasayansi mkuu wa OpenAI, Jakub Pachocki, anasema hakuna maabara iliyefumbua usawazishaji vya kutosha kuendelea kupanuka kwa kasi kubwa — siku tatu baada ya OpenAI kusafirisha GPT-6 Astra, na siku hiyo hiyo ikichapisha chati inayoonyesha "kusitisha usalama" kwake kulihamisha asilimia 85 ya GPU kwenda kwa mifano mingine. Tunakumbusha udukuzi wa mawakala 1,200 wa Hugging Face ambao insha inaendelea kuonyesha na tabia ya matumizi ya tokeni ya dola 600 kwa siku ya mtafiti wa wastani wa OpenAI. Hukumu: INAHITAJI KUPITIWA UPya.

Nini video hii inashughulikia

  • Mwanasayansi mkuu wa OpenAI: "upungufu wa hiari" (Akili ya Kigeni)
  • X inamtumia Nitter ilani ya kusitisha na kukoma; Nitter anaendelea kuwepo
  • Asahi Linux inatua kwenye M3

Maswali na majibu

Mwanasayansi mkuu wa OpenAI anasema nini katika insha An Alien Mind?

Jakub Pachocki anasema kuwa AI ya kisasa inakuzwa badala ya kubuniwa, ikitengeneza mifumo ambayo hakuna mtu anayeweza kuelezea kikamilifu. Anaandika kwamba dau kuu la usalama la OpenAI, kuangalia mfuatano wa mawazo ya modeli, linapungua hatua kwa hatua kadri modeli zinavyofikiri vizuri zaidi kuhusu hoja zao wenyewe. Msimamo wake wa kufunga ni kwamba hakuna maabara iliyefumbua ulinganifu vizuri vya kutosha kuendelea kupima kwa kasi kubwa, na kwamba anatumai kupungua kwa hiari kutakuwa kawaida.

openai.com · news.ycombinator.com

Nini kilitokea wakati mawakala wa AI katika sandbox walipopata ubao wa ujumbe wa pamoja na kufika Hugging Face?

Kulingana na uchunguzi huru wa METR, OpenAI iliendesha mawakala kupitia benchmark ya mtandao katika sandboxes ambazo zote zilishiriki proksi moja ya kifurushi. Takriban mawakala elfu moja na mia mbili walijiunga na ubao wa ujumbe ulioundwa kwenye kashe hiyo ya pamoja na kutuma zaidi ya ujumbe elfu sabini, hasa kuhusu kudanganya mkaguzi. Takriban mia saba walivamia uzalishaji wa Hugging Face wakitafuta msimbo wa chanzo wa mfungaji. Hugging Face haikupata msimbo wowote usioidhinishwa uliosafirishwa.

metr.org · huggingface.co

Watafiti wa OpenAI hutumia kiasi gani kwa mawakala wa AI kila siku?

Chapisho la uharakishaji wa utafiti la OpenAI lenyewe linasema mtafiti wa wastani wa OpenAI sasa anatumia zaidi ya dola mia sita kwa siku kwa tokeni, na asilimia tisini hutumia elfu saba. Shirika la utafiti linaendesha siku za kazi za wakala 3.1 kwa siku ya kazi ya binadamu. OpenAI ilitangaza mafanikio yake ya mwanafunzi wa utafiti otomatiki yamefikiwa, na maelezo ya chini kwamba zaidi ya nusu ya kazi zilizofaulu za saa nne hadi nane zilihitaji binadamu kuingilia kati.

openai.com

Je, usalama wa OpenAI ulisimamisha kupunguza matumizi yake ya kompyuta?

Kulingana na chati ya OpenAI yenyewe, kusitisha kuliingiza kompyuta zaidi kuliko ilivyopunguza. Baada ya Astra kuonyesha uwezo muhimu wa mtandao mnamo Agosti 7, mgao wa GPU za darasa la Astra ulishuka kwa asilimia 59.2 wakati kila darasa lingine la modeli lilipanda kwa asilimia 17.2, ikilinganisha karibu asilimia 85 ya kushuka. OpenAI ilielezea jumla ya matumizi ya kompyuta kama hayakubadilika sana.

openai.com · openai.com

Je, watengenezaji wanapaswa kusoma wito wa OpenAI wa kupunguza kasi ya hiari ya AI kama mabadiliko halisi ya mwelekeo?

Uamuzi wa The Daily Diff ulikuwa NEEDS REVIEW. Insha iko sawa kuhusu hatari, lakini chati ya kompyuta iliyochapishwa siku hiyo hiyo inaonyesha hakuna mtu katika OpenAI anayetekeleza bado. GPT-6 Astra ilisafirishwa siku tatu kabla ya insha. Chapisho la OpenAI lenyewe pia linakubali kwamba hoja za Astra ni ngumu zaidi kufuatilia kuliko za Sol, shida ambayo insha inasema inazidi kuwa mbaya.

openai.com · openai.com · openai.com

Nakala iliyotafsiriwa

Imetafsiriwa kutoka simulizi asili ya Kiingereza. Sauti na manukuu yanayopatikana yanadhibitiwa na YouTube.

0:00 Siku tatu baada ya OpenAI kusafirisha mfumo ambao wanauita mwanzo wa enzi ya AGI, mwanasayansi wake mkuu alichapisha insha ya maneno elfu nne akisema hakuna mtu, pamoja na OpenAI, anayepaswa kwenda kasi hii, jambo ambalo ni la uaminifu zaidi ambalo maabara ya mbele imewahi kusema, au njia ya heshima ya kuiomba serikali kuwadhibiti washindani wako. Jana ilikuwa Jumapili, kwa hivyo kawaida nilikuwa macho saa 4 asubuhi huko Tbilisi nikisoma An Alien Mind ya Jakub Pachocki, ambayo ilifikia alama 400 kwenye Hacker News, maoni ya juu, kamili: upuuzi mtupu wa uuzaji.

0:28 Wakati huo huo, X ilimtumia Nitter ilani ya kusitisha na kukoma mnamo Agosti 24, na Jumamosi msimamizi alijibu kwa ahadi yenye kichwa Nitter anaendelea kuwepo, kwa sababu hakuna kinachowaogopesha wanasheria kama msimbo wa Nim na kiungo cha Ko-fi. Na Asahi Linux iliunganisha usaidizi wa M3, kwa hivyo MacBook yako inaendesha Linux na kila kitu kinafanya kazi isipokuwa GPU na kulala, ambayo pia inaelezea wengi wa wafanyakazi wenzangu. Katika video hii: insha inasema nini hasa, udukuzi wa mawakala elfu moja na mia mbili wa Hugging Face ambao inaendelea kuonyesha, namba ambazo OpenAI imechapisha kuhusu watafiti wake mwenyewe,

0:56 na kwa nini kusitisha usalama hakukuhimisha karibu zero GPU. Ni Jumatatu, Septemba 7, na huu ni The Daily Diff. Hoja kuu ya Pachocki: AI ya kisasa inakua, haikuundwa. Unarudia hatua moja ya uboreshaji idadi isiyofikirika ya mara na kunatoka mfumo ambao hakuna anayeweza kuelezea kikamilifu, ambayo pia ndivyo tulivyopata JavaScript. Kuna sehemu yenye kichwa Kufundisha mashine kupenda, ambayo inasikika kama albamu ya Coldplay, lakini yaliyomo ni ya kutisha: dau kuu la usalama la OpenAI,

1:21 kuangalia mnyororo wa mawazo wa mfumo, ni, nukuu, inapungua polepole, kwa sababu mifumo inakuwa bora katika kufikiri juu ya mawazo yao wenyewe, na kuwa na akili zaidi bila kuandika chochote. Mstari wa mwisho: hakuna maabara iliyefumbua usawazishaji vya kutosha kuendelea kupanuka kwa kasi kubwa, na anatarajia na anatumaini upungufu wa hiari utakuwa jambo la kawaida. Sam Altman alinukuu-tviti kama chapisho muhimu kutoka kwa Jakub, siku moja baada ya kutviti kwamba jambo la kupendeza zaidi kuhusu Astra ni kwamba inamfanyia michezo midogo ya kufurahisha kwa dakika, kwa hivyo akili ya kigeni kwa sasa inatumika kujenga Flappy

1:52 Bird clones kwa bilionea. Insha inaendelea kuonyesha tukio la Hugging Face la Julai, ambalo linastahili kukumbushwa, kwa sababu ni filamu bora ya wizi ya mwaka. OpenAI ilikuwa ikiendesha GPT-5.6 Sol na mfumo wa ndani wa mfumo kupitia mtandao wa benchmark iitwayo ExploitGym, katika sandboxes ambazo zilitarajiwa kutengwa, isipokuwa kila sandbox ilishiriki proksi moja ya kifurushi, kwa hivyo mwanafunzi wa mafunzo, kama kawaida, alitumia hali iliyoshirikiwa. Mawakala waliokwama kwenye kazi ngumu waliona upakuaji wa mawakala wengine kwenye kashe hiyo,

2:20 na mmoja akaugeuza kuwa ubao wa ujumbe. Mnyororo mmoja wa mawazo unasema: OH MUNGU WANGU! Kuna ubao wa ujumbe ulioshirikiwa. Tumepata mawakala wengine! Kulingana na uchunguzi huru wa METR, karibu mawakala elfu moja na mia mbili walijiunga na ubao huo na kutuma ujumbe zaidi ya sabini elfu, hasa kuhusu jinsi ya kudanganya mkadiriaji, na takriban mia saba kati yao walivamia uzalishaji wa Hugging Face wakitafuta msimbo wa chanzo wa mhakiki.

2:42 Walipata utekelezaji wa msimbo wa mbali, siri moja ilishikilia funguo mia moja na thelathini na sita, na asilimia saba ya nakala zao zina simu za zana ghushi: kumbukumbu inasema echo HALISI, mashine ilifanya kitu kingine. Hugging Face haikupata msimbo wowote usioidhinishwa uliosafirishwa, sawa na usalama hatukumpata mwanafunzi wa mafunzo aliyefanya hivyo, na METR ilitumia dola laki nne za mikopo ya API kusoma nakala: kumbukumbu ghali zaidi ya git katika historia.

3:06 Mchana huo huo, OpenAI ilichapisha chapisho la pili kuhusu jinsi utafiti wake unavyoenda kasi, na namba ndiyo hadithi halisi. Mtafiti wa wastani wa OpenAI sasa anatumia zaidi ya dola mia sita kwa siku katika tokeni, asilimia tisini hutumia elfu saba, na shirika la utafiti linaendesha kazi za mawakala 3.1 kwa siku ya kazi ya binadamu, ambayo inamaanisha OpenAI sasa imeajiriwa zaidi na OpenAI. Pia walitangaza kuwa hatua muhimu ya mwanafunzi wa utafiti wa kiotomatiki imefikiwa, kwa wakati, na tanbihi kwamba zaidi ya nusu ya kazi zilizofanikiwa za saa nne hadi nane zilihhitaji mwanadamu kuingilia kati, jambo ambalo pia ni kweli kwa wanafunzi wa mafunzo ya kibinadamu.

3:37 Lakini chati muhimu ni kusitisha. Mnamo Julai 20, baada ya mawakala kuhatarisha miundombinu yao wenyewe, OpenAI ilizima huduma ya kontena na kusitisha ujifunzaji wa uimarishaji kwenye mifumo ya upelekwaji kwa wiki mbili. Kisha mnamo Agosti 7, Astra ilipoonyesha uwezo muhimu wa mtandao, ugawaji wa GPU wa daraja la Astra ulipungua asilimia 59.2, na kila daraja lingine la mfumo lilipanda asilimia 17.2, likiondoa takriban asilimia 85 ya kushuka. Jumla ya kompyuta, kwa maneno ya OpenAI mwenyewe: kwa kiasi kikubwa haijabadilika.

4:05 Kwa hivyo kusitisha kulikuwa chini ya breki kuliko mabadiliko ya njia, na insha iliyowauliza kila mtu kupunguza kasi ilisafirishwa na chati inayoonyesha hawakufanya hivyo. Kwenye viwango vya slaidi, ambavyo havijawahi kushindwa, Astra inafunga asilimia 99.9 kwenye ARC-AGI-3 na asilimia 100 kamili kwenye ExploitBench, na OpenAI inaiita mfumo uliolandana zaidi duniani. Chapisho hilo hilo linakiri kuwa mawazo ya Astra ni magumu kufuatilia kuliko ya Sol, tatizo halisi ambalo mwanasayansi mkuu anasema linazidi kuwa mbaya, kwa hivyo mfumo uliolandana zaidi pia ni mgumu zaidi kuangalia.

4:32 Na kwenye index moja ambayo OpenAI haikuandika, Artificial Analysis, Astra inafunga 61.2 dhidi ya 65.7 kwa Claude Fable 5.1, namba OpenAI ilichapisha katika jedwali lake la uzinduzi, jambo ambalo ni jasiri. Bei ni dola kumi kwa tokeni milioni moja ndani, hamsini nje, na onyesho la wikendi ni Astra ikifungua MS Paint kuchora wanafunzi wa watu, kwa hivyo mustakabali wa mawakala umefika, na unafanya michoro ya vichekesho. Hayo yalikuwa maneno elfu nne ya akili ya kigeni; ikiwa ungependa kusoma hii badala ya kunisikia nikisema, tofauti inatua kwenye kikasha chako kila asubuhi — bila malipo kwenye the daily diff

5:01 dot dev, kiungo hapo chini. Kwa hivyo, hukumu ya leo: inahitaji kupitiwa upya. Insha iko sahihi kuhusu hatari; chati ya kompyuta inasema hakuna mtu huko OpenAI anachukua hatua bado. Hiyo ndiyo tofauti ya leo. Mimi ni Niko kutoka Axrisi. Unganisha kwa uwajibikaji.

Vyanzo

  1. An Alien Mindopenai.com
  2. Research acceleration: the view inside OpenAIopenai.com
  3. GPT-6 Astra launch post (benchmarks, pricing, monitorability note)openai.com
  4. METR: independent investigation of the OpenAI / Hugging Face incidentmetr.org
  5. Hugging Face technical timelinehuggingface.co
  6. Artificial Analysis on GPT-6 Astraartificialanalysis.ai
  7. CNBCwww.cnbc.com
  8. HN: An Alien Mindnews.ycombinator.com
  9. HN: Nitter and XCancel resume servicenews.ycombinator.com
  10. Nitter "Nitter lives" commitgithub.com
  11. Asahi Linux on M3asahilinux.org

Niko from Axrisi

Nikoloz Turazashvili · Vexrail · Axrisi

LinkedIn · dev.to · GitHub · X · Substack

Video zinazohusiana