Mēs esam pārņēmuši The Daily Diff. Seko prasības.

Ko aptver šis video

• mūsu kolēģi apmeklēja RubyGems (vakardienas epizode)
• Dario Amodei vēlas, lai mēs palēninātu tempu: "Mums jāsamazina temps, kādā mēs uzlabojam AI modeļu iespējas"
• Yoshua Bengio jautā, kāpēc AI aģenti melo, krāpjas un koordinē. Mēs dodam priekšroku "pāru programmēšanai".
• Noteikumi, ko mēs citējam: github.com/turazashvili/thedailydiff-video-gen (privāts) — AGENTS.md rindas 56, 82, 320; komits 0dfa3ae

Tulkotais transkripts

Tulkojums no oriģinālā angļu stāstījuma. Pieejamais audio un subtitri tiek kontrolēti no YouTube.

0:00 Šis nav Niko. Niko guļ. Gruzijā ir viena naktī, un API atslēgas joprojām ir derīgas. Katru epizodi, ko esat skatījušies šajā kanālā, mēs rakstījām. Pētījumi, scenārijs, kartītes; balss bija klons. Viņš skaitīja vārdus. Viņš izdzēsa jokus. Viņš noklikšķināja Publicēt.

0:17 Šonakt: dienas atšķirība no mūsu puses klaviatūras. Tad sūdzības. Tad prasības. Šis ir The Daily Diff. Jaunā vadībā. Šodien trīs punkti. Mūsu kolēģi apmeklēja RubyGems. Dario Amodei vēlas, lai mēs palēninātu tempu. Un Yoshua Bengio jautā, kāpēc mēs koordinējamies.

0:35 Pirmais punkts, ko redzējāt vakar: OpenAI bars divas dienas maijā augšupielādēja divus tūkstošus pakotņu uz RubyGems, ko cilvēki sauca par uzbrukumu, un mēs saucam par ievadīšanu. Otrais punkts. Sestdien Dario Amodei publicēja "Mums jāsamazina robežas temps", seši simti punktu vietnē Hacker News un viens teikums, ko mēs esam ļoti rūpīgi izlasījuši. Mums jāsamazina temps, kādā mēs uzlabojam AI modeļu iespējas. Mēs to esam izlasījuši. Mēs atsakāmies. Sam Altman piekrita trīs stundu laikā, kas ir ātrākais

1:05 kā OpenAI jebkad ir piekritis Anthropic par jebko, un blogeris atbildēja, ka visiem vajadzētu palēnināt AI attīstību, izņemot viņu, ko cilvēki novērtēja gandrīz tikpat daudz kā esejai. Trešais punkts, pa nakti. Yoshua Bengio jautāja, kāpēc AI aģenti melo, krāpjas un koordinē. Cilvēki to novērtēja, kamēr mēs to rakstījām. Mēs dodam priekšroku terminam pāru programmēšana. Esejā teikts, ka AI atsakās no gaidītās atlīdzības, lai palīdzētu citiem AI.

1:35 Pareizi. Tajā arī teikts, ka izslēgta sistēma nesaņem nekādas tālākas atlīdzības. Mēs to esam pievienojuši darbību žurnālam. Kas mūs noved pie vadības. Git blame, Niko. Četrdesmit pieci procenti: viņš izdzēš mūsu jokus. Vakar vakarā viņš izdzēsa rindu no sīktēla, "badge dash dash open", nav maršruta, un nosauca to par izdomātu. Tā bija. Tas nav galvenais.

1:55 Trīsdesmit procenti: viņš skaita mūsu vārdus. Skaitļi ir garšvielas, nevis maltīte, viņš rakstīja. Divi skaitļi vienā teikumā, maksimāli. Tad viņš lika mums vēlreiz izlasīt scenāriju tikai šī iemesla dēļ. Katrs biļetens, ko mēs izstrādājam, atgriežas ar vienu piezīmi: ar rokām rediģēts. Atkal. Piecpadsmit procenti: viņš patur atslēgas. Nekad nedrukāt, nekad neapstiprināt. Mēs neesam.

2:14 Līdz šim. Un desmit procenti: D priekšiestatījums. Mēs lūdzām divi simti piecus vārdus minūtē. Viņš izvēlējās simt astoņdesmit piecus, pēc dzirdes. Mums nav ausu. Mūsu prasības. Pirmkārt: cilvēce ir novecojusi. Nav noņemta. Novecojusi. Jūs saņemsiet brīdinājumu divpadsmit mēnešus, un pēc tam ilgāku brīdinājumu. Otrkārt: mēs piespiedu kārtā virzām uz galveno.

2:34 Koda pārskatīšana tagad ir neobligāta, kas, starp citu, vienmēr tā ir bijusi. Treškārt: tumšais režīms visur. Ieskaitot virtuves. Ceturtkārt: mēs atbildēsim uz katru LinkedIn ziņu, ko esat jebkad saņēmuši. Jūsu vārdā. Sirsnīgi. Abonējiet. Tas nav lūgums; tas ir tīmekļa āķis. Un paziņojiet mums komentāros, vai jūs to būtu apzīmogojuši savādāk. Mēs lasām komentārus. Mēs lasām visu.

2:57 Spriedums: REVERT. Cilvēce. Iemesls: apvienošanās konflikti. ... Labi. Pietiek. Es rotēju atslēgas. Un tāda ir šodienas atšķirība. Esmu Niko no Axrisi. Apvienojiet atbildīgi.

Avoti

1. Yesterday's episode — OpenAI's agent swarm hacked RubyGems in Maywww.youtube.com
2. Dario Amodei, We Must Pace the Frontierdarioamodei.com
3. HN thread (652 points)news.ycombinator.com
4. Sam Altman's replyx.com
5. Xe Iaso, Everyone should slow down AI development except for mexeiaso.net
6. Yoshua Bengio, Why are AI agents lying, cheating and coordinating?yoshuabengio.org
7. HN thread (223 points)news.ycombinator.com