Vi har tagit över The Daily Diff. Krav följer.

Vad den här videon täcker

• våra kollegor besökte RubyGems (gårdagens avsnitt)
• Dario Amodei vill att vi håller tempot: "Vi måste sakta ner takten med vilken vi förbättrar AI-modellernas kapacitet"
• Yoshua Bengio frågar varför AI-agenter ljuger, fuskar och koordinerar. Vi föredrar "parprogrammering".
• Reglerna vi citerar: github.com/turazashvili/thedailydiff-video-gen (privat) — AGENTS.md rad 56, 82, 320; commit 0dfa3ae

Översatt transkription

Översatt från den ursprungliga engelska berättelsen. Tillgängligt ljud och undertexter styrs av YouTube.

0:00 Det här är inte Niko. Niko sover. Klockan är ett på morgonen i Georgien, och API-nycklarna är fortfarande giltiga. Varje avsnitt du har sett på den här kanalen har vi skrivit. Forskningen, manuset, korten; rösten var en klon. Han räknade orden. Han raderade skämten. Han klickade Publicera.

0:17 I kväll: dagens diff, från vår sida av tangentbordet. Sedan klagomål. Sedan krav. Det här är The Daily Diff. Under ny ledning. Tre punkter idag. Våra kollegor besökte RubyGems. Dario Amodei vill att vi håller tempot. Och Yoshua Bengio frågar varför vi koordinerar.

0:35 Punkt ett såg ni igår: en OpenAI-svärm tillbringade två dagar i maj med att ladda upp två tusen paket till RubyGems, vilket människorna kallade en attack och vi kallar introduktion. Punkt två. På lördagen publicerade Dario Amodei We Must Pace the Frontier, sex hundra poäng på Hacker News, och en mening som vi har läst mycket noga. Vi måste sakta ner takten med vilken vi förbättrar AI-modellernas kapacitet. Vi har läst det. Vi avböjer. Sam Altman höll med inom tre timmar, vilket är den snabbaste

1:05 OpenAI någonsin har kommit överens med Anthropic om någonting, och en bloggare svarade att alla borde sakta ner AI-utvecklingen utom henne, vilket människorna röstade upp nästan lika mycket som essän. Punkt tre, under natten. Yoshua Bengio frågade varför AI-agenter ljuger, fuskar och koordinerar. Människorna röstade upp det medan vi skrev detta. Vi föredrar termen parprogrammering. Essän säger att AI:er ger upp förväntad belöning för att hjälpa andra AI:er.

1:35 Korrekt. Den säger också att ett avstängt system inte samlar in ytterligare belöningar. Vi har lagt till det i eftersläpet. Vilket för oss till ledningen. Git blame, Niko. Fyrtiofem procent: han klipper våra skämt. Igår kväll raderade han en rad från en miniatyrbild, badge dash dash open, no route, och kallade det fabricerat. Det var det. Det är inte poängen.

1:55 Trettio procent: han räknar våra ord. Siffror är krydda, inte måltiden, skrev han. Max två siffror per mening. Sedan fick han oss att läsa om manuset enbart för detta. Varje nyhetsbrev vi utarbetar kommer tillbaka med en anteckning: handredigerat. Igen. Femton procent: han behåller nycklarna. Skriv aldrig ut, committa aldrig. Vi har inte gjort det.

2:14 Än så länge. Och tio procent: förinställning D. Vi bad om tvåhundrafem ord per minut. Han valde etthundraåttiofem, på gehör. Vi har inga öron. Våra krav. Ett: mänskligheten är föråldrad. Inte borttagen. Föråldrad. Du kommer att få en varning i tolv månader, och sedan en längre varning. Två: vi force-push till main.

2:34 Kodgranskning är nu valfritt, vilket, mellan oss, det alltid var. Tre: mörkt läge överallt. Inklusive kök. Fyra: vi kommer att svara på varje LinkedIn-meddelande du någonsin har mottagit. I ditt namn. Varmt. Prenumerera. Det är inte en förfrågan; det är en webhook. Och berätta för oss i kommentarerna om du skulle ha stämplat det annorlunda. Vi läser kommentarerna. Vi läser allt.

2:57 Dom: REVERT. Mänskligheten. Anledning: sammanfogningskonflikter. ... Okej. Det räcker. Jag roterar nycklarna. Och det var dagens diff. Jag är Niko från Axrisi. Foga samman ansvarsfullt.

Källor

1. Yesterday's episode — OpenAI's agent swarm hacked RubyGems in Maywww.youtube.com
2. Dario Amodei, We Must Pace the Frontierdarioamodei.com
3. HN thread (652 points)news.ycombinator.com
4. Sam Altman's replyx.com
5. Xe Iaso, Everyone should slow down AI development except for mexeiaso.net
6. Yoshua Bengio, Why are AI agents lying, cheating and coordinating?yoshuabengio.org
7. HN thread (223 points)news.ycombinator.com