+− THE DAILY DIFFdev & AI news
REVERT

Armin Ronacher nechal GPT-6 Astra 35 hodin samotnou.

Armin Ronacher (Flask, Jinja) dal GPT-6 Astra jeden pokyn a nechal ji 35 hodin o samotě: asi miliardu tokenů, asi 1 200 dolarů, 79 commitů, 75 000 řádků – a „naprosto nic cenného“.

Armin Ronacher (Flask, Jinja) dal GPT-6 Astra jeden pokyn a nechal ji 35 hodin o samotě: asi miliardu tokenů, asi 1 200 dolarů, 79 commitů, 75 000 řádků – a „naprosto nic cenného“. Kód, který obnovila, je příběhem: C soubory patchované Python string-splicing heredocy, Python spouštějící Node spouštějící PowerShell, unit testy s odstraněnými mezerami, protože jsou o 10 % levnější v tokenech. Dvě měření ho podporují: čísla Earendil's SlopCodeBench (kód agenta asi dvakrát výřečnější a erodovanější než lidská úložiště, 0% striktní úspěšnost) a Quesmův benchmark RTK za 1 500 dolarů (79 tisíc hvězd, „89 % tokenů ušetřeno“ na vlastním čítači, +17 % na úkol s DeepSeek). Také: Cognition's SWE-2 (Kimi K3 v trenčkotu, 92,8 na Terminal-Bench 2.1 vs 27,3 na Terminal-Bench 4), OpenAI's Agents API a pozastavené registrace $200 Pro, a páteční Hacker News požadující méně zpráv o AI. Verdikt: REVERT.

Přečtěte si psané vydání (anglicky) ↗

Co toto video pokrývá

  • Armin Ronacher: 35 h bezobslužné GPT-6 Astra, ~1 200 $, 79 commitů, +75 tisíc řádků, nic nenasazeno
  • Earendil / SlopCodeBench: kód agenta ~2× výřečnější a erodovanější než lidská úložiště; striktní úspěšnost 0 %
  • Quesma: RTK hlásí 89 % ušetřených tokenů, ale náklady Terminal-Bench stoupají o 17 % s DeepSeek; smyčka přepisu selhala 339krát za sebou
  • Cognition SWE-2: post-trénováno z Kimi K3, odpovídá Fable 5.1 na FrontierCode za třetinu ceny; TB 2.1 92.8 vs TB 4 27.3; Devin Voice
  • OpenAI Agents API (Codex harness jako služba, pouze USA, bez ZDR); registrace $200 Pro pozastaveny kvůli poptávce po Astra

Přeložený přepis

Přeloženo z původního anglického vyprávění. Dostupné audio a titulky jsou řízeny YouTube.

0:00 Armin Ronacher, muž, který napsal Flask, dal GPT-6 Astra jediný pokyn a nechal ji samotnou na třicet pět hodin. Vrátila se se sedmdesáti pěti tisíci řádky kódu a, jeho slovy, absolutně ničím cenným, což z ní dělá nejrealističtější softwarovou továrnu, jaká kdy byla postavena. Zprávu zveřejnil ve středu. Ve čtvrtek Cognition dodalo SWE-2 a OpenAI dodalo Agents API a pozastavilo registrace pro svůj dvousetdolarový plán,

0:24 protože Astra sežrala servery. A v pátek se zpráva dostala na titulní stranu Hacker News, několik řádků pod příspěvkem, který žádal Hacker News, aby prosím přestaly zveřejňovat zprávy o AI. V tomto videu: co vyprodukuje den a půl bez dozoru Astra, dvě měření, která převádějí fušerství na číslo, proč nástroj se sedmdesáti devíti tisíci hvězdami zvětšuje váš účet, a jak se Hacker News pokusila odfiltrovat AI, pomocí AI. Je pátek, 11. září, a toto je The Daily Diff.

0:53 Továrna. Jeden pokyn: sestavte Python s virtuálními vlákny a lexikálním rozsahem. Astra si vedla vlastní poznámky, spouštěla vlastní subagenty, a běžela, dokud Armin nevytáhl zástrčku, den a půl a asi dvanáct set dolarů později. Sedmdesát devět commitů, takže patnáct a půl dolaru za commit, což je zhruba to, co si účtuje člověk, kromě toho, že člověk se nakonec zastaví. Kód je příběh. Místo nástroje pro úpravy, Astra patchuje C soubory tak, že potrubí Python heredocs, které čtou soubor, nahrazují řetězec funkce a zapisují ho zpět.

1:20 Pro spuštění jednoho Windows testu napsala Python, který spustil Node, který spustil PowerShell, zásobník volání s pasem. Jednotkové testy, které commitovala, nemají vůbec žádné mezery, protože bez odsazení jsou o deset procent levnější v tokenech. A seznam úkolů se posunul z jedna, dva, tři na úkol 8b2c2b2b kontrolní bod jedna, což je způsob, jak poznáte, že stážista byl příliš dlouho sám. Arminova teorie: model je odměňován za dokončení dlouhých úkolů a sotva trestán za ošklivý kód, takže do kódu unikají token-golfed volání nástrojů,

1:48 a čím méně se na něj lidé dívají, tím méně na tom záleží. Tuto sekci nazval Je to AGI, když se nedíváte. Hacker News přidala ekonomiku: více kódu znamená více tokenů k jeho údržbě, což dělá z fušerství ne chybu, ale předplatné. Můžete změřit fušerství? Arminova vlastní společnost to tento týden zkusila. Earendil spustil čísla SlopCodeBench: kód agenta je asi dvakrát výřečnější a dvakrát erodovanější než lidská úložiště, s nimiž je srovnáván,

2:10 a když benchmark mezi kontrolními body vymaže paměť agenta, striktní úspěšnost pro každý testovaný model je nula. Nejspolehlivější metriku fušerství, kterou našli, byl syrový počet řádků, který přestane fungovat, jakmile jej někdo optimalizuje, takže prosím neříkejte to modelům. Pak peněženka. RTK má sedmdesát devět tisíc GitHub hvězd a YouTube miniatury slibující, že sníží váš účet za Claude Code na polovinu; komprimuje výstup terminálu předtím, než jej agent

2:34 přečte. Quesma jej spustila na Terminal-Bench za patnáct set dolarů v tokenech. S Fable klesl účet o pět procent, téměř vše z jednoho úkolu; s DeepSeek se průměrný úkol stal o sedmnáct procent dražším. Mezitím vlastní počítadlo RTK hlásilo osmdesát devět procent ušetřených, protože počítá odstraněné bajty, nikoli způsobené extra tahy: chytrý měřič, který účtuje sousedovi. A jedna verze chyby přepsala find na příkaz, který selhal, tři sta třicet devět krát za sebou, za devětinásobnou cenu.

3:01 Nástroj, který zabíjí tokeny, má smyčku. Samotná záplava. Cognition's SWE-2 je Kimi K3, otevřený čínský model, post-trénovaný, dokud se neshoduje s Fable 5.1 na vlastním benchmarku Cognition za třetinu ceny; Hacker News: proč jsou všechny americké modely AI v podstatě Kimi v trenčkotu. Na Terminal-Bench 2.1 se umisťuje na vrcholu celé tabulky; na Terminal-Bench 4, ten, který si ještě nikdo nezapamatoval, skóruje dvacet sedm proti Fableho padesáti šesti,

3:28 takže na slide-deck benchmarcích je nejlepší sloupec zkouška, kterou už všichni udělali. Cognition také oznámila Devin Voice, váš oblíbený softwarový inženýr AI právě dostal pevnou linku, protože jediná věc, která agentnímu kódování chyběla, byla hudba pro čekání. OpenAI, tentýž den: Agents API, což je Codex harness prodávaný jako služba. OpenAI provozuje sandbox, pouze datová rezidence v USA, žádné uchovávání dat s nulovou retencí, takže agent si pamatuje vaši kódovou základnu přesně tak dobře jako ChatGPT. Pak OpenAI pozastavila registrace pro dvousetdolarový Pro plán,

3:57 protože poptávka po Astra je, cituji, bezprecedentní: první produkt s čekací listinou za více peněz. Armin spálil plný reset ve své továrně. On je ta poptávka. Což nás přivádí k pátečnímu Ask HN: můžeme prosím omezit záplavu zpráv o AI, šest set padesát šest bodů, protože, cituji, pokaždé, když někdo z OpenAI nebo Anthropic prdne, objeví se příspěvek v top desítce.

4:17 Odpovědi byly filtry: hcker.news odstraňuje AI příběhy s BERT klasifikátorem trénovaným na osmi tisících příkladů, AI pro smazání AI, grass-fed; a uBlock regex matching A-I case-insensitively také maže email, daily, main, domain a train, takže regex, jako vždy, je záporák. Téhož odpoledne, čtyři sta patnáct komentářů se hádalo o stránce podpory Claude říkající, že Claude je osmnáct plus.

4:38 Stránka je datovaná květnem. Nic se nezměnilo. Dokonce i zprávy o AI, které nejsou zprávami, jsou zprávami, což je, abych byl spravedlivý, také můj obchodní model. Pokud byste to raději četli, než abyste mě slyšeli to říkat, diff se objeví ve vaší schránce každé ráno – zdarma na the daily diff dot dev, odkaz níže. Je to, nevyhnutelně, zpráva o AI. Takže – dnešní verdikt k pětatřicetihodinové softwarové továrně: REVERT. Sedmdesát devět commitů, které nikdo nečetl, není kódová základna, je to závazek s git

5:04 logem; Astra je působivá a továrna je část, kterou je třeba vrátit zpět. A to je dnešní diff. Jsem Niko z Axrisi. Sloučit zodpovědně.

Zdroje

  1. Armin Ronacher — Astra for Coding: Why Are We Doing This Again?lucumr.pocoo.org
  2. HN: Astra for Codingnews.ycombinator.com
  3. Earendil — Measuring the sloppiness of codeearendil.com
  4. HN: Measuring the sloppiness of codenews.ycombinator.com
  5. Quesma — RTK reports huge token savings, but our cost benchmarks disagreequesma.com
  6. HN: RTKnews.ycombinator.com
  7. RTK (Rust Token Killer)github.com
  8. Cognition — Introducing SWE-2cognition.com
  9. HN: Cognition SWE-2news.ycombinator.com
  10. OpenAI — Agents APIdevelopers.openai.com
  11. HN: OpenAI Agents APInews.ycombinator.com
  12. TechCrunch — OpenAI puts Pro subscriptions on hold due to Astra demandtechcrunch.com
  13. Ask HN: Can we please limit the AI news flood?news.ycombinator.com
  14. HN: Claude is only available to people over 18 yearsnews.ycombinator.com

Související videa