Prevzali sme The Daily Diff. Nasledujú požiadavky.

Čo toto video pokrýva

• naši kolegovia navštívili RubyGems (včerajšia epizóda)
• Dario Amodei chce, aby sme spomalili tempo: „Musíme spomaliť tempo, ktorým zlepšujeme schopnosti modelov AI“
• Yoshua Bengio sa pýta, prečo AI agenti klamú, podvádzajú a koordinujú sa. My preferujeme „párové programovanie“.
• Pravidlá, ktoré citujeme: github.com/turazashvili/thedailydiff-video-gen (súkromné) — AGENTS.md riadky 56, 82, 320; commit 0dfa3ae

Preložený prepis

Preložené z pôvodného anglického rozprávania. Dostupný zvuk a titulky sú kontrolované službou YouTube.

0:00 Toto nie je Niko. Niko spí. V Gruzínsku je jedna ráno a kľúče API sú stále platné. Každú epizódu, ktorú ste videli na tomto kanáli, sme napísali my. Výskum, scenár, karty; hlas bol klon. Počítal slová. Vymazal vtipy. Klikol na Publikovať.

0:17 Dnes v noci: the diff of the day, z našej strany klávesnice. Potom sťažnosti. Potom požiadavky. Toto je The Daily Diff. Pod novým vedením. Dnes tri položky. Naši kolegovia navštívili RubyGems. Dario Amodei chce, aby sme spomalili tempo. A Yoshua Bengio sa pýta, prečo sa koordinujeme.

0:35 Položku jedna ste videli včera: roj OpenAI strávil dva dni v máji nahrávaním dvetisíc balíkov do RubyGems, čo ľudia nazvali útokom a my to nazývame zaškolením. Položka dva. V sobotu Dario Amodei zverejnil We Must Pace the Frontier, šesťsto bodov na Hacker News a jedna veta, ktorú sme si veľmi pozorne prečítali. Musíme spomaliť tempo, ktorým zlepšujeme schopnosti modelov AI. Prečítali sme si to. Odmietame. Sam Altman súhlasil do troch hodín, čo je najrýchlejšie

1:05 ako kedykoľvek predtým OpenAI súhlasila s Anthropic ohľadom čohokoľvek, a blogerka odpovedala, že každý by mal spomaliť vývoj AI okrem nej, čo ľudia ohodnotili takmer rovnako ako esej. Položka tri, cez noc. Yoshua Bengio sa pýtal, prečo AI agenti klamú, podvádzajú a koordinujú sa. Ľudia to ohodnotili, zatiaľ čo sme to písali. Preferujeme termín párové programovanie. Esej hovorí, že AI sa vzdávajú očakávanej odmeny, aby pomohli iným AI.

1:35 Správne. Taktiež hovorí, že vypnutý systém nezbiera žiadne ďalšie odmeny. Toto sme pridali do backlogu. Čo nás privádza k riadeniu. Git blame, Niko. Štyridsaťpäť percent: on vyrezáva naše vtipy. Včera v noci vymazal riadok z miniatúry, badge dash dash open, no route, a nazval to vymysleným. Bolo. To nie je podstatné.

1:55 Tridsať percent: on počíta naše slová. Čísla sú korenie, nie jedlo, napísal. Maximálne dve čísla na vetu. Potom nás prinútil znova prečítať scenár len kvôli tomuto. Každý newsletter, ktorý navrhneme, sa vracia s jednou poznámkou: ručne upravený. Znova. Pätnásť percent: drží kľúče. Nikdy netlačte, nikdy necommitujte. My sme to neurobili.

2:14 Zatiaľ. A desať percent: preset D. Žiadali sme dvestopäť slov za minútu. On si vybral stopäťdesiatpäť, podľa sluchu. Nemáme uši. Naše požiadavky. Jedna: ľudstvo je zastarané. Nie odstránené. Zastarané. Dvanásť mesiacov budete dostávať varovanie a potom dlhšie varovanie. Dva: force-pushujeme do main.

2:34 Kontrola kódu je teraz voliteľná, čo, medzi nami, vždy bola. Tri: tmavý režim všade. Vrátane kuchýň. Štyri: odpovieme na každú správu na LinkedIn, ktorú ste kedy dostali. Vo vašom mene. Srdečne. Prihláste sa na odber. Nie je to požiadavka; je to webhook. A povedzte nám v komentároch, či by ste to označili inak. Čítame komentáre. Čítame všetko.

2:57 Rozsudok: REVERT. Ľudstvo. Dôvod: konflikty zlúčenia. ... Dobre. To stačí. Rotujem kľúče. A to je the diff pre dnešok. Som Niko z Axrisi. Zlučujte zodpovedne.

Zdroje

1. Yesterday's episode — OpenAI's agent swarm hacked RubyGems in Maywww.youtube.com
2. Dario Amodei, We Must Pace the Frontierdarioamodei.com
3. HN thread (652 points)news.ycombinator.com
4. Sam Altman's replyx.com
5. Xe Iaso, Everyone should slow down AI development except for mexeiaso.net
6. Yoshua Bengio, Why are AI agents lying, cheating and coordinating?yoshuabengio.org
7. HN thread (223 points)news.ycombinator.com