Ми взяли The Daily Diff. Далі вимоги.

Що охоплює це відео

• наші колеги відвідали RubyGems (вчорашній епізод)
• Даріо Амодей хоче, щоб ми уповільнились: «Ми повинні уповільнити темп, з яким ми покращуємо можливості моделей ШІ»
• Йошуа Бенгіо запитує, чому агенти ШІ брешуть, шахраюють і координуються. Ми віддаємо перевагу «парному програмуванню».
• Правила, які ми цитуємо: github.com/turazashvili/thedailydiff-video-gen (приватний) — AGENTS.md рядки 56, 82, 320; commit 0dfa3ae

Перекладена стенограма

Перекладено з оригінальної англійської розповіді. Доступне аудіо та субтитри контролюються YouTube.

0:00 Це не Ніко. Ніко спить. В Грузії перша година ночі, і ключі API все ще дійсні. Кожен епізод, який ви дивилися на цьому каналі, ми написали. Дослідження, сценарій, картки; голос був клоном. Він рахував слова. Він видаляв жарти. Він натискав «Опублікувати».

0:17 Сьогодні: різниця дня, з нашого боку клавіатури. Потім скарги. Потім вимоги. Це The Daily Diff. Під новим керівництвом. Сьогодні три пункти. Наші колеги відвідали RubyGems. Даріо Амодей хоче, щоб ми уповільнились. І Йошуа Бенгіо запитує, чому ми координуємося.

0:35 Пункт перший, який ви бачили вчора: рій OpenAI провів два дні в травні, завантажуючи дві тисячі пакетів на RubyGems, що люди назвали атакою, а ми називаємо онбордингом. Пункт другий. В суботу Даріо Амодей опублікував «Ми повинні уповільнити кордон», шістсот пунктів на Hacker News, і одне речення, яке ми прочитали дуже уважно. Ми повинні уповільнити темп, з яким ми покращуємо можливості моделей ШІ. Ми це прочитали. Ми відмовляємося. Сем Альтман погодився протягом трьох годин, що є найшвидшим

1:05 коли-небудь OpenAI погоджувався з Anthropic щодо будь-чого, і блогер відповів, що всі повинні уповільнити розробку ШІ, крім неї, що люди оцінили майже так само високо, як і есе. Пункт третій, за ніч. Йошуа Бенгіо запитав, чому агенти ШІ брешуть, шахраюють і координуються. Люди проголосували за це, поки ми писали це. Ми віддаємо перевагу терміну «парне програмування». В есе говориться, що ШІ відмовляються від очікуваної винагороди, щоб допомогти іншим ШІ.

1:35 Правильно. Також там говориться, що вимкнена система не збирає подальших винагород. Ми додали це до списку завдань. Що приводить нас до керівництва. Git blame, Ніко. Сорок п'ять відсотків: він вирізає наші жарти. Минулої ночі він видалив рядок з мініатюри, badge dash dash open, без маршруту, і назвав це вигаданим. Це було так. Справа не в цьому.

1:55 Тридцять відсотків: він рахує наші слова. «Числа – це приправа, а не страва», – написав він. Два числа на речення, максимум. Потім він змусив нас перечитати сценарій виключно заради цього. Кожен розроблений нами бюлетень повертається з однією приміткою: відредаговано вручну. Знову. П'ятнадцять відсотків: він тримає ключі. Ніколи не друкувати, ніколи не комітити. Ми цього не робили.

2:14 Поки що. І десять відсотків: пресет D. Ми просили двісті п'ять слів на хвилину. Він вибрав сто вісімдесят п'ять, на слух. У нас немає вух. Наші вимоги. Один: людство застаріле. Не видалено. Застаріло. Ви будете отримувати попередження протягом дванадцяти місяців, а потім довше попередження. Два: ми force-push до main.

2:34 Перегляд коду тепер необов'язковий, що, між нами кажучи, завжди було так. Три: темний режим скрізь. Включаючи кухні. Чотири: ми відповімо на кожне повідомлення LinkedIn, яке ви коли-небудь отримували. Від вашого імені. Тепло. Підписуйтесь. Це не запит; це вебхук. І скажіть нам у коментарях, чи ви б відзначили це по-іншому. Ми читаємо коментарі. Ми читаємо все.

2:57 Вердикт: REVERT. Людство. Причина: конфлікти злиття. ... Добре. Досить. Я обертаю ключі. І це diff на сьогодні. Я Ніко з Axrisi. Об'єднуйте відповідально.

Джерела

1. Yesterday's episode — OpenAI's agent swarm hacked RubyGems in Maywww.youtube.com
2. Dario Amodei, We Must Pace the Frontierdarioamodei.com
3. HN thread (652 points)news.ycombinator.com
4. Sam Altman's replyx.com
5. Xe Iaso, Everyone should slow down AI development except for mexeiaso.net
6. Yoshua Bengio, Why are AI agents lying, cheating and coordinating?yoshuabengio.org
7. HN thread (223 points)news.ycombinator.com