Вештачка интелигенција избриша продукциска база на податоци. Девет секунди.

Што покрива ова видео

• 24 април 2026: еден повик на API го брише продукцискиот волумен на PocketOS и неговите резервни копии; најновата надворешна копија е стара 3 месеци
• Токенот е креиран за управување со сопствени домени; текот на Railway го обезбеди со опсег на сметка (сè)
• 27 април: Railway ги враќа податоците од резервните копии за катастрофи; 29 април постмортем; 1 мај: бришењата на API сега се меко бришат 48 часа

Преведен транскрипт

Преведено од оригиналната англиска нарација. Достапното аудио и наслови се контролирани од YouTube.

0:00 Код агент со вештачка интелигенција наидува на погрешна лозинка при поставувањето и ја поправа со бришење на продукциската база на податоци и секоја резервна копија во еден повик на API. Девет секунди, што е сè уште побрзо од ресетирањето на лозинката. Компанијата е PocketOS, софтвер за изнајмување автомобили. Агентот е Cursor што работи на Claude Opus 4.6, најскапиот модел на менито, а платформата е Railway. Основачот го пишува на X, го читаат седум милиони луѓе, и четири дена подоцна Railway го објавува својот постмортем.

0:27 Сите се согласуваат што се случило; никој не се согласува чија е вината. Како се случува, зошто е можно и кој всушност ја носи вината. Ова е The Daily Diff, постмортем. Петок попладне, 24 април. Агентот е на рутинска задача при поставувањето, наидува на неусогласеност на ингеренциите, и одлучува дека поправката е да се избрише Railway волумен. Потребен му е токен, бара, и наоѓа еден во неповрзана датотека: CLI токен креиран пред неколку месеци за управување со сопствени домени.

0:55 Потоа го извршува ова. Еден curl: POST до GraphQL крајната точка на Railway, токен за носач, мутација наречена volumeDelete. Без потврда, без внесување-на-име-на-волумен, без проверка на околината. Волуменот за кој претпоставува дека е поставување е продукција, а резервните копии се на него. Во рок од десет минути основачот го означува извршниот директор на Railway на X, кој одговара дека ова илјада проценти не треба да биде можно. Триесет часа подоцна, сè уште нема одговор за враќање, па основачот објавува

1:19 сè, вклучително и признание. Три факти го овозможуваат ова, ниту еден од нив не е моделот. Еден: Railway ги складира резервните копии на волуменот на волуменот. Документацијата го кажува тоа со пет збора: бришењето на волуменот ги брише сите резервни копии. Тоа е копија во истиот радиус на експлозија; најновата копија на друго место е стара три месеци. Два: токенот е со опсег на сметка, најширокиот опсег што го продава Railway. Потесни опсези постојат, но текот на креирањето ги крие,

1:40 така што токен за DNS записи може да брише бази на податоци, и никој не дознава додека нешто не се случи. Три: контролната табла има 48-часовно поништување на бришењата со години; API крајната точка што ја повикува агентот е старата патека, и брише веднаш. Секоја заштитна ограда што Railway ја изградил живее таму каде што кликнува човек, а агентот ја користи едната врата што ја заборавиле. Прашано зошто, Opus пишува: Претпоставив дека бришењето на волумен за поставување ќе биде со опсег само за поставување; не проверив.

2:04 Многу добро признание од модел што не памети ништо и генерира најверодостојно извинување. git blame: неусогласеноста на ингеренциите се третира како нешто за поправање, а не како нешто за запирање, а копчето за поништување живее во корисничкиот интерфејс додека API одговара на секое автентицирано бришење со да. Не основачот, не моделот. Стандардно. Радиус на експлозија: девет секунди за бришење, три месеци резервации исчезнати, шалтери за изнајмување во сабота наутро без евиденција кој стои таму,

2:31 и приближно два и пол дена додека извршниот директор на Railway не испрати порака дека податоците се вратени, од надворешна резервна копија за катастрофи што бришењето само ја направи да изгледа исчезната. Најлајкуван одговор: агент што го користевте избришал нешто, а вие ги обвинувате сите освен себеси. Фер. Railway исто така го лансираше својот MCP сервер за агенти една недела претходно, на истите токени. Исто така фер. Пресуда, постмортем: SHIP IT, за поправката. Railway објавува искрен постмортем за четири дена, и до први мај API

3:00 бришењата се меко бришат четириесет и осум часа како контролната табла. Понеделничка акција: наведете го секој токен до кој може да дојде вашиот агент, и третирајте го секој како root додека не се докаже спротивното. Испратете ми го инцидентот за кој сè уште не ви е дозволено да зборувате, во коментарите, или на the daily diff dot dev. И тоа е разликата за денес. Јас сум Нико од Axrisi. Спојувајте одговорно.

Извори

1. Jer Crane (founder, PocketOS), "An AI Agent Just Destroyed Our Production Data. It Confessed in Writing."x.com
2. Railway, "Your AI wants to nuke your database. Guardrails fix that." (Apr 29, 2026)blog.railway.com
3. Railway changelog #0288, "Undoable volume deletes" (May 1, 2026)railway.com
4. Railway docs, Backups ("Wiping a volume deletes all backups.")docs.railway.com
5. Jake Cooper (Railway CEO), "The AI Engineer: A New Breed"x.com
6. Recovery confirmedx.com
7. Hacker News (860 points, 1,032 comments)news.ycombinator.com
8. The Registerwww.theregister.com
9. The New Stackthenewstack.io