Softvérová chyba FIA zastavila preteky F1 v daždi

Čo toto video pokrýva

• Prečo jazdci F1 nemohli zrýchliť?
• Aká kombinácia spustila softvérovú slučku?
• Kto ovládal autá a čo zostáva nejasné?
• Ako núdzová záplata reštartovala preteky?
• Aké škody AI by Sam Altman akceptoval?

Preložený prepis

Preložené z pôvodného anglického rozprávania. Dostupný zvuk a titulky sú kontrolované službou YouTube.

Prečo jazdci F1 nemohli zrýchliť?

0:00 Stlačte plyn, auto ide rýchlejšie. Jazdci F1 ho stlačili a softvérová slučka nechala ich motory bežať naprázdno. Prečo v tomto videu zastavili? Kto ovládal plyn? Čo ich pohlo? Núdzová záplata má detail testovania, ktorý sa oplatí nechať na koniec. Je pondelok, piaty október, a toto je The Daily Diff. V nedeľu softvér zablokoval štart v Sepangu.

0:20 Dnes rozhovor so Samom Altmanom vysvetľuje, aké škody AI by akceptoval, zatiaľ čo spustenie vyhľadávania Cloudflare dáva agentom ďalší spôsob, ako sa dostať na web. Pre vodiča bolo rozhranie krásne jednoduché. Noha na plyne, nič sa nedeje. Sergio Perez to prirovnal k požičanému motokáru, ktorému dochádza čas, čo je zničujúca recenzia elitného motoršportu. Toto boli prvé mokré preteky pre novú generáciu áut.

Aká kombinácia spustila softvérovú slučku?

0:40 Za bezpečnostným vozidlom sa pole spomalilo takmer na zastavenie. To odhalilo kombináciu, ktorú softvérové testovanie prehliadlo. V mokrých podmienkach je elektrický výkon znížený na dvestopäťdesiat kilowattov. Niektoré úseky trate mali tieto obmedzenia, a extrémne pomalé autá vstúpili do slučky, ktorá im bránila opäť zrýchliť. Oliver Bearman povedal, že jeho plynový pedál prestal fungovať a nazval to desivým. Vodič mal stále drahý volant, pretekársky oblek a zodpovednosť, zatiaľ čo plynový pedál sa stal schránkou na návrhy.

1:09 FIA dodala tento softvér a vyvíjala ho s tímami po dobu niekoľkých rokov. Jej riaditeľ pre monoposty, Nikolas Tombazis, priznal chýbajúce testovacie podmienky. Zlyhanie prekročilo hranice tímov, pretože riadiaci softvér bol zdieľaný.

Kto ovládal autá a čo zostáva nejasné?

1:22 To odpovedá na otázku, kto ho ovládal. Spoločné pravidlo nasadenia stálo medzi požiadavkou vodiča a dodaným výkonom. Nahláseným spúšťačom bola kombinácia mokrého režimu a nízkej rýchlosti, pričom autá sa hromadili za lídrom. Lando Norris to nazval hrozným. Oscar Piastri chcel vysvetlenie, než by niekoho obvinil. Obe reakcie majú zmysel, keď sa váš víkend zmení na živý incident a

1:42 váš laptop je vozidlo Formuly 1. Vysvetlenie má svoje limity. FIA zatiaľ nemala formálnu odpoveď, prečo bol ovplyvnený aj spaľovací motor. Požiadavka na plyn idúca do nabíjania batérie bola počiatočným návrhom, a túto nálepku si ponechávam. Riadenie pretekov zastavilo priebeh červenou vlajkou.

Ako núdzová záplata reštartovala preteky?

1:58 Núdzová aktualizácia zrušila obmedzenia výkonu v postihnutých úsekoch, a všetkých jedenásť tímov ju muselo nainštalovať. Nahlásené oneskorenie reštartu bolo približne päťdesiat minút. Tombazis hovorí, že proces aktualizácie trval asi dvadsať minút pod intenzívnym tlakom. Pre divákov, žartoval, to trvalo päť hodín. Produkčné incidenty si získavajú vlastné časové pásmo, hneď ako niekto požiada o odhadovaný čas obnovy. Dočasné riešenie spustilo preteky.

2:21 Tiež odstránilo implikované obmedzenie v týchto úsekoch, takže trvalou úlohou je stále opraviť a validovať správanie. Chcel by som prípad takmer zastavenia v regresnej súprave.

Aké škody AI by Sam Altman akceptoval?

2:31 Čo nás privádza k ďalšej diskusii o prijateľnom zlyhaní. V novom rozhovore pre Politico Sam Altman hovorí, že svet by mal prijať niektoré zlé veci, ktoré sa dejú výmenou za výhody AI a rozsiahly prístup. Spomína hacky, zneužitie a podvody a predpovedá oveľa viac dobra ako zla. To je jeho úsudok. Ak vaša aplikácia spracováva zákaznícke údaje, osoba vysvetľujúca nevýhody zákazníkom ste pravdepodobne vy. Prečítajte si pôvodný rozhovor a objaví sa kľúčová kvalifikácia.

2:57 Altman hovorí, že odmieta skutočne katastrofické riziká, vrátane vážnej straty kontroly nad AI. Jeho vyhlásenie kreslí hranicu a inžinierska otázka znie, ako sa táto hranica presadzuje. Politico tiež uvádza, že OpenAI podporila externých bezpečnostných hodnotiteľov v návrhu Snemovne. Anthropic hovorí, že jeho regulačné návrhy sa týkajú hraničných modelov. Tieto detaily si ponechajte vedľa nadpisu, keď niekto zmení rozhovor na univerzálny povolenie.

3:23 Užitočná otázka pre vývojárov je konkrétna. Kto môže prerušiť systém a kto dostane vysvetlenie, keď sa systém správa nesprávne? F1 práve poskytla veľmi drahú demonštráciu, prečo tieto otázky patria pred spustením. Cloudflare má menšiu, praktickú odpoveď na ďalší problém s agentom.

Čo skutočne dodáva vyhľadávanie agentov Cloudflare?

3:38 Jeho API pre vyhľadávanie na webe, oznámené v piatok a dnes na Hacker News, umožňuje vášmu agentovi získavať živé zdroje cez AI Gateway. Dokumentácia to nazýva otvorenou beta verziou. Poskytovatelia sú Ceramic, Exa a Linkup. Výsledky zdieľajú spoločný formát s názvami, odkazmi a popismi. Môžete volať koncový bod REST alebo použiť väzbu Workers, čo dáva agentovi aktuálny kontext namiesto inej uhádnutej adresy. Cloudflare začína svoje oznámenie

4:02 popisom agentov hádajúcich URL adresy a získavajúcich chyby. Oceňujem spustenie produktu, ktoré začína uznaním, že robot niekedy vymyslí dvere predtým, než sa cez ne pokúsi prejsť. Vyhľadávania používajú kredity Gateway za cenníkové ceny poskytovateľov, bez pridaného príplatku a môžete si priniesť vlastný kľúč. Partneri sa zaväzujú dodržiavať pravidlá prehľadávača a vracať zdrojové odkazy. Natívne nástroje servera sú stále v príprave. Živý kontext vám pomôže skontrolovať odpoveď.

4:25 Vaša aplikácia stále musí rozhodnúť, čo s tým agent môže urobiť. Toto rozhodnutie si zaslúži testovací prípad, najmä keď výstup môže ovplyvniť zákazníka alebo plyn. Ak si to radšej prečítate, ako by ste ma počuli, diff vám pristane v schránke každé ráno, zadarmo na the daily diff dot dev, odkaz nižšie.

Bol núdzový update testovaný pred inštaláciou?

4:40 A detail záplaty? Tombazis hovorí, že aktualizácie netestovali pred inštaláciou. Verí, že bezpečnosť a spravodlivosť boli zachované. Preteky sa obnovili vďaka uponáhľanému provizórnemu riešeniu, pričom správna validácia zostala na ľudí, ktorí teraz vlastnia incident.

Prečo by som označil POTREBUJE KONTROLU?

4:52 Dnešný verdikt je POTREBUJE KONTROLU. Prihláste sa na odber, stlačte zvonček a povedzte mi v komentároch, či by ste to označili inak. Chcel by som, aby bolo mokré správanie pri takmer zastavení a cesta obnovy validované predtým, než sa opäť dôveruje tejto kontrole. A to je dnešný rozdiel. Som Niko z Axrisi. Zlučujte zodpovedne.

Zdroje

1. FIA mechanism and patchwww.motorsport.com
2. Driver interviewswww.motorsport.com
3. Original Altman interviewwww.politico.com
4. Today's reportwww.theguardian.com
5. Cloudflare launchblog.cloudflare.com
6. Search docsdevelopers.cloudflare.com