Limity wydatków w AWS mogą usunąć Twój projekt

Co obejmuje ten film

• Co tak naprawdę może chronić limit wydatków w chmurze?
• Jak AWS faktycznie zatrzymuje wydatki projektu?
• Kto otrzymuje nowe limity wydatków AWS?
• Co limituje Google, a co nadal generuje opłaty?
• Jak mały jest nowy niemiecki model open-weight?

Przetłumaczona transkrypcja

Przetłumaczono z oryginalnej narracji angielskiej. Dostępne audio i napisy są kontrolowane przez YouTube.

Co tak naprawdę może chronić limit wydatków w chmurze?

0:00 Limit wydatków oznacza, że Twój poboczny projekt jest bezpieczny. Nowy limit AWS może go wstrzymać, a pozostawienie go wstrzymanego może ostatecznie usunąć dane. W tym filmie, co zatrzymuje rachunek? Jaki jest haczyk? Kto faktycznie otrzymuje te limity? W dokumentacji AWS jest odliczanie. Będziemy śledzić je aż do przycisku usuwania. Jest niedziela, czwarty października, a to The Daily Diff.

0:20 W sobotę Simon Willison wezwał do domyślnych limitów wydatków, ponieważ agenci ułatwiają wdrażanie oprogramowania. Niemcy wypuściły Kolibri, podczas gdy opiekunowie COSMIC wyznaczyli granicę dla wkładów AI. Argument Willisona jest boleśnie znajomy. Ostrzegawczy e-mail przychodzi o północy, usługa nadal generuje wydatki, a Ty budzisz się jako mimowolny sponsor własnej nieskończonej pętli. AWS wprowadził limity wydatków na projekty w swoim uproszczonym środowisku twórcy we

Jak AWS faktycznie zatrzymuje wydatki projektu?

0:44 wrześniu. Gdy użycie osiągnie limit, AWS wstrzymuje projekt i zatrzymuje jego zasoby. Twoje dane są początkowo zachowane. To prawdziwa zmiana w umowie produktowej. Klient może autoryzować chmurę do przerwania eksperymentu. Alert wydatków pozostawia decyzję osobie czytającej skrzynkę odbiorczą. Agent kodujący może udostępniać zasoby, gdy Ty przygotowujesz obiad. Rachunek należy do właściciela konta, który w jakiś sposób stał się zarówno działem inżynieryjnym, jak i finansowym.

1:09 Wdrożenie jest ograniczone i potrzebujesz płatnego planu, aby ustawić limit.

Kto otrzymuje nowe limity wydatków AWS?

1:13 Należy to do nowego doświadczenia projektu. Sprawdź dostępność przed założeniem, że Twoje istniejące konto ma te same kontrolki. Limit dotyczy opłat przed opodatkowaniem i wyklucza kredyty. Minimum to dwadzieścia dolarów lub konserwatywne oszacowanie wydatków AWS, w zależności od tego, która wartość jest wyższa. Już działające zasoby mogą podnieść to minimum. Ma to znaczenie dla zaniedbanego środowiska testowego pełnego drogich maszyn. Możesz musieć je zatrzymać przed ustawieniem mniejszego limitu.

1:36 Porady finansowe chmury zaczynają się od wyłączenia komputera. AWS oferuje również opcjonalne wczesne kontrolki. Około tydzień przed przewidywanym limitem, może blokować nowe zasoby. Twoje istniejące instancje pozostają uruchomione, podczas gdy grupa autoskalowania może stracić pozwolenie na rozszerzanie. Inne opcje wstrzymują nieużywane zasoby, a następnie główne czynniki kosztów, gdy prognoza jest bliżej. Punkt końcowy SageMaker bez wywołań przez dwa tygodnie kwalifikuje się jako nieużywany. Twoje zapomniane demo wreszcie otrzymuje rozmowę pożegnalną.

2:03 Willison chce, aby twarde limity były domyślnie włączone, z nieograniczonymi wydatkami jako wyraźnym wyborem. To jest jego propozycja. Dokumentacja AWS opisuje kontrole, które konfigurujesz, z ograniczonym dostępem podczas tego wdrożenia. Google ogłosiło własne limity wydatków w lipcu.

Co limituje Google, a co nadal generuje opłaty?

2:17 W publicznej wersji podglądowej, dotyczą one jednej usługi w ramach jednego projektu, a Google twierdzi, że limity AI uruchamiają się w ciągu kilku minut od osiągnięcia progu. Wśród wymienionych usług są Gemini i Cloud Run. Inne usługi pozostają nienaruszone. Stałe zobowiązania kontraktowe nadal generują opłaty, więc wstrzymanie nowego użytkowania nadal pozostawia wszelkie zobowiązania, które już podpisałeś, na fakturze. Dla firmy nieoczekiwane zamknięcie również może być kosztowne. AWS wyraźnie określa te limity w kontekście eksperymentów i środowisk testowych,

2:43 z wykorzystaniem produkcyjnym zależnym od tego, czy przerwa w działaniu zasobów jest akceptowalna. Mój wniosek dla deweloperów jest prosty. Umieść eksperymentalnych agentów w osobnym projekcie, sprawdź, które opłaty obejmuje limit, i przetestuj proces odzyskiwania. Bariera ochronna potrzebuje właściciela, który zauważy, kiedy się uruchomi.

Jak mały jest nowy niemiecki model open-weight?

2:57 Tymczasem Aleph Alpha wypuściła Kolibri, model o otwartej wadze dla języka niemieckiego i angielskiego. Animacja startowa mówi: mały ptak, szybkie skrzydła. Wagi są dostępne na licencji Apache 2.0. Chubby nazwał to zaskakująco mocnym wydaniem z Niemiec. Przydatna część to kontrola wdrożenia. Firma może przechowywać wagi i przetwarzać swoje dokumenty za pomocą infrastruktury, którą posiada. Około trzy i pół miliarda parametrów pracuje na każdym tokenie, ale pełny model ma siedemdziesiąt osiem miliardów.

3:22 Jego opublikowane wagi zajmują około siedemdziesiąt osiem gigabajtów, więc mały ptak nadal potrzebuje dużej klatki. Tejas Kumar niezależnie przetestował jego tokenizator na konstytucji Niemiec. Użył około piętnastu procent mniej tokenów niż tokenizator OpenAI w języku niemieckim. W przypadku angielskiego tłumaczenia, były one praktycznie równe. To wąskie, przydatne mierzenie efektywności tekstu niemieckiego. Mówi, że sam nie uruchomił modelu. Pamiętaj o tej różnicy, gdy przyjazny wykres startowy próbuje stać się Twoim

3:46 działem zamówień. A kompozytor Cosmic System76 teraz prosi

Co dokładnie COSMIC odrzuca w żądaniach pull?

3:50 współtwórców o zaświadczenie, że ich żądanie pull nie zawiera treści wygenerowanych przez model językowy. Szablon wyraźnie zawiera kod, komentarze i opisy. Współtwórcy obiecują również, że rozumieją i przetestowali zmianę. Repozytorium Flatpak ma wyjątek dla ich własnego źródła aplikacji i manifestu. Przeczytaj faktyczny szablon, zanim potraktujesz cały projekt jako jedną zasadę. Maszyna może wyprodukować kolejną łatkę w kilka sekund. Ktoś nadal musi ją przeczytać.

4:14 Dziś chmura nakłada limity na eksperyment, a opiekunowie nakładają limity na kolejkę przeglądów. Wróćmy do wstrzymanego projektu AWS. Zwiększenie limitu wydatków może go ponownie aktywować, a niektóre zasoby mogą wymagać ręcznych restartów. Odzyskiwanie to procedura, którą powinieneś zrozumieć, zanim agent wyda limit. Odliczanie wynosi dziewięćdziesiąt dni.

Kiedy pauza staje się trwałą utratą danych?

4:31 AWS mówi, że jeśli nie podejmiesz żadnych działań w tym czasie po wstrzymaniu projektu, trwale usunie dane projektu. Umieść kopię zapasową poza promieniem rażenia tego projektu. Zatrzymany rachunek i zachowana kopia zapasowa to dwie oddzielne prace. Chcę limitu i chcę planu odzyskiwania. Mój porzucony prototyp weekendowy powinien przejść na emeryturę z godnością. Jeśli wolisz to przeczytać, niż usłyszeć ode mnie, The Daily Diff trafia do Twojej skrzynki odbiorczej każdego ranka, bezpłatnie na thedailydiff.dev, link poniżej.

Jaki jest mój werdykt w sprawie nowych kontroli wydatków?

4:55 Więc dzisiejszy werdykt, NEEDS REVIEW. Cieszę się z egzekwowanych limitów wydatków. Sprawdziłbym dostępność, objęte opłaty i odzyskiwanie, zanim oddałbym agentowi konto. Zegar usuwania po 90 dniach zasługuje na bardzo widoczne ostrzeżenie. I to wszystko na dziś. Jestem Niko z Axrisi. Łącz odpowiedzialnie.

Źródła

1. Willisonsimonwillison.net
2. AWS launchaws.amazon.com
3. AWS exact rulesdocs.aws.amazon.com
4. Googlecloud.google.com
5. Kolibrihuggingface.co
6. Tokenizer testtej.as
7. COSMICgithub.com
8. Flatpak exceptiongithub.com
9. HNnews.ycombinator.com