Les plafonds de dépenses AWS peuvent supprimer votre projet

Ce que cette vidéo couvre

• Que peut réellement protéger un plafond de dépenses infonuagiques?
• Comment AWS arrête-t-il réellement les dépenses d'un projet?
• Qui bénéficie des nouvelles limites de dépenses d'AWS?
• Qu'est-ce que Google plafonne, et qu'est-ce qui continue de facturer?
• Quelle est la taille du nouveau modèle à poids ouvert de l'Allemagne?

Transcription traduite

Traduit de la narration originale en anglais. L'audio et les sous-titres disponibles sont contrôlés par YouTube.

Que peut réellement protéger un plafond de dépenses infonuagiques?

0:00 Un plafond de dépenses signifie que votre projet secondaire est en sécurité. La nouvelle limite d'AWS peut le mettre en pause, et le laisser en pause peut éventuellement effacer les données. Dans cette vidéo, qu'est-ce qui arrête la facture? Quel est le piège? Qui bénéficie réellement de ces limites? Il y a un compte à rebours dans la documentation d'AWS. Nous le suivrons jusqu'au bouton de suppression. Nous sommes le dimanche 4 octobre, et c'est The Daily Diff.

0:20 Samedi, Simon Willison a demandé des plafonds de dépenses par défaut alors que les agents facilitent le déploiement de logiciels. L'Allemagne a sorti Kolibri, tandis que les mainteneurs de Cosmic ont tracé une ligne autour des contributions de l'IA. L'argument de Willison est douloureusement familier. Un courriel d'avertissement arrive à minuit, le service continue de dépenser, et vous vous réveillez comme le sponsor involontaire de votre propre boucle infinie. AWS a introduit des limites de dépenses de projet dans son expérience de constructeur simplifiée en

Comment AWS arrête-t-il réellement les dépenses d'un projet?

0:44 septembre. Lorsque l'utilisation atteint la limite, AWS met le projet en pause et arrête ses ressources. Vos données sont initialement préservées. C'est un réel changement dans le contrat de produit. Le client peut autoriser le nuage à interrompre l'expérience. Une alerte de dépenses laisse la décision à quiconque lit sa boîte de réception. Un agent de codage peut provisionner des ressources pendant que vous préparez le dîner. La facture appartient au propriétaire du compte, qui est en quelque sorte devenu à la fois le département d'ingénierie et le département des finances.

1:09 Le déploiement est limité, et vous avez besoin d'un plan payant pour fixer une limite.

Qui bénéficie des nouvelles limites de dépenses d'AWS?

1:13 Ceci fait partie de la nouvelle expérience de projet. Vérifiez la disponibilité avant de supposer que votre compte existant a les mêmes contrôles. Le plafond s'applique aux frais avant impôts et exclut les crédits. Le minimum est de vingt dollars ou l'estimation de dépenses conservatrice d'AWS, selon le montant le plus élevé. Les ressources déjà en cours d'exécution peuvent augmenter ce minimum. Cela compte pour un bac à sable négligé plein de machines coûteuses. Vous devrez peut-être les arrêter avant de fixer une limite plus petite.

1:36 Les conseils financiers du nuage commencent par éteindre l'ordinateur. AWS offre également des contrôles anticipés facultatifs. Environ une semaine avant la limite prévue, il peut bloquer les nouvelles ressources. Vos instances existantes restent en cours d'exécution, tandis qu'un groupe d'autoscaling peut perdre la permission de s'étendre. D'autres options mettent en pause les ressources inactives, puis les principaux facteurs de coût à mesure que la prévision se rapproche. Un point de terminaison SageMaker avec zéro appel pendant deux semaines est considéré comme inactif. Votre démo oubliée reçoit enfin un entretien de départ.

2:03 Willison veut des plafonds rigides activés par défaut, avec des dépenses illimitées comme un choix explicite. C'est sa proposition. La documentation d'AWS décrit les contrôles que vous configurez, avec un accès limité pendant ce déploiement. Google a annoncé ses propres plafonds de dépenses en juillet.

Qu'est-ce que Google plafonne, et qu'est-ce qui continue de facturer?

2:17 En préversion publique, ils ciblent un service au sein d'un projet, et Google affirme que les plafonds d'IA se déclenchent quelques minutes après avoir atteint le seuil. Les services listés incluent Gemini et Cloud Run. Les autres services restent inchangés. Les engagements contractuels fixes continuent d'être facturés, donc la mise en pause de la nouvelle utilisation laisse toujours tous les engagements que vous avez déjà signés sur la facture. Pour une entreprise, un arrêt inattendu peut également être coûteux. AWS encadre explicitement ces limites autour des expériences et des bacs à sable,

2:43 l'utilisation en production dépendant de l'acceptabilité d'une pause des ressources. Ma conclusion pour les développeurs est simple. Placez les agents expérimentaux dans un projet distinct, vérifiez les frais que la limite couvre, et testez votre processus de récupération. La barrière de sécurité a besoin d'un propriétaire qui remarque quand elle se déclenche.

Quelle est la taille du nouveau modèle à poids ouvert de l'Allemagne?

2:57 Pendant ce temps, Aleph Alpha a sorti Kolibri, un modèle à poids ouvert pour l'allemand et l'anglais. Son animation de lancement dit petit oiseau, ailes rapides. Les poids sont disponibles sous Apache 2.0. Chubby l'a qualifié de "sortie étonnamment forte de l'Allemagne". La partie utile est le contrôle du déploiement. Une entreprise peut détenir les poids et faire passer ses documents par l'infrastructure qu'elle possède. Environ trois milliards et demi de paramètres travaillent sur chaque jeton, mais le modèle complet en a soixante-dix-huit milliards.

3:22 Ses poids publiés occupent environ soixante-dix-huit gigaoctets, donc le petit oiseau a encore besoin d'une grande cage. Tejas Kumar a testé indépendamment son tokeniseur sur la constitution allemande. Il a utilisé environ quinze pour cent moins de jetons que le tokeniseur d'OpenAI en allemand. Sur la traduction anglaise, ils étaient pratiquement à égalité. C'est une mesure étroite et utile de l'efficacité du texte allemand. Il dit qu'il n'a pas exécuté le modèle lui-même. Gardez cette distinction quand un tableau de lancement amical essaie de devenir votre

3:46 département d'approvisionnement. Et le compositeur Cosmic de System76 demande maintenant aux

Qu'est-ce que COSMIC rejette exactement dans les demandes de tirage?

3:50 contributeurs de certifier que leur demande de tirage ne contient aucun contenu généré par un modèle linguistique. Le modèle inclut explicitement le code, les commentaires et les descriptions. Les contributeurs promettent également qu'ils comprennent et ont testé le changement. Le dépôt Flatpak a une exception pour leur propre source d'application et manifeste. Lisez le modèle réel avant de traiter l'ensemble du projet comme une seule règle. La machine peut produire un autre patch en quelques secondes. Quelqu'un doit encore le lire.

4:14 Aujourd'hui, le nuage met des limites à l' expérience, et les mainteneurs mettent des limites à la file d'attente de révision. Revenons à ce projet AWS en pause. Augmenter la limite de dépenses peut le réactiver, et certaines ressources peuvent nécessiter des redémarrages manuels. La récupération est une procédure que vous devriez comprendre avant qu'un agent ne dépense l'allocation. Le compte à rebours est de quatre-vingt-dix jours.

Quand la pause devient-elle une perte de données permanente?

4:31 AWS dit que si vous ne prenez aucune mesure pendant ce délai après la mise en pause du projet, il supprime définitivement les données du projet. Mettez une sauvegarde en dehors du rayon d'action de ce projet. Une facture arrêtée et une sauvegarde conservée sont deux tâches distinctes. Je veux le plafond, et je veux un plan de récupération. Mon prototype de week-end abandonné devrait prendre sa retraite avec dignité. Si vous préférez lire ceci plutôt que de m'entendre le dire, le "diff" arrive dans votre boîte de réception chaque matin, gratuitement à "thedailydiff.dev", lien ci-dessous.

Quel est mon verdict sur les nouveaux contrôles de dépenses?

4:55 Donc le verdict d'aujourd'hui, NEEDS REVIEW. Je salue les limites de dépenses imposées. Je vérifierais la disponibilité, les frais couverts et la récupération avant de confier un agent au compte. Une horloge de suppression de 90 jours mérite un avertissement très visible. Et c'est le "diff" pour aujourd'hui. Je suis Niko d'Axrisi. Fusionnez de manière responsable.

Sources

1. Willisonsimonwillison.net
2. AWS launchaws.amazon.com
3. AWS exact rulesdocs.aws.amazon.com
4. Googlecloud.google.com
5. Kolibrihuggingface.co
6. Tokenizer testtej.as
7. COSMICgithub.com
8. Flatpak exceptiongithub.com
9. HNnews.ycombinator.com