Les plafonds de dépenses AWS peuvent supprimer votre projet

Ce que couvre cette vidéo

• Que peut réellement protéger un plafond de dépenses cloud ?
• Comment AWS arrête-t-il réellement les dépenses d'un projet ?
• Qui bénéficie des nouvelles limites de dépenses d'AWS ?
• Que plafonne Google et qu'est-ce qui continue à facturer ?
• Quelle est la taille du nouveau modèle open-weight de l'Allemagne ?

Transcription traduite

Traduit de la narration originale en anglais. L'audio et les sous-titres disponibles sont gérés par YouTube.

Que peut réellement protéger un plafond de dépenses cloud ?

0:00 Un plafond de dépenses signifie que votre projet secondaire est sécurisé. La nouvelle limite d'AWS peut le mettre en pause, et le laisser en pause peut éventuellement effacer les données. Dans cette vidéo, qu'est-ce qui arrête la facture ? Où est le piège ? Qui bénéficie réellement de ces limites ? Il y a un compte à rebours dans la documentation d'AWS. Nous le suivrons jusqu'au bouton de suppression. Nous sommes le dimanche 4 octobre, et voici The Daily Diff.

0:20 Le samedi, Simon Willison a appelé à des plafonds de dépenses par défaut alors que les agents facilitent le déploiement de logiciels. L'Allemagne a publié Kolibri, tandis que les mainteneurs de Cosmic ont tracé une ligne autour des contributions d'IA. L'argument de Willison est douloureusement familier. Un e-mail d'avertissement arrive à minuit, le service continue de dépenser, et vous vous réveillez en tant que sponsor involontaire de votre propre boucle infinie. AWS a introduit des limites de dépenses de projet dans son expérience de constructeur simplifiée en

Comment AWS arrête-t-il réellement les dépenses d'un projet ?

0:44 septembre. Lorsque l'utilisation atteint la limite, AWS met le projet en pause et arrête ses ressources. Vos données sont initialement préservées. C'est un réel changement dans le contrat du produit. Le client peut autoriser le cloud à interrompre l'expérience. Une alerte de dépenses laisse la décision à quiconque lit sa boîte de réception. Un agent de codage peut provisionner des ressources pendant que vous préparez le dîner. La facture appartient au propriétaire du compte, qui est en quelque sorte devenu à la fois le service d'ingénierie et le service financier.

1:09 Le déploiement est limité, et vous avez besoin d'un plan payant pour fixer une limite.

Qui bénéficie des nouvelles limites de dépenses d'AWS ?

1:13 Ceci fait partie de la nouvelle expérience de projet. Vérifiez la disponibilité avant de supposer que votre compte existant a les mêmes contrôles. Le plafond s'applique aux frais avant impôts et exclut les crédits. Le minimum est de vingt dollars ou de l'estimation conservatrice de dépenses d'AWS, le plus élevé des deux. Les ressources déjà en cours d'exécution peuvent augmenter ce minimum. Cela est important pour un bac à sable négligé rempli de machines coûteuses. Vous devrez peut-être les arrêter avant de fixer une limite plus petite.

1:36 Les conseils financiers du cloud commencent par éteindre l'ordinateur. AWS propose également des contrôles anticipés facultatifs. Environ une semaine avant la limite prédite, il peut bloquer les nouvelles ressources. Vos instances existantes continuent de fonctionner, tandis qu'un groupe de mise à l'échelle automatique peut perdre la permission de s'étendre. D'autres options mettent en pause les ressources inactives, puis les principaux facteurs de coût à mesure que les prévisions se rapprochent. Un point d'accès SageMaker sans aucun appel pendant deux semaines est considéré comme inactif. Votre démo oubliée reçoit enfin un entretien de départ.

2:03 Willison veut des plafonds fixes activés par défaut, avec des dépenses illimitées comme un choix explicite. C'est sa proposition. La documentation d'AWS décrit les contrôles que vous configurez, avec un accès limité pendant ce déploiement. Google a annoncé ses propres plafonds de dépenses en juillet.

Que plafonne Google et qu'est-ce qui continue à facturer ?

2:17 En prévisualisation publique, ils ciblent un service au sein d'un projet, et Google affirme que les plafonds d'IA se déclenchent quelques minutes après avoir atteint le seuil. Les services listés incluent Gemini et Cloud Run. Les autres services restent inchangés. Les engagements contractuels fixes continuent de facturer, donc la mise en pause de la nouvelle utilisation laisse toujours tous les engagements que vous avez déjà signés sur la facture. Pour une entreprise, un arrêt inattendu peut également être coûteux. AWS encadre explicitement ces limites autour des expériences et des bacs à sable,

2:43 l'utilisation en production dépendant de l'acceptabilité d'une pause de ressource. Ma conclusion pour les développeurs est simple. Placez les agents expérimentaux dans un projet distinct, vérifiez quels frais la limite couvre, et testez votre processus de récupération. La barrière de sécurité a besoin d'un propriétaire qui remarque quand elle se déclenche.

Quelle est la taille du nouveau modèle open-weight de l'Allemagne ?

2:57 Pendant ce temps, Aleph Alpha a publié Kolibri, un modèle à poids ouverts pour l'allemand et l'anglais. Son animation de lancement dit : "petit oiseau, ailes rapides". Les poids sont disponibles sous Apache deux point zéro. Chubby l'a qualifié de "sortie étonnamment forte" de l'Allemagne. La partie utile est le contrôle du déploiement. Une entreprise peut conserver les poids et faire passer ses documents par l'infrastructure qu'elle possède. Environ trois milliards et demi de paramètres travaillent sur chaque jeton, mais le modèle complet en compte soixante-dix-huit milliards.

3:22 Ses poids publiés occupent environ soixante-dix-huit gigaoctets, donc le petit oiseau a toujours besoin d'une grande cage. Tejas Kumar a testé indépendamment son tokeniseur sur la constitution allemande. Il a utilisé environ quinze pour cent de jetons en moins que le tokeniseur d'OpenAI en allemand. Sur la traduction anglaise, ils étaient pratiquement à égalité. C'est une mesure étroite et utile de l'efficacité du texte allemand. Il dit qu'il n'a pas exécuté le modèle lui-même. Gardez cette distinction lorsqu'un tableau de lancement amical essaie de devenir votre

3:46 service d'approvisionnement. Et le compositeur Cosmic de System76 demande désormais aux

Que rejette exactement COSMIC dans les demandes de tirage ?

3:50 contributeurs de certifier que leur demande de tirage ne contient aucun contenu généré par un modèle de langage. Le modèle inclut explicitement le code, les commentaires et les descriptions. Les contributeurs promettent également qu'ils comprennent et ont testé la modification. Le dépôt Flatpak a une exception pour leur propre source d'application et leur manifeste. Lisez le modèle réel avant de traiter l'ensemble du projet comme une seule règle. La machine peut produire un autre correctif en quelques secondes. Quelqu'un doit encore le lire.

4:14 Aujourd'hui, le cloud met des limites à l' expérience, et les mainteneurs mettent des limites à la file d'attente de révision. Retour à ce projet AWS mis en pause. L'augmentation de la limite de dépenses peut le réactiver, et certaines ressources peuvent nécessiter des redémarrages manuels. La récupération est une procédure que vous devriez comprendre avant qu'un agent ne dépense l'allocation. Le compte à rebours est de quatre-vingt-dix jours.

Quand la pause devient-elle une perte de données permanente ?

4:31 AWS dit que si vous ne prenez aucune action dans ce délai après la mise en pause du projet, il supprime définitivement les données du projet. Placez une sauvegarde en dehors du rayon d'impact de ce projet. Une facture arrêtée et une sauvegarde conservée sont deux tâches distinctes. Je veux le plafond, et je veux un plan de récupération. Mon prototype de week-end abandonné devrait prendre sa retraite avec dignité. Si vous préférez lire ceci plutôt que de m'entendre le dire, le "diff" arrive dans votre boîte de réception tous les matins, gratuitement sur the daily diff dot dev, lien ci-dessous.

Quel est mon verdict sur les nouveaux contrôles de dépenses ?

4:55 Alors, le verdict d'aujourd'hui, NEEDS REVIEW. Je salue les limites de dépenses imposées. Je vérifierais la disponibilité, les frais couverts et la récupération avant de confier un agent le compte. Une horloge de suppression de quatre-vingt-dix jours mérite un avertissement très visible. Et c'est le "diff" pour aujourd'hui. Je suis Niko d'Axrisi. Fusionnez de manière responsable.

Sources

1. Willisonsimonwillison.net
2. AWS launchaws.amazon.com
3. AWS exact rulesdocs.aws.amazon.com
4. Googlecloud.google.com
5. Kolibrihuggingface.co
6. Tokenizer testtej.as
7. COSMICgithub.com
8. Flatpak exceptiongithub.com
9. HNnews.ycombinator.com