תקרות הוצאה ב-AWS יכולות למחוק את הפרויקט שלך

מה מכסה הסרטון הזה

• מה יכולה באמת להגן תקרת הוצאות בענן?
• כיצד AWS באמת עוצרת את ההוצאות של פרויקט?
• מי מקבל את מגבלות ההוצאה החדשות של AWS?
• מה גוגל מגבילה, ומה ממשיך לחייב?
• כמה קטן המודל החדש הפתוח של גרמניה?

תמליל מתורגם

תורגם מהקריינות המקורית באנגלית. זמינות אודיו וכתוביות נשלטת על ידי YouTube.

מה יכולה באמת להגן תקרת הוצאות בענן?

0:00 תקרת הוצאה פירושה שהפרויקט הצדדי שלך בטוח. המגבלה החדשה של AWS יכולה להשהות אותו, והשארתו מושהה יכולה למחוק בסופו של דבר את ה- נתונים. בסרטון זה, מה עוצר את החשבון? מה הקאץ'? מי באמת מקבל את המגבלות האלה? יש ספירה לאחור בתיעוד של AWS. נעקוב אחריה עד כפתור המחיקה. זה יום ראשון, הרביעי באוקטובר, וזהו The Daily Diff.

0:20 ביום שבת, סיימון וויליסון קרא לתקרות הוצאה ברירת מחדל כאשר סוכנים מקלים על פריסת תוכנה. גרמניה שחררה את קוליברי, בעוד מתחזקי קוסמיק הציבו קו סביב תרומות בינה מלאכותית. הטיעון של וויליסון מוכר באופן כואב. אימייל אזהרה מגיע בחצות, השירות ממשיך להוציא, ואתה מתעורר כספונסר לא רצוני של הלולאה האינסופית שלך. AWS הציגה מגבלות הוצאה לפרויקטים בחווית הבנייה הפשוטה שלה ב-

כיצד AWS באמת עוצרת את ההוצאות של פרויקט?

0:44 ספטמבר. כאשר השימוש מגיע למגבלה, AWS משהה את הפרויקט ועוצרת את ה- משאביו. הנתונים שלך נשמרים בתחילה. זהו שינוי אמיתי בחוזה המוצר. הלקוח יכול לאשר לענן להפריע לניסוי. התראת הוצאה משאירה את ההחלטה בידי מי שקורא את תיבת הדואר הנכנס שלו. סוכן קידוד יכול לספק משאבים בזמן שאתה מכין ארוחת ערב. החשבון שייך לבעל החשבון, שאיכשהו הפך גם ל- מחלקת הנדסה וגם למחלקת כספים.

1:09 ההשקה מוגבלת, ואתה צריך תוכנית בתשלום כדי להגדיר מגבלה.

מי מקבל את מגבלות ההוצאה החדשות של AWS?

1:13 זה שייך לחוויית הפרויקט החדשה. בדוק זמינות לפני שתניח שלחשבונך הקיים יש אותם בקרות. התקרה חלה על חיובים לפני מס ואינה כוללת זיכויים. המינימום הוא עשרים דולר או הערכת ההוצאה השמרנית של AWS, הגבוה מביניהם. משאבים שכבר פועלים יכולים לדחוף את המינימום הזה למעלה. זה חשוב עבור ארגז חול מוזנח מלא במכונות יקרות. ייתכן שתצטרך לעצור אותם לפני הגדרת מגבלה קטנה יותר.

1:36 הייעוץ הפיננסי של הענן מתחיל בכיבוי המחשב. AWS מציעה גם בקרות מוקדמות אופציונליות. כשבוע לפני המגבלה החזויה, היא יכולה לחסום משאבים חדשים. המופעים הקיימים שלך נשארים פועלים, בעוד שקבוצת Auto Scaling עשויה לאבד הרשאה להתרחב. אפשרויות אחרות משהות משאבים לא פעילים, ואז את הגורמים העיקריים לעלויות ככל שהתחזית מתקרבת. נקודת קצה של SageMaker ללא קריאות במשך שבועיים נחשבת לא פעילה. ההדגמה הנשכחת שלך סוף סוף מקבלת ראיון יציאה.

2:03 וויליסון רוצה שתקרות קשיחות יופעלו כברירת מחדל, עם הוצאה בלתי מוגבלת כבחירה מפורשת. זו הצעתו. התיעוד של AWS מתאר בקרות שאתה מגדיר, עם גישה מוגבלת במהלך השקה זו. גוגל הודיעה על מגבלות ההוצאה שלה ביולי.

מה גוגל מגבילה, ומה ממשיך לחייב?

2:17 בתצוגה מקדימה ציבורית, הן מכוונות לשירות אחד בתוך פרויקט אחד, וגוגל אומרת שמגבלות AI מופעלות תוך דקות מהגעה לסף. השירותים הרשומים כוללים את Gemini ו-Cloud Run. שירותים אחרים נשארים ללא שינוי. התחייבויות חוזיות קבועות ממשיכות לחייב, כך שהשהיית שימוש חדש עדיין משאירה כל התחייבויות שכבר חתמת עליהן יושבות בחשבונית. עבור עסק, כיבוי בלתי צפוי יכול להיות יקר גם כן. AWS מפרשת במפורש מגבלות אלו סביב ניסויים וארגזי חול,

2:43 כאשר שימוש בפרודקשן תלוי בשאלה האם הפסקת משאבים מקובלת. התובנה שלי כמפתח פשוטה. שים סוכנים ניסיוניים בפרויקט נפרד, בדוק אילו חיובים המגבלה מכסה, ובדוק את תהליך השחזור שלך. מסגרת ההגנה זקוקה לבעלים שישים לב מתי היא מופעלת.

כמה קטן המודל החדש הפתוח של גרמניה?

2:57 בינתיים, Aleph Alpha שחררה את Kolibri, מודל קוד פתוח לגרמנית ו- אנגלית. אנימציית ההשקה שלו אומרת ציפור קטנה, כנפיים מהירות. המשקלים זמינים תחת רישיון Apache 2.0. צ'אבי קרא לזה שחרור חזק באופן מפתיע מגרמניה. החלק השימושי הוא בקרת פריסה. חברה יכולה להחזיק את המשקלים ולהעביר את המסמכים שלה דרך תשתית שבבעלותה. כ-3.5 מיליארד פרמטרים פועלים על כל טוקן, אבל המודל המלא כולל 78 מיליארד.

3:22 המשקלים שפורסמו תופסים כ-78 גיגה-בייט, אז ציפור קטנה עדיין צריכה כלוב גדול. טייג'ס קומאר בדק באופן עצמאי את הטוקנייזר שלו על חוקת גרמניה. הוא השתמש בכ-15 אחוז פחות טוקנים מאשר הטוקנייזר של OpenAI בגרמנית. בתרגום לאנגלית, הם היו קשורים למעשה. זוהי מדידה צרה ושימושית של יעילות טקסט גרמני. הוא אומר שהוא לא הרץ את המודל עצמו. שמור על ההבחנה הזו כאשר תרשים השקה ידידותי מנסה להפוך למחלקת

3:46 הרכש שלך. ו-Cosmic Compositor של System76 מבקש כעת

מה בדיוק COSMIC דוחה בבקשות משיכה?

3:50 מתורמים לאשר כי בקשת המשיכה שלהם אינה מכילה תוכן שנוצר על ידי מודל שפה. התבנית כוללת במפורש קוד, הערות ותיאורים. תורמים גם מבטיחים שהם מבינים ובדקו את השינוי. למאגר Flatpak יש חריג עבור קוד המקור והמניפסט של האפליקציה שלהם. קרא את התבנית בפועל לפני שתתייחס לכל הפרויקט ככלל אחד. המכונה יכולה לייצר תיקון נוסף תוך שניות. מישהו עדיין צריך לקרוא אותו.

4:14 היום הענן שם גבולות על ה- ניסוי, ומתחזקים שמים גבולות על תור ה- בדיקה. בחזרה לפרויקט ה-AWS המושהה הזה. הגדלת מגבלת ההוצאה יכולה להפעיל אותו מחדש, וייתכן שחלק מהמשאבים יצטרכו הפעלה ידנית מחדש. שחזור הוא הליך שעליך להבין לפני שסוכן מוציא את הקצבה. הספירה לאחור היא 90 יום.

מתי ההשהיה הופכת לאובדן נתונים קבוע?

4:31 AWS אומרת שאם לא תנקוט בפעולה כלשהי בתוך פרק זמן זה לאחר שהפרויקט מושהה, היא מוחקת לצמיתות את נתוני הפרויקט. שים גיבוי מחוץ לרדיוס הפיצוץ של הפרויקט הזה. חשבון שהופסק וגיבוי שנשמר הם שתי עבודות נפרדות. אני רוצה את המגבלה, ואני רוצה תוכנית שחזור. אב טיפוס הסופשבוע הנטוש שלי צריך לפרוש בכבוד. אם אתה מעדיף לקרוא את זה מאשר לשמוע אותי אומר את זה, הדיף נוחת בתיבת הדואר הנכנס שלך כל בוקר, בחינם ב-thedailydiff.dev, קישור למטה.

מה פסק הדין שלי לגבי בקרות ההוצאה החדשות?

4:55 אז פסק הדין של היום, NEEDS REVIEW. אני מברך על מגבלות הוצאה נאכפות. הייתי מאמת זמינות, חיובים מכוסים ושחזור לפני שמסרתי סוכן את החשבון. שעון מחיקה של 90 יום ראוי לאזהרה מאוד ברורה. וזה הדיף להיום. אני ניקו מ-Axrisi. מזג באחריות.

מקורות

1. Willisonsimonwillison.net
2. AWS launchaws.amazon.com
3. AWS exact rulesdocs.aws.amazon.com
4. Googlecloud.google.com
5. Kolibrihuggingface.co
6. Tokenizer testtej.as
7. COSMICgithub.com
8. Flatpak exceptiongithub.com
9. HNnews.ycombinator.com