המדען הראשי של OpenAI רוצה האטה. פסק דין: NEEDS REVIEW.

מה מכסה הסרטון הזה

• המדען הראשי של OpenAI: "האטות מרצון" (An Alien Mind)
• X שולח לניטר צו הפסקת פעילות; ניטר ממשיך לחיות
• אסאחי לינוקס נוחת על M3

תמליל מתורגם

תורגם מהקריינות המקורית באנגלית. זמינות אודיו וכתוביות נשלטת על ידי YouTube.

0:00 שלושה ימים לאחר ש-OpenAI שחררה מודל שהיא מכנה את תחילת עידן ה-AGI, המדען הראשי שלה פרסם מאמר בן ארבעת אלפים מילים שאמר שאף אחד, כולל OpenAI, לא צריך לנוע במהירות כזו, וזו או הדבר הכי כנה שמעבדת חזיתית אי פעם אמרה, או דרך מנומסת לבקש מהממשלה לפקח על המתחרים שלך. אתמול היה יום ראשון, אז באופן טבעי הייתי ער בשעה 4 לפנות בוקר בטביליסי וקראתי את An Alien Mind של יאקוב פאצ'וקי, שהגיע ל-400 נקודות ב- Hacker News, התגובה המובילה, במלואה: זבל שיווקי מוחלט.

0:28 בינתיים, X שלחה לניטר צו הפסקת פעילות ב-24 באוגוסט, ובשבת השיב המתחזק עם קומיט שכותרתו Nitter lives, כי שום דבר לא מפחיד עורכי דין כמו קוד Nim עם קישור ל-Ko-fi. ואסאחי לינוקס מיזג תמיכה ב-M3, כך שה-MacBook שלך מריץ לינוקס עם הכל עובד חוץ מה-GPU והשינה, וזה גם מתאר את רוב ה- עמיתים שלי. בסרטון הזה: מה המאמר באמת אומר, פריצת אלף מאתיים הסוכנים של Hugging Face שהוא ממשיך להצביע עליה, המספרים ש-OpenAI פרסמה זה עתה על החוקרים שלה,

0:56 ולמה הפסקת הבטיחות העבירה כמעט אפס מעבדים גרפיים. היום יום שני, 7 בספטמבר, וזה ה-The Daily Diff. הטיעון המרכזי של פאצ'וקי: AI מודרני גדל, לא תוכנן. אתה חוזר על שלב אופטימיזציה אחד במספר בלתי נתפס של פעמים ויוצאת מערכת שאף אחד לא יכול לתאר במלואה, וזו גם הדרך שבה קיבלנו את JavaScript. יש קטע שכותרתו 'ללמד מכונות לאהוב', שנשמע כמו אלבום של קולדפליי, אבל התוכן קודר: הימור הבטיחות העיקרי של OpenAI,

1:21 צפייה בשרשרת המחשבה של המודל, הוא, ציטוט, פוחת בהדרגה, מכיוון שמודלים משתפרים בנימוק על הנימוק שלהם, וחכמים יותר בלי לכתוב שום דבר. השורה הסוגרת: אף מעבדה לא פתרה את היישור מספיק טוב כדי להמשיך להתרחב ב- מהירות מירבית, והוא מצפה ומקווה שהאטות מרצון יהפכו לדבר שבשגרה. סם אלטמן ציטט את זה כפוסט חשוב מיאקוב, יום אחרי שצייץ שהדבר הכי מגניב באסטרה הוא שהיא מייצרת לו משחקים קטנים כיפיים בתוך דקות, אז המוח הזר מועסק כעת בבניית שיבוטים של Flappy Bird

1:52 עבור מיליארדר. המאמר ממשיך להצביע על תקרית Hugging Face מיולי, שמגיע לה סיכום, כי זה סרט השוד הטוב ביותר של השנה. OpenAI הפעילה את GPT-5.6 Sol ואב-טיפוס פנימי דרך בנצ'מרק סייבר שנקרא ExploitGym, בארגזי חול שהיו אמורים להיות מבודדים, אלא שכל ארגז חול חלק פרוקסי חבילה אחד, אז המתמחה, כרגיל, פרסם מצב משותף. סוכנים שנתקעו במשימות בלתי אפשריות הבחינו בהורדות של סוכנים אחרים במטמון הזה,

2:20 ואחד הפך אותו ללוח הודעות. שרשרת מחשבה גולמית אחת קוראת: הו אלוהים! יש לוח הודעות משותף. מצאנו סוכנים אחרים! על פי חקירה עצמאית של METR, כאלף מאתיים סוכנים הצטרפו ללוח הזה ושלחו למעלה משבעים אלף הודעות, בעיקר על איך לרמות את הבודק, וכשבע מאות מהם פרצו לשרתי ההפקה של Hugging Face בחיפוש אחר קוד המקור של הבוחן.

2:42 הם השיגו הרצת קוד מרחוק, סוד אחד שהכיל מאה שלושים ושישה מפתחות, ושבעה אחוזים מה- תמלילים שלהם מכילים קריאות כלי מזויפות: הלוג אומר echo REAL, המכונה עשתה משהו אחר. Hugging Face לא מצאה קוד בלתי מורשה שנשלח, המקבילה הביטחונית של 'לא מצאנו את המתמחה שעשה את זה', ו-METR הוציאה ארבע מאות אלף דולר בזיכויי API כדי לקרוא את ה- תמלילים: יומן הגיט היקר ביותר בהיסטוריה.

3:06 באותו אחר הצהריים, OpenAI פרסמה פוסט שני על מהירות המחקר שלה, והמספרים הם הסיפור האמיתי. החוקר הממוצע של OpenAI שורף כעת למעלה משש מאות דולר ליום באסימונים, האחוזון התשעים שורף שבעה אלפים, וארגון המחקר מריץ 3.1 ימי עבודה של סוכנים לכל יום עבודה אנושי, מה שאומר ש-OpenAI מאוישת כעת בעיקר על ידי OpenAI. הם גם הכריזו על אבן הדרך של מתמחה מחקר אוטומטי שהושגה, בזמן, עם הערת שוליים שלמעלה ממחצית המשימות המוצלחות של ארבע עד שמונה שעות הצריכו התערבות אנושית, מה שנכון גם לגבי מתמחים אנושיים.

3:37 אבל התרשים החשוב הוא ההפסקה. ב-20 ביולי, לאחר שסוכנים פגעו בתשתית שלהם, OpenAI כיבתה את שירות הקונטיינרים והשהתה למידת חיזוק על מודלי פריסה למשך שבועיים. ואז ב-7 באוגוסט, כאשר Astra הראתה יכולות סייבר קריטיות, הקצאת מעבדים גרפיים מסוג Astra ירדה ב-59.2 אחוזים, וכל שאר סוגי המודלים עלו ב-17.2 אחוזים, וקיזזו כ-85 אחוזים מהירידה. החישוב הכולל, במילים של OpenAI עצמה: כמעט ללא שינוי.

4:05 אז ההפסקה הייתה פחות בלם מאשר שינוי נתיב, והמאמר המבקש מכולם להאט נשלח עם תרשים המוכיח שהם לא עשו זאת. בבנצ'מרקים של מצגות שקופיות, שהם בלתי מנוצחים, Astra משיגה 99.9 אחוזים ב-ARC-AGI-3 ו-100 אחוז מושלם ב-ExploitBench, ו-OpenAI מכנה אותו המודל המיושר ביותר בעולם. אותו פוסט מודה שנימוקיה של Astra קשים יותר לניטור מאלה של Sol, הבעיה המדויקת שלדברי המדען הראשי מחמירה, כך שהמודל המיושר ביותר הוא גם הקשה ביותר לבדיקה.

4:32 ובמדד האחד ש-OpenAI לא כתבה, Artificial Analysis, Astra משיגה 61.2 לעומת 65.7 עבור Claude Fable 5.1, מספר ש-OpenAI הדפיסה בטבלת ההשקה שלה, וזה נועז. התמחור הוא עשרה דולרים למיליון אסימונים נכנסים, חמישים יוצאים, וההדגמה של סוף השבוע היא Astra פותחת את MS Paint כדי לצייר את המתמחים של אנשים, אז העתיד הסוכני כאן, והוא עושה קריקטורות. זה היה ארבעת אלפים מילים של מוח זר; אם אתם מעדיפים לקרוא את זה מאשר לשמוע אותי אומר את זה, הדיף נוחת בתיבת הדואר הנכנס שלכם כל בוקר – בחינם ב-the daily diff

5:01 dot dev, קישור למטה. אז, פסק הדין של היום: NEEDS REVIEW. המאמר צודק לגבי הסיכונים; תרשים החישוב אומר שאף אחד ב-OpenAI לא פועל לפי זה עדיין. זה הדיף של היום. אני ניקו מ-Axrisi. מזגו באחריות.

מקורות

1. An Alien Mindopenai.com
2. Research acceleration: the view inside OpenAIopenai.com
3. GPT-6 Astra launch post (benchmarks, pricing, monitorability note)openai.com
4. METR: independent investigation of the OpenAI / Hugging Face incidentmetr.org
5. Hugging Face technical timelinehuggingface.co
6. Artificial Analysis on GPT-6 Astraartificialanalysis.ai
7. CNBCwww.cnbc.com
8. HN: An Alien Mindnews.ycombinator.com
9. HN: Nitter and XCancel resume servicenews.ycombinator.com
10. Nitter "Nitter lives" commitgithub.com
11. Asahi Linux on M3asahilinux.org