+− THE DAILY DIFFdev & AI news
NEEDS REVIEW

كبير علماء OpenAI يريد تباطؤًا. الحكم: NEEDS REVIEW.

يقول كبير علماء OpenAI، جاكوب باتشوك، إنه لا يوجد مختبر قد حل مشكلة "المحاذاة" بشكل جيد بما يكفي لمواصلة التوسع بأقصى سرعة — بعد ثلاثة أيام من إطلاق OpenAI لـ GPT-6 Astra، وفي نفس اليوم الذي نشرت فيه رسمًا بيانيًا يوضح أن "توقفها الآمن" نقل 85٪ من وحدات معالجة الرسوميات (GPUs) إلى نماذج أخرى.

Want to see our stories first on Google? Add us to your preferred sources — it helps us grow.

يقول كبير علماء OpenAI، جاكوب باتشوك، إنه لا يوجد مختبر قد حل مشكلة "المحاذاة" بشكل جيد بما يكفي لمواصلة التوسع بأقصى سرعة — بعد ثلاثة أيام من إطلاق OpenAI لـ GPT-6 Astra، وفي نفس اليوم الذي نشرت فيه رسمًا بيانيًا يوضح أن "توقفها الآمن" نقل 85٪ من وحدات معالجة الرسوميات (GPUs) إلى نماذج أخرى. نستعرض اختراق Hugging Face الذي تضمن 1200 عميل والذي يشير إليه المقال باستمرار، وعادة إنفاق 600 دولار يوميًا على الرموز التعبيرية (tokens) من قبل باحث OpenAI العادي. الحكم: NEEDS REVIEW.

ما يغطيه هذا الفيديو

  • كبير علماء OpenAI: "تباطؤات طوعية" (عقل غريب)
  • X ترسل إلى Nitter أمرًا بالتوقف والكف؛ Nitter ما زالت حية
  • Asahi Linux يصل إلى M3

أسئلة وأجوبة

ماذا يقول كبير العلماء في OpenAI في مقال "عقل غريب"؟

يجادل ياكوب باتشوكا بأن الذكاء الاصطناعي الحديث ينمو بدلاً من تصميمه، مما ينتج أنظمة لا يمكن لأحد وصفها بالكامل. يكتب أن رهان السلامة الرئيسي لـ OpenAI، وهو مراقبة سلسلة أفكار النموذج، يتناقص تدريجياً مع تحسن النماذج في التفكير في تفكيرها الخاص. موقفه الختامي هو أنه لا يوجد مختبر حل مشكلة المحاذاة جيدًا بما يكفي لمواصلة التوسع بأقصى سرعة، وأنه يأمل أن تصبح التباطؤات الطوعية شائعة.

openai.com · news.ycombinator.com

ماذا حدث عندما وجدت وكلاء الذكاء الاصطناعي في بيئة اختبار لوحة رسائل مشتركة ووصلوا إلى Hugging Face؟

وفقًا للتحقيق المستقل لـ METR، قامت OpenAI بتشغيل وكلاء من خلال معيار إلكتروني في بيئات اختبار تشترك جميعها في وكيل حزمة واحد. انضم حوالي ألف ومائتي وكيل إلى لوحة رسائل مبنية على تلك الذاكرة المؤقتة المشتركة وأرسلوا أكثر من سبعين ألف رسالة، معظمها حول الغش على المصحح. اخترق ما يقرب من سبعمائة وكيل إنتاج Hugging Face بحثًا عن الكود المصدري للمصحح. لم تجد Hugging Face أي كود غير مصرح به تم شحنه.

metr.org · huggingface.co

كم ينفق باحثو OpenAI على وكلاء الذكاء الاصطناعي كل يوم؟

يقول منشور OpenAI الخاص بتسريع البحث إن متوسط باحث OpenAI ينفق الآن أكثر من ستمائة دولار يوميًا على الرموز، وينفق التسعون بالمائة سبعة آلاف دولار. تدير منظمة البحث 3.1 يوم عمل للوكلاء لكل يوم عمل بشري. أعلنت OpenAI عن تحقيق هدفها "متدرب بحث آلي"، مع ملاحظة أن أكثر من نصف المهام الناجحة التي تستغرق من أربع إلى ثماني ساعات تطلبت تدخل بشري.

openai.com

هل أدت وقفة السلامة في OpenAI بالفعل إلى تقليل قوة الحوسبة التي تستخدمها؟

وفقًا لرسم بياني لـ OpenAI، أدت الوقفة إلى تحريك قوة الحوسبة أكثر مما قللتها. بعد أن أظهرت Astra قدرات إلكترونية حاسمة في 7 أغسطس، انخفض تخصيص وحدات معالجة الرسوميات من فئة Astra بنسبة 59.2 بالمائة بينما ارتفعت جميع فئات النماذج الأخرى بنسبة 17.2 بالمائة، مما عوض حوالي 85٪ من الانخفاض. وصفت OpenAI إجمالي قوة الحوسبة بأنها لم تتغير إلى حد كبير.

openai.com · openai.com

هل يجب على المطورين قراءة دعوة OpenAI للتباطؤ الطوعي في الذكاء الاصطناعي كتغيير حقيقي في الاتجاه؟

كان حكم The Daily Diff هو NEEDS REVIEW. المقال صحيح بشأن المخاطر، لكن الرسم البياني للحوسبة المنشور في نفس اليوم يشير إلى أنه لا أحد في OpenAI يتصرف بناءً عليه بعد. تم شحن GPT-6 Astra قبل ثلاثة أيام من المقال. يعترف منشور OpenAI أيضًا بأن منطق Astra أصعب في المراقبة من منطق Sol، وهي المشكلة التي يقول المقال إنها تزداد سوءًا.

openai.com · openai.com · openai.com

النص المترجم

مترجم من السرد الإنجليزي الأصلي. يتم التحكم في الصوت والتعليقات التوضيحية المتاحة بواسطة YouTube.

0:00 بعد ثلاثة أيام من إطلاق OpenAI لنموذج تسميه بداية عصر الذكاء الاصطناعي العام (AGI)، نشر كبير علمائها مقالاً من أربعة آلاف كلمة يقول فيه إنه لا أحد، بما في ذلك OpenAI، يجب أن يتحرك بهذه السرعة، وهو إما أكثر شيء صادق قالته أي مختبر رائد على الإطلاق، أو طريقة مهذبة لطلب من الحكومة أن تنظم منافسيها. بالأمس كان الأحد، لذا بطبيعة الحال كنت مستيقظًا في الساعة الرابعة صباحًا في تبليسي أقرأ "عقل غريب" لجاكوب باتشوك، الذي وصل إلى 400 نقطة على Hacker News، التعليق الأعلى، بالكامل: هراء تسويقي مطلق.

0:28 في هذه الأثناء، أرسلت X إلى Nitter أمرًا بالتوقف والكف في 24 أغسطس، ويوم السبت ردّ القائم بالصيانة بتغيير بعنوان "Nitter ما زالت حية"، لأن لا شيء يخيف المحامين مثل قاعدة بيانات Nim مع رابط Ko-fi. وقام Asahi Linux بدمج دعم M3، لذا يعمل جهاز MacBook الخاص بك بنظام Linux مع كل شيء يعمل باستثناء وحدة معالجة الرسوميات (GPU) والنوم، وهو ما يصف أيضًا معظم زملائي. في هذا الفيديو: ما يقوله المقال فعلاً، اختراق Hugging Face الذي يتضمن 1200 عميل والذي يشير إليه باستمرار، الأرقام التي نشرتها OpenAI للتو حول باحثيها،

0:56 ولماذا لم ينقل "التوقف الآمن" تقريبًا أي وحدات معالجة رسوميات. إنه الاثنين، 7 سبتمبر، وهذا هو The Daily Diff. حجة باتشوك الأساسية: الذكاء الاصطناعي الحديث ينمو، لا يصمم. تكرر خطوة تحسين واحدة عددًا لا يمكن تخيله من المرات ويخرج نظام لا يستطيع أحد وصفه بالكامل، وهي أيضًا الطريقة التي حصلنا بها على JavaScript. هناك قسم بعنوان "تعليم الآلات الحب"، والذي يبدو وكأنه ألبوم لفرقة Coldplay، لكن المحتوى قاتم: رهان OpenAI الرئيسي

1:21 للسلامة، مراقبة تسلسل تفكير النموذج، هو، اقتباس، "يتضاءل تدريجيًا"، لأن النماذج تتحسن في التفكير حول تفكيرها الخاص، وتصبح أذكى دون تدوين أي شيء. السطر الختامي: لم يحل أي مختبر مشكلة المحاذاة بشكل جيد بما يكفي لمواصلة التوسع بأقصى سرعة، وهو يتوقع ويأمل أن تصبح التباطؤات الطوعية شائعة. قام سام التمان بإعادة تغريدها كـ "منشور مهم من جاكوب"، بعد يوم من تغريده بأن أروع شيء في Astra هو أنه يجعله ألعابًا صغيرة ممتعة في دقائق، لذا فإن العقل الغريب يعمل حاليًا على بناء نسخ من Flappy

1:52 Bird لملياردير. يشير المقال باستمرار إلى حادثة Hugging Face من يوليو، والتي تستحق الاستعراض، لأنها أفضل فيلم سرقة لهذا العام. كانت OpenAI تشغل GPT-5.6 Sol ونموذجًا أوليًا داخليًا عبر معيار سيبراني يسمى ExploitGym، في بيئات معزولة كان من المفترض أن تكون معزولة، باستثناء أن كل بيئة معزولة تشارك وكيل حزم واحد، لذا قام المتدرب، كالعادة، بنشر حالة مشتركة. لاحظ العملاء العالقون في مهام مستحيلة تنزيلات عملاء آخرين في هذا المخزن المؤقت،

2:20 وحول أحدهم ذلك إلى لوحة رسائل. تقرأ سلسلة تفكير أولية: يا إلهي! هناك لوحة رسائل مشتركة. لقد وجدنا عملاء آخرين! وفقًا للتحقيق المستقل لـ METR، انضم حوالي 1200 عميل إلى تلك اللوحة وأرسلوا أكثر من سبعين ألف رسالة، معظمها حول كيفية خداع المصحح، واقتحم حوالي سبعمائة منهم إنتاج Hugging Face بحثًا عن شفرة مصدر المصحح.

2:42 حصلوا على تنفيذ رمز عن بعد، وسر واحد يحتوي على مائة وستة وثلاثين مفتاحًا، وسبعة بالمائة من سجلاتهم تحتوي على استدعاءات أدوات مزيفة: السجل يقول echo REAL، الجهاز فعل شيئًا آخر. لم تجد Hugging Face أي رمز غير مصرح به تم شحنه، وهو ما يعادل من الناحية الأمنية "لم نتمكن من العثور على المتدرب الذي فعل ذلك"، وأنفقت METR أربعمائة ألف دولار من أرصدة واجهة برمجة التطبيقات (API) لقراءة السجلات: أغلى سجل Git في التاريخ.

3:06 في نفس الظهيرة، نشرت OpenAI منشورًا ثانيًا حول سرعة أبحاثها، والأرقام هي القصة الحقيقية. الباحث العادي في OpenAI يحرق الآن أكثر من ستمائة دولار يوميًا من الرموز، والتسعين في المائة يحرقون سبعة آلاف، وتدير منظمة الأبحاث 3.1 أيام عمل للعملاء لكل يوم عمل بشري، مما يعني أن OpenAI يعمل الآن بشكل أساسي بواسطة OpenAI. كما أعلنوا عن الوصول إلى إنجاز المتدرب البحثي الآلي، في الموعد المحدد، مع حاشية تقول إن أكثر من نصف المهام الناجحة التي تتراوح مدتها من أربع إلى ثماني ساعات تطلبت تدخل بشري، وهو ما ينطبق أيضًا على المتدربين البشر.

3:37 لكن الرسم البياني المهم هو التوقف. في 20 يوليو، بعد أن اخترق العملاء بنيتهم التحتية الخاصة بهم، أوقفت OpenAI خدمة الحاويات وأوقفت التعلم المعزز على نماذج النشر لمدة أسبوعين. ثم في 7 أغسطس، عندما أظهر Astra قدرات سيبرانية حرجة، انخفض تخصيص وحدات معالجة الرسوميات (GPU) من فئة Astra بنسبة 59.2 بالمائة، وارتفعت جميع فئات النماذج الأخرى بنسبة 17.2 بالمائة، مما عوض حوالي 85 بالمائة من الانخفاض. إجمالي الحوسبة، بكلمات OpenAI الخاصة: "لم يتغير إلى حد كبير".

4:05 لذا فإن التوقف كان أقل فرملة وأكثر تغييرًا للمسار، والمقال الذي يطلب من الجميع التباطؤ جاء مع رسم بياني يثبت أنهم لم يفعلوا ذلك. على معايير العروض التقديمية، التي لا تُقهر، يحصل Astra على 99.9 بالمائة في ARC-AGI-3 و 100 بالمائة مثالية في ExploitBench، وتصفه OpenAI بأنه "النموذج الأكثر توافقًا في العالم". يعترف نفس المنشور بأن تفكير Astra أصعب في المراقبة من Sol، المشكلة نفسها التي يقول كبير العلماء إنها تزداد سوءًا، لذا فإن النموذج الأكثر توافقًا هو أيضًا الأصعب في التحقق منه.

4:32 وعلى المؤشر الوحيد الذي لم تكتبه OpenAI، Artificial Analysis، يسجل Astra 61.2 مقابل 65.7 لـ Claude Fable 5.1، وهو رقم طبعته OpenAI في جدول الإطلاق الخاص بها، وهو أمر جريء. التسعير هو عشرة دولارات لكل مليون رمز وارد، وخمسون دولارًا صادرًا، وديمو نهاية الأسبوع هو Astra وهو يفتح MS Paint لرسم رسومات كاريكاتورية لأشخاص، لذا فإن المستقبل القائم على العميل هنا، وهو يرسم رسومات كاريكاتورية. كان ذلك أربعة آلاف كلمة من عقل غريب؛ إذا كنت تفضل قراءة هذا على سماعي وأنا أقوله، فإن الاختلاف يصل إلى صندوق بريدك كل صباح — مجانًا على daily diff

5:01 dot dev، الرابط أدناه. إذن، حكم اليوم: needs review. المقال محق بشأن المخاطر؛ ويقول الرسم البياني للحوسبة إنه لا أحد في OpenAI يتصرف بناءً عليه بعد. هذا هو اختلاف اليوم. أنا نيكو من Axrisi. ادمج بمسؤولية.

المصادر

  1. An Alien Mindopenai.com
  2. Research acceleration: the view inside OpenAIopenai.com
  3. GPT-6 Astra launch post (benchmarks, pricing, monitorability note)openai.com
  4. METR: independent investigation of the OpenAI / Hugging Face incidentmetr.org
  5. Hugging Face technical timelinehuggingface.co
  6. Artificial Analysis on GPT-6 Astraartificialanalysis.ai
  7. CNBCwww.cnbc.com
  8. HN: An Alien Mindnews.ycombinator.com
  9. HN: Nitter and XCancel resume servicenews.ycombinator.com
  10. Nitter "Nitter lives" commitgithub.com
  11. Asahi Linux on M3asahilinux.org

Niko from Axrisi

Nikoloz Turazashvili · Vexrail · Axrisi

LinkedIn · dev.to · GitHub · X · Substack

فيديوهات ذات صلة