# GPT-6 Astra แก้ไขการคิดไม่รู้จบของ AI ตัวอื่น

Published: 2026-11-04

งานวิจัยในเครือ MIT ใช้ GPT-6 Astra เพื่อแก้ไขน้ำหนักของโมเดล Qwen ขนาดเล็กและช่วยให้คำตอบสำเร็จมากขึ้น การเพิ่มคะแนนคณิตศาสตร์ที่รายงานขึ้นอยู่กับการแก้ไขลูปที่กำหนดเป้าหมาย การวิเคราะห์ Python และข้อเสนอแนะจากการฝึกฝน การติดตามผลของ Gemma ที่เล็กกว่าแยกต่างหากไม่พบการเพิ่มขึ้นที่ชัดเจน

Canonical: https://thedailydiff.dev/th/video/2026-11-03-astra-qwen-weights/

## วิดีโอนี้ครอบคลุมอะไรบ้าง

- การเพิ่มขึ้นของคะแนน Qwen ที่รายงานมาจากการแก้ไขเป้าหมายสำหรับการให้เหตุผลซ้ำๆ โดยประมาณหนึ่งในสามของคำตอบที่แก้ไขยังคงถึงขีดจำกัดความยาวในโปรโตคอลหลัก
- การฝึกอบรมแบบ Gradient ถูกห้าม ในขณะที่ Python คำตอบจากการฝึกฝน และข้อเสนอแนะจากการรันโมเดลแบบแบตช์ได้รับอนุญาตตลอดหลายรอบ คำถามประเมินผลสุดท้ายถูกประกาศว่าถูกกันไว้
- การทดลองเกมแบบน้ำหนักดิบขนาดเล็กและไม่มีการเปิดตัวใช้เงื่อนไขที่แตกต่างกัน ข้อเรียกร้องของพวกเขาควรรักษาขอบเขตเครื่องมือ อินพุต และพื้นฐานส่วนบุคคลไว้
- Matthew Honnibal ยกย่องวิศวกรรมที่ใช้เครื่องมือช่วย และโต้แย้งความประทับใจที่กว้างขึ้นที่เกิดจากการรวมการทดลองเข้าด้วยกัน
- การติดตามผลของ Gemma ที่เล็กกว่าใช้การตั้งค่าของตัวเองและไม่สามารถยืนยันการปรับปรุงได้ ทดสอบว่าการแก้ไขน้ำหนักใดที่ซ่อมแซมความล้มเหลวก่อนที่จะนำไปใช้กับโมเดลอื่น

## คำถามและคำตอบ

### Astra เปลี่ยนอะไรเพื่อปรับปรุงคะแนนคณิตศาสตร์ที่รายงานของ Qwen?

Astra ได้ทำการแก้ไขน้ำหนักที่กำหนดเป้าหมายซึ่งช่วยให้ Qwen ตอบคำถามได้มากขึ้น ตามการศึกษาของ Rikiya Takehi และผู้ร่วมเขียน โดยได้ลบส่วนที่เกี่ยวข้องกับการทำซ้ำออกจากคอลัมน์ที่เลือกในชั้นภายใน การเพิ่มขึ้นของคะแนนคณิตศาสตร์ที่รายงานใช้โปรโตคอลการประเมินผลที่กำหนดไว้ คำตอบที่แก้ไขจำนวนมากยังคงถึงขีดจำกัดความยาว ดังนั้นผลลัพธ์จึงยังคงมีอัตราความล้มเหลวที่เหลืออยู่มากพอสมควร

### เครื่องมือและข้อเสนอแนะใดบ้างที่ได้รับอนุญาตในระหว่างการแก้ไขน้ำหนักของ Qwen?

การวิเคราะห์ Python ปัญหาการฝึกฝนพร้อมคำตอบ และข้อเสนอแนะจากการรันโมเดลแบบแบตช์ได้รับอนุญาตตลอดหลายรอบ พรอมต์เริ่มต้นจริงของนักวิจัยห้ามการฝึกอบรมแบบ gradient และระบุคำแนะนำในการวินิจฉัยและการทดสอบเชิงสาเหตุ รวมถึงการซ่อมแซมการคิดซ้ำๆ ว่าเป็นเป้าหมายที่เข้าเกณฑ์ การสนับสนุนนี้ช่วยให้ Astra เลือกการแก้ไขโดยตรงกับน้ำหนักที่มีอยู่ หน่วยงบประมาณสามารถมีคำตอบที่สร้างขึ้นได้หลายร้อยคำตอบ

### ปัญหาการประเมินผลสุดท้ายมีให้สำหรับโมเดลการแก้ไขหรือไม่?

นักวิจัยกล่าวว่าชุดการประเมินผลสุดท้ายยังคงไม่ถูกมองเห็นโดย Astra ข้อเสนอแนะจากการฝึกฝนมาจากปัญหาการแยกชุดฝึกอบรมและช่วยในการเลือกการแก้ไข ปัญหาที่ถูกกันไว้แยกต่างหากใช้วัดผลโมเดลที่ส่งมาหลังจากนั้น พรอมต์เริ่มต้นเปิดเผยชื่อเกณฑ์มาตรฐานและโปรโตคอลการประเมินผล ความแตกต่างนั้นอธิบายสิ่งที่ถูกระงับโดยไม่ได้อ้างว่าโปรแกรมแก้ไขขาดข้อมูลทั้งหมดเกี่ยวกับงาน

### เกิดอะไรขึ้นในการติดตามผลการแก้ไขน้ำหนักของ Gemma ที่เล็กกว่า?

การติดตามผลของ Gemma ที่เล็กกว่าไม่สามารถยืนยันการเพิ่มขึ้นได้ ตามรายงานของ Rikiya Takehi และผู้ร่วมเขียน โมเดลไม่ค่อยวนซ้ำ และความล้มเหลวของมันรวมถึงเลขคณิตที่ผิดพลาดและพีชคณิตที่ไม่ถูกต้อง การแก้ไขที่กำหนดเป้าหมายพร้อมข้อเสนอแนะจากการฝึกฝนขยับคะแนนคณิตศาสตร์ที่รายงานได้มากที่สุดประมาณหนึ่งคะแนน มันใช้การตั้งค่าที่แยกต่างหาก ดังนั้นการเปรียบเทียบจึงให้ตัวอย่างค้านที่มีขอบเขตแทนที่จะเป็นการลบที่ควบคุมเท่ากัน

### คำตัดสินของ The Daily Diff เกี่ยวกับข้อเรียกร้องการแก้ไขน้ำหนักคืออะไร?

คำตัดสินของ The Daily Diff คือ NEEDS REVIEW Niko จะพิจารณาการซ่อมแซมลูปที่กำหนดเป้าหมายอย่างจริงจังและทดสอบมัน ในขณะที่ยังคงเก็บข้อเรียกร้องที่กว้างขึ้นไว้บนความสำเร็จที่เกินกว่าโหมดความล้มเหลวนั้น ตัวอย่างค้านของโมเดลขนาดเล็กของนักวิจัยเองเป็นข้อมูลในการตัดสินนั้น นักพัฒนาควรกำหนดความล้มเหลวที่การแก้ไขซ่อมแซมและประเมินน้ำหนักที่บันทึกไว้ในงานของพวกเขาเองก่อนที่จะฉลองตัวคูณที่รายงาน

## บท

- 0:00 ทำไมคะแนนคณิตศาสตร์ถึงเพิ่มขึ้น?
- 0:58 Qwen ทำอะไรผิด?
- 1:25 นักวิจารณ์ในวันนี้โต้แย้งอะไร?
- 1:41 Astra ได้รับความช่วยเหลืออะไรบ้าง?
- 2:27 การซ่อมแซมจริงเล็กน้อยเพียงใด?
- 3:08 การทดลองใดที่ไม่มีเครื่องมือจริง?
- 3:40 ข้อเรียกร้องที่ทั่วไปมากขึ้นต้องใช้อะไร?
- 4:06 เกิดอะไรขึ้นกับโมเดลที่วนซ้ำไม่บ่อย?
- 4:47 ฉันจะ SHIP IT ข้อเรียกร้องการแก้ไขน้ำหนักหรือไม่?

## บทถอดเสียงที่แปลแล้ว

แปลจากการบรรยายภาษาอังกฤษต้นฉบับ เสียงและคำบรรยายที่มีให้จะควบคุมโดย YouTube

### ทำไมคะแนนคณิตศาสตร์ถึงเพิ่มขึ้น?

0:00 AI ที่ทำให้ AI ตัวอื่นฉลาดขึ้นหกเท่าฟังดูเหมือน อัจฉริยะในทันที การเพิ่มคะแนนครั้งใหญ่ของ Astra มาจากการช่วย Qwen ตอบคำถามที่มัน พูดซ้ำ ในวิดีโอนี้ มีอะไรเปลี่ยนแปลงไปบ้าง? Astra ได้รับความช่วยเหลืออะไรบ้าง? และการแก้ไขนั้นเดินทางไปได้ไกลแค่ไหน? Qwen เพิ่มขึ้นจากประมาณแปดเปอร์เซ็นต์เป็นสี่สิบแปดเปอร์เซ็นต์ นักวิจัยลองใช้โมเดลที่สองที่ไม่มีลูปเลยเกือบจะไม่มีเลย เราจะมาดูกันว่าผลเป็นอย่างไรก่อนการตัดสิน

0:22 วันนี้วันอังคารที่ 3 พฤศจิกายน และนี่คือ The Daily Diff การเขียนโปรแกรมในพื้นที่น้ำหนักเป็นชื่อที่นักวิจัยใช้ สำหรับการขอให้ AI ตรวจสอบหรือ เขียนตัวเลขภายในเครือข่ายประสาทเทียม ตัวเลขเหล่านั้นคือน้ำหนักของมัน ทีมงานในเครือ MIT นี้ใช้ GPT-6 Astra ของ OpenAI เพื่อแก้ไขโมเดลภาษา Qwen ขนาดเล็ก โดยห้ามการฝึกอบรมแบบปกติ Rikiya Takehi และผู้ร่วมเขียนของเขาเผยแพร่งานวิจัยเมื่อวันจันทร์

0:44 โดยถามว่า AI ที่มีอยู่สามารถให้เหตุผลเกี่ยวกับภายในของเครือข่ายอื่นได้หรือไม่ ผลลัพธ์พาดหัวของพวกเขาสามารถคลิกได้มาก ใน Math 500 Qwen เพิ่มขึ้นจากประมาณแปดเปอร์เซ็นต์เป็นสี่สิบแปดเปอร์เซ็นต์ เกือบหกเท่าของคำตอบที่ถูกต้อง Qwen คิดไปเรื่อยๆ จนกระทั่งไม่มีพื้นที่ให้ตอบ

### Qwen ทำอะไรผิด?

1:00 ในโหมดการคิด มันมักจะทำซ้ำการให้เหตุผลของมัน ลองนึกภาพนักเรียนที่เติมสมุดสอบด้วยงานจนกระทั่งออดดังขึ้น ผู้ตรวจยังคงต้องการคำตอบ คำตอบดั้งเดิมส่วนใหญ่ถึงขีดจำกัดความยาว Astra ระบุทิศทางการทำซ้ำในสองชั้นภายใน จากนั้นลบการมีส่วนร่วมนั้นออกจากคอลัมน์น้ำหนักที่เลือก หลังจากการแก้ไขนั้น คำตอบก็ถึงข้อสรุปมากขึ้น ประมาณหนึ่งในสามยังคงถึงขีดจำกัดในการทดสอบที่รายงาน

1:22 สมุดสอบก็มีบรรทัดสุดท้ายในที่สุด วันนี้ Matthew Honnibal ผู้สร้าง spaCy และผู้ร่วมก่อตั้ง Explosion

### นักวิจารณ์ในวันนี้โต้แย้งอะไร?

1:28 ท้าทายการนำเสนอ เขากล่าวว่าผู้อ่านสามารถรวมเงื่อนไขที่แตกต่างกันของการทดลองเข้าด้วยกันเป็น ความประทับใจของเทคนิคพิเศษหนึ่งอย่าง ข้อโต้แย้งของเขาเกี่ยวข้องกับเรื่องราวที่รวมกันของพวกเขา เราสามารถตรวจสอบเงื่อนไขได้ด้วยตัวเอง การทดลอง Qwen ให้ Astra เข้าถึงสมุดบันทึก Python เหนือน้ำหนักและปัญหาการฝึกฝน

### Astra ได้รับความช่วยเหลืออะไรบ้าง?

1:44 พร้อมคำตอบ ตลอดหลายรอบ มันตรวจสอบการกระตุ้นภายในและเปรียบเทียบเวอร์ชันดั้งเดิมและ ที่แก้ไข งบประมาณสุดท้ายอนุญาตให้รันโมเดลได้ห้าสิบชุด แต่ละชุดการสร้างสามารถมีคำตอบหลายร้อยคำตอบ ข้อมูลการฝึกฝนมาจากส่วนการฝึกอบรม นักวิจัยกล่าวว่า Astra ไม่เคยเห็นชุดการประเมินผลสุดท้าย ข้อเสนอแนะช่วยเลือกการแก้ไข ปัญหาที่ถูกกันไว้ใช้วัดผลหลังจากนั้น การตั้งค่าการสุ่มตัวอย่างยังคงคงที่ระหว่าง Qwen ดั้งเดิมและที่แก้ไข

2:09 ทำให้การเปรียบเทียบคะแนนของโปรโตคอลนี้สามารถตีความได้ พรอมต์แรกให้หัวหน้างานในห้องปฏิบัติการที่มีประโยชน์ วินิจฉัยความล้มเหลว ค้นหาส่วนประกอบที่รับผิดชอบ เปรียบเทียบในปัญหาเดียวกัน และทดสอบความแข็งแกร่งหลายอย่าง มันกล่าวถึงการคิดซ้ำๆ อย่างชัดเจนว่าเป็นการซ่อมแซมที่นับได้ นักศึกษาปริญญาโทควรเจรจาขอแพ็คเกจการปฐมนิเทศนี้ นั่นเป็นการซ่อมแซมที่น่าประทับใจ

### การซ่อมแซมจริงเล็กน้อยเพียงใด?

2:28 การแก้ไขเป้าหมายของ Astra แตะน้ำหนักประมาณหนึ่งแสนสามหมื่นหนึ่งพันน้ำหนัก นั่นคือประมาณสิบหกในพันของเปอร์เซ็นต์ของโมเดล ไฟล์น้ำหนักเปลี่ยนแปลงโดยตรง การฝึกอบรมแบบ Gradient ยังคงถูกห้าม โมเดลที่มีอยู่ทำหน้าที่ตอบหลังจาก เซสชันการแก้ไขของ Astra สิ้นสุดลง การเพิ่มขึ้นยังครอบคลุมถึงการปฏิบัติตามคำสั่ง ฉันชอบผลกระทบในทางปฏิบัติ โมเดลสามารถมีงานที่มีประโยชน์ที่โหมดความล้มเหลวของมันยังคงฝังอยู่

2:48 การแก้ไขความล้มเหลวนั้นสามารถกู้คืนคำตอบที่ใช้งานได้ การทำให้เสร็จนับได้ Honnibal ให้เครดิตแก่งานที่ใช้เครื่องมือช่วยว่าเป็นการทำงาน ที่วิศวกรการเรียนรู้ของเครื่องที่เป็นมนุษย์สามารถทำได้ นั่นเป็นสิ่งสำคัญสำหรับตัวแทน ข้อร้องเรียนของเขาคือการสาธิตตัวเลขดิบขนาดเล็กและการซ่อมแซมที่ใช้ Python ช่วย ที่ใหญ่ขึ้นเชิญชวนให้สรุปที่กว้างขึ้นเมื่อรวมเข้าด้วยกัน ลองดูเครือข่ายเกมขนาดเล็ก

### การทดลองใดที่ไม่มีเครื่องมือจริง?

3:09 ในการทดลองหนึ่ง Astra อ่านตัวเลขดิบและระบุได้อย่างถูกต้องว่า แต่ละเครือข่ายได้เรียนรู้เกมอะไร เครื่องมือถูกห้าม ในการทดลองอื่น มันเขียนน้ำหนักการเล่นเกมใหม่ทั้งหมดตั้งแต่เริ่มต้นโดยใช้กฎและ ซอร์สโค้ด โดยไม่มีการเปิดตัวการฝึกฝน นั่นคือการสาธิตที่แยกจากกันพร้อมหลักฐานที่แยกจากกัน เครือข่ายของ Astra เอาชนะพื้นฐานที่ได้รับการฝึกอบรมเป็นร้อยล้านขั้นตอนในทุก สามเกม เมื่อเทียบกับพื้นฐานที่ได้รับการฝึกอบรมมานานขึ้น มันแพ้ใน Seaquest และ

3:32 Asterix ในขณะที่ชนะ Breakout เปลี่ยนคอลัมน์เปรียบเทียบ และคำกล่าวสุนทรพจน์แห่งชัยชนะก็ต้องได้รับการแก้ไข สะดวกที่การแก้ไขเป็นหัวข้อของวันนี้ สำหรับข้อเรียกร้องที่กว้างขึ้น เราต้องการการปรับปรุงข้ามโมเดลที่มีความล้มเหลวที่แตกต่างกัน

### ข้อเรียกร้องที่ทั่วไปมากขึ้นต้องใช้อะไร?

3:44 ติดตามสิ่งที่โปรแกรมแก้ไขเห็นและอะไรที่ถือว่าเป็นความสำเร็จ การ์ดโมเดลของ Qwen ได้เตือนเกี่ยวกับลูปการคิดแล้ว การขจัดอุปสรรคที่รู้จักนี้มีจุดเริ่มต้นเฉพาะ เพื่อเป็นเครดิตแก่พวกเขา ผู้เขียนเผยแพร่การติดตามผลที่อึดอัดด้วยตัวเอง พวกเขาอธิบายว่าการหยุดลูปทำให้ Qwen สามารถตอบคำถามที่มันสามารถทำได้แล้ว บันทึกของพวกเขารวมถึงพรอมต์ ข้อเสนอแนะ และการแก้ไข เราสามารถตรวจสอบความสำเร็จและถามคำถามที่ยากขึ้นได้

### เกิดอะไรขึ้นกับโมเดลที่วนซ้ำไม่บ่อย?

4:06 ตอนนี้โมเดลที่สอง Gemma ที่เล็กกว่าในการตั้งค่าการติดตามผลของตัวเอง มันวนซ้ำไม่บ่อยนัก ดังนั้นความล้มเหลวของมันจึงเป็นเลขคณิตที่ผิดพลาดปกติและพีชคณิตที่ไม่ถูกต้อง Astra พยายามแก้ไขน้ำหนักที่กำหนดเป้าหมายพร้อมข้อเสนอแนะจากการฝึกฝนอีกครั้ง ไม่มีอันไหนที่ขยับคะแนนคณิตศาสตร์ได้มากกว่าประมาณหนึ่งคะแนน และการเพิ่มขึ้นก็ไม่ได้รับการยืนยัน การซ่อมแซม Qwen ที่ประสบความสำเร็จมีอุปสรรคที่ต้องกำจัด ข้อผิดพลาดทางคณิตศาสตร์ของ Gemma ยังคงอยู่รอด นั่นคือคำถามที่เป็นประโยชน์สำหรับนักพัฒนา

4:28 การแก้ไขนั้นซ่อมแซมความล้มเหลวอะไร และโมเดลของคุณมีมันจริงหรือไม่? ทดสอบน้ำหนักที่บันทึกไว้ในงานของคุณเองก่อนที่จะฉลองตัวคูณ คอขวดที่ได้รับการซ่อมแซมสามารถมีความสำคัญอย่างมากในขณะที่คอขวดถัดไปยังคงอยู่ อยู่ที่เดิมทุกประการ หากคุณต้องการอ่านสิ่งนี้แทนที่จะฟังฉันพูด ความแตกต่างจะไปถึงกล่องจดหมายของคุณ ทุกเช้า ฟรีที่ the daily diff dot dev ลิงก์ด้านล่าง

### ฉันจะ SHIP IT ข้อเรียกร้องการแก้ไขน้ำหนักหรือไม่?

4:47 ดังนั้น คำตัดสินของวันนี้คือ NEEDS REVIEW ฉันจะพิจารณาการซ่อมแซมลูปอย่างจริงจังและทดสอบมัน ฉันจะเก็บข้อเรียกร้องที่กว้างขึ้นไว้บนความสำเร็จที่เกินกว่าโหมดความล้มเหลวนั้น ตัวอย่างค้านของผู้เขียนเองเป็นบรรทัดที่มีประโยชน์ที่สุดในความแตกต่าง และนั่นคือความแตกต่างสำหรับวันนี้ ฉันชื่อ Niko จาก Axrisi รวมอย่างมีความรับผิดชอบ

## แหล่งที่มา

- [Weight-space programming study](https://rikiyat.github.io/blog/weight-space-programming/) — Rikiya Takehi and coauthors
- [November 3 critique of bundled experiment conditions](https://honnibal.dev/blog/astra-read-write-misleading) — Matthew Honnibal
- [Pinned Qwen protocol and exact weight edits](https://github.com/RikiyaT/lm_understand-logs/tree/4d09ba6d6a7e891dd8063974dfe81b3d78e3494f/exp8_math) — Rikiya Takehi and coauthors
- [Actual initial Qwen prompt](https://github.com/RikiyaT/lm_understand-logs/blob/4d09ba6d6a7e891dd8063974dfe81b3d78e3494f/exp8_math/runs/p50c/turns/t001/prompt.txt) — Rikiya Takehi and coauthors
- [Pinned smaller Gemma follow-up](https://github.com/RikiyaT/lm_understand-logs/tree/4d09ba6d6a7e891dd8063974dfe81b3d78e3494f/exp8_math/gemma_followup) — Rikiya Takehi and coauthors
- [Original model-card thinking-loop warning](https://huggingface.co/Qwen/Qwen3.5-0.8B/blob/main/README.md) — Qwen
- [Primary study discussion](https://news.ycombinator.com/item?id=50341174) — Hacker News
- [Critique discussion](https://news.ycombinator.com/item?id=50351111) — Hacker News
- [Cover portrait: Sam Altman, TechCrunch 2019 crop, CC BY 2.0; cropped, background removed, resized and flipped; no endorsement](https://commons.wikimedia.org/wiki/File:Sam_Altman_TechCrunch_SF_2019_Day_2_Oct_3_%28cropped%29.jpg) — Steve Jennings/Getty Images for TechCrunch via Wikimedia Commons
- [Released checkpoint and attributed external re-run](https://huggingface.co/RikiyaT/Qwen3.5-0.8B-weight-space-programming) — RikiyaT on Hugging Face; re-run credited to akhaliq
- [Portrait license: Creative Commons Attribution 2.0](https://creativecommons.org/licenses/by/2.0/) — Creative Commons; Steve Jennings/Getty Images for TechCrunch portrait credit above