# GPT-6 ଆଷ୍ଟ୍ରା ଅନ୍ୟ AI ର ଅସରନ୍ତି ଚିନ୍ତାଧାରାକୁ ପ୍ୟାଚ୍ କଲା

Published: 2026-11-04

ଏକ MIT-ସମ୍ବନ୍ଧୀୟ ଅଧ୍ୟୟନରେ GPT-6 ଆଷ୍ଟ୍ରାକୁ ଏକ ଛୋଟ Qwen ମଡେଲର ୱେଟ୍ ସମ୍ପାଦନା କରିବା ଏବଂ ଅଧିକ ଉତ୍ତର ସମାପ୍ତ କରିବାରେ ସାହାଯ୍ୟ କରିବା ପାଇଁ ବ୍ୟବହାର କରାଯାଇଥିଲା। ଏହାର ରିପୋର୍ଟ କରାଯାଇଥିବା ଗଣିତ-ସ୍କୋର ବୃଦ୍ଧି ଏକ ଟାର୍ଗେଟେଡ୍ ଲୁପ୍ ମରାମତି, ପାଇଥନ୍ ବିଶ୍ଳେଷଣ ଏବଂ ଅଭ୍ୟାସ ଫିଡବ୍ୟାକ ଉପରେ ନିର୍ଭର କରିଥିଲା। ଏକ ପୃଥକ ଛୋଟ-Gemma ଫଲୋ-ଅପରେ କୌଣସି ସ୍ଥାପିତ ଲାଭ ମିଳିଲା ନାହିଁ।

Canonical: https://thedailydiff.dev/or/video/2026-11-03-astra-qwen-weights/

## ଏହି ଭିଡିଓରେ କ'ଣ ଅଛି

- ରିପୋର୍ଟ କରାଯାଇଥିବା Qwen ସ୍କୋର ବୃଦ୍ଧି ପୁନରାବୃତ୍ତି ବିଚାରକୁ ଏକ ଲକ୍ଷ୍ୟଭେଦୀ ମରାମତିରୁ ଆସିଥିଲା; ପ୍ରାଥମିକ ପ୍ରୋଟୋକଲରେ ସମ୍ପାଦିତ ଉତ୍ତରଗୁଡ଼ିକର ପ୍ରାୟ ଏକ ତୃତୀୟାଂଶ ଏପର୍ଯ୍ୟନ୍ତ ଲମ୍ବ କ୍ୟାପରେ ପହଞ୍ଚିଥିଲା।
- ଗ୍ରାଡିଏଣ୍ଟ ଟ୍ରେନିଂ ନିଷିଦ୍ଧ ଥିଲା, ଯେତେବେଳେ ପାଇଥନ୍, ଅଭ୍ୟାସ ଉତ୍ତର ଏବଂ ଅନେକ ପାଳିରେ ବ୍ୟାଚ୍ ମଡେଲ୍-ରନ୍ ଫିଡବ୍ୟାକ୍ ଅନୁମତିପ୍ରାପ୍ତ ଥିଲା। ଅନ୍ତିମ ମୂଲ୍ୟାଙ୍କନ ପ୍ରଶ୍ନଗୁଡ଼ିକ ଉତ୍ସ-ଘୋଷିତ ଭାବରେ ଧାରଣ କରାଯାଇଥିଲା।
- ଛୋଟ କଞ୍ଚା-ଓଜନ ଏବଂ ନୋ-ରୋଲଆଉଟ୍ ଖେଳ ପରୀକ୍ଷଣଗୁଡ଼ିକ ଭିନ୍ନ ଅବସ୍ଥା ବ୍ୟବହାର କରିଥିଲା। ସେମାନଙ୍କର ଦାବିଗୁଡ଼ିକ ନିଜସ୍ୱ ଉପକରଣ, ଇନପୁଟ୍ ଏବଂ ବେସ୍‌ଲାଇନ୍ ପରିସରକୁ ବଜାୟ ରଖିବା ଉଚିତ୍।
- ମାଥ୍ୟୁ ହନିବାଲ୍ ଉପକରଣ-ସହାୟକ ଇଞ୍ଜିନିୟରିଂକୁ ଶ୍ରେୟ ଦିଅନ୍ତି ଏବଂ ପରୀକ୍ଷଣଗୁଡ଼ିକୁ ଏକତ୍ର କରିବା ଦ୍ୱାରା ଉତ୍ପନ୍ନ ହୋଇଥିବା ବ୍ୟାପକ ପ୍ରଭାବକୁ ବିରୋଧ କରନ୍ତି।
- ଛୋଟ ଜେମ୍ମା ଫଲୋ-ଅପ୍ ନିଜସ୍ୱ ସେଟଅପ୍ ବ୍ୟବହାର କରିଥିଲା ​​ଏବଂ ଉନ୍ନତି ପ୍ରତିଷ୍ଠା କରିବାରେ ବିଫଳ ହୋଇଥିଲା। ଅନ୍ୟ ଏକ ମଡେଲରେ ଏହାକୁ ପ୍ରୟୋଗ କରିବା ପୂର୍ବରୁ ଓଜନ ସମ୍ପାଦନା କେଉଁ ବିଫଳତାକୁ ମରାମତି କରେ ତାହା ପରୀକ୍ଷା କରନ୍ତୁ।

## ପ୍ରଶ୍ନ ଏବଂ ଉତ୍ତର

### Qwen ର ରିପୋର୍ଟ କରାଯାଇଥିବା ଗଣିତ ସ୍କୋରରେ ଉନ୍ନତି ଆଣିବା ପାଇଁ ଆଷ୍ଟ୍ରା କ'ଣ ପରିବର୍ତ୍ତନ କଲା?

ରିକିଆ ତାକେହି ଏବଂ ସହ-ଲେଖକମାନଙ୍କ ଅଧ୍ୟୟନ ଅନୁଯାୟୀ, ଆଷ୍ଟ୍ରା ଏକ ଲକ୍ଷ୍ୟଭେଦୀ ଓଜନ ସମ୍ପାଦନା କରିଥିଲା ​​ଯାହା Qwen କୁ ଅଧିକ ଉତ୍ତର ସମାପ୍ତ କରିବାରେ ସାହାଯ୍ୟ କରିଥିଲା। ଏହା ଆଭ୍ୟନ୍ତରୀଣ ସ୍ତରରେ ନିର୍ବାଚିତ କଲମରୁ ଏକ ପୁନରାବୃତ୍ତି-ସମ୍ବନ୍ଧୀୟ ଅବଦାନକୁ ହଟାଇଲା। ରିପୋର୍ଟ କରାଯାଇଥିବା ଗଣିତ-ସ୍କୋର ବୃଦ୍ଧି ଏକ ସ୍ଥିର ମୂଲ୍ୟାଙ୍କନ ପ୍ରୋଟୋକଲ୍ ବ୍ୟବହାର କରିଥିଲା। ଅନେକ ସମ୍ପାଦିତ ଉତ୍ତର ଏପର୍ଯ୍ୟନ୍ତ ଲମ୍ବ କ୍ୟାପକୁ ସ୍ପର୍ଶ କରିଥିଲା, ତେଣୁ ଫଳାଫଳ ଏକ ଗୁରୁତ୍ୱପୂର୍ଣ୍ଣ ଅବଶିଷ୍ଟ ବିଫଳତା ହାରକୁ ବଜାୟ ରଖେ।

### Qwen ୱେଟ୍ ସମ୍ପାଦନା ସମୟରେ କେଉଁ ଉପକରଣ ଏବଂ ଫିଡବ୍ୟାକ୍ ଅନୁମତିପ୍ରାପ୍ତ ଥିଲା?

ପାଇଥନ୍ ବିଶ୍ଳେଷଣ, ଉତ୍ତର ସହିତ ଅଭ୍ୟାସ ସମସ୍ୟା ଏବଂ ବ୍ୟାଚ୍ ମଡେଲ୍-ରନ୍ ଫିଡବ୍ୟାକ୍ ଅନେକ ପାଳିରେ ଅନୁମତିପ୍ରାପ୍ତ ଥିଲା। ଗବେଷକଙ୍କ ପ୍ରକୃତ ପ୍ରାରମ୍ଭିକ ପ୍ରମ୍ପ୍ଟ ଗ୍ରାଡିଏଣ୍ଟ ଟ୍ରେନିଂକୁ ନିଷିଦ୍ଧ କରିଥିଲା ​​ଏବଂ ଡାଇଗ୍ନୋଷ୍ଟିକ୍ ଏବଂ କାରଣାତ୍ମକ ପରୀକ୍ଷଣ ପରାମର୍ଶ ନିର୍ଦ୍ଦିଷ୍ଟ କରିଥିଲା, ଯେଉଁଥିରେ ପୁନରାବୃତ୍ତି-ଚିନ୍ତାଧାରା ମରାମତି ଏକ ଯୋଗ୍ୟ ଲକ୍ଷ୍ୟ ଭାବରେ ଅନ୍ତର୍ଭୁକ୍ତ ଥିଲା। ଏହି ସହାୟତା ଆଷ୍ଟ୍ରାକୁ ବିଦ୍ୟମାନ ଓଜନରେ ଏକ ସିଧାସଳଖ ସମ୍ପାଦନା ବାଛିବାରେ ସାହାଯ୍ୟ କରିଥିଲା। ଏକ ବଜେଟ୍ ୟୁନିଟ୍ ଶହ ଶହ ଉତ୍ପାଦିତ ଉତ୍ତର ଅନ୍ତର୍ଭୁକ୍ତ କରିପାରେ।

### ସମ୍ପାଦନା ମଡେଲ୍ ପାଇଁ ଅନ୍ତିମ ମୂଲ୍ୟାଙ୍କନ ସମସ୍ୟାଗୁଡ଼ିକ ଉପଲବ୍ଧ ଥିଲା କି?

ଗବେଷକମାନେ କହିଛନ୍ତି ଯେ ଅନ୍ତିମ ମୂଲ୍ୟାଙ୍କନ ସେଟ୍ ଆଷ୍ଟ୍ରା ଦ୍ୱାରା ଅଦୃଶ୍ୟ ରହିଲା। ଅଭ୍ୟାସ ଫିଡବ୍ୟାକ୍ ଟ୍ରେନିଂ-ସ୍ପ୍ଲିଟ୍ ସମସ୍ୟାରୁ ଆସିଥିଲା ​​ଏବଂ ସମ୍ପାଦନା ବାଛିବାରେ ସାହାଯ୍ୟ କରିଥିଲା; ପୃଥକ ଧାରଣ କରାଯାଇଥିବା ସମସ୍ୟା ପରେ ଦାଖଲ କରାଯାଇଥିବା ମଡେଲକୁ ମାପିଲା। ପ୍ରାରମ୍ଭିକ ପ୍ରମ୍ପ୍ଟ ବେଞ୍ଚମାର୍କ ନାମ ଏବଂ ମୂଲ୍ୟାଙ୍କନ ପ୍ରୋଟୋକଲ୍ ପ୍ରକାଶ କରିଥିଲା। ସେହି ପାର୍ଥକ୍ୟ ବର୍ଣ୍ଣନା କରେ ଯାହାକୁ ଅଟକାଇ ରଖାଯାଇଥିଲା ଯେ ସମ୍ପାଦକଙ୍କ ପାଖରେ କାର୍ଯ୍ୟ ବିଷୟରେ ସମସ୍ତ ସୂଚନା ନଥିଲା ବୋଲି ଦାବି ନକରି।

### ଛୋଟ ଜେମ୍ମା ୱେଟ୍-ଏଡିଟିଂ ଫଲୋ-ଅପରେ କ'ଣ ହେଲା?

ରିକିଆ ତାକେହି ଏବଂ ସହ-ଲେଖକମାନଙ୍କ ଅନୁଯାୟୀ, ଛୋଟ ଜେମ୍ମା ଫଲୋ-ଅପ୍ ଲାଭ ପ୍ରତିଷ୍ଠା କରିବାରେ ବିଫଳ ହୋଇଥିଲା। ମଡେଲ୍ କ୍ୱଚିତ୍ ଲୁପ୍ ହୋଇଥିଲା, ଏବଂ ଏହାର ବିଫଳତାଗୁଡ଼ିକରେ ଭୁଲ ଗଣିତ ଏବଂ ଅବୈଧ ବୀଜଗଣିତ ଅନ୍ତର୍ଭୁକ୍ତ ଥିଲା। ଅଭ୍ୟାସ ଫିଡବ୍ୟାକ୍ ସହିତ ଲକ୍ଷ୍ୟଭେଦୀ ସମ୍ପାଦନା ରିପୋର୍ଟ କରାଯାଇଥିବା ଗଣିତ ସ୍କୋରକୁ ଅଧିକରୁ ଅଧିକ ପ୍ରାୟ ଏକ ପଏଣ୍ଟ ପର୍ଯ୍ୟନ୍ତ ବଢ଼ାଇଲା। ଏହା ଏକ ପୃଥକ ସେଟଅପ୍ ବ୍ୟବହାର କରିଥିଲା, ତେଣୁ ତୁଳନା ଏକ ସମାନ-ନିୟନ୍ତ୍ରିତ ଅବଲେଶନ ପରିବର୍ତ୍ତେ ଏକ ସ୍କୋପ୍ଡ ପ୍ରତି-ଉଦାହରଣ ପ୍ରଦାନ କରେ।

### ୱେଟ୍-ଏଡିଟିଂ ଦାବି ଉପରେ The Daily Diff ର ରାୟ କ'ଣ ଥିଲା?

The Daily Diff ର ରାୟ ଥିଲା NEEDS REVIEW। ନିକୋ ଲକ୍ଷ୍ୟଭେଦୀ ଲୁପ୍ ମରାମତିକୁ ଗମ୍ଭୀରତାର ସହ ନେବେ ଏବଂ ଏହାକୁ ପରୀକ୍ଷା କରିବେ, ଯେତେବେଳେ ସେହି ବିଫଳତା ମୋଡ୍ ବାହାରେ ସଫଳତା ଉପରେ ବ୍ୟାପକ ଦାବିଗୁଡ଼ିକୁ ସୁରକ୍ଷିତ ରଖିବେ। ଗବେଷକମାନଙ୍କର ନିଜସ୍ୱ ଛୋଟ-ମଡେଲ୍ ପ୍ରତି-ଉଦାହରଣ ସେହି ବିଚାରକୁ ସୂଚିତ କରେ। ଡେଭଲପର୍ ମାନେ ଏକ ସମ୍ପାଦନା କେଉଁ ବିଫଳତାକୁ ମରାମତି କରେ ତାହା ଚିହ୍ନଟ କରିବା ଉଚିତ୍ ଏବଂ ରିପୋର୍ଟ କରାଯାଇଥିବା ଗୁଣକକୁ ଉତ୍ସାହିତ କରିବା ପୂର୍ବରୁ ସେମାନଙ୍କର ନିଜ କାର୍ଯ୍ୟରେ ସେଭ୍ କରାଯାଇଥିବା ଓଜନକୁ ମୂଲ୍ୟାଙ୍କନ କରିବା ଉଚିତ୍।

## ଅଧ୍ୟାୟଗୁଡ଼ିକ

- 0:00 ଗଣିତ ସ୍କୋର କାହିଁକି ବୃଦ୍ଧି ପାଇଲା?
- 0:58 Qwen କେଉଁଠାରେ ଭୁଲ କରୁଥିଲା?
- 1:25 ଆଜିର ସମାଲୋଚକ କ'ଣ ବିରୋଧ କରୁଛନ୍ତି?
- 1:41 ଆଷ୍ଟ୍ରା ପ୍ରକୃତରେ କେଉଁ ସାହାଯ୍ୟ ପାଇଲେ?
- 2:27 ପ୍ରକୃତ ମରାମତି କେତେ ଛୋଟ ଥିଲା?
- 3:08 କେଉଁ ପରୀକ୍ଷଣଗୁଡ଼ିକରେ ପ୍ରକୃତରେ କୌଣସି ଉପକରଣ ନଥିଲା?
- 3:40 ଏକ ଅଧିକ ସାଧାରଣ ଦାବି ପାଇଁ କ'ଣ ଆବଶ୍ୟକ?
- 4:06 ଯେଉଁ ମଡେଲ୍ କ୍ୱଚିତ୍ ଲୁପ୍ ହୋଇଥିଲା ତାହାର କ'ଣ ହେଲା?
- 4:47 ମୁଁ କ'ଣ ୱେଟ୍-ଏଡିଟିଂ ଦାବି ପ୍ରକାଶ କରିବି?

## ଅନୁବାଦିତ ଟ୍ରାନ୍ସକ୍ରିପ୍ଟ

ମୂଳ ଇଂରାଜୀ ବର୍ଣ୍ଣନାରୁ ଅନୁବାଦିତ। ଉପଲବ୍ଧ ଅଡିଓ ଏବଂ କ୍ୟାପ୍ସନ୍ଗୁଡ଼ିକ YouTube ଦ୍ୱାରା ନିୟନ୍ତ୍ରିତ।

### ଗଣିତ ସ୍କୋର କାହିଁକି ବୃଦ୍ଧି ପାଇଲା?

0:00 ଏକ AI ଅନ୍ୟ ଏକ AI କୁ ଛଅ ଗୁଣ ଅଧିକ ସ୍ମାର୍ଟ କରିବା ତତ୍କ୍ଷଣାତ୍ ପ୍ରତିଭା ପରି ଶୁଣାଯାଏ। ଆଷ୍ଟ୍ରାର ବଡ ସ୍କୋର ବୃଦ୍ଧି Qwen କୁ ଉତ୍ତର ଶେଷ କରିବାରେ ସାହାଯ୍ୟ କରିବାରୁ ଆସିଥିଲା ​​ଯାହା ଏହା ପୁନରାବୃତ୍ତି କରି ଚାଲିଥିଲା। ଏହି ଭିଡିଓରେ, କ'ଣ ପରିବର୍ତ୍ତନ ହେଲା? ଆଷ୍ଟ୍ରା କେଉଁ ସାହାଯ୍ୟ ପାଇଲେ? ଏବଂ ଫିକ୍ସ କେତେ ଦୂର ଯାତ୍ରା କରେ? Qwen ପ୍ରାୟ ଆଠ ପ୍ରତିଶତରୁ ଅଠଚାଳିଶ ପ୍ରତିଶତକୁ ବୃଦ୍ଧି ପାଇଲା। ଗବେଷକମାନେ ପ୍ରାୟ କୌଣସି ଲୁପ୍ ନଥିବା ଦ୍ୱିତୀୟ ମଡେଲକୁ ଚେଷ୍ଟା କଲେ। ରାୟ ପୂର୍ବରୁ ଆମେ ଦେଖିବା ଏହା କିପରି ହେଲା।

0:22 ଆଜି ମଙ୍ଗଳବାର, ନଭେମ୍ବର ତିନି ତାରିଖ, ଏବଂ ଏହା ହେଉଛି The Daily Diff। ୱେଟ୍-ସ୍ପେସ୍ ପ୍ରୋଗ୍ରାମିଂ ହେଉଛି ଗବେଷକଙ୍କ ନାମ ଏକ AI କୁ ନିରୀକ୍ଷଣ କରିବାକୁ କିମ୍ବା ଏକ ନ୍ୟୁରାଲ୍ ନେଟୱାର୍କ ଭିତରେ ସଂଖ୍ୟା ଲେଖିବାକୁ କହିବା ପାଇଁ। ସେହି ସଂଖ୍ୟାଗୁଡ଼ିକ ହେଉଛି ଏହାର ଓଜନ। ଏହି MIT-ସମ୍ବନ୍ଧୀୟ ଦଳ OpenAI ର GPT ସିକ୍ସ ଆଷ୍ଟ୍ରାକୁ ଏକ ଛୋଟ Qwen ଭାଷା ମଡେଲ୍ ସମ୍ପାଦନା କରିବା ପାଇଁ ବ୍ୟବହାର କରିଥିଲା, ସାଧାରଣ ଟ୍ରେନିଂ ନିଷିଦ୍ଧ ଥିଲା। ରିକିଆ ତାକେହି ଏବଂ ତାଙ୍କ ସହ-ଲେଖକମାନେ ସୋମବାର ଏହି ଅଧ୍ୟୟନ ପ୍ରକାଶ କରିଥିଲେ,

0:44 ଏକ ବିଦ୍ୟମାନ AI ଅନ୍ୟ ଏକ ନେଟୱାର୍କର ଆଭ୍ୟନ୍ତରୀଣ ବିଷୟରେ ଯୁକ୍ତି କରିପାରିବ କି ନାହିଁ ପଚାରିଥିଲେ। ସେମାନଙ୍କର ହେଡଲାଇନ୍ ଫଳାଫଳ ଅତ୍ୟନ୍ତ କ୍ଲିକଯୋଗ୍ୟ। ଗଣିତ ପାଞ୍ଚ ଶହ ଉପରେ, Qwen ପ୍ରାୟ ଆଠ ପ୍ରତିଶତରୁ ଅଠଚାଳିଶ ପ୍ରତିଶତକୁ ବୃଦ୍ଧି ପାଇଲା। ପ୍ରାୟ ଛଅ ଗୁଣ ଅଧିକ ସଠିକ୍ ଉତ୍ତର। Qwen ଉତ୍ତର ଦେବା ପାଇଁ ସ୍ଥାନ ସରିବା ପର୍ଯ୍ୟନ୍ତ ଚିନ୍ତା କରି ଚାଲିଥିଲା।

### Qwen କେଉଁଠାରେ ଭୁଲ କରୁଥିଲା?

1:00 ଚିନ୍ତା ମୋଡରେ, ଏହା ପ୍ରାୟତଃ ଏହାର ଯୁକ୍ତିକୁ ପୁନରାବୃତ୍ତି କରୁଥିଲା। କଳ୍ପନା କରନ୍ତୁ ଜଣେ ଛାତ୍ର ପରୀକ୍ଷା ବୁକଲେଟ୍ କୁ ଘଣ୍ଟି ବାଜିବା ପର୍ଯ୍ୟନ୍ତ କାର୍ଯ୍ୟ କରି ପୂର୍ଣ୍ଣ କରୁଛନ୍ତି। ମାର୍କରକୁ ଏପର୍ଯ୍ୟନ୍ତ ଏକ ଉତ୍ତର ଆବଶ୍ୟକ। ଅଧିକାଂଶ ମୂଳ ଉତ୍ତର ଲମ୍ବ ସୀମାକୁ ସ୍ପର୍ଶ କରିଥିଲା। ଆଷ୍ଟ୍ରା ଦୁଇଟି ଆଭ୍ୟନ୍ତରୀଣ ସ୍ତରରେ ଏକ ପୁନରାବୃତ୍ତି ଦିଗ ଚିହ୍ନଟ କଲା, ତାପରେ ନିର୍ବାଚିତ ୱେଟ୍ କଲମରୁ ଏହାର ଅବଦାନକୁ ହଟାଇଲା। ସେହି ସମ୍ପାଦନା ପରେ, ଅଧିକ ଉତ୍ତର ଏକ ନିଷ୍କର୍ଷରେ ପହଞ୍ଚିଲା। ରିପୋର୍ଟ କରାଯାଇଥିବା ପରୀକ୍ଷାରେ ପ୍ରାୟ ଏକ ତୃତୀୟାଂଶ ଏପର୍ଯ୍ୟନ୍ତ କ୍ୟାପରେ ପହଞ୍ଚିଥିଲା।

1:22 ପରୀକ୍ଷା ବୁକଲେଟ୍ ଶେଷରେ ଏକ ଶେଷ ଧାଡ଼ି ପାଇଲା। ଆଜି, ସ୍ପେସିର ସ୍ରଷ୍ଟା ତଥା ଏକ୍ସପ୍ଲୋଜନ୍ ର ସହ-ପ୍ରତିଷ୍ଠାତା ମାଥ୍ୟୁ ହନିବାଲ୍,

### ଆଜିର ସମାଲୋଚକ କ'ଣ ବିରୋଧ କରୁଛନ୍ତି?

1:28 ଉପସ୍ଥାପନାକୁ ଚ୍ୟାଲେଞ୍ଜ କଲେ। ସେ କହିଛନ୍ତି ଯେ ପାଠକମାନେ ପରୀକ୍ଷଣର ବିଭିନ୍ନ ଅବସ୍ଥାକୁ ଏକ ଅସାଧାରଣ କୌଶଳର ଧାରଣା ମଧ୍ୟରେ ଏକତ୍ର କରିପାରିବେ। ତାଙ୍କର ଆପତ୍ତି ସେମାନଙ୍କର ମିଳିତ କାହାଣୀ ସମ୍ବନ୍ଧରେ। ଆମେ ନିଜେ ଅବସ୍ଥା ଯାଞ୍ଚ କରିପାରିବା। Qwen ପରୀକ୍ଷଣ ଆଷ୍ଟ୍ରାକୁ ୱେଟ୍ ଉପରେ ଏକ ପାଇଥନ୍ ନୋଟବୁକ୍ ଏବଂ ଉତ୍ତର ସହିତ ଅଭ୍ୟାସ

### ଆଷ୍ଟ୍ରା ପ୍ରକୃତରେ କେଉଁ ସାହାଯ୍ୟ ପାଇଲେ?

1:44 ସମସ୍ୟା ଦେଇଥିଲା। ଅନେକ ପାଳିରେ, ଏହା ଆଭ୍ୟନ୍ତରୀଣ ସକ୍ରିୟତାକୁ ନିରୀକ୍ଷଣ କଲା ଏବଂ ମୂଳ ଏବଂ ସମ୍ପାଦିତ ସଂସ୍କରଣଗୁଡ଼ିକୁ ତୁଳନା କଲା। ଅନ୍ତିମ ବଜେଟ୍ ମଡେଲ୍ ରନ୍ ର ପଚାଶ ବ୍ୟାଚ୍ କୁ ଅନୁମତି ଦେଇଥିଲା। ପ୍ରତ୍ୟେକ ଜେନେରେସନ୍ ବ୍ୟାଚରେ ଶହ ଶହ ଉତ୍ତର ଥାଇପାରେ। ଅଭ୍ୟାସ ଡାଟା ଟ୍ରେନିଂ ସ୍ପ୍ଲିଟ୍ ରୁ ଆସିଥିଲା। ଗବେଷକମାନେ କହିଛନ୍ତି ଯେ ଆଷ୍ଟ୍ରା କେବେବି ଅନ୍ତିମ ମୂଲ୍ୟାଙ୍କନ ସେଟ୍ ଦେଖି ନଥିଲା। ଫିଡବ୍ୟାକ୍ ସମ୍ପାଦନା ବାଛିବାରେ ସାହାଯ୍ୟ କଲା; ପରେ ଧାରଣ କରାଯାଇଥିବା ସମସ୍ୟା ଏହାକୁ ମାପିଲା। ମୂଳ ଏବଂ ସମ୍ପାଦିତ Qwen ମଧ୍ୟରେ ସାମ୍ପଲିଂ ସେଟିଂସ ସ୍ଥିର ରହିଲା,

2:09 ଏହି ପ୍ରୋଟୋକଲର ସ୍କୋର ତୁଳନାକୁ ବୁଝିବା ଯୋଗ୍ୟ କରିଥାଏ। ପ୍ରଥମ ପ୍ରମ୍ପ୍ଟ ଏହାକୁ ଏକ ସହାୟକ ଲାବ୍ ସୁପରଭାଇଜର ଦେଇଥିଲା। ବିଫଳତା ନିର୍ଣ୍ଣୟ କରନ୍ତୁ, ଦାୟୀ ଉପାଦାନଗୁଡ଼ିକୁ ଖୋଜନ୍ତୁ, ସମାନ ସମସ୍ୟା ଉପରେ ତୁଳନା କରନ୍ତୁ, ଏବଂ ଅନେକ ଶକ୍ତି ପରୀକ୍ଷା କରନ୍ତୁ। ଏହା ସ୍ପଷ୍ଟ ଭାବରେ ପୁନରାବୃତ୍ତି ଚିନ୍ତାଧାରାକୁ ଏକ ମରାମତି ଭାବରେ ଉଲ୍ଲେଖ କରିଥିଲା ​​ଯାହା ଗଣନା କରେ। ସ୍ନାତକ ଛାତ୍ରମାନେ ଏହି ଅନବୋର୍ଡିଂ ପ୍ୟାକେଜ୍ ପାଇଁ ବୁଝାମଣା କରିବା ଉଚିତ୍। ତାହା ଏକ ପ୍ରଭାବଶାଳୀ ମରାମତି।

### ପ୍ରକୃତ ମରାମତି କେତେ ଛୋଟ ଥିଲା?

2:28 ଆଷ୍ଟ୍ରାର ଲକ୍ଷ୍ୟଭେଦୀ ସମ୍ପାଦନା ପ୍ରାୟ ଏକ ଶହ ତିରିଶ ହଜାର ଓଜନକୁ ସ୍ପର୍ଶ କରିଥିଲା। ତାହା ମଡେଲର ଶତକଡ଼ା ପ୍ରାୟ ଷୋହଳ ହଜାର ଭାଗ। ୱେଟ୍ ଫାଇଲ୍ ସିଧାସଳଖ ପରିବର୍ତ୍ତନ ହେଲା। ଗ୍ରାଡିଏଣ୍ଟ ଟ୍ରେନିଂ ନିଷିଦ୍ଧ ରହିଲା; ଆଷ୍ଟ୍ରାର ସମ୍ପାଦନା ଅଧିବେଶନ ଶେଷ ହେବା ପରେ ବିଦ୍ୟମାନ ମଡେଲ୍ ଉତ୍ତର ଦେଲା। ଆଷ୍ଟ୍ରାର ସମ୍ପାଦନା ଅଧିବେଶନ ଶେଷ ହେବା ପରେ ବିଦ୍ୟମାନ ମଡେଲ୍ ଉତ୍ତର ଦେଲା। ଲାଭ ମଧ୍ୟ ନିର୍ଦ୍ଦେଶ ଅନୁସରଣରେ ପହଞ୍ଚିଲା। ମୁଁ ବ୍ୟାବହାରିକ ପ୍ରଭାବକୁ ପସନ୍ଦ କରେ। ଏକ ମଡେଲରେ ଉପଯୋଗୀ କାର୍ଯ୍ୟ ଥାଇପାରେ ଯାହାକୁ ଏହାର ବିଫଳତା ମୋଡ୍ ଲୁଚାଇ ରଖେ।

2:48 ସେହି ବିଫଳତାକୁ ସୁଧାରିବା ଉପଯୋଗୀ ଉତ୍ତର ପୁନରୁଦ୍ଧାର କରିପାରିବ। ସମାପ୍ତ କରିବା ଗଣନା କରେ। ହନିବାଲ୍ ଉପକରଣ-ସହାୟକ କାର୍ଯ୍ୟକୁ ଏକ ମାନବ ମେସିନ୍-ଲର୍ନିଂ ଇଞ୍ଜିନିୟର କରିପାରୁଥିବା କାର୍ଯ୍ୟ କରିବା ପାଇଁ ଶ୍ରେୟ ଦିଅନ୍ତି। କାର୍ଯ୍ୟ କରିବା ପାଇଁ ଶ୍ରେୟ ଦିଅନ୍ତି। ତାହା ଏକ ଏଜେଣ୍ଟ ପାଇଁ ଗୁରୁତ୍ୱପୂର୍ଣ୍ଣ। ତାଙ୍କର ଅଭିଯୋଗ ହେଉଛି ଯେ ଛୋଟ କଞ୍ଚା-ସଂଖ୍ୟା ପ୍ରଦର୍ଶନ ଏବଂ ବଡ଼ ପାଇଥନ୍-ସହାୟକ ମରାମତିଗୁଡ଼ିକ ଏକତ୍ର କରାଯିବା ସମୟରେ ଏକ ବ୍ୟାପକ ସିଦ୍ଧାନ୍ତକୁ ନିମନ୍ତ୍ରଣ କରେ। ଛୋଟ ଖେଳ ନେଟୱାର୍କଗୁଡ଼ିକୁ ନିଅନ୍ତୁ।

### କେଉଁ ପରୀକ୍ଷଣଗୁଡ଼ିକରେ ପ୍ରକୃତରେ କୌଣସି ଉପକରଣ ନଥିଲା?

3:09 ଏକ ପରୀକ୍ଷଣରେ, ଆଷ୍ଟ୍ରା ସେମାନଙ୍କର କଞ୍ଚା ସଂଖ୍ୟା ପଢିଥିଲା ​​ଏବଂ ସଠିକ୍ ଭାବରେ ଚିହ୍ନଟ କରିଥିଲା ​​ଯେ ପ୍ରତ୍ୟେକ ନେଟୱାର୍କ କେଉଁ ଖେଳ ଶିଖିଥିଲା। ଉପକରଣ ନିଷିଦ୍ଧ ଥିଲା। ଅନ୍ୟ ଏକରେ, ଏହା ନିୟମ ଏବଂ ଉତ୍ସ କୋଡ୍ ବ୍ୟବହାର କରି ଆରମ୍ଭରୁ ନୂଆ ଖେଳ-ଖେଳିବା ଓଜନ ଲେଖିଥିଲା, କୌଣସି ଅଭ୍ୟାସ ରୋଲଆଉଟ୍ ନଥିଲା। ସେଗୁଡ଼ିକ ପୃଥକ ପ୍ରମାଣ ସହିତ ପୃଥକ ପ୍ରଦର୍ଶନ। ଆଷ୍ଟ୍ରାର ନେଟୱାର୍କଗୁଡ଼ିକ ସମସ୍ତ ତିନୋଟି ଖେଳରେ ଏକ ଶହ ନିୟୁତ ପଦକ୍ଷେପ ପାଇଁ ତାଲିମପ୍ରାପ୍ତ ବେସ୍‌ଲାଇନ୍ କୁ ପରାସ୍ତ କରିଥିଲା। ଲମ୍ବା-ତାଲିମପ୍ରାପ୍ତ ବେସ୍‌ଲାଇନ୍ ବିରୁଦ୍ଧରେ, ଏହା Seaquest ଏବଂ Asterix ରେ ହାରିଥିଲା, ଯେତେବେଳେ Breakout ଜିତିଥିଲା।

3:32 Asterix ରେ ହାରିଥିଲା, ଯେତେବେଳେ Breakout ଜିତିଥିଲା। ତୁଳନା ସ୍ତମ୍ଭ ପରିବର୍ତ୍ତନ କରନ୍ତୁ, ଏବଂ ବିଜୟ ଭାଷଣକୁ ସମ୍ପାଦନା କରିବା ଆବଶ୍ୟକ। ସୁବିଧାଜନକ ଭାବରେ, ସମ୍ପାଦନା ଆଜିର ବିଷୟ। ଏକ ବ୍ୟାପକ ଦାବି ପାଇଁ, ଆମେ ବିଭିନ୍ନ ବିଫଳତା ସହିତ ମଡେଲଗୁଡ଼ିକରେ ଉନ୍ନତି ଚାହିଁବା।

### ଏକ ଅଧିକ ସାଧାରଣ ଦାବି ପାଇଁ କ'ଣ ଆବଶ୍ୟକ?

3:44 ସମ୍ପାଦକ କ'ଣ ଦେଖିଲେ ଏବଂ କ'ଣ ସଫଳତା ଭାବରେ ଗଣନା କରାଗଲା ତାହା ଟ୍ରାକ୍ କରନ୍ତୁ। Qwen ର ମଡେଲ୍ କାର୍ଡ ପୂର୍ବରୁ ଚିନ୍ତାଧାରା ଲୁପ୍ ବିଷୟରେ ଚେତାବନୀ ଦିଏ। ଏହି ଜଣାଶୁଣା ବାଧାକୁ ହଟାଇବାର ଏକ ନିର୍ଦ୍ଦିଷ୍ଟ ଆରମ୍ଭ ବିନ୍ଦୁ ଅଛି। ସେମାନଙ୍କର ଶ୍ରେୟରେ, ଲେଖକମାନେ ନିଜେ ଅସହଜ ଫଲୋ-ଅପ୍ ପ୍ରକାଶ କରନ୍ତି। ସେମାନେ ବ୍ୟାଖ୍ୟା କରନ୍ତି ଯେ ଲୁପ୍ ବନ୍ଦ କରିବା Qwen କୁ ଉତ୍ତର ଶେଷ କରିବାକୁ ଦିଏ ଯାହା ଏହା ପୂର୍ବରୁ କାମ କରିପାରୁଥିଲା। ସେମାନଙ୍କର ଲଗ୍ ପ୍ରମ୍ପ୍ଟ, ଫିଡବ୍ୟାକ୍ ଏବଂ ସମ୍ପାଦନା ଅନ୍ତର୍ଭୁକ୍ତ କରେ। ଉତ୍ତର ଦେଇପାରୁଥିଲା। ସେମାନଙ୍କର ଲଗ୍ ପ୍ରମ୍ପ୍ଟ, ଫିଡବ୍ୟାକ୍ ଏବଂ ସମ୍ପାଦନା ଅନ୍ତର୍ଭୁକ୍ତ କରେ। ଆମେ ଉପଲବ୍ଧିକୁ ପରୀକ୍ଷା କରିପାରିବା ଏବଂ ଏକ କଠିନ ପ୍ରଶ୍ନ ପଚାରିପାରିବା।

### ଯେଉଁ ମଡେଲ୍ କ୍ୱଚିତ୍ ଲୁପ୍ ହୋଇଥିଲା ତାହାର କ'ଣ ହେଲା?

4:06 ବର୍ତ୍ତମାନ ଦ୍ୱିତୀୟ ମଡେଲ, ଏକ ଛୋଟ Gemma ଏହାର ନିଜସ୍ୱ ଫଲୋ-ଅପ୍ ସେଟଅପରେ। ଏହା କ୍ୱଚିତ୍ ଲୁପ୍ ହୋଇଥିଲା, ତେଣୁ ଏହାର ବିଫଳତା ସାଧାରଣ ଭୁଲ ଗଣିତ ଏବଂ ଅବୈଧ ବୀଜଗଣିତ ଥିଲା। ଆଷ୍ଟ୍ରା ପୁଣି ଅଭ୍ୟାସ ଫିଡବ୍ୟାକ୍ ସହିତ ଲକ୍ଷ୍ୟଭେଦୀ ଓଜନ ସମ୍ପାଦନା ଚେଷ୍ଟା କଲା। କୌଣସିଟି ଏହାର ଗଣିତ ସ୍କୋରକୁ ପ୍ରାୟ ଏକ ପଏଣ୍ଟରୁ ଅଧିକ ବଢ଼ାଇଲା ନାହିଁ, ଏବଂ ଏକ ଲାଭ ପ୍ରତିଷ୍ଠା ହୋଇନଥିଲା। ସଫଳ Qwen ମରାମତିରେ ହଟାଇବା ପାଇଁ ଏକ ବାଧା ଥିଲା। Gemma ର ଗାଣିତିକ ତ୍ରୁଟିଗୁଡ଼ିକ ବଞ୍ଚିଗଲା। ତାହା ହେଉଛି ଡେଭଲପର୍ ମାନଙ୍କ ପାଇଁ ଉପଯୋଗୀ ପ୍ରଶ୍ନ।

4:28 ସମ୍ପାଦନା କେଉଁ ବିଫଳତାକୁ ମରାମତି କଲା, ଏବଂ ଆପଣଙ୍କ ମଡେଲରେ ପ୍ରକୃତରେ ଏହା ଅଛି କି? ଗୁଣକକୁ ଉତ୍ସାହିତ କରିବା ପୂର୍ବରୁ ଆପଣଙ୍କ ନିଜ କାର୍ଯ୍ୟରେ ସେଭ୍ କରାଯାଇଥିବା ଓଜନକୁ ପରୀକ୍ଷା କରନ୍ତୁ। ଏକ ମରାମତି ହୋଇଥିବା ବଟଲନେକ୍ ଅତ୍ୟଧିକ ଗୁରୁତ୍ୱପୂର୍ଣ୍ଣ ହୋଇପାରେ ଯେତେବେଳେ ପରବର୍ତ୍ତୀ ବଟଲନେକ୍ ଠିକ୍ ଯେଉଁଠାରେ ଥିଲା ସେହିଠାରେ ରହେ। ଯଦି ଆପଣ ଏହାକୁ ଶୁଣିବା ପରିବର୍ତ୍ତେ ପଢିବାକୁ ପସନ୍ଦ କରନ୍ତି, ତେବେ ପ୍ରତିଦିନ ସକାଳେ ଡିଫ୍ ଆପଣଙ୍କ ଇନବକ୍ସକୁ ଆସେ, the daily diff dot dev ରେ ମାଗଣାରେ, ଲିଙ୍କ୍ ତଳେ ଅଛି।

### ମୁଁ କ'ଣ ୱେଟ୍-ଏଡିଟିଂ ଦାବି ପ୍ରକାଶ କରିବି?

4:47 ତେଣୁ, ଆଜିର ରାୟ ହେଉଛି NEEDS REVIEW। ମୁଁ ଲୁପ୍ ମରାମତିକୁ ଗମ୍ଭୀରତାର ସହ ନେବି ଏବଂ ଏହାକୁ ପରୀକ୍ଷା କରିବି। ମୁଁ ସେହି ବିଫଳତା ମୋଡ୍ ବାହାରେ ସଫଳତା ଉପରେ ବ୍ୟାପକ ଦାବିଗୁଡ଼ିକୁ ସୁରକ୍ଷିତ ରଖିବି। ଲେଖକମାନଙ୍କର ନିଜସ୍ୱ ପ୍ରତି-ଉଦାହରଣ ଡିଫ୍ ର ସବୁଠାରୁ ଉପଯୋଗୀ ଧାଡ଼ି। ଏବଂ ତାହା ହେଉଛି ଆଜି ପାଇଁ ଡିଫ୍। ମୁଁ Axrisi ରୁ ନିକୋ। ଦାୟିତ୍ୱର ସହ ମର୍ଜ କରନ୍ତୁ।

## ଉତ୍ସଗୁଡ଼ିକ

- [Weight-space programming study](https://rikiyat.github.io/blog/weight-space-programming/) — Rikiya Takehi and coauthors
- [November 3 critique of bundled experiment conditions](https://honnibal.dev/blog/astra-read-write-misleading) — Matthew Honnibal
- [Pinned Qwen protocol and exact weight edits](https://github.com/RikiyaT/lm_understand-logs/tree/4d09ba6d6a7e891dd8063974dfe81b3d78e3494f/exp8_math) — Rikiya Takehi and coauthors
- [Actual initial Qwen prompt](https://github.com/RikiyaT/lm_understand-logs/blob/4d09ba6d6a7e891dd8063974dfe81b3d78e3494f/exp8_math/runs/p50c/turns/t001/prompt.txt) — Rikiya Takehi and coauthors
- [Pinned smaller Gemma follow-up](https://github.com/RikiyaT/lm_understand-logs/tree/4d09ba6d6a7e891dd8063974dfe81b3d78e3494f/exp8_math/gemma_followup) — Rikiya Takehi and coauthors
- [Original model-card thinking-loop warning](https://huggingface.co/Qwen/Qwen3.5-0.8B/blob/main/README.md) — Qwen
- [Primary study discussion](https://news.ycombinator.com/item?id=50341174) — Hacker News
- [Critique discussion](https://news.ycombinator.com/item?id=50351111) — Hacker News
- [Cover portrait: Sam Altman, TechCrunch 2019 crop, CC BY 2.0; cropped, background removed, resized and flipped; no endorsement](https://commons.wikimedia.org/wiki/File:Sam_Altman_TechCrunch_SF_2019_Day_2_Oct_3_%28cropped%29.jpg) — Steve Jennings/Getty Images for TechCrunch via Wikimedia Commons
- [Released checkpoint and attributed external re-run](https://huggingface.co/RikiyaT/Qwen3.5-0.8B-weight-space-programming) — RikiyaT on Hugging Face; re-run credited to akhaliq
- [Portrait license: Creative Commons Attribution 2.0](https://creativecommons.org/licenses/by/2.0/) — Creative Commons; Steve Jennings/Getty Images for TechCrunch portrait credit above