GPT-6 ਐਸਟਰਾ ਨੇ ਇੱਕ ਹੋਰ AI ਦੀ ਬੇਅੰਤ ਸੋਚ ਨੂੰ ਪੈਚ ਕੀਤਾ

ਇਹ ਵੀਡੀਓ ਕੀ ਕਵਰ ਕਰਦਾ ਹੈ

• ਰਿਪੋਰਟ ਕੀਤੀ ਕਵੈਨ ਸਕੋਰ ਵਾਧਾ ਦੁਹਰਾਉਣ ਵਾਲੀ ਤਰਕ ਲਈ ਇੱਕ ਨਿਸ਼ਾਨਾ ਮੁਰੰਮਤ ਤੋਂ ਆਇਆ ਹੈ; ਸੰਪਾਦਿਤ ਜਵਾਬਾਂ ਦਾ ਲਗਭਗ ਇੱਕ ਤਿਹਾਈ ਹਿੱਸਾ ਪ੍ਰਾਇਮਰੀ ਪ੍ਰੋਟੋਕੋਲ ਵਿੱਚ ਅਜੇ ਵੀ ਲੰਬਾਈ ਸੀਮਾ ਤੱਕ ਪਹੁੰਚ ਗਿਆ ਹੈ।
• ਗ੍ਰੇਡੀਐਂਟ ਸਿਖਲਾਈ ਦੀ ਮਨਾਹੀ ਸੀ, ਜਦੋਂ ਕਿ ਪਾਈਥਨ, ਅਭਿਆਸ ਦੇ ਜਵਾਬ ਅਤੇ ਬਹੁਤ ਸਾਰੇ ਮੋੜਾਂ 'ਤੇ ਬੈਚਡ ਮਾਡਲ-ਰਨ ਫੀਡਬੈਕ ਦੀ ਇਜਾਜ਼ਤ ਸੀ। ਅੰਤਿਮ ਮੁਲਾਂਕਣ ਪ੍ਰਸ਼ਨ ਸਰੋਤ-ਘੋਸ਼ਿਤ ਕੀਤੇ ਗਏ ਸਨ।
• ਛੋਟੇ ਕੱਚੇ-ਵਜ਼ਨ ਅਤੇ ਨੋ-ਰੋਲਆਉਟ ਗੇਮ ਪ੍ਰਯੋਗਾਂ ਵਿੱਚ ਵੱਖਰੀਆਂ ਸ਼ਰਤਾਂ ਦੀ ਵਰਤੋਂ ਕੀਤੀ ਗਈ। ਉਹਨਾਂ ਦੇ ਦਾਅਵਿਆਂ ਨੂੰ ਉਹਨਾਂ ਦੇ ਵਿਅਕਤੀਗਤ ਟੂਲ, ਇਨਪੁਟ ਅਤੇ ਬੇਸਲਾਈਨ ਸਕੋਪ ਨੂੰ ਬਰਕਰਾਰ ਰੱਖਣਾ ਚਾਹੀਦਾ ਹੈ।
• ਮੈਥਿਊ ਹੋਨੀਬਲ ਟੂਲ-ਸਹਾਇਤਾ ਪ੍ਰਾਪਤ ਇੰਜੀਨੀਅਰਿੰਗ ਦਾ ਸਿਹਰਾ ਦਿੰਦਾ ਹੈ ਅਤੇ ਪ੍ਰਯੋਗਾਂ ਨੂੰ ਸਮੂਹਿਕ ਕਰਨ ਨਾਲ ਪੈਦਾ ਹੋਏ ਵਿਆਪਕ ਪ੍ਰਭਾਵ ਦਾ ਵਿਵਾਦ ਕਰਦਾ ਹੈ।
• ਛੋਟੇ ਗੇਮਾ ਫਾਲੋ-ਅੱਪ ਨੇ ਆਪਣੀ ਖੁਦ ਦੀ ਸੈਟਅਪ ਦੀ ਵਰਤੋਂ ਕੀਤੀ ਅਤੇ ਇੱਕ ਸੁਧਾਰ ਸਥਾਪਤ ਕਰਨ ਵਿੱਚ ਅਸਫਲ ਰਿਹਾ। ਇੱਕ ਵਜ਼ਨ ਸੰਪਾਦਨ ਨੂੰ ਕਿਸੇ ਹੋਰ ਮਾਡਲ 'ਤੇ ਲਾਗੂ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਟੈਸਟ ਕਰੋ ਕਿ ਕਿਹੜੀ ਅਸਫਲਤਾ ਦੀ ਮੁਰੰਮਤ ਕਰਦਾ ਹੈ।

ਅਨੁਵਾਦਿਤ ਟ੍ਰਾਂਸਕ੍ਰਿਪਟ

ਮੂਲ ਅੰਗਰੇਜ਼ੀ ਬਿਰਤਾਂਤ ਤੋਂ ਅਨੁਵਾਦ ਕੀਤਾ ਗਿਆ। ਉਪਲਬਧ ਆਡੀਓ ਅਤੇ ਕੈਪਸ਼ਨ YouTube ਦੁਆਰਾ ਨਿਯੰਤਰਿਤ ਕੀਤੇ ਜਾਂਦੇ ਹਨ।

ਗਣਿਤ ਦਾ ਸਕੋਰ ਕਿਉਂ ਵਧਿਆ?

0:00 ਇੱਕ AI ਦੂਜੇ AI ਨੂੰ ਛੇ ਗੁਣਾ ਜ਼ਿਆਦਾ ਸਮਾਰਟ ਬਣਾਉਣਾ ਤੁਰੰਤ ਲੱਗਦਾ ਹੈ ਪ੍ਰਤਿਭਾ। ਐਸਟਰਾ ਦਾ ਵੱਡਾ ਸਕੋਰ ਵਾਧਾ ਕਵੈਨ ਨੂੰ ਜਵਾਬ ਖਤਮ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕਰਨ ਤੋਂ ਆਇਆ ਜੋ ਇਹ ਰੱਖਦਾ ਸੀ ਦੁਹਰਾਉਣਾ। ਇਸ ਵੀਡੀਓ ਵਿੱਚ, ਕੀ ਬਦਲਿਆ? ਐਸਟਰਾ ਨੂੰ ਕੀ ਮਦਦ ਮਿਲੀ? ਅਤੇ ਫਿਕਸ ਕਿੰਨੀ ਦੂਰ ਜਾਂਦਾ ਹੈ? ਕਵੈਨ ਲਗਭਗ ਅੱਠ ਪ੍ਰਤੀਸ਼ਤ ਤੋਂ ਅਠਤਾਲੀ ਪ੍ਰਤੀਸ਼ਤ ਤੱਕ ਗਿਆ। ਖੋਜਕਰਤਾਵਾਂ ਨੇ ਲਗਭਗ ਬਿਨਾਂ ਲੂਪਾਂ ਦੇ ਦੂਜਾ ਮਾਡਲ ਅਜ਼ਮਾਇਆ। ਅਸੀਂ ਦੇਖਾਂਗੇ ਕਿ ਫੈਸਲੇ ਤੋਂ ਪਹਿਲਾਂ ਇਹ ਕਿਵੇਂ ਚਲਿਆ।

0:22 ਇਹ ਮੰਗਲਵਾਰ, ਤੀਜਾ ਨਵੰਬਰ ਹੈ, ਅਤੇ ਇਹ The Daily Diff ਹੈ। ਵੇਟ-ਸਪੇਸ ਪ੍ਰੋਗਰਾਮਿੰਗ ਖੋਜਕਰਤਾਵਾਂ ਦਾ ਨਾਮ ਹੈ ਇੱਕ AI ਨੂੰ ਜਾਂ ਤਾਂ ਨਿਰੀਖਣ ਕਰਨ ਲਈ ਕਹਿਣਾ ਜਾਂ ਇੱਕ ਨਿਊਰਲ ਨੈੱਟਵਰਕ ਦੇ ਅੰਦਰ ਨੰਬਰ ਲਿਖਣਾ। ਉਹ ਨੰਬਰ ਇਸਦੇ ਵਜ਼ਨ ਹਨ। ਇਸ MIT-ਸੰਬੰਧਿਤ ਟੀਮ ਨੇ OpenAI ਦੇ GPT ਛੇ ਐਸਟਰਾ ਦੀ ਵਰਤੋਂ ਇੱਕ ਛੋਟੇ ਕਵੈਨ ਭਾਸ਼ਾ ਮਾਡਲ ਨੂੰ ਸੰਪਾਦਿਤ ਕਰਨ ਲਈ ਕੀਤੀ, ਜਿਸ ਵਿੱਚ ਆਮ ਸਿਖਲਾਈ ਦੀ ਮਨਾਹੀ ਸੀ। ਰਿਕੀਆ ਤਾਕੇਹੀ ਅਤੇ ਉਸਦੇ ਸਹਿ-ਲੇਖਕਾਂ ਨੇ ਸੋਮਵਾਰ ਨੂੰ ਅਧਿਐਨ ਪ੍ਰਕਾਸ਼ਿਤ ਕੀਤਾ,

0:44 ਇਹ ਪੁੱਛਦੇ ਹੋਏ ਕਿ ਕੀ ਇੱਕ ਮੌਜੂਦਾ AI ਦੂਜੇ ਨੈੱਟਵਰਕ ਦੇ ਅੰਦਰੂਨੀ ਬਾਰੇ ਤਰਕ ਕਰ ਸਕਦਾ ਹੈ। ਉਨ੍ਹਾਂ ਦਾ ਮੁੱਖ ਨਤੀਜਾ ਬਹੁਤ ਕਲਿੱਕੇਬਲ ਹੈ। ਗਣਿਤ ਪੰਜ ਸੌ 'ਤੇ, ਕਵੈਨ ਲਗਭਗ ਅੱਠ ਪ੍ਰਤੀਸ਼ਤ ਤੋਂ ਅਠਤਾਲੀ ਪ੍ਰਤੀਸ਼ਤ ਤੱਕ ਵਧਿਆ। ਲਗਭਗ ਛੇ ਗੁਣਾ ਸਹੀ ਜਵਾਬ। ਕਵੈਨ ਸੋਚਦਾ ਰਿਹਾ ਜਦੋਂ ਤੱਕ ਉਸਦੇ ਜਵਾਬ ਦੇਣ ਲਈ ਜਗ੍ਹਾ ਖਤਮ ਨਹੀਂ ਹੋ ਗਈ।

ਕਵੈਨ ਕੀ ਗਲਤ ਕਰ ਰਿਹਾ ਸੀ?

1:00 ਸੋਚਣ ਦੇ ਢੰਗ ਵਿੱਚ, ਇਹ ਅਕਸਰ ਆਪਣੇ ਤਰਕ ਨੂੰ ਦੁਹਰਾਉਂਦਾ ਸੀ। ਕਲਪਨਾ ਕਰੋ ਕਿ ਇੱਕ ਵਿਦਿਆਰਥੀ ਘੰਟੀ ਵੱਜਣ ਤੱਕ ਪ੍ਰੀਖਿਆ ਦੀ ਕਿਤਾਬ ਨੂੰ ਕੰਮ ਨਾਲ ਭਰ ਰਿਹਾ ਹੈ। ਮਾਰਕਰ ਨੂੰ ਅਜੇ ਵੀ ਜਵਾਬ ਚਾਹੀਦਾ ਹੈ। ਜ਼ਿਆਦਾਤਰ ਮੂਲ ਜਵਾਬ ਲੰਬਾਈ ਸੀਮਾ 'ਤੇ ਪਹੁੰਚ ਗਏ। ਐਸਟਰਾ ਨੇ ਦੋ ਅੰਦਰੂਨੀ ਪਰਤਾਂ ਵਿੱਚ ਇੱਕ ਦੁਹਰਾਓ ਦਿਸ਼ਾ ਦਾ ਪਤਾ ਲਗਾਇਆ, ਫਿਰ ਚੁਣੇ ਹੋਏ ਵਜ਼ਨ ਕਾਲਮਾਂ ਤੋਂ ਇਸਦੇ ਯੋਗਦਾਨ ਨੂੰ ਹਟਾ ਦਿੱਤਾ। ਉਸ ਸੰਪਾਦਨ ਤੋਂ ਬਾਅਦ, ਹੋਰ ਜਵਾਬ ਇੱਕ ਸਿੱਟੇ 'ਤੇ ਪਹੁੰਚੇ। ਰਿਪੋਰਟ ਕੀਤੇ ਟੈਸਟ ਵਿੱਚ ਲਗਭਗ ਇੱਕ ਤਿਹਾਈ ਅਜੇ ਵੀ ਸੀਮਾ 'ਤੇ ਪਹੁੰਚ ਗਏ।

1:22 ਪ੍ਰੀਖਿਆ ਦੀ ਕਿਤਾਬ ਨੂੰ ਅੰਤ ਵਿੱਚ ਇੱਕ ਆਖਰੀ ਲਾਈਨ ਮਿਲੀ। ਅੱਜ, ਮੈਥਿਊ ਹੋਨੀਬਲ, spaCy ਦੇ ਸਿਰਜਣਹਾਰ ਅਤੇ Explosion ਦੇ ਸਹਿ-ਸੰਸਥਾਪਕ,

ਅੱਜ ਦਾ ਆਲੋਚਕ ਕੀ ਵਿਵਾਦ ਕਰਦਾ ਹੈ?

1:28 ਪੇਸ਼ਕਾਰੀ ਨੂੰ ਚੁਣੌਤੀ ਦਿੱਤੀ। ਉਹ ਕਹਿੰਦਾ ਹੈ ਕਿ ਪਾਠਕ ਪ੍ਰਯੋਗਾਂ ਦੀਆਂ ਵੱਖਰੀਆਂ ਸ਼ਰਤਾਂ ਨੂੰ ਇੱਕ ਅਸਾਧਾਰਨ ਤਕਨੀਕ ਦੇ ਪ੍ਰਭਾਵ ਵਿੱਚ ਜੋੜ ਸਕਦੇ ਹਨ। ਉਸਦਾ ਇਤਰਾਜ਼ ਉਨ੍ਹਾਂ ਦੀ ਸੰਯੁਕਤ ਕਹਾਣੀ ਨਾਲ ਸੰਬੰਧਿਤ ਹੈ। ਅਸੀਂ ਖੁਦ ਸ਼ਰਤਾਂ ਦੀ ਜਾਂਚ ਕਰ ਸਕਦੇ ਹਾਂ। ਕਵੈਨ ਪ੍ਰਯੋਗ ਨੇ ਐਸਟਰਾ ਨੂੰ ਵਜ਼ਨ ਅਤੇ ਅਭਿਆਸ 'ਤੇ ਇੱਕ ਪਾਈਥਨ ਨੋਟਬੁੱਕ ਦਿੱਤੀ

ਐਸਟਰਾ ਨੂੰ ਅਸਲ ਵਿੱਚ ਕੀ ਮਦਦ ਮਿਲੀ?

1:44 ਜਵਾਬਾਂ ਦੇ ਨਾਲ ਸਮੱਸਿਆਵਾਂ। ਬਹੁਤ ਸਾਰੇ ਮੋੜਾਂ 'ਤੇ, ਇਸਨੇ ਅੰਦਰੂਨੀ ਕਿਰਿਆਵਾਂ ਦਾ ਨਿਰੀਖਣ ਕੀਤਾ ਅਤੇ ਮੂਲ ਅਤੇ ਸੰਪਾਦਿਤ ਸੰਸਕਰਣਾਂ ਦੀ ਤੁਲਨਾ ਕੀਤੀ। ਅੰਤਿਮ ਬਜਟ ਨੇ ਮਾਡਲ ਰਨ ਦੇ ਪੰਜਾਹ ਬੈਚਾਂ ਦੀ ਆਗਿਆ ਦਿੱਤੀ। ਹਰੇਕ ਪੀੜ੍ਹੀ ਦੇ ਬੈਚ ਵਿੱਚ ਸੈਂਕੜੇ ਜਵਾਬ ਹੋ ਸਕਦੇ ਹਨ। ਅਭਿਆਸ ਡਾਟਾ ਸਿਖਲਾਈ ਵੰਡਾਂ ਤੋਂ ਆਇਆ ਹੈ। ਖੋਜਕਰਤਾਵਾਂ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਐਸਟਰਾ ਨੇ ਕਦੇ ਵੀ ਅੰਤਿਮ ਮੁਲਾਂਕਣ ਸੈੱਟ ਨਹੀਂ ਦੇਖੇ। ਫੀਡਬੈਕ ਨੇ ਸੰਪਾਦਨ ਦੀ ਚੋਣ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕੀਤੀ; ਬਾਅਦ ਵਿੱਚ ਰੱਖੀਆਂ ਗਈਆਂ ਸਮੱਸਿਆਵਾਂ ਨੇ ਇਸਨੂੰ ਮਾਪਿਆ। ਨਮੂਨਾ ਸੈਟਿੰਗਾਂ ਮੂਲ ਅਤੇ ਸੰਪਾਦਿਤ ਕਵੈਨ ਵਿਚਕਾਰ ਸਥਿਰ ਰਹੀਆਂ,

2:09 ਇਸ ਪ੍ਰੋਟੋਕੋਲ ਦੇ ਸਕੋਰ ਦੀ ਤੁਲਨਾ ਨੂੰ ਵਿਆਖਿਆਯੋਗ ਬਣਾਉਣਾ। ਪਹਿਲੇ ਪ੍ਰੋਂਪਟ ਨੇ ਇਸਨੂੰ ਇੱਕ ਮਦਦਗਾਰ ਲੈਬ ਸੁਪਰਵਾਈਜ਼ਰ ਦਿੱਤਾ। ਅਸਫਲਤਾਵਾਂ ਦਾ ਪਤਾ ਲਗਾਓ, ਜ਼ਿੰਮੇਵਾਰ ਹਿੱਸੇ ਲੱਭੋ, ਉਹੀ ਸਮੱਸਿਆਵਾਂ 'ਤੇ ਤੁਲਨਾ ਕਰੋ, ਅਤੇ ਕਈ ਤਾਕਤਾਂ ਦੀ ਜਾਂਚ ਕਰੋ। ਇਸਨੇ ਦੁਹਰਾਉਣ ਵਾਲੀ ਸੋਚ ਨੂੰ ਇੱਕ ਮੁਰੰਮਤ ਵਜੋਂ ਸਪੱਸ਼ਟ ਤੌਰ 'ਤੇ ਜ਼ਿਕਰ ਕੀਤਾ ਜੋ ਗਿਣਿਆ ਜਾਂਦਾ ਹੈ। ਗ੍ਰੈਜੂਏਟ ਵਿਦਿਆਰਥੀਆਂ ਨੂੰ ਇਸ ਆਨਬੋਰਡਿੰਗ ਪੈਕੇਜ ਲਈ ਗੱਲਬਾਤ ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ। ਇਹ ਇੱਕ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਮੁਰੰਮਤ ਹੈ।

ਅਸਲ ਮੁਰੰਮਤ ਕਿੰਨੀ ਛੋਟੀ ਸੀ?

2:28 ਐਸਟਰਾ ਦੇ ਨਿਸ਼ਾਨਾ ਸੰਪਾਦਨ ਨੇ ਲਗਭਗ ਇੱਕ ਸੌ ਇਕੱਤੀ ਹਜ਼ਾਰ ਵਜ਼ਨ ਨੂੰ ਛੂਹਿਆ। ਇਹ ਮਾਡਲ ਦਾ ਲਗਭਗ ਸੋਲ੍ਹ ਹਜ਼ਾਰਵੇਂ ਹਿੱਸਾ ਹੈ। ਵਜ਼ਨ ਫਾਈਲ ਸਿੱਧੇ ਬਦਲ ਗਈ। ਗ੍ਰੇਡੀਐਂਟ ਸਿਖਲਾਈ ਦੀ ਮਨਾਹੀ ਰਹੀ; ਮੌਜੂਦਾ ਮਾਡਲ ਨੇ ਜਵਾਬ ਦੇਣਾ ਜਾਰੀ ਰੱਖਿਆ ਐਸਟਰਾ ਦਾ ਸੰਪਾਦਨ ਸੈਸ਼ਨ ਖਤਮ ਹੋ ਗਿਆ। ਲਾਭ ਨਿਰਦੇਸ਼ਾਂ ਦੀ ਪਾਲਣਾ ਤੱਕ ਵੀ ਪਹੁੰਚ ਗਿਆ। ਮੈਨੂੰ ਵਿਹਾਰਕ ਪ੍ਰਭਾਵ ਪਸੰਦ ਹੈ। ਇੱਕ ਮਾਡਲ ਉਪਯੋਗੀ ਕੰਮ ਰੱਖ ਸਕਦਾ ਹੈ ਜੋ ਇਸਦੀ ਅਸਫਲਤਾ ਮੋਡ ਦੱਬੀ ਰੱਖਦੀ ਹੈ।

2:48 ਉਸ ਅਸਫਲਤਾ ਨੂੰ ਠੀਕ ਕਰਨਾ ਉਪਯੋਗੀ ਜਵਾਬਾਂ ਨੂੰ ਮੁੜ ਪ੍ਰਾਪਤ ਕਰ ਸਕਦਾ ਹੈ। ਖਤਮ ਕਰਨਾ ਗਿਣਿਆ ਜਾਂਦਾ ਹੈ। ਹੋਨੀਬਲ ਟੂਲ-ਸਹਾਇਤਾ ਪ੍ਰਾਪਤ ਕੰਮ ਨੂੰ ਕ੍ਰੈਡਿਟ ਦਿੰਦਾ ਹੈ ਕਿ ਉਹ ਪ੍ਰਦਰਸ਼ਨ ਕਰ ਰਿਹਾ ਹੈ ਕਾਰਜ ਜੋ ਇੱਕ ਮਨੁੱਖੀ ਮਸ਼ੀਨ-ਲਰਨਿੰਗ ਇੰਜੀਨੀਅਰ ਕਰ ਸਕਦਾ ਹੈ। ਇਹ ਇੱਕ ਏਜੰਟ ਲਈ ਮਹੱਤਵਪੂਰਨ ਹੈ। ਉਸਦੀ ਸ਼ਿਕਾਇਤ ਇਹ ਹੈ ਕਿ ਛੋਟੇ ਕੱਚੇ-ਨੰਬਰ ਪ੍ਰਦਰਸ਼ਨ ਅਤੇ ਵੱਡੇ ਪਾਈਥਨ-ਸਹਾਇਤਾ ਪ੍ਰਾਪਤ ਮੁਰੰਮਤਾਂ ਨੂੰ ਇਕੱਠੇ ਬੰਡਲ ਕਰਨ 'ਤੇ ਇੱਕ ਵਿਆਪਕ ਸਿੱਟਾ ਕੱਢਿਆ ਜਾਂਦਾ ਹੈ। ਛੋਟੇ ਗੇਮ ਨੈੱਟਵਰਕ ਲਓ।

ਕਿਹੜੇ ਪ੍ਰਯੋਗਾਂ ਵਿੱਚ ਅਸਲ ਵਿੱਚ ਕੋਈ ਟੂਲ ਨਹੀਂ ਸਨ?

3:09 ਇੱਕ ਪ੍ਰਯੋਗ ਵਿੱਚ, ਐਸਟਰਾ ਨੇ ਉਹਨਾਂ ਦੇ ਕੱਚੇ ਨੰਬਰ ਪੜ੍ਹੇ ਅਤੇ ਸਹੀ ਢੰਗ ਨਾਲ ਪਛਾਣ ਕੀਤੀ ਕਿ ਹਰੇਕ ਨੈੱਟਵਰਕ ਨੇ ਕਿਹੜੀ ਖੇਡ ਸਿੱਖੀ ਸੀ। ਟੂਲ ਦੀ ਮਨਾਹੀ ਸੀ। ਇੱਕ ਹੋਰ ਵਿੱਚ, ਇਸਨੇ ਨਿਯਮਾਂ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਅਤੇ ਸਰੋਤ ਕੋਡ, ਬਿਨਾਂ ਅਭਿਆਸ ਰੋਲਆਉਟ ਦੇ। ਉਹ ਵੱਖਰੇ ਸਬੂਤਾਂ ਵਾਲੇ ਵੱਖਰੇ ਪ੍ਰਦਰਸ਼ਨ ਹਨ। ਐਸਟਰਾ ਦੇ ਨੈੱਟਵਰਕਾਂ ਨੇ ਸਾਰੇ ਤਿੰਨ ਗੇਮਾਂ ਵਿੱਚ ਸੌ ਮਿਲੀਅਨ ਕਦਮਾਂ ਲਈ ਸਿਖਲਾਈ ਪ੍ਰਾਪਤ ਬੇਸਲਾਈਨ ਨੂੰ ਹਰਾਇਆ। ਲੰਬੇ ਸਮੇਂ ਤੋਂ ਸਿਖਲਾਈ ਪ੍ਰਾਪਤ ਬੇਸਲਾਈਨ ਦੇ ਵਿਰੁੱਧ, ਇਹ ਸੀਕਵੈਸਟ ਅਤੇ

3:32 ਐਸਟੇਰਿਕਸ ਵਿੱਚ ਹਾਰ ਗਿਆ, ਜਦੋਂ ਕਿ ਬ੍ਰੇਕਆਉਟ ਜਿੱਤਿਆ। ਤੁਲਨਾ ਕਾਲਮ ਬਦਲੋ, ਅਤੇ ਜਿੱਤ ਭਾਸ਼ਣ ਨੂੰ ਸੰਪਾਦਿਤ ਕਰਨ ਦੀ ਲੋੜ ਹੈ। ਸੁਵਿਧਾਜਨਕ ਤੌਰ 'ਤੇ, ਸੰਪਾਦਨ ਅੱਜ ਦਾ ਵਿਸ਼ਾ ਹੈ। ਇੱਕ ਵਿਆਪਕ ਦਾਅਵੇ ਲਈ, ਅਸੀਂ ਵੱਖਰੀਆਂ ਅਸਫਲਤਾਵਾਂ ਵਾਲੇ ਮਾਡਲਾਂ ਵਿੱਚ ਸੁਧਾਰ ਚਾਹੁੰਦੇ ਹਾਂ।

ਇੱਕ ਹੋਰ ਆਮ ਦਾਅਵੇ ਲਈ ਕੀ ਚਾਹੀਦਾ ਹੈ?

3:44 ਟਰੈਕ ਕਰੋ ਕਿ ਸੰਪਾਦਕ ਨੇ ਕੀ ਦੇਖਿਆ ਅਤੇ ਸਫਲਤਾ ਵਜੋਂ ਕੀ ਗਿਣਿਆ ਗਿਆ। ਕਵੈਨ ਦਾ ਮਾਡਲ ਕਾਰਡ ਪਹਿਲਾਂ ਹੀ ਸੋਚਣ ਦੇ ਲੂਪਾਂ ਬਾਰੇ ਚੇਤਾਵਨੀ ਦਿੰਦਾ ਹੈ। ਇਸ ਜਾਣੀ-ਪਛਾਣੀ ਰੁਕਾਵਟ ਨੂੰ ਹਟਾਉਣ ਦਾ ਇੱਕ ਖਾਸ ਸ਼ੁਰੂਆਤੀ ਬਿੰਦੂ ਹੈ। ਉਨ੍ਹਾਂ ਦੇ ਸਿਹਰਾ ਲਈ, ਲੇਖਕ ਖੁਦ ਅਸਹਿਜ ਫਾਲੋ-ਅੱਪ ਪ੍ਰਕਾਸ਼ਿਤ ਕਰਦੇ ਹਨ। ਉਹ ਦੱਸਦੇ ਹਨ ਕਿ ਲੂਪਾਂ ਨੂੰ ਰੋਕਣ ਨਾਲ ਕਵੈਨ ਨੂੰ ਉਹ ਜਵਾਬ ਪੂਰੇ ਕਰਨ ਦਿੰਦਾ ਹੈ ਜੋ ਉਹ ਪਹਿਲਾਂ ਹੀ ਕੰਮ ਕਰ ਸਕਦਾ ਸੀ ਬਾਹਰ. ਉਨ੍ਹਾਂ ਦੇ ਲੌਗ ਵਿੱਚ ਪ੍ਰੋਂਪਟ, ਫੀਡਬੈਕ ਅਤੇ ਸੰਪਾਦਨ ਸ਼ਾਮਲ ਹਨ। ਅਸੀਂ ਪ੍ਰਾਪਤੀ ਦੀ ਜਾਂਚ ਕਰ ਸਕਦੇ ਹਾਂ ਅਤੇ ਇੱਕ ਔਖਾ ਸਵਾਲ ਪੁੱਛ ਸਕਦੇ ਹਾਂ।

ਉਸ ਮਾਡਲ ਦਾ ਕੀ ਹੋਇਆ ਜੋ ਘੱਟ ਹੀ ਲੂਪ ਕਰਦਾ ਸੀ?

4:06 ਹੁਣ ਦੂਜਾ ਮਾਡਲ, ਇਸਦੇ ਆਪਣੇ ਫਾਲੋ-ਅੱਪ ਸੈਟਅਪ ਵਿੱਚ ਇੱਕ ਛੋਟਾ ਜੇਮਾ। ਇਹ ਘੱਟ ਹੀ ਲੂਪ ਕਰਦਾ ਸੀ, ਇਸਲਈ ਇਸਦੀਆਂ ਅਸਫਲਤਾਵਾਂ ਆਮ ਗਲਤ ਅੰਕਗਣਿਤ ਅਤੇ ਅਵੈਧ ਅਲਜਬਰਾ ਸਨ। ਐਸਟਰਾ ਨੇ ਅਭਿਆਸ ਫੀਡਬੈਕ ਨਾਲ ਨਿਸ਼ਾਨਾ ਵਜ਼ਨ ਸੰਪਾਦਨ ਦੀ ਦੁਬਾਰਾ ਕੋਸ਼ਿਸ਼ ਕੀਤੀ। ਕਿਸੇ ਨੇ ਵੀ ਇਸਦੇ ਗਣਿਤ ਦੇ ਸਕੋਰ ਨੂੰ ਲਗਭਗ ਇੱਕ ਬਿੰਦੂ ਤੋਂ ਵੱਧ ਨਹੀਂ ਵਧਾਇਆ, ਅਤੇ ਕੋਈ ਲਾਭ ਸਥਾਪਤ ਨਹੀਂ ਕੀਤਾ ਗਿਆ। ਸਫਲ ਕਵੈਨ ਮੁਰੰਮਤ ਵਿੱਚ ਇੱਕ ਰੁਕਾਵਟ ਸੀ ਜਿਸਨੂੰ ਹਟਾਉਣਾ ਸੀ। ਜੇਮਾ ਦੀਆਂ ਅੰਕਗਣਿਤ ਦੀਆਂ ਗਲਤੀਆਂ ਬਚੀਆਂ ਰਹੀਆਂ। ਇਹ ਡਿਵੈਲਪਰਾਂ ਲਈ ਉਪਯੋਗੀ ਸਵਾਲ ਹੈ।

4:28 ਸੰਪਾਦਨ ਨੇ ਕਿਹੜੀ ਅਸਫਲਤਾ ਦੀ ਮੁਰੰਮਤ ਕੀਤੀ, ਅਤੇ ਕੀ ਤੁਹਾਡੇ ਮਾਡਲ ਵਿੱਚ ਅਸਲ ਵਿੱਚ ਇਹ ਹੈ? ਗੁਣਕ ਦਾ ਜਸ਼ਨ ਮਨਾਉਣ ਤੋਂ ਪਹਿਲਾਂ ਆਪਣੇ ਖੁਦ ਦੇ ਕਾਰਜਾਂ 'ਤੇ ਸੁਰੱਖਿਅਤ ਕੀਤੇ ਵਜ਼ਨ ਦੀ ਜਾਂਚ ਕਰੋ। ਇੱਕ ਮੁਰੰਮਤ ਕੀਤਾ ਬੋਤਲਨੇਕ ਬਹੁਤ ਮਹੱਤਵਪੂਰਨ ਹੋ ਸਕਦਾ ਹੈ ਜਦੋਂ ਕਿ ਅਗਲਾ ਬੋਤਲਨੇਕ ਉੱਥੇ ਹੀ ਰਹਿੰਦਾ ਹੈ ਜਿੱਥੇ ਇਹ ਸੀ। ਜੇ ਤੁਸੀਂ ਇਹ ਸੁਣਨ ਦੀ ਬਜਾਏ ਇਸਨੂੰ ਪੜ੍ਹਨਾ ਚਾਹੁੰਦੇ ਹੋ, ਤਾਂ ਡਿਫ ਤੁਹਾਡੇ ਇਨਬਾਕਸ ਵਿੱਚ ਆਉਂਦਾ ਹੈ ਹਰ ਸਵੇਰ, The Daily Diff dot dev 'ਤੇ ਮੁਫ਼ਤ, ਲਿੰਕ ਹੇਠਾਂ ਦਿੱਤਾ ਗਿਆ ਹੈ।

ਕੀ ਮੈਂ ਵਜ਼ਨ-ਸੰਪਾਦਨ ਦਾ ਦਾਅਵਾ ਭੇਜਾਂਗਾ?

4:47 ਇਸ ਲਈ, ਅੱਜ ਦਾ ਫੈਸਲਾ NEEDS REVIEW ਹੈ। ਮੈਂ ਲੂਪ ਮੁਰੰਮਤ ਨੂੰ ਗੰਭੀਰਤਾ ਨਾਲ ਲਵਾਂਗਾ ਅਤੇ ਇਸਦੀ ਜਾਂਚ ਕਰਾਂਗਾ। ਮੈਂ ਉਸ ਅਸਫਲਤਾ ਮੋਡ ਤੋਂ ਪਰੇ ਸਫਲਤਾ 'ਤੇ ਵਧੇਰੇ ਦਾਅਵਿਆਂ ਨੂੰ ਬਰਕਰਾਰ ਰੱਖਾਂਗਾ। ਲੇਖਕਾਂ ਦਾ ਆਪਣਾ ਵਿਰੋਧੀ ਉਦਾਹਰਨ ਡਿਫ ਵਿੱਚ ਸਭ ਤੋਂ ਉਪਯੋਗੀ ਲਾਈਨ ਹੈ। ਅਤੇ ਇਹ ਅੱਜ ਲਈ ਡਿਫ ਹੈ। ਮੈਂ ਐਕਸਰਿਸੀ ਤੋਂ ਨਿਕੋ ਹਾਂ। ਜ਼ਿੰਮੇਵਾਰੀ ਨਾਲ ਮਰਜ ਕਰੋ।

ਸਰੋਤ

1. Weight-space programming studyRikiya Takehi and coauthors
2. November 3 critique of bundled experiment conditionsMatthew Honnibal
3. Pinned Qwen protocol and exact weight editsRikiya Takehi and coauthors
4. Actual initial Qwen promptRikiya Takehi and coauthors
5. Pinned smaller Gemma follow-upRikiya Takehi and coauthors
6. Original model-card thinking-loop warningQwen
7. Primary study discussionHacker News
8. Critique discussionHacker News
9. Cover portrait: Sam Altman, TechCrunch 2019 crop, CC BY 2.0; cropped, background removed, resized and flipped; no endorsementSteve Jennings/Getty Images for TechCrunch via Wikimedia Commons
10. Released checkpoint and attributed external re-runRikiyaT on Hugging Face; re-run credited to akhaliq
11. Portrait license: Creative Commons Attribution 2.0Creative Commons; Steve Jennings/Getty Images for TechCrunch portrait credit above