Apple MLX ਡਿਸਟ੍ਰੀਬਿਊਟਡ ਇਨਫਰੈਂਸ: ਮਾਡਲ ਸਮਰੱਥਾ, ਸਪੀਡ ਅਤੇ ਭਰੋਸੇਯੋਗਤਾ ਸੀਮਾਵਾਂ

ਇਹ ਵੀਡੀਓ ਕੀ ਕਵਰ ਕਰਦਾ ਹੈ

• ਮਾਡਲ ਵਜ਼ਨ ਅਤੇ ਇਨਫਰੈਂਸ ਵਰਕਸਪੇਸ ਦੋਵੇਂ ਮੈਮੋਰੀ ਦੀ ਖਪਤ ਕਰਦੇ ਹਨ; ਇਕੱਲੇ ਮਾਡਲ ਦੇ ਵਜ਼ਨ ਦਾ ਫੁੱਟਪ੍ਰਿੰਟ ਲੋੜੀਂਦੀ ਸਮਰੱਥਾ ਨੂੰ ਘੱਟ ਦਰਸਾ ਸਕਦਾ ਹੈ।
• ਪਾਈਪਲਾਈਨ ਸਮਾਂਤਰਤਾ ਲਗਾਤਾਰ ਪਰਤਾਂ ਨੂੰ ਵੰਡਦੀ ਹੈ, ਜਦੋਂ ਕਿ ਟੈਂਸਰ ਸਮਾਂਤਰਤਾ ਹਰੇਕ ਪਰਤ ਦੇ ਅੰਦਰ ਕੰਮ ਨੂੰ ਵੰਡਦੀ ਹੈ ਅਤੇ ਅਕਸਰ ਘੱਟ-ਲੇਟੈਂਸੀ ਸੰਚਾਰ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ।
• ਐਪਲ ਚਾਰ M5 Ultra Mac Studios 'ਤੇ 8,192-ਟੋਕਨ ਪ੍ਰਸੰਗ ਦੇ ਨਾਲ ਪ੍ਰਤੀ ਸਕਿੰਟ 36 ਤੋਂ ਵੱਧ ਟੋਕਨਾਂ ਦੀ ਰਿਪੋਰਟ ਕਰਦਾ ਹੈ; ਕੇਬਲ ਦੀ ਤੁਲਨਾ 65,536-ਟੋਕਨ ਪ੍ਰਸੰਗ 'ਤੇ ਪਹਿਲੇ-ਟੋਕਨ ਦੀ ਉਡੀਕ ਨਾਲ ਸੰਬੰਧਿਤ ਹੈ।
• ਮਰਕੋਰ ਦੀ 90% ਕੰਮ-ਘੰਟਿਆਂ ਦੀ ਖੋਜ ਇਸਦੇ ਚੁਣੇ ਹੋਏ ਬੈਂਚਮਾਰਕ ਸੂਚਕਾਂਕ ਵਿੱਚ ਬਹੁਤ ਘੱਟ ਜਾਂ ਕੋਈ ਕਵਰੇਜ ਨਹੀਂ ਦਰਸਾਉਂਦੀ। ਇਹ 90% ਮਾਡਲ ਅਸਫਲਤਾ ਦਰ ਸਥਾਪਤ ਨਹੀਂ ਕਰਦੀ।
• OpenCode ਦਾ ਸੰਪਾਦਿਤ ਨੋਟਿਸ ਲਿੰਕ ਕੀਤੇ ਬਾਹਰੀ ਪ੍ਰਦਾਤਾਵਾਂ ਵਾਲੇ Console ਉਪਭੋਗਤਾਵਾਂ ਦੇ ਇੱਕ ਉਪ-ਸਮੂਹ ਦਾ ਵਰਣਨ ਕਰਦਾ ਹੈ। ਜਨਤਕ ਨੋਟਿਸ ਹਰੇਕ ਸਥਾਨਕ ਸਥਾਪਨਾ ਦੀ ਸਮਝੌਤਾ ਸਥਾਪਤ ਨਹੀਂ ਕਰਦਾ।
• ਇੱਕ ਸਥਾਨਕ ਮਾਡਲ ਸੈੱਟਅੱਪ ਨੂੰ ਇੱਕ ਪੂਰਨ ਗੋਪਨੀਯਤਾ ਜਾਂ ਲਾਗਤ ਹੱਲ ਮੰਨਣ ਤੋਂ ਪਹਿਲਾਂ ਆਪਣੇ ਅਸਲ ਕਾਰਜਭਾਰ ਦੀ ਜਾਂਚ ਕਰੋ ਅਤੇ ਪ੍ਰਮਾਣ-ਪੱਤਰ ਧਾਰਕ ਸੇਵਾਵਾਂ ਦੀ ਸਮੀਖਿਆ ਕਰੋ।

ਅਨੁਵਾਦਿਤ ਟ੍ਰਾਂਸਕ੍ਰਿਪਟ

ਮੂਲ ਅੰਗਰੇਜ਼ੀ ਬਿਰਤਾਂਤ ਤੋਂ ਅਨੁਵਾਦ ਕੀਤਾ ਗਿਆ। ਉਪਲਬਧ ਆਡੀਓ ਅਤੇ ਕੈਪਸ਼ਨ YouTube ਦੁਆਰਾ ਨਿਯੰਤਰਿਤ ਕੀਤੇ ਜਾਂਦੇ ਹਨ।

ਦੋ ਮੈਕ ਇੱਕੋ ਸਪੀਡ 'ਤੇ ਕਿਉਂ ਰਹਿ ਸਕਦੇ ਹਨ?

0:00 ਤੁਸੀਂ ਉਮੀਦ ਕਰੋਗੇ ਕਿ ਦੋ ਮੈਕ ਤੁਹਾਡੇ AI ਨੂੰ ਦੁੱਗਣਾ ਤੇਜ਼ ਬਣਾਉਣਗੇ। ਐਪਲ ਦੇ ਆਪਣੇ ਟੈਸਟ ਦਿਖਾਉਂਦੇ ਹਨ ਕਿ ਜਨਰੇਸ਼ਨ ਸਪੀਡ ਲਗਭਗ ਬਦਲੀ ਹੋਈ ਰਹਿ ਸਕਦੀ ਹੈ। ਇਸ ਵੀਡੀਓ ਵਿੱਚ, ਚਾਰ ਮੈਕ ਕੀ ਖਰੀਦਦੇ ਹਨ? ਬੈਂਚਮਾਰਕ ਕੀ ਖੁੰਝਾਉਂਦੇ ਹਨ? ਇੱਕ ਕੋਡਿੰਗ ਟੂਲ ਹਾਰਡਵੇਅਰ ਨੂੰ ਰਾਤੋ-ਰਾਤ ਹੋਏ ਉਲੰਘਣਾ ਨਾਲ ਜੋੜਦਾ ਹੈ। ਅਸੀਂ ਇਸ 'ਤੇ ਵਾਪਸ ਆਵਾਂਗੇ। ਸ਼ਨੀਵਾਰ, ਸਤਾਰਾਂ ਅਕਤੂਬਰ ਲਈ, ਇਹ The Daily Diff ਹੈ। MLX ਐਪਲ ਸਿਲੀਕਾਨ 'ਤੇ ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਲਈ ਐਪਲ ਦਾ ਓਪਨ ਸੋਰਸ ਐਰੇ ਫਰੇਮਵਰਕ ਹੈ।

0:22 ਇਸਦਾ ਨਵਾਂ ਟੈਸਟ ਚਾਰ Mac Studios 'ਤੇ ਮੇਟਾ ਦਾ Muse Spark Open ਚਲਾਉਂਦਾ ਹੈ। ਇਹ ਯੂਨੀਫਾਈਡ ਮੈਮੋਰੀ ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹੈ, ਜੋ CPU ਅਤੇ GPU ਸਾਂਝੇ ਕਰਦੇ ਹਨ। ਐਪਲ ਨੇ ਇਸਨੂੰ ਪੰਦਰਾਂ ਅਕਤੂਬਰ ਨੂੰ ਪ੍ਰਕਾਸ਼ਿਤ ਕੀਤਾ। ਮਰਕੋਰ ਨੇ ਉਸ ਕੰਮ ਦਾ ਨਕਸ਼ਾ ਬਣਾਇਆ ਜੋ AI ਬੈਂਚਮਾਰਕ ਮੁਸ਼ਕਿਲ ਨਾਲ ਮਾਪਦੇ ਹਨ। ਅਸੀਂ ਸਤਾਰਾਂ ਅਕਤੂਬਰ ਦੇ ਐਡੀਸ਼ਨ ਨੂੰ ਕਵਰ ਕਰ ਰਹੇ ਹਾਂ, ਜਿਸ ਵਿੱਚ OpenCode Console ਬਾਰੇ ਰਾਤੋ-ਰਾਤ ਅਠਾਰਾਂ ਅਕਤੂਬਰ ਦਾ ਅਪਡੇਟ ਹੈ। ਅਸੁਵਿਧਾਜਨਕ ਬਿੱਟ ਨਾਲ ਸ਼ੁਰੂ ਕਰੋ।

ਮਾਡਲ ਨੂੰ ਇੱਕ ਤੋਂ ਵੱਧ ਮੈਕ ਦੀ ਲੋੜ ਕਿਉਂ ਹੈ?

0:41 ਐਪਲ ਦਾ Muse Spark Open ਟੈਸਟ ਚਾਰ-ਬਿੱਟ ਮਾਡਲ ਲਈ ਹੀ ਲਗਭਗ ਪੰਜ ਸੌ ਗੀਗਾਬਾਈਟ ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹੈ। ਇੱਕ ਸਿੰਗਲ Mac Studio ਪੰਜ ਸੌ ਬਾਰਾਂ ਗੀਗਾਬਾਈਟ ਤੱਕ ਪਹੁੰਚਦਾ ਹੈ, ਅਤੇ ਇਨਫਰੈਂਸ ਨੂੰ ਕੰਮ ਕਰਨ ਵਾਲੀ ਮੈਮੋਰੀ ਦੀ ਵੀ ਲੋੜ ਹੁੰਦੀ ਹੈ। ਤੁਹਾਡੇ ਇੱਕ ਵੀ ਜੁਰਾਬ ਪੈਕ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਹੀ ਵਜ਼ਨ ਲਗਭਗ ਸੂਟਕੇਸ ਨੂੰ ਭਰ ਦਿੰਦੇ ਹਨ। ਹੋਰ ਮਸ਼ੀਨਾਂ ਮਾਡਲ ਨੂੰ ਫਿੱਟ ਬਣਾਉਂਦੀਆਂ ਹਨ। ਪਾਈਪਲਾਈਨ ਸਮਾਂਤਰਤਾ ਮਾਡਲ ਨੂੰ ਇਸ ਦੀਆਂ ਪਰਤਾਂ ਰਾਹੀਂ ਕੱਟਦੀ ਹੈ। ਮੈਕ A ਪਹਿਲੀਆਂ ਪਰਤਾਂ ਕਰਦਾ ਹੈ, ਫਿਰ ਵਿਚਕਾਰਲੇ ਨਤੀਜੇ ਨੂੰ ਬਾਅਦ ਦੀਆਂ ਪਰਤਾਂ ਲਈ ਮੈਕ B ਨੂੰ ਭੇਜਦਾ ਹੈ। ਇੱਕ ਜਨਰੇਟ ਕੀਤੇ ਟੋਕਨ ਲਈ, ਇਹ ਕਦਮ ਅਜੇ ਵੀ ਕ੍ਰਮ ਵਿੱਚ ਹੁੰਦੇ ਹਨ।

1:05 ਐਪਲ ਦੇ ਮਾਪ ਦਿਖਾਉਂਦੇ ਹਨ ਕਿ ਡੀਕੋਡ ਸਪੀਡ ਇੱਕ ਸਿੰਗਲ ਮਸ਼ੀਨ ਦੇ ਸਮਾਨ ਹੀ ਰਹਿੰਦੀ ਹੈ। ਤੁਸੀਂ ਇੱਕ ਦੂਜਾ ਰਸੋਈਆ ਨੌਕਰੀ 'ਤੇ ਰੱਖਿਆ ਹੈ, ਅਤੇ ਉਸਨੂੰ ਉਹੀ ਸੈਂਡਵਿਚ ਦਿੱਤਾ ਹੈ। Hacker News 'ਤੇ, ਇੱਕ ਡਿਵੈਲਪਰ ਨੇ ਸਵਾਲ ਕੀਤਾ ਕਿ ਐਪਲ ਦੀ ਸਾਰਣੀ ਨੇ ਇੱਕ Qwen ਮਾਡਲ ਦੇ ਨਾਲ ਇੱਕ ਚਾਰ ਬਿੱਟ ਮੇਟਾ ਮਾਡਲ ਦੀ ਵਰਤੋਂ ਕਿਉਂ ਕੀਤੀ ਇਸਦੀ ਮੂਲ ਸ਼ੁੱਧਤਾ 'ਤੇ। ਐਪਲ ਦੀ ਸਾਰਣੀ ਫਾਰਮੈਟ ਦੱਸਦੀ ਹੈ, ਇਸ ਲਈ ਖਰੀਦਦਾਰੀ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਫੁੱਟਨੋਟ ਪੜ੍ਹੋ। ਸਲਾਈਡ ਡੈੱਕ ਬੈਂਚਮਾਰਕ ਅਜੇਤੂ ਰਹਿੰਦੇ ਹਨ। ਟੈਂਸਰ ਸਮਾਂਤਰਤਾ ਹਰੇਕ ਪਰਤ ਵਿੱਚ ਕੱਟਦੀ ਹੈ। ਕਈ ਮੈਕ ਇੱਕੋ ਪਰਤ ਦੇ ਟੁਕੜਿਆਂ 'ਤੇ ਇਕੱਠੇ ਕੰਮ ਕਰਦੇ ਹਨ, ਫਿਰ ਆਪਣੇ ਨਤੀਜਿਆਂ ਨੂੰ ਜੋੜਦੇ ਹਨ।

1:29 ਇਹ ਜਨਰੇਸ਼ਨ ਨੂੰ ਤੇਜ਼ ਕਰ ਸਕਦਾ ਹੈ, ਪਰ ਮਸ਼ੀਨਾਂ ਵਾਰ-ਵਾਰ ਸੰਚਾਰ ਕਰਦੀਆਂ ਹਨ।

ਥੰਡਰਬੋਲਟ ਮੈਕਸ ਨੂੰ ਇਕੱਠੇ ਕੰਮ ਕਰਨ ਵਿੱਚ ਕਿਵੇਂ ਮਦਦ ਕਰਦਾ ਹੈ?

1:32 ਐਪਲ ਥੰਡਰਬੋਲਟ 'ਤੇ ਘੱਟ ਲੇਟੈਂਸੀ ਰਿਮੋਟ ਮੈਮੋਰੀ ਐਕਸੈਸ ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹੈ। ਇੱਕ ਕੇਬਲ ਲਈ ਇੱਕ ਦਲੇਰ ਕਰੀਅਰ ਚਾਲ। ਹੈੱਡਲਾਈਨ ਨਤੀਜਾ ਚਾਰ M5 Ultra Mac Studios ਤੋਂ ਪ੍ਰਤੀ ਸਕਿੰਟ ਛੱਤੀ ਤੋਂ ਵੱਧ ਟੋਕਨ ਹਨ, ਲਗਭਗ ਅੱਠ ਹਜ਼ਾਰ ਟੋਕਨਾਂ ਦੇ ਪ੍ਰਸੰਗ ਦੇ ਨਾਲ। ਐਪਲ ਨੇ ਖੁਦ ਇਸਨੂੰ ਮਾਪਿਆ। ਲੰਬੇ ਪ੍ਰੋਂਪਟ ਕਹਾਣੀ ਨੂੰ ਬਦਲਦੇ ਹਨ। ਇੱਕ ਵੱਡੇ ਪ੍ਰਸੰਗ ਟੈਸਟ ਵਿੱਚ, ਪ੍ਰਤੀ ਲਿੰਕ ਦੋ ਕੇਬਲਾਂ ਨੇ ਪਹਿਲੇ ਟੋਕਨ ਦੀ ਉਡੀਕ ਨੂੰ ਘਟਾ ਦਿੱਤਾ। ਹੈਡਲਾਈਨ ਨਤੀਜਾ ਚਾਰ M5 Ultra Mac Studios ਤੋਂ ਪ੍ਰਤੀ ਸਕਿੰਟ ਛੱਤੀ ਤੋਂ ਵੱਧ ਟੋਕਨ ਹਨ, ਲਗਭਗ ਅੱਠ ਹਜ਼ਾਰ ਟੋਕਨਾਂ ਦੇ ਪ੍ਰਸੰਗ ਦੇ ਨਾਲ।

1:55 ਐਪਲ ਨੇ ਖੁਦ ਇਸਨੂੰ ਮਾਪਿਆ। ਲੰਬੇ ਪ੍ਰੋਂਪਟ ਕਹਾਣੀ ਨੂੰ ਬਦਲਦੇ ਹਨ। ਲਗਭਗ ਦਸ ਸਕਿੰਟਾਂ ਦੁਆਰਾ। ਇੱਕ ਸਥਾਨਕ ਮਾਡਲ ਤੁਹਾਨੂੰ ਪ੍ਰੋਂਪਟਾਂ ਦੇ ਆਲੇ-ਦੁਆਲੇ ਇੱਕ ਉਪਯੋਗੀ ਸੀਮਾ ਦਿੰਦਾ ਹੈ, ਬਸ਼ਰਤੇ ਤੁਹਾਡਾ ਅਸਲ ਸੈੱਟਅੱਪ ਉਹਨਾਂ ਨੂੰ ਸਥਾਨਕ ਰੱਖਦਾ ਹੈ। ਐਪਲ ਨੇ ਹੋਸਟ ਕੀਤੀਆਂ API ਦੇ ਵਿਰੁੱਧ ਇੱਕ ਸਰਵਵਿਆਪਕ ਬਰੇਕ ਈਵਨ ਕੀਮਤ ਦੀ ਸਪਲਾਈ ਨਹੀਂ ਕੀਤੀ ਹੈ। ਇਹ ਵਰਤੋਂ ਅਤੇ ਮਾਡਲ 'ਤੇ ਨਿਰਭਰ ਕਰਦਾ ਹੈ ਜਿਸਦੀ ਤੁਹਾਨੂੰ ਲੋੜ ਹੈ। ਕਦੇ-ਕਦਾਈਂ ਸਵਾਲਾਂ ਦਾ ਜਵਾਬ ਦੇਣ ਵਾਲੀ ਇੱਕ ਮਸ਼ੀਨ ਇੱਕ ਬਹੁਤ ਹੀ

2:17 ਮਹਿੰਗਾ ਡੈਸਕ ਸਜਾਵਟ ਬਣਨ ਵਿੱਚ ਬਹੁਤ ਸਮਾਂ ਬਿਤਾਉਂਦੀ ਹੈ। ਉਸ ਮਾਡਲ ਦੀ ਚੋਣ ਲਈ ਤੁਹਾਡੇ ਕੰਮ ਲਈ ਇੱਕ ਟੈਸਟ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ।

AI ਬੈਂਚਮਾਰਕ ਅਸਲ ਵਿੱਚ ਕਿਹੜੇ ਕੰਮ ਨੂੰ ਕਵਰ ਕਰਦੇ ਹਨ?

2:21 ਮਰਕੋਰ ਨੇ ਉਨੱਤੀ ਬੈਂਚਮਾਰਕਾਂ ਨੂੰ ਅਮਰੀਕੀ ਨੌਕਰੀਆਂ ਦੀ ਟੈਕਸੋਨੋਮੀ 'ਤੇ ਮੈਪ ਕੀਤਾ। ਇਸਦਾ ਸੂਚਕਾਂਕ ਲਗਭਗ ਉਨ੍ਹੀ ਹਜ਼ਾਰ ਵਿੱਚੋਂ ਲਗਭਗ ਨੌਂ ਸੌ ਕਾਰਜਾਂ ਨੂੰ ਕਵਰ ਕਰਦਾ ਹੈ। ਨਕਸ਼ਾ ਅੰਦਾਜ਼ਾ ਲਗਾਉਂਦਾ ਹੈ ਕਿ ਨੱਬੇ ਪ੍ਰਤੀਸ਼ਤ ਕੰਮ ਦੇ ਘੰਟਿਆਂ ਵਿੱਚ ਬਹੁਤ ਘੱਟ ਜਾਂ ਕੋਈ ਬੈਂਚਮਾਰਕ ਕਵਰੇਜ ਨਹੀਂ ਹੈ। ਇਹ ਪ੍ਰੀਖਿਆ ਪੇਪਰ 'ਤੇ ਇੱਕ ਵਿਸ਼ਾਲ ਖਾਲੀ ਥਾਂ ਹੈ। ਮਰਕੋਰ ਦਾ ਨਕਸ਼ਾ ਕਵਰੇਜ ਨੂੰ ਮਾਪਦਾ ਹੈ। ਇੱਕ ਖਾਲੀ ਕਿੱਤੇ ਵਿੱਚ ਮੁਸ਼ਕਿਲ ਨਾਲ ਟੈਸਟ ਕੀਤੇ ਗਏ ਕਾਰਜ ਹੁੰਦੇ ਹਨ; ਮਾਡਲ ਸਮਰੱਥਾ ਇੱਕ ਖੁੱਲ੍ਹਾ ਸਵਾਲ ਬਣੀ ਹੋਈ ਹੈ। ਮੈਪਿੰਗ ਨੇ ਇੱਕ AI ਮਾਡਲ ਦੀ ਵਰਤੋਂ ਕੀਤੀ, ਜਿਸ ਵਿੱਚ ਮਰਕੋਰ ਦੇ ਆਪਣੇ ਬੈਂਚਮਾਰਕ ਪ੍ਰੋਂਪਟਾਂ ਦੇ ਇੱਕ ਉਪ-ਸਮੂਹ 'ਤੇ ਮਨੁੱਖੀ ਸਮੀਖਿਆ ਕੀਤੀ ਗਈ। ਮਰਕੋਰ ਦੇ ਆਪਣੇ ਬੈਂਚਮਾਰਕ ਪ੍ਰੋਂਪਟਾਂ।

2:49 ਸਮੀਖਿਅਕਾਂ ਨੇ ਇਸਦੀਆਂ ਪਹਿਲੀਆਂ ਚੋਣਾਂ ਦੇ ਲਗਭਗ ਤਿੰਨ ਚੌਥਾਈ ਨੂੰ ਸਵੀਕਾਰ ਕੀਤਾ। ਗ੍ਰੇਡਿੰਗ ਸਿਸਟਮ ਨੂੰ ਆਪਣੇ ਗ੍ਰੇਡਿੰਗ ਸਿਸਟਮ ਦੀ ਲੋੜ ਹੈ, ਕੁਦਰਤੀ ਤੌਰ 'ਤੇ। ਇਸ ਲਈ ਜੇਕਰ ਤੁਸੀਂ ਆਪਣੀ ਨੌਕਰੀ ਬਾਰੇ ਚਿੰਤਤ ਹੋ, ਤਾਂ ਇੱਕ ਲੀਡਰਬੋਰਡ ਦਲੀਲ ਨੂੰ ਸੁਲਝਾ ਨਹੀਂ ਸਕਦਾ। ਦਲੀਲ। ਜੇ ਤੁਸੀਂ ਇੱਕ ਕੋਡਿੰਗ ਅਸਿਸਟੈਂਟ ਖਰੀਦ ਰਹੇ ਹੋ, ਆਪਣੇ ਖੁਦ ਦੇ ਨਾਲ ਇੱਕ ਅਸਲ ਕਾਰਜ ਨੂੰ ਦੁਬਾਰਾ ਚਲਾਓ ਸਵੀਕ੍ਰਿਤੀ ਜਾਂਚ। ਉਪਯੋਗੀ ਕੰਮ ਵਿੱਚ ਡੈਮੋ ਤੋਂ ਬਾਅਦ ਦੇ ਅਜੀਬ ਬਿੱਟ ਸ਼ਾਮਲ ਹੁੰਦੇ ਹਨ। ਕਿਸੇ ਨੂੰ ਵੀ ਤਰੱਕੀ ਨਹੀਂ ਮਿਲਦੀ ਕਿਉਂਕਿ ਚੈਟਬੋਟ ਨੇ ਗਲਤ ਸਪ੍ਰੈਡਸ਼ੀਟ। ਜੋ ਸਾਨੂੰ ਰਾਤੋ-ਰਾਤ ਅਪਡੇਟ 'ਤੇ ਲਿਆਉਂਦਾ ਹੈ।

OpenCode ਕੌਣ ਕਹਿੰਦਾ ਹੈ ਕਿ ਰਾਤੋ-ਰਾਤ ਪ੍ਰਭਾਵਿਤ ਹੋਇਆ ਸੀ?

3:13 ਓਪਨਕੋਡ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਇੱਕ ਸੁਰੱਖਿਆ ਉਲੰਘਣਾ ਨੇ ਕੰਸੋਲ ਦੇ ਇੱਕ ਪੁਆਇੰਟ ਚਾਰ ਪ੍ਰਤੀਸ਼ਤ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕੀਤਾ ਹੈ ਉਪਭੋਗਤਾ। ਇਸਦੇ ਸੰਪਾਦਿਤ ਨੋਟਿਸ ਇਸਨੂੰ ਬਾਹਰੀ ਪ੍ਰਦਾਤਾਵਾਂ ਨਾਲ ਇੱਕ ਉਪ-ਸਮੂਹ ਤੱਕ ਸੀਮਤ ਕਰਦਾ ਹੈ ਲਿੰਕ ਕੀਤਾ ਗਿਆ, ਅਤੇ ਕਹਿੰਦਾ ਹੈ ਕਿ ਪ੍ਰਭਾਵਿਤ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਈਮੇਲ ਕੀਤਾ ਗਿਆ ਸੀ। ਇਹ ਇਸਨੂੰ ਇੱਕ ਵੱਡੇ ਪੱਧਰ 'ਤੇ ਡਿਸਟਿਲੇਸ਼ਨ ਹਮਲਾ ਕਹਿੰਦਾ ਹੈ, ਅਤੇ ਕਹਿੰਦਾ ਹੈ ਕਿ ਘਟਨਾ ਜਾਰੀ ਹੈ। ਇੱਕ ਜਨਤਕ ਮੂਲ ਕਾਰਨ ਅਜੇ ਆਉਣਾ ਬਾਕੀ ਹੈ। ਜਵਾਬਾਂ ਵਿੱਚ ਉਹ ਲੋਕ ਸ਼ਾਮਲ ਹਨ ਜੋ ਗਾਇਬ ਹੋਏ ਪ੍ਰਦਾਤਾ ਕ੍ਰੈਡਿਟ ਦੀ ਰਿਪੋਰਟ ਕਰ ਰਹੇ ਹਨ, ਜੋ ਘਟਨਾਵਾਂ ਦਾ ਉਹਨਾਂ ਦਾ ਵੇਰਵਾ ਹੈ। ਨੋਟਿਸ ਹਰੇਕ ਵਿਅਕਤੀ ਦੇ ਨੁਕਸਾਨ ਜਾਂ ਮੁਆਵਜ਼ੇ ਨੂੰ ਸਥਾਪਤ ਨਹੀਂ ਕਰਦਾ ਹੈ।

3:38 ਐਪਲ ਨੇ ਹੁਣੇ ਹੀ ਦਿਖਾਇਆ ਸੀ ਕਿ ਓਪਨਕੋਡ ਨੂੰ ਸਥਾਨਕ ਅਨੁਮਾਨ ਨਾਲ ਕਿਵੇਂ ਜੋੜਨਾ ਹੈ, ਅਤੇ ਹੁਣ ਇਸਦਾ ਨਾਮ ਇੱਕ ਸੁਰੱਖਿਆ ਚੇਤਾਵਨੀ ਦੇ ਨਾਲ ਹੈ। ਉਤਪਾਦ ਦਾ ਨਾਮ ਕਈ ਵੱਖ-ਵੱਖ ਭਰੋਸੇਯੋਗ ਸੀਮਾਵਾਂ ਨੂੰ ਕਵਰ ਕਰਦਾ ਹੈ। ਕੰਸੋਲ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਅਧਿਕਾਰਤ ਨੋਟਿਸ ਪੜ੍ਹਨਾ ਚਾਹੀਦਾ ਹੈ ਅਤੇ ਪ੍ਰਦਾਤਾ ਦੀ ਵਰਤੋਂ ਦੀ ਜਾਂਚ ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ। ਜੇ ਤੁਸੀਂ ਪ੍ਰਭਾਵਿਤ ਹੋ, ਤਾਂ ਸੁਧਾਰ ਨਿਰਦੇਸ਼ਾਂ ਦੀ ਪਾਲਣਾ ਕਰੋ ਅਤੇ ਕਨੈਕਟ ਕੀਤੇ ਪ੍ਰਮਾਣ ਪੱਤਰਾਂ ਦੀ ਸਮੀਖਿਆ ਕਰੋ। ਇਹ ਨੋਟਿਸ ਸਾਨੂੰ ਇੱਕ ਖਾਸ ਹੋਸਟ ਕੀਤੀ ਕੰਸੋਲ ਸਕੋਪ ਦਿੰਦਾ ਹੈ। ਇਹ ਹਰ ਸਥਾਨਕ ਸਥਾਪਨਾ ਵਿੱਚ ਸਮਝੌਤੇ ਦਾ ਕੋਈ ਸਬੂਤ ਨਹੀਂ ਦਿੰਦਾ ਹੈ।

ਸਥਾਨਕ ਇਨਫਰੈਂਸ ਤੁਹਾਡੇ ਨਿਯੰਤਰਣ ਵਿੱਚ ਕੀ ਰੱਖਦਾ ਹੈ?

4:02 ਇਹ ਹੈ ਕੁਨੈਕਸ਼ਨ। ਐਪਲ ਦਾ ਲੇਖ ਓਪਨਕੋਡ ਨੂੰ ਇਸਦੇ ਸਥਾਨਕ ਮਾਡਲ ਸਰਵਰ ਲਈ ਇੱਕ ਕਲਾਇੰਟ ਵਜੋਂ ਨਾਮ ਦਿੰਦਾ ਹੈ। ਉਹੀ ਕੋਡਿੰਗ ਇੰਟਰਫੇਸ ਬਹੁਤ ਵੱਖਰੇ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਦੇ ਸਾਹਮਣੇ ਬੈਠ ਸਕਦਾ ਹੈ। ਇਹ ਜਵਾਬ ਦਿੰਦਾ ਹੈ ਕਿ ਚਾਰ ਮੈਕ ਕੀ ਖਰੀਦਦੇ ਹਨ। ਸਮਰੱਥਾ, ਅਤੇ ਇੱਕ ਅਨੁਮਾਨ ਸੀਮਾ ਜਿਸਦਾ ਤੁਸੀਂ ਪ੍ਰਬੰਧਨ ਕਰ ਸਕਦੇ ਹੋ। ਉਸ ਸੀਮਾ ਦੇ ਆਲੇ ਦੁਆਲੇ ਦੀਆਂ ਸੇਵਾਵਾਂ ਅਜੇ ਵੀ ਆਪਣੀ ਸਮੀਖਿਆ ਦੇ ਹੱਕਦਾਰ ਹਨ। ਮੇਰਾ ਖਰੀਦ ਨਿਯਮ ਸਧਾਰਨ ਹੈ। ਸਾਬਤ ਕਰੋ ਕਿ ਮਾਡਲ ਫਿੱਟ ਬੈਠਦਾ ਹੈ, ਪੂਰੇ ਕਾਰਜ ਨੂੰ ਮਾਪੋ, ਅਤੇ ਇੱਕ

4:23 ਪ੍ਰਮਾਣ ਪੱਤਰ। ਐਪਲ ਦਾ ਨਤੀਜਾ ਵੱਡੇ ਸਥਾਨਕ ਅਨੁਮਾਨ ਨੂੰ ਵਧੇਰੇ ਵਿਹਾਰਕ ਬਣਾਉਂਦਾ ਹੈ, ਜਦੋਂ ਕਿ ਪਾਈਪਲਾਈਨ ਟੈਸਟ ਦੱਸਦਾ ਹੈ ਕਿ ਹਾਰਡਵੇਅਰ ਜੋੜਨਾ ਕਿਉਂ ਨਿਰਾਸ਼ ਕਰ ਸਕਦਾ ਹੈ। ਤੁਹਾਡਾ ਸਵੀਕ੍ਰਿਤੀ ਟੈਸਟ ਖਰੀਦ ਆਰਡਰ ਦੇ ਨਾਲ ਸੰਬੰਧਿਤ ਹੈ। ਜੇ ਤੁਸੀਂ ਮੈਨੂੰ ਇਹ ਸੁਣਨ ਦੀ ਬਜਾਏ ਪੜ੍ਹਨਾ ਚਾਹੁੰਦੇ ਹੋ, ਤਾਂ ਹਰ ਸਵੇਰ ਡਿਫ ਤੁਹਾਡੇ ਇਨਬਾਕਸ ਵਿੱਚ ਆਉਂਦਾ ਹੈ, ਰੋਜ਼ਾਨਾ ਡਿਫ ਡਾਟ ਦੇਵ 'ਤੇ ਮੁਫ਼ਤ, ਲਿੰਕ ਹੇਠਾਂ।

ਕੀ ਮੈਂ ਚਾਰ-ਮੈਕ ਕਲੱਸਟਰ ਖਰੀਦਾਂਗਾ?

4:40 ਇਸ ਲਈ ਅੱਜ ਦਾ ਫੈਸਲਾ NEEDS REVIEW ਹੈ। ਮੈਂ ਕਲੱਸਟਰ ਖਰੀਦਣ ਤੋਂ ਪਹਿਲਾਂ ਆਪਣੇ ਅਸਲ ਕੰਮ ਦੇ ਬੋਝ ਨੂੰ ਮਾਪਾਂਗਾ। ਸਬਸਕ੍ਰਾਈਬ ਕਰੋ, ਘੰਟੀ ਦਬਾਓ, ਅਤੇ ਟਿੱਪਣੀਆਂ ਵਿੱਚ ਦੱਸੋ ਕਿ ਕੀ ਤੁਸੀਂ ਇਸਨੂੰ ਵੱਖਰੇ ਢੰਗ ਨਾਲ ਮੋਹਰ ਲਗਾਈ ਹੋਵੇਗੀ। ਅਤੇ ਇਹ ਅੱਜ ਲਈ ਡਿਫ ਹੈ। ਮੈਂ Axrisi ਤੋਂ Niko ਹਾਂ। ਜ਼ਿੰਮੇਵਾਰੀ ਨਾਲ ਮਿਲਾਓ।

ਸਰੋਤ

1. Local and Distributed Large LLM Inference with MLX and RDMA on Mac StudioApple Machine Learning Research
2. A benchmark map of the US economyMercor
3. Benchmark Map methodology and expert reviewMercor
4. Edited security-breach notice with Console scopeOpenCode
5. Reader questions mixed benchmark precision formatsHacker News · peri-cl (reader opinion)
6. User reports vanished provider credit (unverified loss claim)Amruth Pillai on X