ਜਿਮ ਕੇਲਰ ਦੀ ਅਗਵਾਈ ਵਾਲੀ ਚਿੱਪ ਕੰਪਨੀ ਟੈਨਸਟੋਰੈਂਟ ਨੇ ਏਆਈ ਵਰਕਲੋਡਸ ਲਈ ਆਪਣੀ ਅਗਲੀ ਪੀੜ੍ਹੀ ਦਾ ਵਰਮਹੋਲ ਪ੍ਰੋਸੈਸਰ ਜਾਰੀ ਕੀਤਾ ਹੈ, ਜਿਸ ਤੋਂ ਇਹ ਇੱਕ ਕਿਫਾਇਤੀ ਕੀਮਤ 'ਤੇ ਵਧੀਆ ਪ੍ਰਦਰਸ਼ਨ ਦੀ ਪੇਸ਼ਕਸ਼ ਕਰਨ ਦੀ ਉਮੀਦ ਕਰਦਾ ਹੈ।ਕੰਪਨੀ ਵਰਤਮਾਨ ਵਿੱਚ ਦੋ ਵਾਧੂ PCIe ਕਾਰਡਾਂ ਦੀ ਪੇਸ਼ਕਸ਼ ਕਰਦੀ ਹੈ ਜੋ ਇੱਕ ਜਾਂ ਦੋ ਵਰਮਹੋਲ ਪ੍ਰੋਸੈਸਰਾਂ ਦੇ ਨਾਲ-ਨਾਲ ਸੌਫਟਵੇਅਰ ਡਿਵੈਲਪਰਾਂ ਲਈ TT-LoudBox ਅਤੇ TT-QuietBox ਵਰਕਸਟੇਸ਼ਨਾਂ ਨੂੰ ਅਨੁਕੂਲਿਤ ਕਰ ਸਕਦੇ ਹਨ। ਅੱਜ ਦੀਆਂ ਸਾਰੀਆਂ ਘੋਸ਼ਣਾਵਾਂ ਦਾ ਉਦੇਸ਼ ਡਿਵੈਲਪਰਾਂ ਲਈ ਹੈ, ਨਾ ਕਿ ਵਪਾਰਕ ਵਰਕਲੋਡ ਲਈ ਵਰਮਹੋਲ ਬੋਰਡਾਂ ਦੀ ਵਰਤੋਂ ਕਰਨ ਵਾਲੇ।
“ਡਿਵੈਲਪਰਾਂ ਦੇ ਹੱਥਾਂ ਵਿੱਚ ਸਾਡੇ ਹੋਰ ਉਤਪਾਦਾਂ ਨੂੰ ਪ੍ਰਾਪਤ ਕਰਨਾ ਹਮੇਸ਼ਾਂ ਪ੍ਰਸੰਨ ਹੁੰਦਾ ਹੈ। ਸਾਡੇ ਵਰਮਹੋਲ ™ ਕਾਰਡਾਂ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹੋਏ ਵਿਕਾਸ ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਜਾਰੀ ਕਰਨਾ ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਮਲਟੀ-ਚਿੱਪ AI ਸੌਫਟਵੇਅਰ ਨੂੰ ਸਕੇਲ ਕਰਨ ਅਤੇ ਵਿਕਸਤ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕਰ ਸਕਦਾ ਹੈ, ”ਟੈਨਸਟੋਰੈਂਟ ਦੇ ਸੀਈਓ ਜਿਮ ਕੇਲਰ ਨੇ ਕਿਹਾ।ਇਸ ਲਾਂਚ ਤੋਂ ਇਲਾਵਾ, ਅਸੀਂ ਸਾਡੀ ਦੂਜੀ ਪੀੜ੍ਹੀ ਦੇ ਉਤਪਾਦ, ਬਲੈਕਹੋਲ ਦੇ ਟੇਪ ਆਊਟ ਅਤੇ ਪਾਵਰ-ਅਪ ਨਾਲ ਜੋ ਤਰੱਕੀ ਕਰ ਰਹੇ ਹਾਂ, ਉਸ ਨੂੰ ਦੇਖ ਕੇ ਅਸੀਂ ਉਤਸ਼ਾਹਿਤ ਹਾਂ।"
ਹਰੇਕ ਵਰਮਹੋਲ ਪ੍ਰੋਸੈਸਰ ਵਿੱਚ 72 ਟੈਂਸਿਕਸ ਕੋਰ (ਜਿਨ੍ਹਾਂ ਵਿੱਚੋਂ ਪੰਜ ਵੱਖ-ਵੱਖ ਡੇਟਾ ਫਾਰਮੈਟਾਂ ਵਿੱਚ RISC-V ਕੋਰਾਂ ਦਾ ਸਮਰਥਨ ਕਰਦੇ ਹਨ) ਅਤੇ 108 MB SRAM, 160W ਦੀ ਥਰਮਲ ਡਿਜ਼ਾਈਨ ਪਾਵਰ ਦੇ ਨਾਲ 1 GHz 'ਤੇ 262 FP8 TFLOPS ਪ੍ਰਦਾਨ ਕਰਦੇ ਹਨ। ਸਿੰਗਲ-ਚਿੱਪ ਵਰਮਹੋਲ n150 ਕਾਰਡ 12 GB GDDR6 ਵੀਡੀਓ ਮੈਮੋਰੀ ਨਾਲ ਲੈਸ ਹੈ ਅਤੇ ਇਸਦੀ ਬੈਂਡਵਿਡਥ 288 GB/s ਹੈ।
ਵਰਮਹੋਲ ਪ੍ਰੋਸੈਸਰ ਵਰਕਲੋਡ ਦੀਆਂ ਵਿਭਿੰਨ ਜ਼ਰੂਰਤਾਂ ਨੂੰ ਪੂਰਾ ਕਰਨ ਲਈ ਲਚਕਦਾਰ ਮਾਪਯੋਗਤਾ ਪ੍ਰਦਾਨ ਕਰਦੇ ਹਨ। ਚਾਰ ਵਰਮਹੋਲ n300 ਕਾਰਡਾਂ ਦੇ ਨਾਲ ਇੱਕ ਸਟੈਂਡਰਡ ਵਰਕਸਟੇਸ਼ਨ ਸੈਟਅਪ ਵਿੱਚ, ਪ੍ਰੋਸੈਸਰਾਂ ਨੂੰ ਇੱਕ ਸਿੰਗਲ ਯੂਨਿਟ ਵਿੱਚ ਜੋੜਿਆ ਜਾ ਸਕਦਾ ਹੈ ਜੋ ਸੌਫਟਵੇਅਰ ਵਿੱਚ ਇੱਕ ਯੂਨੀਫਾਈਡ, ਵਿਆਪਕ ਟੈਨਸਿਕਸ ਕੋਰ ਨੈਟਵਰਕ ਵਜੋਂ ਦਿਖਾਈ ਦਿੰਦਾ ਹੈ। ਇਹ ਸੰਰਚਨਾ ਐਕਸਲੇਟਰ ਨੂੰ ਇੱਕੋ ਵਰਕਲੋਡ ਨੂੰ ਸੰਭਾਲਣ, ਚਾਰ ਡਿਵੈਲਪਰਾਂ ਵਿਚਕਾਰ ਵੰਡਣ ਜਾਂ ਇੱਕੋ ਸਮੇਂ ਅੱਠ ਵੱਖ-ਵੱਖ AI ਮਾਡਲਾਂ ਨੂੰ ਚਲਾਉਣ ਦੀ ਆਗਿਆ ਦਿੰਦੀ ਹੈ। ਇਸ ਸਕੇਲੇਬਿਲਟੀ ਦੀ ਇੱਕ ਮੁੱਖ ਵਿਸ਼ੇਸ਼ਤਾ ਇਹ ਹੈ ਕਿ ਇਹ ਵਰਚੁਅਲਾਈਜੇਸ਼ਨ ਦੀ ਲੋੜ ਤੋਂ ਬਿਨਾਂ ਸਥਾਨਕ ਤੌਰ 'ਤੇ ਚੱਲ ਸਕਦੀ ਹੈ। ਇੱਕ ਡਾਟਾ ਸੈਂਟਰ ਵਾਤਾਵਰਨ ਵਿੱਚ, ਵਰਮਹੋਲ ਪ੍ਰੋਸੈਸਰ ਮਸ਼ੀਨ ਦੇ ਅੰਦਰ ਵਿਸਥਾਰ ਲਈ PCIe, ਜਾਂ ਬਾਹਰੀ ਵਿਸਥਾਰ ਲਈ ਈਥਰਨੈੱਟ ਦੀ ਵਰਤੋਂ ਕਰਨਗੇ।
ਪ੍ਰਦਰਸ਼ਨ ਦੇ ਸੰਦਰਭ ਵਿੱਚ, Tenstorrent ਦੇ ਸਿੰਗਲ-ਚਿੱਪ ਵਰਮਹੋਲ n150 ਕਾਰਡ (72 Tensix core, 1 GHz ਫ੍ਰੀਕੁਐਂਸੀ, 108 MB SRAM, 12 GB GDDR6, 288 GB/s ਬੈਂਡਵਿਡਥ) ਨੇ 160W 'ਤੇ 262 FP8 TFLOPS ਪ੍ਰਾਪਤ ਕੀਤਾ, ਜਦੋਂ ਕਿ ਡੁਆਰਮਹੋਲ-300 ਡਬਲਯੂ. (128 ਟੈਂਸਿਕਸ ਕੋਰ, 1 GHz ਫ੍ਰੀਕੁਐਂਸੀ, 192 MB SRAM, ਕੁੱਲ 24 GB GDDR6, 576 GB/s ਬੈਂਡਵਿਡਥ) 300W 'ਤੇ 466 FP8 TFLOPS ਤੱਕ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ।
466 FP8 TFLOPS ਦੇ 300W ਨੂੰ ਸੰਦਰਭ ਵਿੱਚ ਪਾਉਣ ਲਈ, ਅਸੀਂ ਇਸਦੀ ਤੁਲਨਾ AI ਮਾਰਕੀਟ ਲੀਡਰ Nvidia ਦੁਆਰਾ ਇਸ ਥਰਮਲ ਡਿਜ਼ਾਈਨ ਪਾਵਰ 'ਤੇ ਕੀ ਪੇਸ਼ਕਸ਼ ਕਰ ਰਹੀ ਹੈ ਨਾਲ ਕਰਾਂਗੇ। Nvidia ਦਾ A100 FP8 ਦਾ ਸਮਰਥਨ ਨਹੀਂ ਕਰਦਾ ਹੈ, ਪਰ ਇਹ INT8 ਦਾ ਸਮਰਥਨ ਕਰਦਾ ਹੈ, 624 TOPS (ਸਪਾਰਸ ਹੋਣ 'ਤੇ 1,248 TOPS) ਦੇ ਸਿਖਰ ਪ੍ਰਦਰਸ਼ਨ ਦੇ ਨਾਲ। ਇਸ ਦੇ ਮੁਕਾਬਲੇ, Nvidia ਦਾ H100 FP8 ਦਾ ਸਮਰਥਨ ਕਰਦਾ ਹੈ ਅਤੇ 300W (3,341 TFLOPS at sparse) 'ਤੇ 1,670 TFLOPS ਦੇ ਸਿਖਰ ਪ੍ਰਦਰਸ਼ਨ 'ਤੇ ਪਹੁੰਚਦਾ ਹੈ, ਜੋ ਕਿ ਟੈਨਸਟੋਰੈਂਟ ਦੇ ਵਰਮਹੋਲ n300 ਤੋਂ ਕਾਫ਼ੀ ਵੱਖਰਾ ਹੈ।
ਹਾਲਾਂਕਿ, ਇੱਕ ਵੱਡੀ ਸਮੱਸਿਆ ਹੈ. ਟੈਨਸਟੋਰੈਂਟ ਦਾ ਵਰਮਹੋਲ n150 $999 ਵਿੱਚ ਰਿਟੇਲ ਹੈ, ਜਦੋਂ ਕਿ n300 $1,399 ਵਿੱਚ ਵਿਕਦਾ ਹੈ। ਤੁਲਨਾ ਕਰਕੇ, ਮਾਤਰਾ ਦੇ ਆਧਾਰ 'ਤੇ, ਇੱਕ ਸਿੰਗਲ Nvidia H100 ਗ੍ਰਾਫਿਕਸ ਕਾਰਡ $30,000 ਲਈ ਰਿਟੇਲ ਹੈ। ਬੇਸ਼ੱਕ, ਅਸੀਂ ਨਹੀਂ ਜਾਣਦੇ ਕਿ ਚਾਰ ਜਾਂ ਅੱਠ ਵਰਮਹੋਲ ਪ੍ਰੋਸੈਸਰ ਅਸਲ ਵਿੱਚ ਇੱਕ ਸਿੰਗਲ H300 ਦੀ ਕਾਰਗੁਜ਼ਾਰੀ ਪ੍ਰਦਾਨ ਕਰ ਸਕਦੇ ਹਨ, ਪਰ ਉਹਨਾਂ ਦੇ ਟੀਡੀਪੀ ਕ੍ਰਮਵਾਰ 600W ਅਤੇ 1200W ਹਨ.
ਕਾਰਡਾਂ ਤੋਂ ਇਲਾਵਾ, ਟੈਨਸਟੋਰੈਂਟ ਡਿਵੈਲਪਰਾਂ ਲਈ ਪਹਿਲਾਂ ਤੋਂ ਬਣੇ ਵਰਕਸਟੇਸ਼ਨਾਂ ਦੀ ਪੇਸ਼ਕਸ਼ ਕਰਦਾ ਹੈ, ਜਿਸ ਵਿੱਚ ਸਰਗਰਮ ਕੂਲਿੰਗ ਦੇ ਨਾਲ ਵਧੇਰੇ ਕਿਫਾਇਤੀ Xeon-ਅਧਾਰਿਤ TT-LoudBox ਵਿੱਚ 4 n300 ਕਾਰਡ, ਅਤੇ EPYC- ਅਧਾਰਤ Xiaolong) ਤਰਲ ਕੂਲਿੰਗ ਫੰਕਸ਼ਨ ਦੇ ਨਾਲ ਉੱਨਤ TT-QuietBox) ਸ਼ਾਮਲ ਹਨ।
ਪੋਸਟ ਟਾਈਮ: ਜੁਲਾਈ-29-2024