Ilé-iṣẹ́ ìṣẹ́-ẹ̀rọ tí Jim Keller ń darí Tenstorrent ti ṣe àgbékalẹ̀ ẹ̀rọ Wormhole ìran tuntun rẹ̀ fún àwọn iṣẹ́-ṣíṣe AI, èyí tí wọ́n retí pé yóò fúnni ní iṣẹ́ tó dára ní owó tí ó rọrùn.Ilé-iṣẹ́ náà ń fúnni ní káàdì PCIe méjì mìíràn tí ó lè gba àwọn ẹ̀rọ ìṣiṣẹ́ Wormhole kan tàbí méjì, àti àwọn ibi iṣẹ́ TT-LoudBox àti TT-QuietBox fún àwọn olùgbékalẹ̀ sọ́fítíwè. Gbogbo àwọn ìkéde òní jẹ́ fún àwọn olùgbékalẹ̀, kìí ṣe àwọn tí ń lo àwọn pátákó Wormhole fún iṣẹ́ ìṣòwò.
“Ó máa ń dùn mọ́ni láti gba ọ̀pọ̀lọpọ̀ àwọn ọjà wa sí ọwọ́ àwọn olùgbékalẹ̀. Àwọn ètò ìdàgbàsókè tí a fi àwọn káàdì Wormhole™ wa ṣe lè ran àwọn olùgbékalẹ̀ lọ́wọ́ láti ṣe àgbékalẹ̀ sọ́fítíwọ́ọ̀kì AI oní-ẹ̀rọ púpọ̀,” Jim Keller, Olórí Àgbà Tenstorrent sọ.Ní àfikún sí ìfilọ́lẹ̀ yìí, inú wa dùn láti rí ìlọsíwájú tí a ń ṣe pẹ̀lú téépù tí a fi ń tú jáde àti agbára ọjà ìran kejì wa, Blackhole.
Olùṣiṣẹ́ Wormhole kọ̀ọ̀kan ní àwọn kọ́ọ̀bù Tensix 72 (tí márùn-ún nínú wọn ń ṣe àtìlẹ́yìn fún àwọn kọ́ọ̀bù RISC-V ní onírúurú ọ̀nà ìkọ̀wé dátà) àti 108 MB ti SRAM, tí ó ń fúnni ní 262 FP8 TFLOPS ní 1 GHz pẹ̀lú agbára ìṣẹ̀dá ooru ti 160W. Káàdì Wormhole n150 oní-chip kan náà ní ìrántí 12 GB GDDR6 fídíò ó sì ní ìwọ̀n bandiwidi ti 288 GB/s.
Àwọn ẹ̀rọ ìṣiṣẹ́ Wormhole ń pèsè ìwọ̀n tó rọrùn láti mú àwọn àìní onírúurú iṣẹ́ tó wà nínú wọn bá àwọn iṣẹ́ mu. Nínú ètò ìṣiṣẹ́ tó wà ní ìpele tó ní àwọn káàdì Wormhole n300 mẹ́rin, a lè so àwọn ẹ̀rọ ìṣiṣẹ́ pọ̀ sí ẹ̀rọ kan ṣoṣo tó fara hàn nínú sọ́fítíwè náà gẹ́gẹ́ bí nẹ́tíwọ́ọ̀kì Tensix tó gbòòrò. Ìṣètò yìí ń jẹ́ kí accelerator lè ṣe iṣẹ́ kan náà, pín láàárín àwọn olùgbékalẹ̀ mẹ́rin tàbí kí ó ṣiṣẹ́ tó àwọn àwòṣe AI mẹ́jọ tó yàtọ̀ síra ní àkókò kan náà. Ohun pàtàkì kan nínú ìwọ̀n yìí ni pé ó lè ṣiṣẹ́ ní agbègbè láìsí àìní ètò ìṣiṣẹ́. Nínú àyíká ibi ìpamọ́ dátà, àwọn ẹ̀rọ ìṣiṣẹ́ Wormhole yóò lo PCIe fún ìfẹ̀sí inú ẹ̀rọ náà, tàbí Ethernet fún ìfẹ̀sí òde.
Ní ti iṣẹ́, káàdì Wormhole n150 kan ṣoṣo ti Tenstorrent (72 Tensix cores, 1 GHz frequency, 108 MB SRAM, 12 GB GDDR6, 288 GB/s bandwidth) ṣe àṣeyọrí 262 FP8 TFLOPS ní 160W, nígbà tí páálí dual-chip Wormhole n300 (128 Tensix cores, 1 GHz frequency, 192 MB SRAM, àpapọ̀ 24 GB GDDR6, 576 GB/s bandwidth) ń fúnni ní 466 FP8 TFLOPS ní 300W.
Láti fi 300W ti 466 FP8 TFLOPS sinu ipo ti o wa, a yoo fiwe re pelu ohun ti oludari oja AI Nvidia n funni ni agbara apẹrẹ ooru yii. A100 Nvidia ko ṣe atilẹyin fun FP8, ṣugbọn o ṣe atilẹyin fun INT8, pẹlu iṣẹ giga ti 624 TOPS (1,248 TOPS nigbati o ba kere). Ni afiwe, H100 Nvidia ṣe atilẹyin fun FP8 o si de iṣẹ giga ti TFLOPS 1,670 ni 300W (3,341 TFLOPS ni kekere), eyiti o yatọ si Wormhole n300 Tenstorrent.
Sibẹsibẹ, iṣoro pataki kan wa. Tenstorrent's Wormhole n150 n ta ni $999, nigba ti n300 n ta ni $1,399. Ni afiwe, kaadi eya Nvidia H100 kan n ta ni $30,000, da lori iye. Dajudaju, a ko mọ boya awọn ero isise Wormhole mẹrin tabi mẹjọ le ṣe iṣẹ H300 kan, ṣugbọn awọn TDP wọn jẹ 600W ati 1200W lẹsẹsẹ.
Ní àfikún sí àwọn káàdì náà, Tenstorrent ń pèsè àwọn ibi iṣẹ́ tí a ti kọ́ tẹ́lẹ̀ fún àwọn olùgbékalẹ̀, pẹ̀lú àwọn káàdì n300 mẹ́rin nínú TT-LoudBox tí ó dá lórí Xeon tí ó rọrùn jù pẹ̀lú ìtútù tí ń ṣiṣẹ́, àti TT-QuietBox tí ó ti ní ìlọsíwájú pẹ̀lú iṣẹ́ ìtútù omi Xiaolong tí ó dá lórí EPYC).
Àkókò ìfìwéránṣẹ́: Oṣù Keje-29-2024