Ile-iṣẹ chirún ti o dari Jim Keller Tenstorrent ti ṣe idasilẹ ero isise Wormhole ti iran-tẹle fun awọn iṣẹ ṣiṣe AI, eyiti o nireti lati funni ni iṣẹ ṣiṣe to dara ni idiyele ti ifarada.Ile-iṣẹ lọwọlọwọ nfunni ni awọn kaadi PCIe meji ti o le gba ọkan tabi meji awọn olutọpa Wormhole, bakanna bi TT-LoudBox ati awọn iṣẹ iṣẹ TT-QuietBox fun awọn olupilẹṣẹ sọfitiwia. Gbogbo awọn ikede ode oni ni ifọkansi si awọn idagbasoke, kii ṣe awọn ti nlo awọn igbimọ Wormhole fun awọn ẹru iṣẹ iṣowo.
“O jẹ igbadun nigbagbogbo lati gba diẹ sii ti awọn ọja wa si ọwọ awọn olupilẹṣẹ. Awọn eto idagbasoke itusilẹ nipa lilo awọn kaadi Wormhole ™ wa le ṣe iranlọwọ iwọn awọn idagbasoke ati idagbasoke sọfitiwia AI pupọ-chip,” Jim Keller, Alakoso ti Tenstorrent sọ.Ni afikun si ifilọlẹ yii, a ni inudidun lati rii ilọsiwaju ti a n ṣe pẹlu teepu jade ati agbara ti ọja iran-keji wa, Blackhole. ”
Oluṣeto Wormhole kọọkan ni awọn ohun kohun 72 Tensix (marun ninu eyiti o ṣe atilẹyin awọn ohun kohun RISC-V ni ọpọlọpọ awọn ọna kika data) ati 108 MB ti SRAM, jiṣẹ 262 FP8 TFLOPS ni 1 GHz pẹlu agbara apẹrẹ gbona ti 160W. Awọn nikan-chip Wormhole n150 kaadi ni ipese pẹlu 12 GB GDDR6 fidio iranti ati ki o ni a bandiwidi ti 288 GB/s.
Awọn olutọsọna Wormhole n pese iwọn to rọ lati pade awọn iwulo oniruuru ti awọn ẹru iṣẹ. Ninu iṣeto ibi-iṣẹ boṣewa pẹlu awọn kaadi Wormhole n300 mẹrin, awọn ilana le ṣe idapo sinu ẹyọkan kan ti o han ninu sọfitiwia bi iṣọkan, nẹtiwọọki Tensix mojuto gbooro. Iṣeto ni yii ngbanilaaye imuyara lati mu iṣẹ ṣiṣe kanna, pin laarin awọn olupilẹṣẹ mẹrin tabi ṣiṣe to awọn awoṣe AI oriṣiriṣi mẹjọ ni nigbakannaa. Ẹya bọtini kan ti iwọn iwọn yii ni pe o le ṣiṣẹ ni agbegbe laisi iwulo fun ipalọlọ. Ni agbegbe ile-iṣẹ data, awọn oluṣeto Wormhole yoo lo PCIe fun imugboroja inu ẹrọ, tabi Ethernet fun imugboroja ita.
Ni awọn ofin ti iṣẹ, Tenstorrent's single-chip Wormhole n150 kaadi (72 Tensix cores, 1 GHz igbohunsafẹfẹ, 108 MB SRAM, 12 GB GDDR6, 288 GB/s bandiwidi) waye 262 FP8 TFLOPS ni 160W, nigba ti meji-chip Worm00board n3 (128 Tensix ohun kohun, 1 GHz igbohunsafẹfẹ, 192 MB SRAM, kojopo 24 GB GDDR6, 576 GB/s bandiwidi) jišẹ soke 466 FP8 TFLOPS ni 300W.
Lati fi 300W ti 466 FP8 TFLOPS sinu ọrọ-ọrọ, a yoo ṣe afiwe rẹ si kini oludari ọja AI Nvidia n funni ni agbara apẹrẹ gbona yii. Nvidia's A100 ko ṣe atilẹyin FP8, ṣugbọn o ṣe atilẹyin INT8, pẹlu iṣẹ ti o ga julọ ti 624 TOPS (1,248 TOP nigbati fọnka). Ni ifiwera, Nvidia's H100 ṣe atilẹyin FP8 ati pe o de iṣẹ ṣiṣe ti 1,670 TFLOPS ni 300W (3,341 TFLOPS ni fọnka), eyiti o yatọ pupọ si Tenstorrent's Wormhole n300.
Sibẹsibẹ, iṣoro pataki kan wa. Tenstorrent's Wormhole n150 ta fun $999, nigba ti n300 n ta fun $1,399. Nipa ifiwera, kaadi eya aworan Nvidia H100 kan n ta ọja fun $30,000, da lori iye. Nitoribẹẹ, a ko mọ boya awọn olutọsọna Wormhole mẹrin tabi mẹjọ le ṣafihan iṣẹ ti H300 kan ṣoṣo, ṣugbọn awọn TDP wọn jẹ 600W ati 1200W lẹsẹsẹ.
Ni afikun si awọn kaadi naa, Tenstorrent nfunni ni awọn iṣẹ iṣẹ ti a ti kọ tẹlẹ fun awọn olupilẹṣẹ, pẹlu awọn kaadi 4 n300 ni TT-LoudBox ti o da lori Xeon ti ifarada diẹ sii pẹlu itutu agbaiye ti nṣiṣe lọwọ, ati TT-QuietBox ti ilọsiwaju pẹlu EPYC-orisun Xiaolong) iṣẹ itutu omi).
Akoko ifiweranṣẹ: Jul-29-2024