Il-kumpanija taċ-ċippa mmexxija minn Jim Keller, Tenstorrent ħarġet il-proċessur Wormhole tal-ġenerazzjoni li jmiss tagħha għal AI ta 'xogħol, li tistenna li toffri prestazzjoni tajba bi prezz raġonevoli.Il-kumpanija bħalissa toffri żewġ karti PCIE addizzjonali li jistgħu jakkomodaw proċessuri wormhole wieħed jew tnejn, kif ukoll stazzjonijiet tax-xogħol TT-Loudbox u TT-Quietbox għall-iżviluppaturi tas-software. L-avviżi kollha tal-lum huma mmirati lejn l-iżviluppaturi, mhux għal dawk li jużaw bordijiet ta 'wormhole għal ammonti ta' xogħol kummerċjali.
"Huwa dejjem ta 'sodisfazzjon li nġibu aktar mill-prodotti tagħna f'idejn l-iżviluppaturi. Sistemi ta' żvilupp tar-rilaxx bl-użu tal-karti Wormhole ™ tagħna jistgħu jgħinu lill-iżviluppaturi jkabbru u jiżviluppaw softwer AI b'ħafna ċipep," qal Jim Keller, CEO ta 'Tenstorrent.Minbarra din it-tnedija, aħna eċċitati li naraw il-progress li qed nagħmlu bit-tejp u l-poter tal-prodott tat-tieni ġenerazzjoni tagħna, Blackhole. "
Kull proċessur wormhole fih 72 qlub tat-tensiċi (ħamsa minnhom jappoġġjaw qlub RISC-V f'diversi formati ta 'dejta) u 108 MB ta' SRAM, li jwasslu 262 TFLOPS FP8 f'1 GHz b'qawwa ta 'disinn termali ta' 160W. Il-karta Wormhole N150 ta 'ċippa waħda hija mgħammra bi 12-il GB GDDR6 Memorja tal-vidjow u għandha wisa' tal-banda ta '288 GB / s.
Il-proċessuri ta 'Wormhole jipprovdu skalabbiltà flessibbli biex jissodisfaw il-bżonnijiet varji ta' l-ammonti ta 'xogħol. F'sett ta 'stazzjon tax-xogħol standard b'erba' karti Wormhole N300, il-proċessuri jistgħu jiġu kkombinati f'unità waħda li tidher fis-softwer bħala netwerk unifikat u wiesa 'tat-tensiċi. Din il-konfigurazzjoni tippermetti lill-aċċeleratur jimmaniġġa l-istess ammont ta 'xogħol, maqsum bejn erba' żviluppaturi jew jimxi sa tmien mudelli AI differenti fl-istess ħin. Karatteristika ewlenija ta 'din l-iskalabbiltà hija li tista' taħdem lokalment mingħajr il-bżonn ta 'virtwalizzazzjoni. F'ambjent ta 'ċentru tad-dejta, il-proċessuri ta' wormhole jużaw PCIE għal espansjoni ġewwa l-magna, jew Ethernet għal espansjoni esterna.
F'termini ta 'prestazzjoni, il-karta ta' Wormhole N150 ta 'Tenstorrent's Chip (72 qlub tat-tensiċi, frekwenza ta' 1 GHz, 108 MB SRAM, 12 GB GDDR6, 288 GB / s Bandwidth) kisbu 262 FP8 TFLOPS f'160W, filwaqt li l-bord ta 'Wormhole Dual-Chip Wormhole N300 (128 Tensix Cores, 1 GHz Frekwenza Aggregat ta '24 GB GDDR6, 576 GB / s Bandwidth) jagħti sa 466 FP8 TFLOPS fi 300W.
Biex inpoġġu 300W ta '466 FP8 TFLOPS fil-kuntest, aħna nqabbluha ma' dak li l-mexxej tas-suq tal-AI Nvidia qed joffri f'din il-qawwa tad-disinn termali. L-A100 ta 'NVIDIA ma jappoġġjax FP8, iżda ma jappoġġjax INT8, bl-ogħla prestazzjoni ta' 624 uċuħ (1,248 tops meta jkunu skarsi). Meta mqabbel, l-H100 ta 'NVIDIA jappoġġja FP8 u jilħaq l-ogħla prestazzjoni ta' 1,670 TFLOPS fi 300W (3,341 TFLOPS fuq skars), li huwa differenti b'mod sinifikanti mill-Wormhole N300 ta 'Tenstorrent.
Madankollu, hemm problema kbira waħda. Wormhole N150 ta 'Tenstorrent bl-imnut għal $ 999, filwaqt li l-N300 ibiegħ għal $ 1,399. B'paragun, karta grafika NVIDIA H100 waħda bl-imnut għal $ 30,000, skont il-kwantità. M’għandniex xi ngħidu, ma nafux jekk erba ’jew tmien proċessuri wormhole jistgħux fil-fatt iwasslu l-prestazzjoni ta’ H300 wieħed, iżda t-TDPs tagħhom huma 600W u 1200W rispettivament.
Minbarra l-karti, Tenstorrent joffri stazzjonijiet tax-xogħol mibnija minn qabel għall-iżviluppaturi, inklużi 4 karti N300 fit-TT-Loudbox ibbażata fuq Xeon aktar bi prezz raġonevoli bi tkessiħ attiv, u t-TT-Quietbox avvanzat b'funzjoni ta 'tkessiħ likwidu bbażat fuq l-epyc)).
Ħin ta 'wara: 29 ta' Lulju-2024