基本情報
| ブース | Q6158 |
| 国 | US |
| ウェブサイト | tenstorrent.com/vision |
会社概要
Tenstorrent Inc.はAI向けコンピューターを構築する次世代コンピューティング企業で、米国に本社を置き、テキサス州オースティンとシリコンバレーにオフィスを構えるほか、トロント、ベオグラード、ソウル、東京、バンガロールにもグローバル拠点を展開しています。チームにはコンピューターアーキテクチャ、ASIC設計、RISC-V技術、先進システム、ニューラルネットワークコンパイラの専門家が集まり、AIコンピューティングをハードウェア、システム、ソフトウェアの各層から支えています。COOのKeith Witekはオペレーション、法務、人事、財務、資金調達、IT、戦略案件、コンプライアンス、ライセンス、IP、自動車、ロボティクスを統括し、Christine Blizzardが率いるExperience組織はブランド、製品、コミュニケーション、go-to-market、カスタマーサクセスを含む顧客接点全体を担当します。共同創業者兼Senior Fellowはシステムエンジニアリングと低レイヤーの基盤ソフトウェアチームを率い、前者は大規模な先進システムの設計、構築、導入に、後者はAIスタック下層でのハードウェア抽象化、API、ツール提供に取り組みます。同氏はTensixプロセッサのアーキテクチャ、RTL、検証、post-silicon validationにも関与しています。Senior FellowのJasmina VasiljevicはPathfindingチームを率い、新しいプログラミングモデルとコンパイル手法のプロトタイピングを進め、AIとHPCの知見をRISC-VおよびAIアーキテクチャの利用しやすさ向上に生かしています。Physical Engineeringを率いるDan Baileyは高性能flip-flop設計や業界で採用されたグローバルクロック分配手法で知られ、会社紹介では約40件の出版物と20件超の特許を持つとされています。Chief CPU Architect and Senior FellowのWei-Han Lienは、高性能RISC-V CPU、fabric、system caching、高性能メモリサブシステムの定義に加え、拡張可能、構成可能、組み合わせ可能なSiP向けchipletアーキテクチャと、電力、セキュリティ、システム管理の互換性定義を主導しています。TenstorrentはIPの透明性、オープンなアーキテクチャ、オープンソースソフトウェアを掲げ、利用者が編集、選択、forkできる環境を提供しており、拠点は北米、アジア、欧州にまたがります。
展示製品
Blackhole® PCIeボードは高性能AI処理とスケーラブルな展開向けに設計され、1チップ当たり16個のbig RISC-V coresと最大32 GBのGDDR6を備えます。Blackhole® p100aは120個のTensix Coresと28 GB GDDR6を備えるBlackhole® Tensix Processorを搭載し、最大300 W、アクティブ冷却のデスクトップワークステーション向け構成で、Tenstorrentの完全オープンソースソフトウェアスタックに対応します。Blackhole® p150aも120個のTensix Coresを備え、32 GB GDDR6、最大300 W、アクティブ冷却に加え、4個のpassive QSFP-DD 800Gポートを搭載し、複数カードを接続してメモリをプールし性能を高められます。p100a、p150a、p150bの比較では、いずれも1.35 GHz AI Clock、16個のbig RISC-V cores、180 MB SRAM、16 GT/sec、PCI Express 5.0 x16、664 TeraFLOPS BLOCKFP8を備え、メモリ帯域はp100aが448 GB/sec、p150aとp150bが512 GB/secです。3モデルはいずれもTotal Board Power 300 W、42 mm x 270 mm x 111 mmで、p100aはアクティブ冷却でカード間接続なし、p150aはアクティブ冷却、p150bはパッシブ冷却で、後者2モデルには4本のpassive QSFP-DD 800G接続が記載されています。Wormhole™ n150dは最大160 WのWormhole™ Tensix Processorを搭載し、ワークステーションやGalaxyなどのサーバー向けにmultichip meshを構成でき、高レベル開発向けTT-Forge™と低レベル開発向けTT-Metalium™を利用できます。Wormhole™ n300dは2基のWormhole™ Tensix Processorsを最大300 Wで動作させ、同じmultichip meshと幅広いデータ精度形式を支援し、2.5-slotのアクティブ冷却と完全オープンソースソフトウェアスタックに対応します。接続アクセサリにはBlackhole®向けpassive 0.5 m QSFP-DD 800G cable、Wormhole™向けに検証済みの0.6 m QSFP-DD 400G cable、Wormhole add-in boardsを内部接続するdual-slot TX-01002およびtriple-slot TX-01004のWarp 100 Bridgeがあります。Tenstorrent Galaxy™は動画、音声、言語、コードなどの学習と推論を実行するスケーラブルで高密度なAIコンピュートサーバーで、TT-ForgeオープンソースMLIR-based compilerにより幅広いモデルを支援します。Galaxy™ Blackholeは32基のBlackhole® ASIC、23 PFLOPS Block FP8、6.2 GB accelerator SRAM @ 2.9 PB/s、1 TB GDDR6 @ 16 TB/sを備え、各ASICに10 x 400 GbE linksを持つ32 TB/s accelerator fabricを構成します。Scale-outは最大56個のQSFP-DD 800 GbE ports、11.2 TB/sに対応し、4台のGalaxy Blackholeからなるsuperclusterを4から36台以上の構成へ拡張して、AI動画生成、大規模LLM推論、private AI infrastructureに利用できます。ホスト側はAMD EPYC 9004 Zen 4を1基、最大32 cores、最大576 GB DDR5-4800 ECC RDIMM、OCP NIC 3.0 PCIe Gen5 x16と標準2 x 200 GbE、専用1 GbE管理ネットワーク、OSおよび内部拡張用NVMeストレージを備えます。Galaxyは6U空冷rackmountで、高さ263.4 mm、幅446.8 mm、奥行884.5 mm、重量119 kg、平均消費電力8から10 kW、最大12 kW、構成上限14.5 kW、動作温度10から35 °Cです。TenstorrentはHuggingFaceモデルの90%がLLM、Image Gen、Speech、Vision、Embeddings、Encodersなどで動作するとし、Tensix Neo™は1チップから数千チップまで同一プログラミングモデルで拡張できる設計です。Galaxyのソフトウェアはcompilerからkernelまでオープンソースで、モデルをそのままコンパイルして実行することも、kernelを直接調整することもでき、decodeとprefillの双方を同じ汎用AIシステムで扱い、latency-sensitive、agentic、real-time、long-context reasoningなどの推論に対応します。
対応領域・製品
- AIコンピューティング用コンピュータ
- Blackhole® PCIeコンピュートボード
- Wormhole™ PCIeコンピュートボード
- Galaxy™ スケーラブルAIコンピュートサーバー
- オープンソースAIソフトウェアスタック