기본 정보
| 부스 | Q6158 |
| 국가 | US |
| 웹사이트 | tenstorrent.com/vision |
회사 소개
Tenstorrent Inc.는 AI용 컴퓨터를 구축하는 차세대 컴퓨팅 기업으로, 미국에 본사를 두고 텍사스 오스틴과 실리콘밸리에 사무소를 운영하며 토론토, 베오그라드, 서울, 도쿄, 방갈로르에도 글로벌 거점을 두고 있습니다. 팀은 컴퓨터 아키텍처, ASIC 설계, RISC-V 기술, 첨단 시스템, 신경망 컴파일러 분야의 전문성을 결합해 AI 컴퓨팅을 하드웨어, 시스템, 소프트웨어 전반에서 다룹니다. COO Keith Witek은 운영, 법무, 인사, 재무, 자금조달, IT, 전략 거래, 규정 준수, 라이선싱, IP, 자동차, 로보틱스를 이끌며, Christine Blizzard가 이끄는 Experience 조직은 브랜드, 제품, 커뮤니케이션, go-to-market, 고객 성공을 포함한 모든 고객 접점을 포괄합니다. 공동창업자이자 Senior Fellow는 시스템 엔지니어링과 저수준 기반 소프트웨어 팀을 이끌고 있습니다. 시스템 엔지니어링 팀은 대규모 첨단 시스템의 설계, 구축, 배포에 집중하고, 기반 소프트웨어 팀은 AI 스택의 하위 계층에서 하드웨어 세부사항을 추상화하고 kernel 개발자가 높은 성능으로 다양한 연산을 구현할 수 있도록 API와 도구를 제공합니다. 그는 Tensix 프로세서의 아키텍처, RTL, 검증, post-silicon validation 전 과정에도 참여했습니다. Senior Fellow Jasmina Vasiljevic은 Pathfinding 팀을 이끌며 새로운 프로그래밍 모델을 탐색하고 컴파일 방법을 프로토타이핑하고, AI 및 HPC 전문성을 RISC-V와 AI 아키텍처의 접근성 향상에 적용합니다. Physical Engineering 책임자 Dan Bailey는 고성능 flip-flop 설계와 업계에 채택된 글로벌 클록 분배 네트워크 방법론으로 알려져 있으며, 회사 소개에는 약 40편의 출판물과 20건이 넘는 특허가 기재되어 있습니다. Chief CPU Architect and Senior Fellow Wei-Han Lien은 고성능 RISC-V CPU, fabric, system caching, 고성능 메모리 서브시스템을 정의하고, 확장 가능하고 구성 가능하며 조합 가능한 SiP를 위한 chiplet 아키텍처와 전력, 보안, 시스템 관리 호환성 정의도 주도합니다. Tenstorrent는 IP의 투명성, 개방형 아키텍처, 오픈소스 소프트웨어를 제시하며 사용자가 편집, 선택, fork할 수 있도록 하고, 북미, 아시아, 유럽에 걸쳐 거점을 운영합니다.
전시 제품
Blackhole® PCIe 보드는 고성능 AI 처리와 확장형 배포를 위해 설계되었으며 칩당 16개의 big RISC-V cores와 최대 32 GB GDDR6를 제공합니다. Blackhole® p100a는 120개의 Tensix Cores와 28 GB GDDR6를 갖춘 Blackhole® Tensix Processor를 사용하고 최대 300 W에서 동작하며 데스크톱 워크스테이션용 액티브 냉각 폼팩터와 Tenstorrent의 완전 오픈소스 소프트웨어 스택을 지원합니다. Blackhole® p150a도 120개의 Tensix Cores를 사용하며 32 GB GDDR6와 최대 300 W, 액티브 냉각을 제공하고 4개의 passive QSFP-DD 800G 포트를 통해 여러 카드를 연결해 메모리를 풀링하고 성능을 높일 수 있습니다. p100a, p150a, p150b 비교 사양에는 공통으로 1.35 GHz AI Clock, 16개의 big RISC-V cores, 180 MB SRAM, 16 GT/sec 메모리 속도, PCI Express 5.0 x16, 664 TeraFLOPS BLOCKFP8가 기재되며 메모리 대역폭은 p100a가 448 GB/sec, p150a와 p150b가 512 GB/sec입니다. 세 보드는 모두 Total Board Power 300 W와 42 mm x 270 mm x 111 mm 크기를 사용하고, p100a는 액티브 냉각과 카드 간 연결 없음, p150a는 액티브 냉각, p150b는 패시브 냉각이며 후자의 두 모델은 4개의 passive QSFP-DD 800G 연결을 제공합니다. Wormhole™ n150d는 최대 160 W의 Wormhole™ Tensix Processor를 사용하고 워크스테이션 및 Galaxy 같은 서버를 위한 multichip mesh로 연결할 수 있으며 고수준 개발용 TT-Forge™와 저수준 개발용 TT-Metalium™을 지원합니다. Wormhole™ n300d는 두 개의 Wormhole™ Tensix Processors를 최대 300 W에서 운용하고 동일한 multichip mesh와 폭넓은 데이터 정밀도 형식을 지원하며 2.5-slot 액티브 냉각과 완전 오픈소스 소프트웨어 스택을 제공합니다. 액세서리에는 Blackhole®용 passive 0.5 m QSFP-DD 800G cable, Wormhole™ 시스템용으로 검증된 0.6 m QSFP-DD 400G cable, Wormhole add-in boards 내부 연결용 dual-slot TX-01002 및 triple-slot TX-01004 Warp 100 Bridge가 있습니다. Tenstorrent Galaxy™는 비디오, 음성, 언어, 코드 등 학습과 추론 워크로드를 실행하는 확장형 고밀도 AI 컴퓨트 서버이며 TT-Forge 오픈소스 MLIR-based compiler를 통해 폭넓은 모델을 지원합니다. Galaxy™ Blackhole은 32개의 Blackhole® ASIC, 23 PFLOPS Block FP8, 6.2 GB accelerator SRAM @ 2.9 PB/s, 1 TB GDDR6 @ 16 TB/s를 갖추며 ASIC당 10 x 400 GbE links로 32 TB/s accelerator fabric을 구성합니다. Scale-out은 최대 56개의 QSFP-DD 800 GbE ports와 11.2 TB/s를 지원하고, 4대 Galaxy Blackhole supercluster를 4대에서 36대 이상의 Galaxy 구성으로 확장해 AI 비디오 생성, 대규모 LLM 추론, private AI infrastructure에 적용할 수 있습니다. 호스트는 AMD EPYC 9004 Zen 4 1개, 최대 32 cores, 최대 576 GB DDR5-4800 ECC RDIMM, OCP NIC 3.0 PCIe Gen5 x16과 기본 2 x 200 GbE, 전용 1 GbE 관리 네트워크, OS 및 내부 확장용 NVMe 스토리지를 제공합니다. Galaxy는 6U 공랭식 rackmount로 높이 263.4 mm, 폭 446.8 mm, 길이 884.5 mm, 무게 119 kg이며 평균 8에서 10 kW, 최대 12 kW, 구성 가능한 최대 14.5 kW의 전력과 10에서 35 °C의 동작 온도를 제시합니다. Tenstorrent는 HuggingFace 모델의 90%가 LLM, Image Gen, Speech, Vision, Embeddings, Encoders 등에서 바로 동작한다고 설명하고, Tensix Neo™는 하나의 프로그래밍 모델로 1개 칩에서 수천 개 칩까지 확장되도록 설계되었습니다. Galaxy 소프트웨어는 compiler에서 kernel까지 오픈소스이며 모델을 바로 컴파일해 실행하거나 kernel을 직접 조정할 수 있고, 같은 범용 AI 시스템에서 decode와 prefill을 처리해 latency-sensitive, agentic, real-time, long-context reasoning 등의 추론 워크로드를 지원합니다.
역량 및 제품
- AI 컴퓨팅 컴퓨터
- Blackhole® PCIe 컴퓨트 보드
- Wormhole™ PCIe 컴퓨트 보드
- Galaxy™ 확장형 AI 컴퓨트 서버
- 오픈소스 AI 소프트웨어 스택