基本資料
| 攤位 | R8000 |
| 國別 | NL |
| 網站 | axelera.ai |
公司簡介
Axelera AI 將 AI 推論從雲端移到更接近資料產生與使用的位置，應用範圍涵蓋先進視覺到大型語言模型，以及生成式 AI 到機器人技術。其 Embedded、Edge 與 Server 產品線採用 Axelera 稱為全球最高效的 AIPU，可支援多種環境中的部署。Axelera AIPU 是專門為 AI 推論打造的處理器。公司以機器學習系統開發者與整合商、軟體供應商及 OEM 為對象，提供採業界標準形式的 AI 推論加速硬體與配套軟體堆疊。Axelera 以每瓦效能與每美元效能為硬體重點，並以簡化 AI 推論方案的開發、整合與部署為目標。Axelera AI 將 Ultralytics、Advantech 與 SECO 列為生態系合作夥伴；相關合作包括在 Metis 上運行 YOLO 模型，以及將 Metis 整合至 Edge AI 或其他產品線。
展出產品
Axelera 已公布三種面向不同用途、形式與效能需求的 AIPU：Metis、Europa 與 Titania。Metis 在 4-8 watt 功耗預算下提供 214 TOPS，並以緊湊型 M.2 模組或 PCIe 卡形式支援即時邊緣推論。Metis 每顆晶片支援最高 16GB 記憶體與最高 8B 參數語言模型，其架構以視覺應用最佳化，同時保有執行本地語言模型的彈性。Europa 提供 629 TOPS，整合晶片內前處理與後處理，將 AIPU 核心數加倍，加入 16 個向量處理單元，並可從 heavy-edge 系統擴展至企業資料中心。Europa 每顆晶片支援最高 64GB 記憶體與最高 32B 參數語言模型，多晶片配置可支援最高 100B 參數。Titania 被描述為 chiplet，可將 Axelera 的 Digital In-Memory 計算架構擴展到高效能運算與 AI Gigafactories。整體硬體家族列出的卡片與系統形式包括 M.2、PCIe 卡、compute board、chiplet、PCIe board、OCP-like insert card、NUC、PC、工作站、edge server、enterprise server、rack-mount server 與 supercomputer。Axelera Embedded 110m 採用單顆 Metis AIPU 與 1 GB 專用 DRAM，面向具 NGFF M.2 插槽且空間或功耗受限的系統進行 AI 加速。Axelera Embedded 113m 採用 Metis 並提供最高 8 GB 專用記憶體，面向邊緣與嵌入式裝置上的 LLM、VLM 與多相機視覺推論。Axelera Edge 130p 是半高半長的 PCIe 加速卡，由單顆 Metis AIPU 驅動，最高提供 214 TOPS，可處理高要求的視覺應用與本地語言模型。Edge 130p 的規格包括 ResNet-50 最高 3,200 FPS，另有一項公開範例列出 Ultralytics YOLOv5s 達 865 FPS，而兩個競爭加速器分別為 543 與 334 FPS。Axelera Edge 232p 是採用 Europa 的半高半長 PCIe 卡，最高提供 629 TOPS，並列出 QWEN 30B 每秒 83.4 tokens 的效能。Edge 232p 針對 agentic AI 與生成式 AI 設計，應用從 Physical AI 延伸到企業語言服務，並支援 100B 參數模型。Axelera Server 150p 採用 4 顆四核心 Metis AIPU，規格列出峰值 856 TOPS、ResNet-50 最高 12800 FPS，以及 MobileNet V2-1.0 最高 38884 FPS。Axelera Embedded 111c 在單板電腦中結合四核心 Metis AIPU 與 ARM-based RK3588 CPU，並提供 PCIe、USB、HDMI 2.0、雙 Gigabit LAN、GPIO、UART、I2C、64GB eMMC、SATA 與 microSD 等連接或儲存選項。Voyager SDK 同時支援 Metis 與 Europa，並以 YAML 設定來編譯、最佳化與部署視覺模型、影像處理及語言模型的完整流程。Edge 130p 與 Edge 232p 使用 Voyager SDK 進行評估、軟體整合與進階量化，並提供可直接使用的端到端 AI pipeline 與模型。Axelera Edge 卡被設計為可直接加入既有基礎設施的 plug-and-play 升級方案，並提供被動散熱與主動散熱配置。單張 Metis PCIe 卡示範可同時處理 24 路即時攝影機串流，使用 YoloV5 物件偵測進行多串流影像分析。另一項示範應用是即時監控安全帽、背心等個人防護裝備，以支援工作場所安全。Edge 產品線由業界標準 PCIe 加速卡組成，將軟體易用性、功耗效率與可擴展性結合於推論加速用途。單張 Edge 板卡可同時執行多相機推論，並平行支援多個獨立神經網路。Metis 將 Digital In-Memory Computing、RISC-V controlled dataflow 技術與 Voyager SDK 結合，並內建資料安全功能。Europa 配備 8 個第二代 AI core、16 個 RISC-V 向量處理核心、128MB L2 SRAM、200GB/s DRAM 頻寬、板上前後處理與 video decoder，以降低 CPU 負載。另一項離線示範顯示 Axelera Edge 130p 執行 3B-parameter Llama 3.2B-Instruct 模型，零雲端依賴並採 100% 本地處理。在 Ultralytics YOLOv8s 的 AIPU 比較表中，Metis 列為每秒 653 幀，Europa 列為每秒 2850 幀，後者標示為 4.36x。Axelera Embedded 111c 搭配 Voyager 工具鏈進行模型部署與最佳化，並列出支援 PyTorch、ONNX 與 TensorFlow 工作流程。Europa 被描述為在 Physical AI 與 Enterprise AI 工作負載中，相較傳統 GPU 解決方案可提供最高 6x 的每瓦每秒 token 數。Voyager Wingman 被列為 Axelera AI 的 agentic 平台，可透過對話建立 pipeline 並排查部署問題。
能力與產品項目
- AIPU AI 推論處理器
- Embedded、Edge、Server AI 推論產品線
- PCIe 邊緣 AI 推論加速卡
- Voyager SDK AI 應用編譯最佳化與部署