基本情報
| ブース | R8000 |
| 国 | NL |
| ウェブサイト | axelera.ai |
会社概要
Axelera AIはAI推論をクラウドからデータが生成・利用される場所の近くへ移し、先進ビジョンから大規模言語モデル、生成AIからロボティクスまで幅広い用途を対象としています。Embedded、Edge、Serverの各製品ラインは、Axeleraが世界で最も効率的と説明するAIPU上で動作し、さまざまな環境への導入を支えます。Axelera AIPUはAI推論専用に設計されたプロセッサです。同社は機械学習システムの開発者・インテグレーター、ソフトウェアベンダー、OEM向けに、業界標準フォームファクターのAI推論アクセラレーションハードウェアと対応ソフトウェアスタックを提供します。Axeleraは性能/ワットと性能/ドルをハードウェアの重点に置き、AI推論ソリューションの開発、統合、導入を簡素化することを目指しています。Axelera AIはUltralytics、Advantech、SECOをエコシステムのパートナーとして挙げ、MetisでのYOLOモデル実行や、MetisをEdge AIなどの製品ラインへ統合する協業を示しています。
展示製品
Axeleraは用途、フォームファクター、性能要件の違いに対応する3種類のAIPUとしてMetis、Europa、Titaniaを発表しています。Metisは4-8 wattの電力枠で214 TOPSを提供し、コンパクトなM.2モジュールまたはPCIeカードとしてリアルタイムのエッジ推論に対応します。Metisは1チップ当たり最大16GBのメモリと最大8Bパラメータの言語モデルに対応し、ビジョン用途向けに最適化しつつローカル言語モデルを実行できる柔軟性を備えます。Europaは629 TOPSを提供し、オンチップの前処理・後処理を備え、AIPUコア数を倍増し、16個のベクトル処理ユニットを追加して、heavy-edgeから企業データセンターまで拡張します。Europaは1チップ当たり最大64GBのメモリと最大32Bパラメータの言語モデルに対応し、複数チップでは最大100Bパラメータを扱えます。Titaniaは、AxeleraのDigital In-Memoryコンピュートアーキテクチャを高性能コンピューティングとAI Gigafactoriesへ拡張するchipletとして説明されています。ハードウェア全体のフォームファクターとして、M.2、PCIeカード、compute board、chiplet、PCIe board、OCP-like insert card、NUC、PC、ワークステーション、edge server、enterprise server、rack-mount server、supercomputerが挙げられています。Axelera Embedded 110mは1基のMetis AIPUと1 GBの専用DRAMを搭載し、NGFF M.2ソケットを備える制約の大きいシステムでのAIアクセラレーションを想定しています。Axelera Embedded 113mはMetisと最大8 GBの専用メモリを使用し、エッジおよび組み込み機器上のLLM、VLM、マルチカメラビジョン推論向けに提供されます。Axelera Edge 130pは1基のMetis AIPUを搭載したハーフハイト・ハーフレングスPCIeアクセラレータで、最大214 TOPSを提供し、高負荷のビジョン用途やローカル言語モデルを処理します。Edge 130pはResNet-50で最大3,200 FPSとされ、公開例ではUltralytics YOLOv5sで865 FPS、比較対象の2つのアクセラレータは543 FPSと334 FPSと記載されています。Axelera Edge 232pはEuropaを搭載したハーフハイト・ハーフレングスPCIeカードで、最大629 TOPSとQWEN 30Bで毎秒83.4 tokensの性能が示されています。Edge 232pはagentic AIと生成AI向けに設計され、Physical AIから企業向け言語サービスまでを対象とし、100Bパラメータモデルをサポートします。Axelera Server 150pは4基のクアッドコアMetis AIPUを搭載し、ピーク856 TOPS、ResNet-50で最大12800 FPS、MobileNet V2-1.0で最大38884 FPSとされています。Axelera Embedded 111cはクアッドコアMetis AIPUとARM-based RK3588 CPUを単一ボードコンピュータに統合し、PCIe、USB、HDMI 2.0、デュアルGigabit LAN、GPIO、UART、I2C、64GB eMMC、SATA、microSDの接続・ストレージ機能を備えます。Voyager SDKはMetisとEuropaの両方に対応し、YAML設定を使ってビジョンモデル、画像処理、言語モデルの完全なパイプラインを同じソフトウェア環境からコンパイル、最適化、導入します。Edge 130pとEdge 232pはVoyager SDKを用いて評価、ソフトウェア統合、高度な量子化を行い、すぐに利用できるエンドツーエンドAIパイプラインとモデルを備えます。Axelera Edgeカードは既存インフラへ追加できるplug-and-playのアップグレードとして設計され、パッシブ冷却とアクティブ冷却の構成が用意されています。1枚のMetis PCIeカードで24本のライブカメラストリームを同時処理し、YoloV5物体検出によるマルチストリーム映像分析を行うデモが示されています。別のデモ用途では、ヘルメットやベストなどの個人用保護具をリアルタイムで監視し、職場の安全を支援します。Edge製品群は業界標準PCIeアクセラレータカードで構成され、推論アクセラレーション向けにソフトウェアの使いやすさ、電力効率、拡張性を組み合わせています。1枚のEdgeボードで複数カメラの推論を実行しながら、複数の独立ニューラルネットワークを並列に動作させることができます。MetisはDigital In-Memory Computing、RISC-V controlled dataflow技術、Voyager SDKを組み合わせ、データセキュリティも内蔵しています。Europaは8基の第2世代AIコア、16基のRISC-Vベクトル処理コア、128MBのL2 SRAM、200GB/sのDRAM帯域幅、オンボード前後処理、CPU負荷を減らすビデオデコーダを備えます。別のオフラインデモでは、Axelera Edge 130pが3B-parameter Llama 3.2B-Instructモデルをクラウド依存ゼロ、100%ローカル処理で実行しています。Ultralytics YOLOv8sのAIPU比較表では、Metisが毎秒653フレーム、Europaが毎秒2850フレームで、後者は4.36xと記載されています。Axelera Embedded 111cはVoyagerツールチェーンと組み合わせてモデルの展開・最適化を行い、PyTorch、ONNX、TensorFlowのワークフローに対応するとされています。EuropaはPhysical AIおよびEnterprise AIのワークロードで、従来のGPUソリューションに比べて1ワット当たり毎秒のトークン数を最大6x提供すると説明されています。Voyager WingmanはAxelera AIのagenticプラットフォームとして、対話によるパイプライン作成と展開時のトラブルシューティングに利用できるとされています。
対応領域・製品
- AIPU AI推論プロセッサ
- Embedded・Edge・Server AI推論製品ライン
- PCIeエッジAI推論アクセラレータカード
- Voyager SDKによるAIアプリのコンパイル・最適化・展開