기본 정보
| 부스 | R8000 |
| 국가 | NL |
| 웹사이트 | axelera.ai |
회사 소개
Axelera AI는 AI 추론을 클라우드에서 데이터가 생성되고 사용되는 지점 가까이로 이동시키며, 첨단 비전부터 대규모 언어 모델, 생성형 AI부터 로보틱스까지 폭넓은 애플리케이션을 다룹니다. Embedded, Edge, Server 제품군은 Axelera가 세계에서 가장 효율적이라고 설명하는 AIPU를 기반으로 하며 다양한 환경에 배포할 수 있습니다. Axelera AIPU는 AI 추론을 위해 특별히 설계된 프로세서입니다. 회사는 머신러닝 시스템 개발자와 통합업체, 소프트웨어 공급업체, OEM을 대상으로 업계 표준 폼팩터의 AI 추론 가속 하드웨어와 지원 소프트웨어 스택을 제공합니다. Axelera는 와트당 성능과 비용당 성능을 하드웨어의 핵심으로 두고 AI 추론 솔루션의 개발, 통합, 배포를 단순화하는 것을 목표로 합니다. Axelera AI는 Ultralytics, Advantech, SECO를 생태계 파트너로 제시하며, 관련 협업에는 Metis에서 YOLO 모델을 실행하는 사례와 Metis를 Edge AI 또는 다른 제품군에 통합하는 사례가 포함됩니다.
전시 제품
Axelera는 서로 다른 사용 사례, 폼팩터, 성능 요구를 위한 세 가지 AIPU인 Metis, Europa, Titania를 발표했습니다. Metis는 4-8 watt 전력 예산에서 214 TOPS를 제공하며 소형 M.2 모듈 또는 PCIe 카드 형태로 실시간 엣지 추론을 지원합니다. Metis는 칩당 최대 16GB 메모리와 최대 8B 파라미터 언어 모델을 지원하며 비전 용도에 최적화되는 동시에 로컬 언어 모델 실행의 유연성을 제공합니다. Europa는 629 TOPS를 제공하고 온다이 전처리 및 후처리를 통합하며 AIPU 코어 수를 두 배로 늘리고 16개 벡터 처리 유닛을 추가해 heavy-edge 시스템부터 엔터프라이즈 데이터센터까지 확장됩니다. Europa는 칩당 최대 64GB 메모리와 최대 32B 파라미터 언어 모델을 지원하고 여러 칩 구성에서는 최대 100B 파라미터를 지원합니다. Titania는 Axelera의 Digital In-Memory 컴퓨팅 아키텍처를 고성능 컴퓨팅과 AI Gigafactories로 확장하는 chiplet으로 설명됩니다. 전체 하드웨어 제품군의 폼팩터에는 M.2, PCIe 카드, compute board, chiplet, PCIe board, OCP-like insert card, NUC, PC, 워크스테이션, edge server, enterprise server, rack-mount server, supercomputer가 포함됩니다. Axelera Embedded 110m은 하나의 Metis AIPU와 1 GB 전용 DRAM을 사용하며 NGFF M.2 소켓을 갖춘 제약 환경의 시스템에서 AI 가속을 제공하도록 설계되었습니다. Axelera Embedded 113m은 Metis와 최대 8 GB 전용 메모리를 사용하며 엣지 및 임베디드 장치의 LLM, VLM, 멀티카메라 비전 추론을 대상으로 합니다. Axelera Edge 130p은 하나의 Metis AIPU를 탑재한 HHHL PCIe 가속 카드로 최대 214 TOPS를 제공하며 고부하 비전 애플리케이션과 로컬 언어 모델을 처리합니다. Edge 130p은 ResNet-50에서 최대 3,200 FPS로 명시되며, 공개 예시에서는 Ultralytics YOLOv5s가 865 FPS이고 비교된 두 가속기는 각각 543 FPS와 334 FPS로 제시됩니다. Axelera Edge 232p은 Europa 기반 HHHL PCIe 카드로 최대 629 TOPS와 QWEN 30B에서 초당 83.4 tokens 성능을 제공합니다. Edge 232p은 agentic AI와 생성형 AI를 위해 설계되었으며 Physical AI 사용 사례부터 엔터프라이즈 언어 서빙까지 다루고 100B 파라미터 모델을 지원합니다. Axelera Server 150p은 4개의 쿼드코어 Metis AIPU를 사용하며 최대 856 TOPS, ResNet-50 최대 12800 FPS, MobileNet V2-1.0 최대 38884 FPS로 명시됩니다. Axelera Embedded 111c는 쿼드코어 Metis AIPU와 ARM-based RK3588 CPU를 SBC에 결합하고 PCIe, USB, HDMI 2.0, 듀얼 Gigabit LAN, GPIO, UART, I2C, 64GB eMMC, SATA, microSD 연결 또는 저장 옵션을 제공합니다. Voyager SDK는 Metis와 Europa를 모두 지원하며 YAML 구성을 사용해 비전 모델, 이미지 처리, 언어 모델의 전체 파이프라인을 하나의 소프트웨어 환경에서 컴파일, 최적화, 배포합니다. Edge 130p과 Edge 232p은 Voyager SDK를 통해 평가, 소프트웨어 통합, 고급 양자화를 수행하며 즉시 사용할 수 있는 엔드투엔드 AI 파이프라인과 모델을 제공합니다. Axelera Edge 카드는 기존 인프라에 추가할 수 있는 plug-and-play 업그레이드로 설계되며 수동 냉각과 능동 냉각 구성을 제공합니다. 단일 Metis PCIe 카드가 24개의 동시 라이브 카메라 스트림을 처리하고 YoloV5 객체 탐지를 사용해 멀티스트림 비디오 분석을 수행하는 데모가 제시됩니다. 또 다른 데모 사용 사례는 헬멧과 조끼 같은 개인보호장비를 실시간으로 모니터링해 작업장 안전을 지원합니다. Edge 제품군은 업계 표준 PCIe 가속 카드로 구성되며 추론 가속을 위해 소프트웨어 사용 편의성, 전력 효율, 확장성을 결합합니다. 단일 Edge 보드는 여러 카메라의 추론을 실행하면서 여러 독립 신경망을 병렬로 지원할 수 있습니다. Metis는 Digital In-Memory Computing, RISC-V controlled dataflow 기술, Voyager SDK를 결합하고 내장형 데이터 보안 기능을 포함합니다. Europa는 8개의 2세대 AI 코어, 16개의 RISC-V 벡터 처리 코어, 128MB L2 SRAM, 200GB/s DRAM 대역폭, 온보드 전후처리, CPU 부하를 줄이는 비디오 디코더를 포함합니다. 별도의 오프라인 데모에서는 Axelera Edge 130p이 3B-parameter Llama 3.2B-Instruct 모델을 클라우드 의존성 없이 100% 로컬 처리로 실행합니다. Ultralytics YOLOv8s AIPU 비교표에서 Metis는 초당 653프레임, Europa는 초당 2850프레임으로 표시되며 후자는 4.36x로 제시됩니다. Axelera Embedded 111c는 Voyager 툴체인과 함께 모델 배포 및 최적화를 수행하며 PyTorch, ONNX, TensorFlow 워크플로를 지원하는 것으로 설명됩니다. Europa는 Physical AI 및 Enterprise AI 워크로드에서 기존 GPU 솔루션 대비 와트당 초당 토큰 수를 최대 6x 제공하는 것으로 설명됩니다. Voyager Wingman은 Axelera AI의 agentic 플랫폼으로, 대화를 통해 파이프라인을 만들고 배포 문제를 해결할 수 있는 것으로 제시됩니다.
역량 및 제품
- AIPU AI 추론 프로세서
- Embedded, Edge 및 Server AI 추론 제품군
- PCIe 엣지 AI 추론 가속 카드
- Voyager SDK AI 애플리케이션 컴파일·최적화·배포