华为昇腾Atlas 300I A2推理卡 华为昇腾AI训练卡 华为昇腾AI推理卡

华为昇腾Atlas 300I A2推理卡

Atlas 300I A2 推理卡提供强劲AI推理能力，具有超强算力、视频分析等优势，可广泛应用于生成式大模型推理、内容审核等多场景，支持最高560 TOPS INT8 和 280 TFLOPS FP16算力，加速大模型推理深入行业。

产品特点

超节点架构

●  提供业界领先的560 TOPS INT8算力

●  提供业界领先的280 TFLOPS FP16算力

●  支持 8 core * 2.0 GHz CPU计算能力

高速带宽

●  最大支持1.6 TB/s内存带宽

●  支持PCIe 5.0高速接口

技术规格

产品	Atlas 300I A2
形态	双槽位全高全长PCIe卡
AI算力	560 TOPS INT8，280 TFLOPS FP16
CPU	8 core * 2.0 GHz
片上内存	32 GB，带宽0.8 TB/s，支持ECC 64 GB，带宽1.6 TB/s，支持ECC
PCIe接口	PCIe 5.0
功耗	最大350W
散热方式	被动风冷
风扇	每个抽屉集成5个热拔插风扇模组，支持4+1冗余
工作环境温度	5℃~45℃（41℉～113℉）
结构尺寸（高×宽×深）	266.7mm * 39.04mm * 111.15mm

 

特征	规格（32GB）	规格（64GB）
形态	双槽位全高全长PCIe卡
AI处理器	1* 昇腾910 AI处理器 集成20个AI Core+8个TaiShan Core
内存规格	●  32GB HBM ●  HBM带宽：800GB/s ●  支持ECC	●  64GB HBM ●  HBM带宽：1.6TB/s ●  支持ECC
AI算力a	●  半精度（FP16）：最大算力为280 TFLOPS ●  整数精度（INT8）：最大算力为560 TOPS
编解码能力	●  支持1080p 480 FPS等效的视频解码能力。 ●  支持1080p 12288 FPS等效的JPEG解码能力，支持最大分辨率16384x16384，最小分辨率32x32。 ●  支持1080p 1024 FPS等效的JPEG编码能力，支持最大分辨率8192x8192，最小分辨率32x32。
PCIe接口	PCIe x16 Gen5.0
PCI IDs	Vendor ID：0x19E5 Device ID：0xD802 Subsystem Vendor ID：0x19E5 Subsystem Device ID：0x4000	Vendor ID：0x19E5 Device ID：0xD802 Subsystem Vendor ID：0x19E5 Subsystem Device ID：0x4001
功耗	300W/350W 说明： 功耗配置参考电源管理。
散热方式	被动风冷
尺寸（长x宽x高）	266.7mm x 39.04mm x 111.15mm
重量	1.32kg
操作系统	详细信息请联系技术支持。
a：稳定提供的峰值算力。