AI 推理术语表

硬件

Ascend

先用大白话

Huawei 的 AI 加速器系列,实际性能取决于具体芯片配置、软件栈和工作负载。

技术定义

Ascend 是 Huawei 的 AI 加速器系列,配合 CANN 软件栈以及设备专用的执行和内存资源工作。

工程细节

Huawei 文章研究了 950PR 硬件和 950DT 的执行 profile。Cube、vector、数据传输资源及辅助 CPU 各有分工。同属 Ascend 系列,并不意味着核心数、内存容量、主机架构或 kernel 支持相同。

为什么重要

模型在一种 Ascend 配置上成功运行,不能证明另一种配置也已具备部署条件。软件依赖和通信拓扑可能与标称算力同样重要。

如何在 InferenceX 中解读

应记录实际 SKU、主机 CPU 架构、CANN 与驱动版本、模型精度及并行策略。历史文章分别讨论微基准测试、软件发布情况和特定模型的执行 profile,不能混为一类结果。

在真实基准中理解这一概念

全部文章