AI芯片发布会和技术峰会上，经常会出现一个特别醒目的数字：

算力提升2倍。

或者：

达到多少TOPS、多少TFLOPS、多少PFLOPS。

这些数字很容易成为媒体标题。

但对于真正做芯片、AI基础设施或者模型部署的人来说，一个“算力数字”远远不够。

因为同样写着：

1000 TOPS

和：

1000 TFLOPS，

可能根本不是同一类计算。

即使两个产品都写：

FP8 Performance，

如果一个指标包含结构化稀疏，一个不包含；

一个是芯片理论峰值，一个是整机实际吞吐量；

也不能简单横向比较。

心译翻译曾为全球AI芯片创新峰会提供国际会议翻译支持。峰会围绕芯片架构、算力提升、人工智能应用及产业生态等议题展开，内容横跨半导体硬件、AI算法、系统架构和产业应用。

全球AI芯片创新峰会翻译案例

这类项目真正考验译员的，其实不是能不能记住几十个芯片缩写，而是：

一个性能数字是在什么精度、什么工作负载、什么测试条件和什么系统环境下得到的。

一、TOPS、TFLOPS和PFLOPS为什么不能混着说“算力”？

“算力”是中文科技报道里非常常见的词。

但到了AI芯片技术会议中，必须进一步拆开。

FLOPS

即 Floating-Point Operations Per Second，描述浮点运算性能。

TFLOPS和PFLOPS只是数量级不同：

Tera 是万亿级；

Peta 是千万亿级。

而：

TOPS

一般表示 Trillion Operations Per Second，也就是每秒万亿次运算，AI加速器中经常用于描述整数或特定低精度运算能力。

问题在于：

Operation到底是什么operation？

FP32？

FP16？

BF16？

FP8？

INT8？

不同精度下，同一颗AI芯片能够给出的峰值性能完全可能不同。

AMD MI300X的官方规格就是一个典型例子：同一款加速器分别列出了FP8、FP16、BF16、TF32、FP32、FP64和INT8的峰值性能，而且是否启用结构化稀疏，数字还会继续变化。

所以技术会议里听到：

2.6 PFLOPS

译员不能只记下：

“2.6P算力”。

还必须继续听：

什么精度？
是否使用 sparsity？
是理论峰值还是实际benchmark？

否则最关键的技术条件就丢了。

二、FP32、FP16、BF16、FP8不是“数字越来越小”这么简单

AI芯片会议里非常容易连续出现：

FP32
TF32
FP16
BF16
FP8
INT8
INT4

对于非专业听众来说，看起来像是一串越来越小的数字。

但这些其实是不同的数值表示方式。

数字位宽越低，通常意味着计算和存储可以更加高效，但同时也会涉及：

精度；

动态范围；

模型稳定性；

量化误差

等问题。

例如NVIDIA的Transformer Engine技术资料中就专门区分了两种FP8格式：E4M3拥有更多尾数位，而E5M2拥有更大的动态范围，两者适用于不同的神经网络计算场景。

所以：

Precision

在AI芯片会议中不能简单理解成：

“芯片算得准不准”。

它实际上涉及：

数据用什么格式表示，以及计算性能与数值精度之间如何权衡。

因此翻译：

mixed precision training

时，不能只机械说：

“混合精度训练”。

译员最好理解为什么训练过程中会同时使用不同精度。

否则后面一旦出现：

loss scaling
quantization
accumulation
dynamic range

整条技术逻辑就容易断掉。

三、“峰值算力”不等于实际AI性能

芯片厂商技术资料里经常出现：

Peak Performance / 峰值性能

但峰值性能只是一个理论能力指标。

真正运行模型时，还会受到：

内存；

数据搬运；

软件栈；

batch size；

模型结构；

通信；

功耗限制

等很多因素影响。

这也是为什么AI硬件产业需要MLPerf这类标准化benchmark。

MLCommons指出，不同AI硬件和软件组合非常多，仅依靠单个理论算力数字很难对系统进行架构中立、具有代表性和可重复的比较，因此MLPerf通过统一模型、数据集、质量要求和测试场景对AI系统进行测试。

这意味着会议里如果出现：

Our accelerator delivers 30% higher performance.

译员真正需要继续判断：

30% higher performance——

相对于什么？

什么模型？

什么精度？

什么batch size？

是training还是inference？

是chip level还是system level？

如果这些限定条件没有保住，

“性能提高30%”几乎没有完整的技术意义。

四、Training和Inference为什么必须从一开始就分清？

AI芯片会议中有两个最基础的场景：

Training / 训练

和：

Inference / 推理。

训练强调：

让模型通过大量数据学习参数。

通常需要：

大量矩阵计算；

大容量内存；

高速多芯片通信；

较长时间持续运行。

而推理则是：

模型训练完成以后，真正对新输入生成结果。

比如：

大语言模型回答问题；

自动驾驶识别目标；

推荐系统生成推荐结果。

推理场景经常进一步关注：

latency
throughput
concurrency
time to first token
tokens per second

因此：

Training Performance

和：

Inference Performance

不能统一翻成：

“AI性能”。

对于买AI服务器的人来说，这甚至可能对应完全不同的采购需求。

五、Throughput和Latency，是AI推理中非常不同的两件事

AI推理会议里经常出现两个看起来都代表“快”的词：

Throughput / 吞吐量

和：

Latency / 时延。

但它们回答的是完全不同的问题。

Throughput关注：

一段时间内能处理多少任务。

例如：

samples per second；

queries per second；

tokens per second。

Latency关注的是：

一个请求等多久才能得到响应。

MLPerf Inference也根据不同部署场景分别设置吞吐量和时延指标，例如Offline场景关注峰值吞吐，而Single-Stream场景更强调单次请求的最低时延。

到了大语言模型时代，还会进一步出现：

TTFT / Time to First Token

第一个token出现需要多久；

TPOT / Time per Output Token

后续每个输出token平均需要多久。

MLPerf对大语言模型推理测试也已经明确设置TTFT和TPOT等时延要求。

所以如果嘉宾说：

We improved inference performance.

译员还不能马上满足于：

“我们提升了推理性能。”

最好继续判断：

是吞吐量提升？

首token更快？

单token生成更快？

还是并发能力提高？

六、为什么有时候芯片算得很快，却还是“喂不饱”计算单元？

AI计算并不仅仅发生在运算核心里。

数据还需要不断从内存中读取和写回。

因此AI加速器特别重视：

Memory Capacity / 内存容量

以及：

Memory Bandwidth / 内存带宽。

两者不能混淆。

Memory Capacity回答：

能装多少数据。

Memory Bandwidth回答：

数据能够多快进出内存。

例如AMD MI300X官方规格同时列出192GB HBM3内存和最高5.3TB/s理论内存带宽。

为什么AI芯片特别重视HBM？

因为大模型计算需要频繁访问大量参数。

如果计算单元速度很快，但数据来不及送进去，

最终整个系统仍然可能受到：

Memory Bottleneck / 内存瓶颈

限制。

因此：

Compute-bound

和：

Memory-bound

是两类完全不同的性能问题。

技术会议里如果把bandwidth统一理解成：

“网络带宽”，

就会出现非常典型的翻译事故。

因为这里讨论的可能根本不是互联网网络，而是：

芯片和内存之间的数据传输能力。

七、Bandwidth本身也至少要先问一句：“哪里的带宽？”

AI芯片峰会里：

bandwidth

可能在一分钟之内出现很多次。

但分别可能指：

memory bandwidth
PCIe bandwidth
chip-to-chip bandwidth
interconnect bandwidth
network bandwidth

中文都叫：

带宽。

可它们发生的位置完全不同。

例如：

Memory Bandwidth

是计算芯片访问显存的能力。

PCIe Bandwidth

关系到加速卡与主机之间的数据传输。

Chip-to-Chip Interconnect

则可能关系到多个AI加速器之间如何协同。

到了大型AI集群，

又进一步进入：

Scale-up

和：

Scale-out

架构。

因此AI芯片同声传译很重要的一项能力是：

建立“数据到底从哪里流向哪里”的空间概念。

如果只背：

bandwidth = 带宽，

现场很快就会乱。

八、AI芯片今天已经越来越不是“单颗芯片”的竞争

早期介绍处理器，很容易重点关注：

晶体管；

核心数量；

主频；

制程。

今天AI基础设施越来越强调的是：

System-Level Performance / 系统级性能。

一颗加速器需要与：

CPU；

HBM；

高速互连；

网卡；

存储；

服务器；

机架；

软件

共同工作。

所以峰会里容易出现：

accelerator
host CPU
interconnect
fabric
scale-up
scale-out
cluster
rack-scale system

这些词意味着竞争已经从：

Chip

逐渐扩展到：

System。

因此译员也必须不断判断：

嘉宾此刻是在讲：

一颗芯片？

一块加速卡？

一台服务器？

一个八卡平台？

还是整个AI数据中心？

如果单位层级没有跟住，

性能数字很容易出现数量级错误。

九、为什么“软硬件协同”不是一句宣传口号？

AI芯片性能并不完全由硬件决定。

真正让模型运行起来，还需要：

compiler
runtime
kernel
driver
framework
library
operator optimization

于是会议中非常容易出现：

Hardware-Software Co-design / 软硬件协同设计。

其核心意思并不是简单地：

“软件和硬件一起做”。

而是：

在设计硬件架构时就考虑AI模型和软件栈需要什么，同时通过编译器、算子、内核和框架优化，让硬件能力真正被调用出来。

这也是为什么一个AI芯片拥有很高的理论峰值算力，

并不意味着所有模型都能够自动跑到那个数字。

真实性能还取决于：

软件是否成熟；

常用模型是否优化；

算子是否支持；

编译效率如何；

开发者迁移成本高不高。

因此当峰会进入：

ecosystem

这个词时，

它往往已经不只是“产业生态”。

在AI芯片场景里，它可能非常具体地包括：

开发工具；

软件框架；

模型库；

开发者；

云平台；

服务器厂商和应用伙伴。

十、功耗为什么已经成为AI芯片性能的一部分？

AI计算规模越大，功耗就越难绕开。

因此峰会中经常出现：

TDP
TBP
power consumption
performance per watt
energy efficiency

这些概念不能全部翻成：

“功耗”。

例如：

Performance per Watt

真正关心的是：

每消耗一瓦电，能够提供多少计算能力。

这意味着芯片比较逐渐从：

谁算得最快

变成：

谁能在合理电力和散热条件下持续提供更高性能。

AMD MI300X官方规格例如同时给出性能参数和最高750W板级功耗数据，这就是为什么实际系统设计不能只看PFLOPS，还要同时考虑电源和散热。

对于数据中心而言，

最终还会进一步涉及：

cooling
rack power
power density
total cost of ownership / TCO

这时候AI芯片会议已经从：

半导体设计

进入：

数据中心工程和商业成本。

十一、“最高提升2倍”这种话，翻译时为什么特别要小心？

技术发布会最容易出现：

up to 2x
up to 50% improvement
peak
theoretical
under specific workloads

这些限制词非常重要。

例如：

up to 2x

是：

最高可达2倍

而不是：

性能提高2倍。

再比如：

with structured sparsity

意味着这个性能数字是在特定稀疏条件下得到的。

AMD的官方AI性能指标就分别列出了普通FP8性能与启用结构化稀疏后的FP8性能，两组数字存在明显差异。

因此芯片技术会议里最不能随意省略的词通常包括：

peak
theoretical
up to
with sparsity
under specific workloads
compared with

因为它们决定：

这个数据的适用边界。

少翻一个限定词，

很可能就把实验条件下的结果变成普遍性能承诺。

十二、AI芯片会议的术语表，最好按照“数据流”建立

这种会议如果只是按字母整理：

Bandwidth —— 带宽
GPU —— 图形处理器
HBM —— 高带宽内存
Latency —— 时延

现场帮助其实有限。

更好的准备方式是按整个AI计算过程划分。

1. 数据与模型

parameter
token
batch
tensor
model size
context length

2. 数值精度

FP32
TF32
FP16
BF16
FP8
INT8
quantization

3. 计算

GPU
NPU
AI accelerator
matrix core
tensor core
TOPS
TFLOPS

4. 内存

HBM
memory capacity
memory bandwidth
cache
memory hierarchy

5. 互连

PCIe
chip-to-chip interconnect
fabric
scale-up
scale-out

6. AI任务

training
fine-tuning
inference
prefill
decode

7. 性能指标

throughput
latency
TTFT
TPOT
QPS
performance per watt

8. 软件栈

compiler
runtime
kernel
framework
library
operator

这样译员脑子里形成的就不是：

几十个缩写。

而是一条：

Model → Memory → Compute → Interconnect → Software → Output

的完整技术路径。

十三、AI芯片翻译真正需要守住的是“比较条件”

全球AI芯片创新峰会所代表的，是今天科技会议里信息密度最高的一类场景。

半导体架构、AI算法、大模型推理、内存系统、芯片互连和软件生态正在越来越紧密地结合。

所以真正专业的AI芯片会议翻译，需要守住的不是：

“TOPS怎么翻”。

而是：

什么精度下的TOPS；
什么模型下的性能；
峰值还是实测；
吞吐量还是时延；
单芯片还是整机；
是否包含稀疏优化；
功耗条件是什么。

心译翻译通过AI芯片会议翻译、半导体同声传译、人工智能技术会议语言支持、产品资料本地化及多语种国际传播，为芯片企业、AI基础设施厂商、科研机构及科技峰会提供专业语言服务。

因为对于AI芯片而言，

真正有意义的从来不是一个孤立的：

“算力很高”。

而是：

在什么模型、什么精度、什么内存与软件环境下，这颗芯片到底能够完成多少真实工作。

而专业翻译需要做的，就是保证这些决定技术结论的条件，在跨越语言以后一个都没有消失。