全球AI推理芯片行业报告

1. 行业概览
2. 1行业定义

AI芯片行业正从以训练为核心向以推理为核心的范式发生根本性转变，AI推理芯片的需求正急剧增长。

AI推理芯片专为高能效、低时延设计，可实现近乎即时的处理结果。

1. 2行业结构

AI推理芯片可部署于云端、边缘及端侧场景，不同场景需根据差异化需求进行定制化芯片设计：

云端AI推理芯片通常用于数据中心，负责处理大规模、高密度、高并发的集中式推理任务。因此，这类芯片优先考量高算力、广泛适用性、灵活性及可扩展性。

边缘AI推理芯片部署于靠近数据源的边缘服务器、网关或基站，执行实时本地推理，需要在高性能与能效之间做好平衡，以保障低时延、数据安全及运行稳定性。

端侧AI推理芯片直接应用于终端用户设备，例如智能手机、智能汽车及智能家居等消费电子设备。

1. 3行业规模与增长

2024年，全球AI推理芯片市场规模达到6,067亿元人民币，细分市场规模如下：

端侧推理：2,916亿元人民币

云端推理：2,275亿元人民币

边缘推理：877亿元人民币