引言

随着生成式AI、大模型、自动驾驶等技术的爆发式发展，AI芯片作为算力核心，已成为全球科技竞争的战略制高点。从大模型训练所需的千亿级算力支撑，到边缘端推理的低功耗高效能需求，AI芯片的应用场景不断细化，市场规模持续扩容。据行业预测，2026年全球AI芯片市场规模预计达2800亿美元，较2025年增长40%，其中训练芯片与推理芯片呈现出差异化的竞争格局，国内外企业也在架构创新与生态构建上展开了激烈角逐[7]。

AI芯片并非单一品类，而是根据应用场景分为训练芯片与推理芯片两大核心板块：训练芯片聚焦于AI模型的“从零构建”，追求极致的算力、精度与并行处理能力，是大模型迭代的核心动力；推理芯片则专注于“模型落地执行”，侧重能效比、低延迟与场景适配性，推动AI技术渗透到千行百业。当前，全球AI芯片市场呈现“国外主导高端、国内突围追赶”的格局，国外企业凭借成熟的架构设计与完善的生态闭环占据优势，国内企业则依托本土化场景与政策支持，在架构创新与生态建设上快速突破。

本文将围绕AI芯片的训练与推理两大核心场景，系统梳理国内外主流芯片的架构特点、技术优势，深入对比国内外AI芯片的生态布局差异，剖析当前市场竞争格局与核心挑战，为行业从业者提供全面的市场全景参考，助力把握AI芯片行业的发展趋势。

一、AI芯片核心分类：训练与推理的核心差异

AI芯片的设计逻辑与应用需求深度绑定，训练芯片与推理芯片作为两大核心品类，在技术特点、架构设计、市场需求上存在显著差异，这种差异也决定了国内外企业的竞争路径与布局重点，是理解AI芯片市场竞争的基础[3]。

1.1 训练芯片：高精度的“模型工厂”

训练芯片的核心任务是从零开始训练AI模型，通过海量数据的反向传播与梯度计算，不断优化模型参数，最终实现模型的精准预测与决策。这一过程对芯片的算力、精度、内存带宽与并行处理能力提出了极高要求，因此训练芯片也被称为“算力巨兽”。

在计算特点上，训练过程需要大量高精度浮点运算，FP32、FP64等高精度格式是主流选择，部分高端芯片通过支持FP8、BF16等混合精度格式，在保证训练精度的同时提升算力效率。梯度下降的稳定性直接决定模型训练效果，因此芯片的计算精度误差必须控制在极低范围，这对架构设计与电路优化提出了严苛要求。

在架构设计上，训练芯片普遍采用SIMT（单指令多线程）架构，这种架构能够高效处理高度并行、同构的计算任务，同时支持多芯片集群互联，满足千亿级、万亿级参数大模型的分布式训练需求。内存方面，训练芯片需要大容量、高带宽的HBM内存，用于存储海量模型参数、中间计算结果与训练数据，通常训练一个大模型所需的内存是运行该模型的3-4倍，因此HBM内存的容量与带宽成为训练芯片性能的核心瓶颈之一[3]。

应用场景上，训练芯片主要集中在大型数据中心，用于大模型训练、深度学习框架优化、科学计算等场景。例如，训练GPT-4这类万亿参数级大模型，需要上万块高端训练芯片协同工作数月之久，对芯片的集群互联能力与稳定性要求极高。当前，训练芯片市场呈现高度集中的格局，国外企业凭借技术优势占据主导地位，国内企业正逐步实现技术突破[3]。

1.2 推理芯片：高效能的“模型执行者”

推理芯片的核心任务是将训练好的AI模型应用于实际场景，通过前向传播计算，快速输出模型预测结果，实现AI技术的落地应用。与训练芯片不同，推理芯片的设计重点的是能效比、低延迟与场景适配性，而非单纯追求极致算力。

在计算特点上，推理过程的计算图固定、数据流单向，无需复杂的梯度计算，因此对精度的要求相对宽松，INT8、INT4甚至二值化网络被广泛应用。降低计算精度能够大幅提升算力效率、减少内存占用与带宽压力，是推理芯片提升能效比的核心手段[3]。

在架构设计上，推理芯片的路线更加多元化，除了GPU架构外，DSA（领域专用架构）、FPGA、ASIC等架构也被广泛采用。DSA架构通过定制化计算单元，针对特定推理场景进行优化，能够实现更高的能效比与更低的延迟，成为当前推理芯片的主流架构方向。此外，推理芯片普遍支持算子融合、静态调度等优化技术，进一步提升推理效率[3]。

应用场景上，推理芯片的覆盖范围极为广泛，从云端数据中心的大规模推理任务，到边缘端的智能终端、自动驾驶、安防监控等场景，均有明确的应用需求。不同场景对推理芯片的要求差异较大：云端推理追求高吞吐量与中等延迟，边缘推理强调低延迟、低功耗与小尺寸，自动驾驶场景则对实时性与可靠性有极高要求[3]。

1.3 训练与推理芯片的核心差异总结

两者的差异本质上是“重性能”与“重效率”的设计哲学差异：训练芯片追求极致的算力、精度与并行处理能力，以突破大模型参数的边界；推理芯片追求高效的能效比、低延迟与场景适配性，以推动AI技术的规模化落地。这种差异也导致了市场格局的分化：训练芯片市场集中度极高，技术壁垒深厚；推理芯片市场则呈现多元化竞争格局，场景定制化成为核心竞争力[3]。

二、国外AI芯片：架构引领与生态垄断

国外AI芯片企业起步早、技术积累深厚，在训练与推理芯片领域均占据主导地位，形成了“架构领先-生态闭环-市场垄断”的良性循环。当前，国外主流AI芯片企业主要包括英伟达（NVIDIA）、AMD、英特尔（Intel）、谷歌（Google）等，其中英伟达占据绝对领先地位，AMD、谷歌等企业逐步实现突破，形成差异化竞争格局[7]。

2.1 训练芯片：英伟达主导，多玩家跟进

训练芯片市场是国外AI芯片企业的核心阵地，英伟达凭借先进的架构设计与完善的生态支持，占据全球70%以上的市场份额，AMD、谷歌、英特尔等企业逐步发力，试图打破英伟达的垄断格局[7]。

2.1.1 英伟达：架构迭代引领，算力持续突破

英伟达作为AI训练芯片的绝对龙头，凭借CUDA生态与持续的架构迭代，长期占据市场主导地位。近年来，英伟达不断推出新一代架构与芯片产品，持续提升算力与能效比，巩固市场优势。

在架构方面，英伟达先后推出了Volta、Turing、Ampere、Hopper、Blackwell五代AI训练架构，每一代架构都实现了算力与能效比的大幅提升。其中，Hopper架构作为前一代旗舰架构，采用7nm工艺，首次引入Transformer引擎，专门针对大模型训练进行优化，支持BF16混合精度计算，大幅提升了Transformer模型的训练效率；Blackwell架构作为2024年推出的新一代架构，实现了算力的跨越式提升，支持1.8万亿参数模型训练，NVLink技术实现多卡集群无缝互联，能效比较Hopper架构提升2倍以上，能够将大模型训练成本降低90%，训练时间缩短至原来的1/10[3]。

在芯片产品方面，英伟达的H100、H200是当前全球高端训练芯片的标杆产品。H100基于Hopper架构，采用4nm工艺，FP32算力达67 TFLOPS，BF16算力达335 TFLOPS，配备80GB HBM3内存，内存带宽达3.35 TB/s，支持PCIe 5.0接口，能够满足千亿级参数大模型的单机训练需求；H200作为H100的升级款，配备128GB HBM3e内存，内存带宽提升至4.8 TB/s，算力进一步提升，能够支持万亿级参数大模型的分布式训练，是当前大模型训练的首选芯片[3]。

此外，英伟达推出的DGX系列训练集群，将多块H100/H200芯片集成，搭配专用的互联技术与软件栈，为大模型训练提供端到端解决方案，被OpenAI、谷歌、Meta等全球顶级大模型企业广泛采用，进一步巩固了其市场垄断地位[3]。

2.1.2 AMD：架构追赶，性价比突围

AMD作为全球第二大GPU厂商，凭借MI300系列芯片，在AI训练芯片市场逐步实现突破，以性价比优势抢占市场份额，2025年市场份额已提升至12%[7]。

AMD的训练芯片基于CDNA 3架构，该架构专为AI与HPC（高性能计算）场景设计，采用Chiplet芯粒封装技术，能够灵活组合计算Die、HBM Die等不同功能芯粒，在提升算力的同时控制成本。CDNA 3架构支持FP8、BF16、FP32等多种精度格式，采用全新的矩阵计算单元，并行处理能力大幅提升，能够高效适配大模型训练与科学计算场景[3]。

其旗舰产品MI300X，采用4nm工艺，集成1530亿个晶体管，配备128GB HBM3内存，内存带宽达5.3 TB/s，BF16算力达1.2 PetaFLOPS，在硬件参数上已接近英伟达H100芯片。与英伟达H100相比，MI300X的优势在于性价比更高，同时支持更多内存容量，能够更好地适配大模型的内存需求。此外，AMD推出的MI300A芯片，集成CPU与GPU核心，实现“CPU+GPU”异构计算，进一步提升了芯片的集成度与能效比[3]。

在生态方面，AMD推出ROCm开源软件生态，兼容CUDA API，试图降低开发者的迁移成本，吸引更多开发者采用其芯片。但目前ROCm生态的成熟度仍不及CUDA，部分深度学习框架的适配效果与稳定性有待提升，成为制约AMD训练芯片发展的核心瓶颈[2]。

2.1.3 谷歌：定制化架构，自用为主

谷歌作为AI技术的领先企业，为满足自身大模型训练与AI应用的需求，自主研发了TPU（Tensor Processing Unit）系列芯片，采用定制化ASIC架构，专门针对TensorFlow框架优化，形成了“芯片-框架-应用”的闭环生态[3]。

谷歌TPU采用数据流架构，与GPU的SIMT架构不同，数据流架构能够高效处理深度学习中的矩阵乘法与卷积运算，在大模型训练场景中具有更高的能效比。TPU芯片通过专用的互联技术，支持多芯片集群互联，能够构建大规模训练集群，满足谷歌Gemini等大模型的训练需求[3]。

最新推出的第七代TPU（Ironwood），不仅优化了训练性能，还强化了推理能力，支持万亿参数级MoE（混合专家模型）训练，通过稀疏性优化与模型并行技术，将基因测序分析周期从数月压缩至数天。在集群应用中，Ironwood芯片能够实现高效协同，某银行采用256芯片配置后，将信贷审批时间从小时级缩短至分钟级，欺诈识别准确率提升至99.9%[4]。

谷歌TPU的核心优势在于“定制化适配”，与自身TensorFlow框架、大模型应用深度耦合，能够实现极致的性能优化。但由于其主要用于谷歌内部，市场化程度较低，对全球训练芯片市场的影响有限，主要竞争优势集中在谷歌生态内部[3]。

2.2 推理芯片：多元化竞争，细分场景突破

与训练芯片市场的高度集中不同，国外推理芯片市场呈现多元化竞争格局，英伟达、英特尔、谷歌等企业凭借不同的技术路线，占据不同细分场景的优势，场景定制化成为核心竞争焦点[3]。

2.2.1 英伟达：全场景覆盖，主导高端市场

英伟达在推理芯片市场同样占据主导地位，凭借T4、L4、L40等系列芯片，覆盖云端、边缘端等全场景推理需求，形成了“训练-推理”的全链路产品布局[3]。

英伟达推理芯片基于其GPU架构，与训练芯片共享CUDA生态，开发者能够快速实现训练模型向推理场景的迁移，降低开发成本，这是其核心竞争优势。不同系列芯片针对不同场景优化：L4芯片采用8nm工艺，主打低功耗、高能效比，适配边缘端推理场景，如自动驾驶、安防监控、智能终端等，支持INT8、FP8等多种精度格式，能效比较上一代提升2倍以上；L40芯片主打高端推理，采用Ada Lovelace架构，配备24GB GDDR6内存，支持光线追踪与AI推理融合，适配云端大规模推理、生成式AI推理等场景；T4芯片则主打性价比，覆盖中端推理场景，广泛应用于图像识别、自然语言处理等常规推理任务[3]。

此外，英伟达推出TensorRT推理优化引擎，能够对深度学习模型进行量化、剪枝、算子融合等优化，大幅提升推理效率，降低延迟，与自身推理芯片配合使用，能够实现“芯片-引擎”的双重优化，进一步巩固其市场优势[3]。

2.2.2 英特尔：多路线布局，聚焦边缘场景

英特尔在推理芯片市场采用“GPU+FPGA+ASIC”多路线布局，针对不同细分场景推出差异化产品，重点聚焦边缘端推理场景，凭借其CPU生态优势，实现差异化竞争[3]。

在GPU路线上，英特尔推出Xeon Max系列推理芯片，基于Xe架构，针对云端推理场景优化，支持多精度计算，与英特尔CPU配合使用，能够实现“CPU+GPU”异构推理，提升整体算力效率；在FPGA路线上，英特尔推出Arria、Stratix系列FPGA芯片，FPGA具有可编程性强、低延迟、低功耗的优势，适配边缘端定制化推理场景，如工业质检、自动驾驶传感器数据处理等；在ASIC路线上，英特尔推出Gaudi系列芯片，专门针对AI推理优化，采用专用架构，能效比大幅提升，适配云端大规模推理场景[3]。

英特尔推理芯片的核心优势在于“生态协同”，与自身CPU、芯片组、软件工具深度整合，能够为客户提供端到端的推理解决方案。同时，英特尔凭借其广泛的渠道布局，在边缘端推理场景占据一定市场份额，尤其在工业、政务等细分领域，具有较强的竞争力[3]。

2.2.3 谷歌：Ironwood发力，强化场景适配

谷歌的推理芯片主要是其TPU系列的衍生产品，最新推出的第七代TPU（Ironwood）重点强化了推理性能，以架构革新实现推理效率的跨越式提升[4]。

Ironwood采用重构的矩阵运算单元、升级的内存子系统与强化的芯片间互连技术，实现了延迟与能效比的双向突破。在推理场景中，Ironwood处理复杂模型时系统延迟降低50%，L5级自动驾驶算法决策延迟从毫秒级降至微秒级，支持20路传感器数据实时融合；单芯片能效较前代提升100%，运行成本降低30%，谷歌云客户通过“按需调用”模式，开发成本下降40%[4]。

应用场景上，Ironwood广泛覆盖生成式AI、科学计算、边缘推理等领域：在生成式AI领域，支持Gemini 2.5 Flash模型，实现4K分辨率视频实时渲染，某影视公司利用Ironwood集群将特效制作周期缩短70%；在科学计算领域，支持分子动力学模拟与蛋白折叠预测，某实验室利用9216芯片集群将靶点筛选效率提升100倍；在边缘推理领域，适配L5级自动驾驶与工业质检，缺陷检测精度提升至99.99%[4]。

2.3 国外AI芯片生态：硬件-软件-应用闭环

国外AI芯片企业的核心竞争力不仅在于硬件架构的领先，更在于完善的生态布局，形成了“硬件-软件-应用”的闭环，构建了极高的竞争壁垒，其中以英伟达的CUDA生态最为典型[2]。

2.3.1 英伟达CUDA生态：垄断性优势，开发者粘性极高

CUDA（Compute Unified Device Architecture）是英伟达推出的并行计算平台与编程模型，是全球最成熟、最完善的AI芯片软件生态，也是英伟达垄断AI芯片市场的核心支撑[2]。

CUDA生态涵盖三个核心层面：一是CUDA Toolkit，包含编译器、库函数、调试工具等，为开发者提供完整的编程工具链，支持C、C++、Python等多种编程语言，降低开发者的编程门槛；二是专用库，如cuDNN（深度学习专用库）、TensorRT（推理优化引擎）、cuBLAS（线性代数库）等，针对深度学习、推理优化等场景进行专门优化，大幅提升开发效率与芯片性能；三是开发者生态，英伟达通过举办开发者大会（GTC）、提供免费开发工具、扶持初创企业等方式，构建了全球最大的AI芯片开发者社区，目前全球CUDA开发者数量已突破600万，覆盖全球各大科技企业、高校与科研机构[2]。

CUDA生态的核心优势在于“兼容性与易用性”，绝大多数深度学习框架（如TensorFlow、PyTorch、MXNet）都优先适配CUDA，开发者基于CUDA开发的应用能够无缝迁移到英伟达的各类训练与推理芯片上，形成了“框架适配-CUDA-英伟达芯片”的依赖关系。这种生态闭环使得开发者迁移到其他芯片平台的成本极高，即使其他企业的芯片硬件性能接近英伟达，也难以突破CUDA生态的壁垒[2]。

2.3.2 AMD ROCm生态：开源追赶，适配性逐步提升

ROCm（Radeon Open Compute Platform）是AMD推出的开源并行计算平台，旨在对标英伟达CUDA，打破CUDA的生态垄断，吸引开发者采用AMD芯片[2]。

ROCm生态采用开源模式，兼容CUDA API，开发者基于CUDA开发的应用能够通过少量修改迁移到ROCm平台，降低迁移成本。ROCm生态同样包含工具链、专用库与开发者社区三个层面：工具链方面，提供ROCm Toolkit，包含编译器、调试工具等，支持多种编程语言；专用库方面，推出rocDNN、rocBLAS等专用库，对标英伟达的cuDNN、cuBLAS，逐步提升对深度学习框架的适配性；开发者社区方面，AMD通过与高校、科研机构、科技企业合作，扩大开发者群体，目前ROCm开发者数量已突破100万，但与CUDA相比仍有较大差距[2]。

当前，ROCm生态的主要短板在于适配性与稳定性不足，部分深度学习框架的高级功能适配不完善，在大规模集群应用中的稳定性有待提升，且开发者生态的成熟度远不及CUDA，短期内难以撼动CUDA的垄断地位[2]。

2.3.3 谷歌TPU生态：闭环适配，自用为主

谷歌TPU生态采用“芯片-框架-应用”的闭环模式，主要服务于谷歌内部的AI应用，市场化程度较低[3]。

谷歌TPU专门针对自身TensorFlow深度学习框架优化，两者深度耦合，能够实现极致的性能优化，大幅提升大模型训练与推理的效率。同时，谷歌将TPU与自身云服务（Google Cloud）结合，为外部客户提供TPU云算力服务，逐步扩大生态影响力。此外，谷歌通过开源TensorFlow框架，吸引全球开发者参与，间接推动TPU生态的发展[3]。

由于TPU主要用于谷歌内部，其生态布局缺乏开放性，外部开发者采用TPU的成本较高，且适配其他深度学习框架的难度较大，因此对全球AI芯片生态的影响有限，主要优势集中在谷歌自身的生态闭环内[3]。

三、国内AI芯片：架构突围与生态追赶

近年来，随着国内AI产业的快速发展与国产化替代需求的提升，国内AI芯片企业迎来快速发展期，逐步实现从“跟跑”到“并跑”的突破。国内AI芯片企业主要聚焦于训练芯片的架构创新与推理芯片的场景深耕，依托本土化政策支持与场景优势，在部分细分领域实现突破，形成了多元化的竞争格局。当前，国内主流AI芯片企业包括壁仞科技、寒武纪、沐曦科技、燧原科技、地平线、黑芝麻智能、华为昇腾等[2][7]。

3.1 训练芯片：国产力量崛起，架构差异化突破

国内训练芯片市场起步较晚，但发展速度较快，企业通过自主研发架构、采用Chiplet技术等方式，突破国外技术壁垒，逐步实现性能追赶，其中壁仞科技、寒武纪、沐曦科技、燧原科技等企业表现突出[1][2][7]。

3.1.1 壁仞科技：Chiplet创新，性能逼近国际水准

壁仞科技作为国产GPU领域的领军企业，以自主研发GPGPU芯片为核心，聚焦AI算力核心场景，通过Chiplet技术与架构创新，实现了高端训练芯片的突破，其旗舰产品BR100芯片性能已接近英伟达H100[1]。

壁仞科技自主研发“壁立仞”原创GPGPU架构，专为大规模AI工作负载量身打造，兼具高性能、通用灵活性、高能效与可拓展性，核心包含TF32+数据格式支持、TDA张量数据存取加速器、C-Warp协作开发模式等六大特性。架构采用标准化模块化设计，核心计算单元为流处理器簇（SPC），单个SPC含16个执行单元（EU），可配置为4个计算单元（CU），单个BR100芯片内含32个SPC，总计8192个通用流式处理器、512个张量加速器，可同时运行128000个线程[1]。

在硬件参数上，BR100采用7nm制程+台积电2.5D CoWoS-S封装方案，集成770亿个晶体管，die尺寸达1000mm²左右，通过两颗die封装实现性能突破，其中16位浮点（BF16）算力超1000T、8位定点（INT8）算力达1.92万TOPS，官方数据显示其性能超英伟达A100三倍，配备256GB HBM3显存及超300MB片上缓存，外部I/O带宽达2.3TB/s，支持64路高清编码、512路高清解码加速[1]。

针对先进制程受限的问题，壁仞科技率先实现Chiplet技术商用落地，BR100采用“双die封装”设计，将两片相同的die通过台积电2.5D CoWoS-S封装方案集成于硅中介层，die间采用超高速112G PAM4 SerDes互连技术，通讯带宽达896GB/s，性能可媲美国际厂商先进互连技术。这种技术不仅能在7nm及以上成熟工艺基础上实现接近先进制程的性能，还能灵活组合计算Die、HBM Die等不同功能芯粒，如单die设计的BR104芯片可适配中低端算力需求[1]。

此外，壁仞科技推出“壁砺™166系列”升级产品，涵盖液冷/风冷OAM模组、推理AI加速卡等多种形态，可适配从边缘计算到云端超算的全场景需求，目前已实现BR110及BR166两款芯片的量产，其中BR100系列通过中芯国际28nm工艺也实现量产备份，技术实力通过大规模商用验证[1]。

3.1.2 寒武纪：架构自主，聚焦通用场景

寒武纪作为国内最早布局AI芯片的企业之一，自主研发了思元系列AI芯片，采用自主知识产权的MLU架构，聚焦通用AI训练与推理场景，逐步实现性能突破[6]。

寒武纪的训练芯片以思元590为核心，采用自主研发的MLUv03架构，针对AI训练场景进行专门优化，支持FP32、BF16、FP8等多种精度格式，能够高效处理大模型训练中的矩阵乘法与卷积运算。在性能上，思元590在视觉和语言大模型场景性能达A100的80%，为某大厂搜索推荐系统提供算力，推理延迟降低40%，能够适配千亿级参数大模型的训练需求[6]。

思元590采用7nm工艺，配备64GB HBM3内存，内存带宽达2.0 TB/s，支持多芯片集群互联，通过寒武纪自主研发的互联技术，实现多块思元590芯片的协同工作，满足大规模大模型训练的需求。此外，寒武纪推出的思元570芯片，主打中端训练场景，性价比突出，适配中小企业与科研机构的训练需求[6]。

寒武纪的核心优势在于架构的自主性与通用性，MLU架构不依赖国外技术，能够灵活适配多种深度学习框架，同时支持训练与推理一体化，降低客户的部署成本。但与英伟达H100、壁仞BR100相比，思元590的算力与内存带宽仍有差距，集群互联能力与稳定性有待提升[6]。

3.1.3 沐曦科技、燧原科技：细分赛道突破，性价比优势凸显

沐曦科技与燧原科技作为国内AI芯片领域的后起之秀，聚焦训练芯片的细分赛道，凭借性价比优势与场景适配性，逐步占据一定市场份额[2][8]。

沐曦科技推出的MX1系列训练芯片，采用自主研发的MXArch架构，针对大模型训练场景优化，支持FP8混合精度计算，BF16算力达48 TFLOPS，配备64GB HBM3内存，内存带宽达2.2 TB/s，性能接近英伟达A100芯片，而价格仅为A100的60%左右，性价比优势显著。MX1系列芯片支持多芯片集群互联，能够适配千亿级参数大模型的训练需求，已被国内部分大模型企业采用[2]。

燧原科技推出的云燧T20训练芯片，采用自主研发的GPGPU架构，FP32算力达40 TFLOPS，配备32GB HBM2E内存，功耗300W，价格在6-8万元之间，主打中端训练场景，适配中小企业、高校与科研机构的训练需求。云燧T20芯片支持多芯片集群互联，通过燧原科技自主研发的互联技术，实现大规模协同训练，同时适配多种深度学习框架，降低开发成本[8]。

3.2 推理芯片：场景深耕，本土化优势凸显

国内推理芯片市场呈现多元化竞争格局，企业聚焦国内本土化场景，如自动驾驶、安防监控、政务服务、医疗影像等，推出定制化推理芯片，凭借场景适配性与性价比优势，实现差异化竞争，其中地平线、黑芝麻智能、寒武纪、华为昇腾等企业表现突出[5][6][9]。

3.2.1 地平线：聚焦自动驾驶，出货量领先

地平线专注于自动驾驶场景的推理芯片，推出征程系列芯片，采用自主研发的BPU（Brain Processing Unit）架构，专门针对自动驾驶场景的图像识别、传感器融合、路径规划等任务优化，形成了“芯片-算法-工具链”的闭环生态[5]。

地平线征程6系列芯片是其旗舰产品，采用第三代纳什架构，INT8精度下算力400TOPS，支持24路传感器接入与城区NOA场景，自研BPU算力利用率达85%，远超行业平均60%。地平线推出“全算力覆盖”策略，从10TOPS的征程6B到400TOPS的征程6P，覆盖10-30万元主流车型，满足不同级别自动驾驶的需求[5]。

在市场表现上，截至2025年Q3，地平线征程系列芯片累计出货量突破1000万套，占据国内中低算力市场35.5%份额，征程6E已搭载埃安、名爵等车型，与大众合作车型年底量产。地平线的核心优势在于自动驾驶场景的深度适配，通过ISO/PAS 8800 AI安全认证，是全球首个获此资质的企业，数据闭环能力使算法迭代周期缩短至2个月[5]。

3.2.2 黑芝麻智能：舱驾泊一体，差异化突围

黑芝麻智能聚焦自动驾驶与智能座舱场景，推出华山、武当系列推理芯片，采用自主研发的“九韶”NPU架构，主打舱驾泊一体集成，通过场景定制化实现差异化突围[5]。

黑芝麻智能华山A2000 Pro采用7nm工艺与“九韶”NPU架构，INT8算力1000TOPS，支持L3+自动驾驶及Transformer大模型，能效比达30TOPS/W；武当C1200实现舱驾泊一体集成，系统复杂度降低40%，能够同时满足智能座舱与自动驾驶的推理需求[5]。

在市场布局上，黑芝麻智能重点突破15-30万元市场，同等算力下价格较英伟达低30%，2025年Q3出货量120-160万片，在自主品牌NOA行泊一体域控市场占12.15%，主要配套领克08、东风eπ007等车型。此外，黑芝麻智能联合德赛西威开发域控制器方案，进一步提升场景适配性与市场竞争力[5]。

3.2.3 寒武纪、华为昇腾：通用+专用，多场景覆盖

寒武纪与华为昇腾聚焦通用推理场景与专用推理场景，推出多元化推理芯片，覆盖云端、边缘端等多场景需求，凭借国产化优势，在政务、医疗、金融等领域占据一定市场份额[6][9]。

寒武纪的推理芯片以思元290、思元270为核心，采用MLU架构，支持多种精度格式，适配图像识别、自然语言处理、医疗影像分析等多种推理场景。思元290采用7nm工艺，INT8算力达128 TOPS，配备32GB HBM3内存，能效比突出，适配云端大规模推理场景；思元270采用16nm工艺，INT8算力达32 TOPS，功耗低至15W，适配边缘端推理场景，如安防监控、工业质检等[6]。

华为昇腾的推理芯片以昇腾310系列为核心，专为推理优化，INT8算力达256 TOPS，功耗仅70W，能效比达H20的3.2倍，在OCR、医疗影像等场景效率达H20的96%。昇腾310B在天智航骨科机器人中实现0.3mm定位精度，手术时间缩短30%；在县域医院实现32层CT秒级分析，已在银行、政务窗口大规模应用[6][9]。

此外，华为昇腾推出昇腾310P芯片，主打高端推理场景，适配生成式AI推理、云端大规模推理等需求，配备64GB HBM3内存，算力与能效比进一步提升，逐步追赶英伟达L4系列芯片[6]。

3.3 国内AI芯片生态：政策赋能，协同发展

国内AI芯片生态起步较晚，与国外成熟的生态闭环相比仍有较大差距，但在政策支持、企业协同、场景适配等方面具有独特优势，正逐步实现追赶。国内AI芯片生态以“国产化替代”为核心目标，形成了“企业主导、政策支持、高校参与”的发展模式，主要分为通用生态与场景化生态两大类型[2]。

3.3.1 通用生态：自主研发，对标国外

国内通用AI芯片生态主要由壁仞科技、寒武纪、华为昇腾等企业主导，聚焦于通用计算平台的研发，对标英伟达CUDA生态，逐步构建自主可控的软件生态[2]。

寒武纪推出Cambricon Neuware软件平台，涵盖编程工具链、专用库、调试工具等，支持C、C++、Python等多种编程语言，适配TensorFlow、PyTorch等深度学习框架，能够为开发者提供完整的开发工具链，降低开发门槛。同时，寒武纪通过举办开发者大会、与高校合作开展人才培养等方式，扩大开发者群体，逐步完善开发者生态[2]。

华为昇腾推出MindSpore深度学习框架与CANN异构计算架构，形成“框架-架构-芯片”的闭环生态。MindSpore是国内自主研发的开源深度学习框架，能够高效适配昇腾系列芯片，支持训练与推理一体化，降低开发成本；CANN架构能够实现“CPU+GPU+AI芯片”的异构协同计算，提升整体算力效率。华为通过与国内科技企业、高校、科研机构合作，构建昇腾生态联盟，目前联盟成员已突破2000家，开发者数量突破100万[2]。

壁仞科技推出BRAS（壁仞应用软件开发平台），涵盖编程工具链、专用库、推理优化引擎等，兼容CUDA API，开发者基于CUDA开发的应用能够通过少量修改迁移到BRAS平台，降低迁移成本。同时，壁仞科技与国内软件企业、高校合作，推动生态协同发展，加快软件工具的适配与优化[1]。

3.3.2 场景化生态：深耕本土，协同适配

国内推理芯片企业主要构建场景化生态，依托本土化场景优势，与下游应用企业深度合作，实现“芯片-算法-应用”的协同适配，提升场景适配性与市场竞争力[2]。

地平线构建了“芯片-算法-工具链-整车厂”的自动驾驶生态，推出地平线开放平台，为整车厂与算法企业提供芯片、算法模板、开发工具等，支持客户快速开发自动驾驶算法与应用。地平线与国内主流整车厂（如比亚迪、吉利、长城）、算法企业深度合作，实现芯片与自动驾驶场景的深度适配，形成了差异化的场景生态优势[5]。

黑芝麻智能构建了“芯片-域控制器-整车厂”的生态布局，联合德赛西威等域控制器企业，开发适配自动驾驶场景的域控制器方案，同时与国内整车厂合作，实现芯片与车型的深度适配，加快产品落地[5]。

此外，国内形成了多个生态联盟，推动“芯片-模型-平台”全链路协同。例如，模芯生态创新联盟由阶跃星辰联合华为、沐曦等10家企业组成，制定统一通信协议；长三角“芯模用”社区整合10款国产GPU和80个主流模型，将适配周期缩短至2周[2]。

3.3.3 政策支持：国产化替代，加速生态建设

国内政府高度重视AI芯片产业的发展，出台了一系列政策支持AI芯片的研发与生态建设，推动国产化替代进程[2]。

政策层面，国家将AI芯片纳入“十四五”规划重点发展领域，加大研发投入，支持企业开展核心技术攻关；地方政府也出台相关政策，如上海国资设立50亿元AI芯片基金，定向投资生态协同项目，为AI芯片企业提供资金支持、场地支持、税收优惠等[2]。

同时，国内高校与科研机构加大AI芯片领域的人才培养与技术研发力度，与企业合作开展产学研项目，为AI芯片产业的发展提供人才与技术支撑，加快生态建设进程[2]。

四、国内外AI芯片架构与生态全面对比

通过对国内外AI芯片的架构设计与生态布局的梳理，可以发现，国内外企业在技术路线、竞争优势、生态布局上存在显著差异，这种差异源于企业的技术积累、市场需求与发展路径，也决定了当前全球AI芯片市场的竞争格局[2][7]。

4.1 训练芯片架构对比

国内外训练芯片架构均以追求高算力、高精度、高并行处理能力为核心，但在技术路线、性能表现、集群互联能力上存在差异[3][7]。

在技术路线上，国外企业以成熟的GPU架构为主，英伟达采用SIMT架构，经过多代迭代，架构成熟度高、优化完善，能够高效适配大模型训练场景；AMD采用CDNA架构，借鉴英伟达的技术路线，同时采用Chiplet技术提升性能；谷歌采用定制化ASIC架构，专门针对自身TensorFlow框架优化，形成闭环优势[3]。

国内企业主要采用自主研发架构，同时借鉴国外先进技术，采用Chiplet技术突破先进制程壁垒。壁仞科技的“壁立仞”架构、寒武纪的MLU架构、沐曦科技的MXArch架构均为自主研发，专为大规模AI工作负载优化，同时采用Chiplet技术，在成熟工艺基础上实现性能突破；国内企业的架构设计更注重适配国内大模型的训练需求，场景适配性更强[1][2][6]。

在性能表现上，国外训练芯片仍占据绝对优势，英伟达H200、AMD MI300X等芯片的算力、内存带宽、能效比均处于全球领先水平，能够支持万亿级参数大模型的训练；国内训练芯片的性能逐步追赶，壁仞BR100的性能已接近英伟达H100，寒武纪思元590、沐曦MX1等芯片的性能也达到国际中端水平，但与国外高端芯片相比仍有差距，主要体现在算力密度、内存带宽、集群互联稳定性上[1][3][6]。

在集群互联能力上，国外企业的技术更加成熟，英伟达的NVLink互联技术、谷歌的TPU互联技术，能够实现多芯片集群的高效协同，支持大规模分布式训练，稳定性与可靠性高；国内企业的集群互联技术逐步突破，壁仞科技的Die间互连技术、寒武纪的集群互联技术，能够实现多芯片协同工作，但在大规模集群应用中的稳定性与效率仍不及国外企业[1][3][4]。

4.2 推理芯片架构对比

国内外推理芯片的架构路线更加多元化，国外企业以GPU架构为主，兼顾ASIC、FPGA架构，国内企业以DSA架构、GPU架构为主，聚焦场景定制化，两者在架构设计、场景适配性、能效比上存在差异[3][5][6]。

在架构设计上，国外企业的推理芯片架构成熟度高，英伟达的L4、L40系列芯片基于GPU架构，优化完善，支持多精度计算与多场景适配，同时搭配TensorRT推理优化引擎，推理效率高；英特尔采用“GPU+FPGA+ASIC”多路线布局，架构多元化，能够适配不同细分场景；谷歌Ironwood采用定制化ASIC架构，针对推理场景进行深度优化，能效比突出[3][4]。

国内企业的推理芯片架构更注重场景定制化，地平线的BPU架构、黑芝麻智能的“九韶”NPU架构，专门针对自动驾驶场景优化，能够高效处理自动驾驶场景的推理任务，场景适配性强；寒武纪、华为昇腾的推理芯片采用通用架构，同时支持场景定制化，能够适配多场景需求，但架构成熟度与国外相比仍有差距[5][6][9]。

在场景适配性上，国内推理芯片具有明显的本土化优势，聚焦国内自动驾驶、安防监控、政务服务等细分场景，与下游应用企业深度合作，实现芯片与场景的深度适配，能够更好地满足国内场景的个性化需求；国外推理芯片的场景适配性更注重全球化，适配全球通用场景，但对国内本土化场景的适配性不足，如自动驾驶场景的路况适配、政务场景的数据安全需求等[2][5][6]。

在能效比上，国内外推理芯片的差距逐步缩小，国内企业的推理芯片通过场景定制化与架构优化，能效比表现突出，如华为昇腾310的能效比达H20的3.2倍，地平线征程6系列的算力利用率达85%，远超行业平均水平；国外企业的推理芯片能效比也处于较高水平，但由于场景适配性不足，在国内部分细分场景中的能效比表现不及国内芯片[5][6][9]。

4.3 生态布局对比

生态布局是国内外AI芯片企业的核心竞争力差异所在，国外企业形成了成熟的“硬件-软件-应用”闭环生态，国内企业仍处于生态追赶阶段，生态成熟度与国外相比有较大差距，但在本土化生态布局上具有独特优势[2][7]。

在生态成熟度上，国外企业的生态布局成熟完善，英伟达CUDA生态涵盖工具链、专用库、开发者社区等，开发者数量多、应用场景广，形成了极高的生态壁垒；AMD ROCm生态、谷歌TPU生态也逐步完善，形成了差异化的生态优势。国内企业的生态布局仍处于起步阶段，通用生态的成熟度远不及国外，软件工具链、专用库的完善度不足，开发者数量较少，部分生态仍依赖国外技术，生态壁垒尚未形成[2][3]。

在生态布局模式上，国外企业主要构建通用生态，英伟达、AMD的生态覆盖训练与推理全场景，适配多种深度学习框架与应用场景，注重开发者生态的建设；谷歌构建闭环生态，主要服务于自身应用。国内企业采用“通用生态+场景化生态”的双轨模式，通用生态对标国外，逐步构建自主可控的软件生态；场景化生态依托本土化场景优势，与下游应用企业深度合作，实现协同适配，形成差异化优势[2][3][5]。

在生态竞争力上，国外企业的生态竞争力极强，CUDA生态的垄断性优势使得国外芯片的市场粘性极高，即使国内芯片的硬件性能接近国外，也难以突破生态壁垒；国内企业的生态竞争力逐步提升，场景化生态的差异化优势明显，在本土化场景中的适配性优于国外芯片，同时通用生态的自主研发进程加快，逐步降低对国外生态的依赖[2]。

4.4 核心差异总结

国内外AI芯片的核心差异可以概括为“国外强在架构与生态，国内强在场景与追赶”[2][7]：

国外企业的核心优势的是技术积累深厚，架构设计成熟，生态布局完善，形成了“硬件-软件-应用”的闭环，市场垄断性强，主要占据高端训练与推理芯片市场，聚焦全球通用场景，注重技术迭代与生态升级，能够引领AI芯片行业的发展趋势[2][3][7]。

国内企业的核心优势是本土化场景适配性强，性价比突出，政策支持力度大，在中低端训练芯片与细分推理场景中实现突破，聚焦国产化替代需求，注重架构创新与场景深耕，通过Chiplet技术突破先进制程壁垒，生态布局逐步完善，虽然与国外企业相比仍有差距，但发展速度快，逐步实现从“跟跑”到“并跑”的突破[1][2][5][7]。

五、市场竞争格局与核心挑战

5.1 市场竞争格局

当前，全球AI芯片市场呈现“国外主导、国内突围”的竞争格局，市场集中度较高，同时细分场景的多元化竞争态势日益明显[7]。

在训练芯片市场，英伟达占据绝对主导地位，2025年市场份额约70%，凭借CUDA生态与先进的架构设计，垄断高端训练芯片市场，客户主要为全球顶级大模型企业；AMD位居第二，市场份额约12%，以性价比优势抢占中端训练芯片市场；谷歌TPU、英特尔Gaudi等企业占据少量市场份额，主要用于自身应用或细分场景；国内企业（壁仞科技、寒武纪等）的市场份额约3%，但在国内市场份额已突破20%，逐步实现国产化替代[7]。

在推理芯片市场，英伟达仍占据主导地位，市场份额约60%，覆盖云端、边缘端等全场景；英特尔、谷歌等企业占据约25%的市场份额，聚焦细分场景；国内企业（地平线、黑芝麻智能、华为昇腾等）占据约15%的市场份额，在自动驾驶、安防监控、政务服务等本土化细分场景中占据优势，市场份额逐步提升[7]。

从区域市场来看，北美市场是全球AI芯片的核心市场，聚集了英伟达、AMD、谷歌等主流企业，市场规模大、技术水平高；中国市场是全球增长最快的AI芯片市场，得益于国内AI产业的快速发展与国产化替代需求，国内AI芯片企业快速崛起，市场规模逐步扩大，成为全球AI芯片市场的重要增长极；欧洲、亚太其他地区的市场规模逐步扩大，成为国内外企业的重点布局区域[7]。

5.2 核心挑战

5.2.1 国内AI芯片企业面临的核心挑战

国内AI芯片企业虽然发展速度快，但在技术研发、生态建设、供应链等方面仍面临诸多挑战，制约了企业的发展与市场竞争力的提升[2][7]。

一是核心技术差距。国内企业在芯片架构的成熟度、算力密度、内存带宽、集群互联能力等方面，与国外企业仍有较大差距；在先进制程、HBM内存、高端光刻机等核心环节，国内企业仍依赖国外技术与产品，面临供应链风险，如美国可能升级HBM出口限制，而国产HBM研发仍处实验室阶段[2][7]。

二是生态建设滞后。国内AI芯片生态的成熟度远不及国外，通用生态的软件工具链、专用库完善度不足，开发者数量较少，部分应用仍依赖国外生态；场景化生态的覆盖面较窄，协同适配能力有待提升，难以形成规模化的生态优势[2]。

三是人才瓶颈。AI芯片领域需要大量复合型人才，涵盖芯片设计、并行计算、深度学习等多个领域，而国内这类人才短缺，全球顶尖AI芯片架构师中，中国籍占比不足15%，人才短缺制约了技术研发与生态建设的进程[2]。

四是市场竞争压力。国外企业凭借技术与生态优势，占据全球高端市场，同时逐步下沉中端市场，对国内企业形成挤压；国内AI芯片企业数量较多，同质化竞争严重，部分企业面临资金短缺、产品落地困难等问题，市场竞争压力较大[2][7]。

五是盈利困难。国内AI芯片企业的研发投入巨大，而产品出货量与市场份额有限，毛利率普遍低于20%，远低于英伟达数据中心业务70%的毛利率，多数企业仍处于亏损状态，盈利困难制约了企业的研发投入与生态建设[2]。

5.2.2 国外AI芯片企业面临的核心挑战

国外AI芯片企业虽然占据主导地位，但也面临着市场竞争、监管压力、技术迭代等方面的挑战[2][7]。

一是市场竞争加剧。国内AI芯片企业的快速崛起，逐步抢占中低端市场与细分场景，对国外企业形成竞争压力；同时，AMD、英特尔等企业逐步发力，试图打破英伟达的垄断格局，市场竞争日益激烈[2][7]。

二是监管压力增大。国外AI芯片企业的垄断地位引发全球监管关注，欧盟、美国等地区出台反垄断政策，限制企业的垄断行为；同时，全球地缘政治冲突加剧，芯片出口管制政策收紧，如英伟达面临的出口管制，影响企业的市场拓展[2][7]。

三是技术迭代压力。AI技术的快速发展，对AI芯片的算力、能效比、场景适配性提出了更高要求，国外企业需要持续加大研发投入，加快架构迭代与技术创新，才能维持市场优势，技术迭代压力较大[3][4]。

四是本土化适配不足。国外企业的芯片与生态主要适配全球通用场景，对国内本土化场景的适配性不足，难以满足国内客户的个性化需求，而国内企业凭借本土化优势，逐步抢占国内市场份额，国外企业面临本土化适配的挑战[2][5]。

六、未来发展趋势

随着AI技术的持续迭代与国产化替代需求的不断提升，全球AI芯片市场将迎来新一轮的发展机遇与挑战，国内外AI芯片企业的竞争格局将逐步发生变化，技术路线与生态布局也将呈现新的发展趋势[2][3][7]。

6.1 技术趋势：架构创新与技术融合并行

一是Chiplet技术成为核心突破方向。Chiplet技术能够突破先进制程的限制，通过芯粒组合实现性能提升，同时降低研发成本与风险，国内外企业均将Chiplet技术作为重点布局方向，未来将逐步实现Chiplet技术的规模化应用，提升芯片的算力与能效比[1][3]。

二是训推一体架构逐步普及。训推一体架构能够同时满足模型训练与推理的需求，降低客户的部署成本，提升算力利用率，未来将成为AI芯片的重要技术路线，国内外企业将逐步推出训推一体芯片，适配更多场景需求[3]。

三是存算一体技术快速发展。存算一体技术能够打破“内存墙”瓶颈，将计算单元与存储单元集成，提升数据存取效率与能效比，适用于边缘端低功耗推理场景，未来将逐步实现技术突破与规模化应用，清华大学团队研发的3D存算架构已将能效比提升14倍，有望推动存算一体技术的产业化[2][3]。

四是异构计算成为主流模式。“CPU+GPU+AI芯片”的异构计算模式能够充分发挥不同芯片的优势，提升整体算力效率，未来将逐步普及，国内外企业将加大异构计算架构的研发力度，完善异构计算软件生态[3]。

五是精度优化持续深化。FP8、INT4等低精度计算技术将逐步普及，在保证模型精度的同时，大幅提升算力效率与能效比，适配更多低功耗、高吞吐量的推理场景[3][4]。

6.2 生态趋势：协同化与本土化并行

一是生态协同成为核心竞争力。未来，AI芯片的竞争将从硬件竞争转向生态竞争，国内外企业将加大生态协同力度，推动“芯片-框架-算法-