什么是AI算力

大众对于AI的印象锚定于聊天机器人、图像生成这些应用方向, 但是极少有人感知到, 所有该类能力背后都须要依托一项核心指标——算力。

粗略来讲, 算力就是计算能力, 是处置数据的速度与范围。针对人工智能来说, 算力代表单位时间内可以完成多少回矩阵运算。当下的人工智能模型, 特别是大语言模型, 每一回“思考”之下都牵扯数千亿次乃至上万亿次的浮点运算。

算力不足的时候, AI反应慢、延迟高、甚至根本跑不动。算力充足的时候, 模型可以更大、更准、响应更快。这就是为什么各国都在拼命抢算力。

算力的衡量单位

衡量AI算力最常用的单位是FLOPS, 即每秒浮点运算次数, 一FLOPS等于每秒做一次浮点运算, 一是每秒一万亿次, 一是每秒一千万亿次。

此时此刻全球最顶级的AI训练集群, 算力已达级别, 也就是每秒百亿亿次的运算。2023年全球超级计算机榜单里面，排名首位的系统算力超出1 , 能够支撑千亿参数模型的训练需求。

需要注意, 在实际应用中, 由于数据的搬运、内存的带宽、通信的开销等各类具体因素, 理想的理论算力与能够真正用上的有效算力之间, 始终存在着较大的实际差距, 这个差距圈内通常认为大致相当于30%到50%的理论算力占比。

AI算力的核心载体

GPU系当前AI算力最要紧的基建设施。英伟达出品的A100、H100系列GPU在AI训练范畴占领主导地位。单片H100 GPU的单精度浮点运算性能约莫是三百一十二 , 双精度约莫一百五十六 , FP8精度下更是达到近两 。

一个典型的大模型训练集群往往包含数千乃至之上万块GPU。以的GPT-4训练为例, 依循公开报道, 它的训练过程动用了约二点五万张GPU, 连续训练了数月时段, 总算力投入超出十 -days。

除去GPU以外的ASIC专用芯片同样是算力十分重要的来源。谷歌推出的TPU以及华为推出的昇腾910B这类产品, 在专门设定的各种场景下能展现出相当高水准的能效比。昇腾910B该款产品的单卡FP16类型算力大概约为三百一十三, 和H100是处在同一规格级别。

算力需求的爆炸式增长

过去十年间, AI算力需求表现出指数级增长的势态。2012年时, 大规模视觉识别挑战赛赢家搭配并使用了8块GPU开展训练, 所花费的总训练算力还达不到0.1 -days。等进入2023年时, 一项中等规模的大语言模型训练过程, 却大概率需要用到数十万-days的算力总量。

驱动这种增长的力量源自三个维度: 模型规模变大、训练数据量变多、推理应用场景变宽。

模型参数规模从2018年BERT版本的三亿四千万个参数, 发展到2023年GPT-4版本的约一万八千亿个参数——包含稀疏激活的参数在内的约一万八千亿个参数, 这一参数规模的增长幅度约为五千倍左右, 与此同时，各模型所需的训练数据量也从最初的数十个个GB级别, 不断扩展直至当下普遍达到的数万个个TB级别。

全球算力格局

当前全球AI算力高度汇聚。美国握有全球首屈一指的AI算力集群, 其数据中心算力占比逾全球总额的60%。英伟达、谷歌、微软等巨头掌控着最前沿的芯片设计及计算基础设置。

中国是全球第二大AI算力市场, 却面临某些明确的具体供应链约束。二〇二四年中国内地AI算力市场整体规模大致约为两千亿余元人民币, 市场增长规模预估预计在来年之际的特定年份二〇二五年年份期间, 将顺利全面突破达到三千亿元总额, 且预估年度增长比率均将整体稳定保持在百分之三十百分比上限以上百分比指标。

全球范围内算力建设仍在加速, 亚马逊AWS、微软Azure、谷歌Cloud等国际云服务商持续扩大AI基础设施投资, 单2024年, 主要云厂商在AI算力上的资本开支合计超过1500亿美元。

未来趋势

算力需要在短期里不会变饱和。业界预测后得出, 至二〇二七年世界上人工智能算力需求要比二〇二四年增长约莫十倍。这背后属于人工智能应用从云端向终端延展出的趋势——手机、自动驾驶、智能家居等等边缘设施还要地方算力加持。

与此同时, 算力效率也在持续提升, 新架构、新材料、新编译优化手法, 不断涌现, 存算一体芯片、光子计算这类新技术路子, 虽未商业化推广, 未来算力突破, 却提供了充足想象可能。

算力, 正在数字经济时代本质上越来越成为最重要的基础设施之一, 但却不像电力一般显性, 只像水网和电网般, 默默地托着整个智能社会的全数运转。