当DeepSeek被广泛部署,AI竞争焦点已从“有没有AI”转向“AI用得好不好”
当前,相比能否用上DeepSeek,能否用得好DeepSeek成为企业更关心的话题。
通过大幅降低大模型部署成本,DeepSeek催生了千行万业AI应用的爆发。根据国家数据局透露的数据,2024年初中国日均Token消耗量为1千亿,今年3月中国日均Token消耗量已经达到10万亿级,1年时间增长了100倍。
当越来越多企业把DeepSeek等深度推理模型部署到生产环境,算法层面的差距迅速收窄,各行业AI竞争焦点从“有没有AI”转向“AI用得好不好”。2025年,模型优化技术已经从模型层面算法优化,下探到底层硬件资源的极致利用。一场关乎底层软硬件协同效能的深水区竞赛悄然启幕。
在AI基础设施中,连接底层硬件和上层AI框架的计算架构,成为下一阶段AI落地的关键。深度开放的昇腾计算架构CANN,正成为撬动产业AI高效落地的新支点。
01 趋势之变:AI竞争已下沉至“系统效能”深水区
DeepSeek模型领先的背后,是一系列模型结构优化技术,包括MoE、动态稀疏计算、自适应参数优化、多头潜在注意力机制(MLA)、无辅助损失的负载均衡技术、多词元预测训练方法等。正是这些技术创新打破了AI训练烧钱的魔咒,以GPT-4 百分之一的成本实现相近性能,同时进一步降低了AI应用门槛。
所有接入DeepSeek的企业都可以直接承接这些最先进的模型结构优化技术,获得同样的加持。但是,想要让这些技术的价值发挥到最大,更进一步提升推理效率,就必须依赖底层资源的系统性优化。这就不得不提到计算产业的护城河——计算架构。
如果把AI技术栈比作一块多层蛋糕,自下而上分别是:XPU硬件层——驱动层——计算架构层——AI框架层——AI模型层——AI应用层。计算架构起到承上启下的关键作用。向下,兼容GPU、NPU、XPU等异构处理器;向上,对接主流AI框架,计算架构是发挥底层硬件计算效率、使能前沿开发的关键平台。
底层的计算架构与上层的AI应用之间看似遥远,其实计算架构是下一节点千行万业比拼AI应用效率的关键。计算架构就像建筑地基,只有地基挖的够深,才能支撑起更高更稳的摩天大楼。
在全球计算产业,有实力做计算架构、并逐步发展出生态的企业屈指可数。计算架构往往涵盖编程语言、算子库、编译器等核心组件,以及围绕这些组件的大量底层优化技术,每一项都需要巨量的研发投入才能持续保持技术领先性。
在全球AI版图中,昇腾早已成为不可忽视的AI创新力量。昇腾异构计算架构CANN(Compute Architecture for Neural Networks)就是昇腾AI的核心软件平台。