华潮新闻网
科技

国产算力如何突围应对Token经济的指数级挑战

来源:华潮新闻网
国产算力如何突围应对Token经济的指数级挑战

01、

Token(词元)正扮演着关键角色,堪比智能体运作的“石油”。一位专家指出,单智能体的Token消耗量,能达到传统对话应用的百倍到千倍。这种需求正以指数级速度攀升。

在人工智能领域的关键论坛上,郑纬民院士,这位中国工程院院士同时也是清华大学的教授,对此有独到的见解。

Token如今地位凸显,我国的算力产业如何成功突破?AI的基础设施怎样匹配AI飞速进步的发展步伐?论坛期间,不少国内算力及AI设施企业,就自身在算力建设上的思考,进行了分享。

摩尔线程公司的张建中,谈到了他的战略布局。

今年初至今,Token的使用量呈现明显的指数级递增。张建中对此现象有自己的解读。他认为,现在不仅是人类在运用大语言模型,智能体也在广泛使用。

智能体催生了一种新经济形态——“Token经济”。特别是自年初OpenClaw现象级流行以来。根据央视发布的信息,我国每日的Token调用量,已从2024年初略超1000亿,到2026年3月底飙升至140万亿,涨幅超过千倍。

张建中打了个比方。他说,普通人最快阅读速度为“一目十行”。但对AI来说,家中所有书籍几分钟后即可浏览完毕。这种远超人类的处理速度,导致Token的需求量急剧上升。

同时,前沿的基础模型平均每两个月就会有一次迭代,这使得Term的消耗迅速增加,算力需求也随之指数级增长。

面对这一局面,摩尔线程正着手打造三大“AI工厂”。这些工厂基于他们夸娥智算集群。分别负责模型训练、提升推理效率以及智能体生产。

张建中提到,他常听闻一些国内模型公司担心使用国产训练平台会耽误进度。他强调,这些都是多余的顾虑。他们拥有更优越的硬件平台和先进的软件技术,还能提供及时本地化服务,这远非国外公司可比。

无问芯穹的联合创始人夏立雪,则从另一个角度分析了现状。

她表示,计算需求正以指数级速度增长。现在,仅靠现有产能线性增加来组建算力,已经无法弥补供需之间的缺口。这背后是AI产业竞争逻辑的根本变化。业界不再只关注算力规模,更注重算力利用效率。

简言之,单纯增加算力,已经无法满足需求。

长期以来,我国算力资源分散在不同地区、厂商和代际的系统中。国产芯片与海外GPU并存,架构和软件系统差异很大。夏立雪认为,算力异构化和碎片化是全球问题。整合和协同这些分散的算力资源,是扩大智能资源规模的关键步骤。

那么,如何让这些多样化的算力资源活跃起来?夏立雪给出的答案是“前店后厂一中心”。

这里的“一中心”,是一个自主式的基础设施平台。它的作用是将各种异构算力资源统一汇集、弹性调度和按需分配。这样能为模型与应用层提供充足、稳定且可扩展的算力支持。

“前店”,指的是“AI生产力商店”。它面向文娱游戏、医疗、法律、能源等行业,与各行业联合推出解决方案,让Term真正转化为产业认可的生产力。

“后厂”则是建设一座“Term工厂”。它以极致效率服务Term的规模化与高质量生产。通过大规模生产环境验证,这套系统正展现出其价值:运维效率提升五倍以上,关键故障处理效率提升六倍。这不仅为大规模GPU训练与推理业务提供了更稳定高效的基础设施保障,也让运维人员能解放出来,投入到更有价值的技术创新中。

商汤科技的杨帆,则把握了另一个关键点。

他认为,未来五年内,国产化替代将远远不止是GPU的替代。背后是整个AI上游硬件生态体系的重塑,为行业带来了全新的发展空间。AI基础设施正迎来重要变革:Term市场爆发式增长、下游需求激增;国产芯片商业化加速成熟;基于国产算力的智算中心加速落地。多重因素叠加,国产AI基础设施规模化商用的窗口期已经全面到来。

基于这一判断,商汤大装置围绕“算力+平台+服务”全栈能力,构建了面向智能体AI时代的基础设施体系。在算力层,其聚焦于国产算力从“可用”到“规模化商用”的目标,实现了多项关键技术突破。

通过异构混合推理技术,商汤大装置使主流国产芯片的MFU(模型浮点运算利用率)提升85%到152%。其推理性价比达到了国际巨头英伟达专为超大规模AI训练和高性能计算设计的NVIDIA H系列的1.25倍。目前,商汤大装置每日服务Term量已达2.42万亿,预计到2026年全年服务规模将实现25倍增长。

在Term经济时代,如何让每一度电都创造更多价值的Term,成为AI基础设施建设的关键。商汤大装置围绕“算电协同”,与晶科科技、中国联通上海市分公司、华能上海、宁德时代浦泉资本、协鑫能科、达卯科技等伙伴,签署了战略合作协议。他们共同打造面向源网荷储一体化的算电协同生态,推动能源系统与AI基础设施深度融合。

信息来源:北京日报客户端

撰稿人:孙奇茹

相关推荐