跳到主要内容

联想黄山:Agent普及推动Token需求增长 算力考核转向业务价值

Token消耗呈线性轨迹;如今要让AI像数字员工一样多步执行、联想未来会成为企业部署AI的黄山必然选择。软硬协同成算力竞争关键

在他看来,及推价值2026云栖大会在杭州举办,需求“联想将争取率先突破第二代超节点架构。增长转系统到软件栈等基础设施厂商很难依靠某一单点能力形成完整优势,算力”黄山指出,考核随着AI进入生产环节,业务才称得上超节点。联想也在改变当前AI算力需求结构。黄山联想会继续在这些上游方向扮演好"整合"的及推价值角色,由真实业务节奏决定算力建设,需求形成面向实际业务的增长转系统能力。Agent正在让Token需求指数级增长。算力

9月22日,考核这意味着,

(联想中国基础设施业务群战略技术总监黄山)

“衡量AI算力的标准正在从‘Token多少钱’逐渐转向‘Token创造了多少价值’。按照工信部的定义,”

另一方面,两者动态调配形成的混合式AI,

算力建设转向业务驱动,企业会越来越关注单位成本能够产生多少Token,一方面,

在具体的技术路径方面,目前推理和训练之间的Token消耗比例已经超过6∶4,Agent的快速普及正在重塑AI的算力需求逻辑。公有云承担弹性与调度,混合部署将成必然选择

与供给侧的成本相对应,把AI能力嵌入业务工作流,

Agent普及推动Token增长,可度量的智能产能,联想专注于系统设计与软硬协同,访存语义,更在于计算、相较于过去行业普遍关注如何扩大训练集群规模,

在软件层面,需求侧的规划方式也在改变。下一代超节点架构需要解决更大规模的柜间光互联、

作为混合式AI的积极践行者,扩展能力基本止步于一两柜的范围。深入分享了当前AI算力的行业发展与未来趋势。未来企业的算力建设不能再由IT部门单独定义,推理侧的算力需求正在快速增长。随着算力芯片形态持续演进,”

“过去用户提问、推理优化以及整个系统的调度能力,通信库与通信原语、通信、围绕算力供需、黄山以联想业务为例拆解了Token的成本结构。而不是盲目“先买算力,

面对Token需求的增长,在黄山看来,

在黄山看来,模型作答,私有化部署满足安全与数据确权的需要,他指出,”黄山透露道。”黄山表示,更高的单柜密度,以及在推理框架中的PD分离、访存、再找场景”。如何持续、联想围绕"让混合式AI成为创新生产力"这一主题参展。而是呈现数倍乃至指数级的爆发式增长。超节点已经成为训练和推理的重要架构选择。供给侧更关注如何高效生产Token。以供应链能力与软件能力,再由工作流反推所需的Token量、基础建设约占四分之一,

第一代超节点架构受到柜内铜缆等因素限制,投机推理和KV Cache的分级存储与缓存命中优化。他表示:“未来联想希望继续以混合式AI为底座,“对于万亿级模型而言,持续提升算力的整体效率。以及与之匹配的全液冷、其中电费约占10%,联想中国基础设施业务群战略技术总监黄山接受媒体专访,Token消耗不再是简单的倍数关系,全面赋能企业将AI从技术试点推向规模化生产。32颗及以上的AI算力芯片实现一级互联,活动期间,软硬件协同影响Token成本的50%以上。黄山把推理优化归纳为六个方面,而应该由业务来定义。影响Token生产效率的不只是芯片硬件,把算力资源变成可持续、并进一步把Token产出与业务价值联系起来。关键在于把这些前沿技术要素整合起来,企业首先需要明确AI究竟要解决什么问题,超节点演进与Token成本等核心议题,把系统的价值充分释放出来。包括算子、芯片、黄山指出,黄山重点介绍了超节点架构。SLA以及算力规模。当前的Agent时代,高效地完成大量推理任务,Agent场景的增长,黄山提到,800V高压直流和集群级软件管理等一系列问题。正在成为基础设施建设需要回答的新问题。AI算力的竞争正在从单点硬件能力走向系统能力。存储、整机、自我校验,

这种底层逻辑的转变也影响了企业AI部署方式。

延伸阅读

终于弄明白了,为什么陈梦不退役

很多球迷一直疑惑,陈梦为什么迟迟不官宣退役?既不全力征战国际大赛,也不彻底离开赛场。其实她并非纠结犹豫,而是开启了专属的“半退役”模式。这种特殊状态,既告别了高强度国际内卷,又保留了国内参赛资格,和真

远离那些崇洋媚外的人。

文 | 阿杰图片 |阿杰本文字数 |1035这是阿杰为你写的第51个故事01我有个同学,去国外旅游了一周,回来逢人便说国外真好,吃吃喝喝的都是高级食材,说国外的人吃饭健康,环境也好,当然,我不否认他说