AI基础设施算力调度联通云

AI体验时好时坏,背后藏着算力调度的学问

果壳··原文链接
收录于 2026/9/29 10:20:02

文章开篇用一组痛点场景切入——AI 写周报要等 8 秒、问新闻答非所问、读长合同后半段"掉线"、Token 消耗失控——然后抛出核心论点:问题未必只在模型,更可能在调度链路。这个类比用了点外卖:餐厅和骑手都拉满了,调度和配送路线照样能拖垮体验。

AI请求从发出到返回的链路示意

三级布局 + 双调度器:工程架构的核心

"联通星罗"平台的技术架构是全文最有信息密度的部分:

  • 三级算力布局:全域算力中心 → 区域算力节点 → 属地智算枢纽,将区域集群、万卡集群、超万卡集群纳入统一体系。
  • 双调度器:第一位调度器负责算力资源(判断任务在哪个集群运行,结合芯片类型、网络时延、负载、优先级,完成资源池化与跨地域编排),第二位调度器负责词元/Token(判断一次请求调用哪个模型、走哪条路径,动态调整)。
  • 跨域混训成果:内蒙古、贵州、长三角、粤港澳四地三芯(昇腾、沐曦、昆仑芯)跨域混训,路由时延达亚毫秒级,综合算效比提升 300%。

联通星罗算力调度平台架构

这里用了电影制作团队的比喻——拍摄、后期、特效分在不同工作室,跨域混训要解决的就是"不同工作室共享素材"的问题。比喻不算精准(电影各环节是串行的,而分布式训练是并行的),但帮助非技术读者理解异构协同的难点倒是够了。

"六算协同":一套自洽的概念框架

文章提出了"六算协同"作为最终交付到用户侧的框架,包含三组对子:

协同关系含义
算网一体、算芯融合、算电协同更高效的供给——让分散算力更容易连接调度
算数共振、算模共生、训推服务更完整的 AI 生产链路——覆盖数据处理到训推
算安铸盾更可信的交付——安全机制贯穿全链路

六算协同框架

Agent + Token + AI 云:分层交付模型

联通云将交付模型抽象为三层:AI 云(基础设施,组织算力/网络/存储)→ Token(流转计量的"货物",模型每完成一次推理消耗对应 Token)→ 智能体(配送场景,把能力送到写代码、办公协同等具体工作)。用户只需提需求,系统自动匹配算力和模型。

金融行业案例比较有说服力:消费金融公司需要 AI 协助写代码、办公、测试软件,但要求人数增加不卡顿、算力消耗可视、敏感数据不出系统。联通星罗的方案是全域调度 + 主流模型服务 + 统一接口 + 按量计费 + 端到端加密 + "联通墨攻" AI 内生安全(输出内容风控 + 操作权限边界)。

落地规模

据产品资料:21 个部委、25 个省级政务云、180+ 市级政务云、2000+ 医疗云客户、100+ 大型企业上云、承建 30+ 智能算力中心。

My Take

这篇文章本质是联通云的品宣软文,但技术架构描述有实料。几点判断:

  1. 双调度器分离是合理设计——算力调度(基础设施层)与模型请求调度(应用层)解耦,各自独立优化,这与业界 MCP/网关 + Kubernetes 调度器的分层思路一致。
  2. 跨域混训 300% 算效比提升这个数字缺乏基线定义(相对什么提升 300%?),需要打折扣理解。但亚毫秒级跨域路由时延如果是 RDMA over 远距光纤的实测数据,倒是值得关注。
  3. 异构芯片统一纳管(昇腾 + 沐曦 + 昆仑芯)是真正的工程难题,文章一笔带过了"异构编排"但没展开技术细节——如果真能做到透明跨芯片训练,背后的通信原语适配和算子映射工作量巨大。
  4. "六算协同"概念框架更像营销术语体系而非技术架构,实际工程价值取决于落地实现。
  5. Agent + Token + AI 云的分层抽象本质上就是把 IaaS/PaaS/SaaS 换了个 AI 时代的说法,对熟悉云原生的工程师来说没有认知增量。

总体而言,作为甲方视角的基础设施科普读物尚可,但要从中提取可复用的工程实践或架构参考,信息密度不够——缺少调度算法细节、延迟拆解、故障恢复策略、异构适配层实现等关键内容。

评分:
2.0(1 人评分)