移动版

当前位置:智慧城市网资讯中心品牌专栏

新发产品更多
WAIC 2026 | 灵犀智算:全栈协同,打造Token极致性价比
2026年07月20日 17:05:48来源:新华三点击量:6775
导读WAIC 2026期间,紫光股份旗下新华三集团重点展示了灵犀智算解决方案。该方案摒弃碎片化交付模式,依托“算-网-存-云-安-维”全栈协同能力,覆盖Token从建设、运行、治理到调优的全生命周期,构建起完整的降本闭环。
  【智慧城市网 品牌专栏】随着全球Token调用量指数级暴涨,很多企业陷入困境:盲目堆叠GPU,算力空转、通信拥堵、故障频繁中断业务,单位Token成本居高不下,陷入“规模越大、成本越高”的恶性循环。
 
  WAIC 2026期间,紫光股份旗下新华三集团重点展示了灵犀智算解决方案。该方案摒弃碎片化交付模式,依托“算-网-存-云-安-维”全栈协同能力,覆盖Token从建设、运行、治理到调优的全生命周期,构建起完整的降本闭环。通过全栈软硬件的深度协同优化,已实现Token生成全链路TCO下降30%以上、能耗成本降低40%以上的系统级成效,让企业真正走出“Token产出规模越大、单位成本摊薄越明显”的良性增长曲线。
 
  一站式搞定Token生产全链路
 
  1. 建设:弹性快速交付,轻量化灵活落地
 
  灵犀智算方案采用一体化交付模式,有效规避多厂商硬件兼容与跨系统联调带来的漫长交付周期,支持标准化批量自动开局,软硬件平台统一上线。架构层面支持逐层弹性扩容,从单集群平滑拓展至万卡乃至十万卡跨域规模;同时兼容中心智算、边缘算力、混合云三类部署形态,企业现有异构GPU可统一接入、复用,无需一次性替换全部硬件。针对中小型项目,AI业务可做到天级上线,大幅压缩Token算力底座的基建周期,帮助客户更快进入Token生产阶段。
 
  2. 运行:高稳定自愈底座,保障Token不间断产出
 
  训练中断、推理宕机会直接作废已产出的Token,任务重做带来额外的算力损耗与时间成本。灵犀智算方案配备全链路自治运行体系——硬件异常3秒感知、分钟级完成隔离自愈;网络闪断仅小幅降速、不会直接中断业务;双平面无损网络实现毫秒级链路切换,远距离跨域集群近乎零丢包。搭配灵犀运维智能体,可主动进行故障巡检与定位,有效训练时长稳定维持在99%,确保模型迭代与高频智能体调用全天候平稳输出Token。
 
  3. 治理:全链路统一管控,Token安全合规可控
 
  灵犀智算方案提供算力、数据、模型、智能体多层级精细化治理,破解管控分散、安全隐患难防的痛点。统一资源后台支持租户分级隔离与算力任务可视化调度,Token用量按API Key颗粒度统计,方便政企客户对内对外开展算力运营。底层以微VM沙箱实现租户隔离,AI网关开展内容审计、按API Key限制Token调用频次,有效抵御提示词注入、算力恶意刷取等风险,Token从生成到交付全程可追溯,安全合规。
 
  4. 优化:全栈软硬协同,持续压低Token生产TCO
 
  灵犀智算方案以硬件工程与软件优化的深度协同,将每一份算力都精准转化为Token输出。
 
  硬件工程系统能力:
 
  液冷散热:高功耗部件采用液冷散热,系统液冷占比可达80%,更可支持两相冷板、全液冷等创新液冷散热技术,PUE降至1.04以下,常年大规模运转下的能耗开销被大幅削减;
 
  高密架构:UniPoD S80000系列超节点,可实现单计算节点内部署1颗CPU+4张AI加速卡,单柜支撑上百千瓦高功率部署;
 
  无损网络:业界首发单芯片102.4T智算交换机,支持64×1.6T高密端口;通过毫秒级微交换检测与DDC信元级调度实现无拥塞转发;广域无损传输实现1500公里级延时低于1ms、2000公里长距离算力协同;
 
  高性能存储:X20836全闪实现业内最高密18盘位/U,单节点带宽200GB/s、300万IOPS;XCache推理加速系统将首Token延迟TTFT降低90%、用户并发数提升10倍。
 
  软件优化系统能力:
 
  训练调优:依托Flash Checkpoint、长序列分片、计算通信重叠、GDS存储加速,突破显存、通信、磁盘IO瓶颈,集群最高算力有效利用率达82%+;
 
  推理调优:落地PD分离、模型切分、多级KV Cache卸载、CXL内存池加速,推理整体性能实现2倍以上提升,承载更高并发请求;
 
  通信优化:借助全局流量导航、集合通信算子、GDA/PXN通信优化,打通万卡集群跨节点传输卡点,千卡规模集群扩展比达91%;
 
  调度优化:依靠KV Cache亲和感知、拓扑算力感知、Token负载均衡、训推忙闲队列调度,化解训推任务资源争抢问题,最大化集群资源利用率。
 
  Token经济时代,算力比拼的核心不再是GPU总量,而是系统能力的深浅。新华三灵犀智算方案以建设、运行、治理、调优构建完整的方案能力闭环,依托全栈软硬件协同持续压低Token生产综合成本,帮助企业跳出算力投入内耗,稳妥推进各类AI业务场景落地。
 
关键词 智算智慧城市
相关阅读更多
版权与免责声明:

凡本网注明“来源:智慧城市网”的所有作品,均为浙江兴旺宝明通网络有限公司-智慧城市网合法拥有版权或有权使用的作品,未经本网授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权使用作品的,应在授权范围内使用,并注明“来源:智慧城市网”。违反上述声明者,本网将追究其相关法律责任。

本网转载并注明自其它来源(非智慧城市网)的作品,目的在于传递更多信息,并不代表本网赞同其观点或和对其真实性负责,不承担此类作品侵权行为的直接责任及连带责任。其他媒体、网站或个人从本网转载时,必须保留本网注明的作品第一来源,并自负版权等法律责任。

如涉及作品内容、版权等问题,请在作品发表之日起一周内与本网联系,否则视为放弃相关权利。

正在阅读:WAIC 2026 | 灵犀智算:全栈协同,打造Token极致性价比
我要投稿
  • 投稿请发送邮件至:(邮件标题请备注“投稿”)afzhan@foxmail.com
  • 联系电话0571-87756384
智慧城市行业“互联网+”服务平台
智慧城市网APP

功能丰富 实时交流

智慧城市网小程序

订阅获取更多服务

微信公众号

关注我们

抖音

智慧城市网

抖音号:afzhan

打开抖音 搜索页扫一扫
i

视频号

AF智慧城市网

视频号ID:sphF7DOyrojJnp8

打开微信扫码关注视频号

小红书

智慧城市

小红书ID:2537047074

打开小红书 扫一扫关注
反馈