直击WAIC丨如何缓解AI训练“效率瓶颈”?摩尔线程张建中:打造AGI“超级工厂”
专题:2025世界人工智能大会
新浪科技讯 7月27日午间消息,效率瓶颈2025世界人工智能大会(WAIC 2025)于7月26-28日在上海举办。直击张建中打造大会期间,丨何工厂摩尔线程首次提出了“AI工厂”理念,缓解公司创始人兼CEO张建中在分享中表示,训练线程“为应对生成式AI爆发式增长下的超级大模型训练效率瓶颈,摩尔线程将通过系统级工程创新,效率瓶颈构建新一代AI训练基础设施,直击张建中打造为AGI时代打造生产先进模型的丨何工厂“超级工厂”。

据悉,缓解摩尔线程提出的训练线程“AI工厂”,如同芯片晶圆厂的超级制程升级,需要实现从底层芯片架构创新、效率瓶颈到集群整体架构的直击张建中打造优化,再到软件算法调优和资源调度系统的丨何工厂全面升级。这种全方位的基础设施变革,将推动AI训练从千卡级向万卡级乃至十万卡级规模演进,以系统级工程实现生产力和创新效率飞跃。
具体而言,这座“AI工厂”的智能“产能”,由五大核心要素共同决定,其效率公式可概括为:AI工厂生产效率=加速计算通用性×单芯片有效算力×单节点效率×集群效率×集群稳定性。摩尔线程将以GPU通用算力为基石,将通过先进架构、芯片算力、单节点效率、集群效率优化与可靠性等协同等深度技术创新,将全功能GPU加速计算平台能力转化为工程级训练效率与可靠性保障。
在单芯片算力方面,摩尔线程的GPU单芯片基于MUSA架构的突破性设计,可集成AI计算加速、图形渲染、物理仿真及超高清视频编解码能力,充分适配AI训推、具身智能、AIGC等多样化应用场景。且在计算精度方面支持从FP64至INT8的完整精度谱系,并通过FP8混合精度技术,在主流前沿大模型训练中实现20%~30%的性能跃升。
在内存与通信效率优化上,摩尔线程内存系统通过多精度近存规约引擎、低延迟Scale-Up、通算并行资源隔离等技术,实现了50%的带宽节省和60%的延迟降低。在通信和互联领域,独创ACE异步通信引擎减少了15%的计算资源损耗,MTLink2.0互联技术提供了高出国内行业平均水平60%的带宽,为大规模集群部署奠定了坚实基础。
在构建高效集群的基础上,稳定可靠的运行环境是“AI工厂”持续产出的保障。特别在万卡级AI集群中,硬件故障导致的训练中断会严重浪费算力。摩尔线程创新推出零中断容错技术,故障发生时仅隔离受影响节点组,其余节点继续训练,备机无缝接入,全程无中断。这一方案使KUAE集群有效训练时间占比超99%,大幅降低恢复开销。(文猛)

责任编辑:王翔
(责任编辑:知识)
-
玻璃历史悠久,性质稳定,是历经时间考验的优良材料,不但能够用于装饰,也可在各种光学仪器中发挥重要作用,甚至能够用来帮助建筑节能降噪。通过使用不同的加工方法,我们能够让玻璃具有不同的特性。有多少 ...[详细]
-
记者:谢杨羊 杨柳编辑:邓鹏卫 ...[详细]
-
行政院主計總處本週將公布12月消費者物價指數。2021年以來,終端消費品的漲幅已經很有感,但學者擔憂,企業採購成本上漲的幅度更快,轉價效應恐怕將持續發酵。美國也將公布12月服務業採購經理人指數。疫情死 ...[详细]
-
典型村片区培育项目每个最高获2000万元财政支持|“百千万”周周见
典型村片区培育项目每个最高获2000万元财政支持|“百千万”周周见_南方+_南方plus本文收录于专题#过去一周,广东出台“百县千镇万村高质量发展工程”典型村片区培育项目申报指南,明确每个项目省级财政 ...[详细]
-
本报讯记者 蔡紫旻 通讯员 曾开灶)21日零时是泉州市第七次全国人口普查综合试点的标准时点。昨日,市统计局、鲤城区统计局与清正社区组成普查指导员与普查员队伍来到居民家中,进行人口普查登记,标志着泉州市 ...[详细]
-
海峡网1月7日讯 (海峡导报记者 林彬彬 实习生 周小樱 整理)离婚后两人还住在一起,这种场景在一些电视剧里上演着。其实,文艺作品来源于现实,这种情况在现实中也是有的。近日,导报记者就找到了发生了这种 ...[详细]
-
30天30队之雄鹿:基德实验继续 字母哥坐稳核心发布时间:2017-04-24 09:33 来源:豫都网 我来说说 我要投稿[摘要]距离新赛季揭幕的日期越来越近,近日,NBA官网开始刊载30天30队的 ...[详细]
-
老司机不爽新来的!格林嫌弃杜少:天天嘚瑟金牌发布时间:2017-04-29 09:36 来源:豫都网 我来说说 我要投稿[摘要]北京时间9月15日,杜兰特和格林这对梦之队和奥运会的双料队友,刚刚从对手 ...[详细]
-
添加迷迭香提取物及植酸的鱼鳞明胶可食膜对鲫鱼保鲜效果的影响(一)
鲫鱼是我国主要的淡水鱼类之一,被广泛用作许多鱼类制品的原料。然而,鱼类含有丰富的蛋白质,易腐败变质,因此研究鲫鱼保鲜方法具有重要的现实意义。传统的保鲜方法有冷冻、低温、辐照、超高压、化学及生物保鲜法。 ...[详细]
-
艾弗森:未入选08美国队很痛 遗憾未获奥运金牌发布时间:2017-04-14 18:26 来源:豫都网 我来说说 我要投稿[摘要]北京时间9月12日,《波士顿环球报》报道,阿伦-艾弗森入选奈史密斯名人 ...[详细]