直击WAIC丨如何缓解AI训练“效率瓶颈”?摩尔线程张建中:打造AGI“超级工厂”
专题:2025世界人工智能大会 新浪科技讯 7月27日午间消息,效率瓶颈2025世界人工智能大会(WAIC 2025)于7月26-28日在上海举办。直击张建中打造大会期间,丨何工厂摩尔线程首次提出了“AI工厂”理念,缓解公司创始人兼CEO张建中在分享中表示,训练线程“为应对生成式AI爆发式增长下的超级大模型训练效率瓶颈,摩尔线程将通过系统级工程创新,效率瓶颈构建新一代AI训练基础设施,直击张建中打造为AGI时代打造生产先进模型的丨何工厂“超级工厂”。 据悉,缓解摩尔线程提出的训练线程“AI工厂”,如同芯片晶圆厂的超级制程升级,需要实现从底层芯片架构创新、效率瓶颈到集群整体架构的直击张建中打造优化,再到软件算法调优和资源调度系统的丨何工厂全面升级。这种全方位的基础设施变革,将推动AI训练从千卡级向万卡级乃至十万卡级规模演进,以系统级工程实现生产力和创新效率飞跃。 具体而言,这座“AI工厂”的智能“产能”,由五大核心要素共同决定,其效率公式可概括为:AI工厂生产效率=加速计算通用性×单芯片有效算力×单节点效率×集群效率×集群稳定性。摩尔线程将以GPU通用算力为基石,将通过先进架构、芯片算力、单节点效率、集群效率优化与可靠性等协同等深度技术创新,将全功能GPU加速计算平台能力转化为工程级训练效率与可靠性保障。 在单芯片算力方面,摩尔线程的GPU单芯片基于MUSA架构的突破性设计,可集成AI计算加速、图形渲染、物理仿真及超高清视频编解码能力,充分适配AI训推、具身智能、AIGC等多样化应用场景。且在计算精度方面支持从FP64至INT8的完整精度谱系,并通过FP8混合精度技术,在主流前沿大模型训练中实现20%~30%的性能跃升。 在内存与通信效率优化上,摩尔线程内存系统通过多精度近存规约引擎、低延迟Scale-Up、通算并行资源隔离等技术,实现了50%的带宽节省和60%的延迟降低。在通信和互联领域,独创ACE异步通信引擎减少了15%的计算资源损耗,MTLink2.0互联技术提供了高出国内行业平均水平60%的带宽,为大规模集群部署奠定了坚实基础。 在构建高效集群的基础上,稳定可靠的运行环境是“AI工厂”持续产出的保障。特别在万卡级AI集群中,硬件故障导致的训练中断会严重浪费算力。摩尔线程创新推出零中断容错技术,故障发生时仅隔离受影响节点组,其余节点继续训练,备机无缝接入,全程无中断。这一方案使KUAE集群有效训练时间占比超99%,大幅降低恢复开销。(文猛) 责任编辑:王翔 海量资讯、精准解读,尽在新浪财经APP
- 最近发表
- 随机阅读
-
- 做销量!畅乐多冰気果汁汽水扛旺季大旗!
- 加索尔两双神3分救主 康利24+11灰熊加时胜奇才
- “粗”木头变“细”木头,到底是谁的错?
- 上周有23名学生遭遇网络骗子 一女生本想看演唱会被骗1.6万
- 新茶饮产值7.18亿元,珠遵造就新“区”势
- 揭开“免费厕纸机”背后的秘密 打着“免费”旗号吸粉导流
- 电子显示屏落灰柜子前堆满杂物 小区闲置快递柜谁来管管?
- 沙河市主城区平板玻璃生产线将于2020年全部关停,行业资讯
- 燃爆方便面市场!华清火鸡面席卷市场,约您携手赚大钱!
- 2024年寿险赔付超亿万元,投保人为何仍吐槽“理赔难”?|“3·15”金融消保调研③
- 这个冬至,美食美酒不可辜负
- 習近平若連任 中國股市、人民幣會怎樣?|天下雜誌
- 填志愿如何巧用“冲稳保”策略?专家:做好“八个看”
- 畅销百万的明末生存冒险再临!Switch版《饿殍:明末千里行》现已重新上架
- 厦门火炬高新区在国家级新型工业化产业示范基地发展质量评价中获佳绩
- 火箭跑轰实验威力初显 德帅哈登或成联盟搅局者
- 新《超人》电影中文正式预告 超狗重拳出击工程师
- 厦门“暖心灭火哥”下车神速灭火后又继续开公交
- 35分+15罚球伦纳德创纪录 MVP+最佳防守他都要
- 「一帶一路」大灑幣 新興市場債務危機,中國嚐苦果|天下雜誌
- 搜索
-
- 友情链接
-