世界人工智能大会（WAIC 2025）前夕，摩尔线程以“算力进化，精度革命”为主题举办技术分享会，创新性提出“AI工厂”理念，旨在破局生成式AI爆发的大模型生产效率。 这意味着作为国内领先的GPU厂商，摩尔线程从底层芯片架构创新的单点性技术创新，向集群整体架构的优化，再到软件算法调优和资源调度系统的全面升级，也是应对AI时代发展，模型参数，算力需求进一步挑战的主动布局。这种全方位的基础设施变革，将推动AI训练从千卡级向万卡级乃至十万卡级规模演进，以系统级工程实现生产力和创新效率的飞跃。 整体而言，在摩尔线程定义的以智能作为“产能”的“AI工厂”中，生产效率由五大核心要素决定成功与否：AI工厂生产效率=加速计算通用性*单芯片有效算力*单节点效率*集群效率*集群稳定性，每一个环节都要求做到极致。 这要求单芯片能够覆盖多场景，才能支持多样化的模型训练。而这也是摩尔线程从成立之初以来的产物定位“全功能GPU”，在创新MUSA架构的支持下，摩尔线程单GPU芯片可以同时支持AI计算加速、图形渲染、是物理仿真和科学计算、超高清视频编解码的技术能力。 此外，精度完整性也是衡量全功能GPU通用计算能力的核心指标。在计算精度方面，其支持从FP64至INT8的完整精度谱系，是国内极少数具备FP8大模型训练平台的厂商，通过FP8混合精度技术，有效提升训推一体能力，在主流前沿大模型训练中实现20%~30%的性能跃升。 强大的芯片有效算力是作为“AI工厂”的核心竞争力。而作为GPU的 “灵魂”，创新的架构设计往往决定了GPU的计算能力、能效比、适用场景乃至技术上限。 摩尔线程自研的MUSA架构，从设计之初，便完整考虑到面向未来多样计算场景的需求，通过多引擎可配置统一系统架构，实现一个架构在不同领域的应用，统一编程接口，并着力在计算、内存、通信三个层面实现突破，显著提升单GPU运算效率。 摩尔线程采用创新的多引擎、可伸缩GPU架构，通过硬件资源池化及动态资源调度技术，构建了全局共享的计算、内存与通信资源池。这一设计不仅突破了传统GPU功能单一的限制，还在保障通用性的同时显著提升了资源利用率。其参数化配置可伸缩架构允许面向目标市场快速裁剪出优化的芯片配置，大幅降低了新品芯片的开发成本。 这样的架构能便于开发者和用户在底层直接调用相关引擎，将各种不同的硬件减速流水线pipeline起来，而所有结果共享一个内存和资源池，这是最典型的数据驱动、引擎支持和引擎计算的统一系统架构，可以让工作效率更高。 在性能方面，AI加速系统如何让性能发挥得更好，需要有功能定制的核心计算引擎。摩尔线程通过两套自研的AI计算加速系统：张量计算引擎（TCE）、张量访存引擎（TME），实现对算、存环节的针对性管理和调度，更好地发挥效率。此外，为了使众多工作、步骤、引擎保持同步不乱、有条不紊，摩尔线程自主设计了引擎异步流水（ATB）。可以把上述工作内容Pipeline起来，且不需要等待。 在计算层面，摩尔线程的AI加速系统全面支持INT8/FP8/FP16/BF16/TF32等多种混合精度计算。作为国内首批实现FP8算力量产的GPU厂商，其FP8技术通过快速格式转换、动态范围智能适配和高精度累加器等创新设计，在保证计算精度的同时，将Transformer计算性能提升约30%。 摩尔线程透露，设计FP8的时候，摩尔线程研发团队特别设计了一个FP8的Transformer引擎，专门用于FP8的加速计算。Transformer引擎是摩尔线程平湖架构（第四代GPU架构）中一个核心科技，从而带来计算性能的显著提升。 在通信能力方面，摩尔线程独创ACE（异步通信引擎），减少了15%的计算资源损耗，MTLink2.0互联技术提供了高出国内行业平均水平60%的带宽。在不同数据包的传送上，Scale-Up效率可以最高提升30%，平均在15%以上。这些功能可以让GPU之间不同的复杂拓扑结构不受计算环境的影响，可以实现卡间高效互联通信。 在存储方面，MUSA存储子系统实现了多维度的升级，通过多精度近存规约引擎、低延迟Scale-Up内存顺序模型、通算并行资源隔离等技术，实现了50%的带宽节省和60%的延迟降低。 对GPU而言，单节点计算效率不仅依赖硬件算力，更取决于软件能否让硬件 “跑满”—— 避免算力闲置、数据传输阻塞、算子低效等问题。而MUSA全栈系统软件的价值，正是通过全链路优化，通过消除各环节的性能损耗、最大化硬件潜力，最终实现单节点效率的跃升。 一是GPU驱动任务调度优化。Kernel Launch（核函数启动）是GPU/加速器计算中的核心调度机制，是指将计算任务从CPU主机传输到GPU设备并执行的过程，本质是链接软件指令与硬件算力的桥梁。传统Kernel Lauch延迟较高，导致GPU在任务空间频繁空闲，形成计算空洞。而GPU空闲时，算力资源浪费，硬件利用率不足。 三是通信效能跃升。通过MCCL通信库实现RDMA网络97%带宽利用率；基于异步通信引擎优化计算通信并行，大模型训练集群整体性能提升10%。 四是低精度计算效率革新。实现对于FP8的计算性能优化，大幅提升训练效能。FP8 GEMM利用率处于行业领先水平。此外，行业首创细粒度重计算，采用创新的Recompute高效算法，计算开销减少4倍，可以使得训练精度能保持得更高，累计误差更小。 五是开发生态完善。Triton-MUSA编译器对于vLLM、SGLang等，已实现开源Triton算子100%覆盖。FlagGems算子库支持160+热点算子，支持率超过90%。MCC自研编译器支持torch compile，计算图优化加速比达1.5倍。MUTLASS高性能线性代数模板库兼容支持CUTLASS/CuTe3.6.0。多精度支持TF32、FP16、BF16、INT8等主流AI计算。基于MUTLASS的GEMM性能可达muDNN手写汇编性。 此外，为了服务广大开发者，摩尔线程还打造了完整的软件开发套件，对应Torch Profiler，监控、管理，performance tuning等一系列工具。同时，摩尔线程也计划开放很多套件给所有开发者，同时也愿意倾听开发者的意见。值得一提的是，今年10月，摩尔线程将举办首届MUSA开发者大会。 当单节点效率达到新高度，如何实现大规模集群的高效协作成为新的挑战。夸娥（KUAE）是摩尔线程自研的计算集群，其中包括一系列的计算集群、软件平台、管理系统、优化系统以及维护和服务等流程。 在性能仿真与优化方面，自主研发的Simumax工具面向超大规模集群自动搜索最优并行策略，可以实现集群训练性能的最优化。通过精准模拟FP8混合精度训练与算子融合，为DeepSeek等模型缩短训练周期提供科学依据。 针对大模型稳定性难题，摩尔线程通过创新CheckPoint加速方案利用RDMA技术，将百GB级备份恢复时间从数分钟压缩至1秒，提升GPU有效算力利用率。 摩尔线程表示，夸娥（KUAE）的设计理念，首先要满足应用中的多方面要求，比如做并行处理，不光是做一个DP（数据并行）、PP（流水线并行）、EP（专家并行），几乎所有不同的并行策略和方法都要支持，而且效率要做到最高。第二，秉持端到端的模型训练理念。模型训练之前数据要处理、预训练、后训练、模型评估等等，提供从数据处理到模型部署的一站式服务。 摩尔线程提出的AI工厂方案：从单芯片算力、效率，再到单节点和集群效率，彼此之间是相乘的关系，只有每一个环节都做到极致，才能最大限度地发挥能力，而稳定性和可靠性是决定集群最后成败的关键。特别在万卡级AI集群中，硬件故障导致的训练中断会严重浪费算力。 而在提升集群稳定性方面，摩尔线程创新推出零中断容错技术，故障发生时仅隔离受影响节点组，其余节点继续训练，备机无缝接入，全程无中断。这一方案使KUAE集群有效训练时间占比超99%，大幅降低恢复开销。 在可靠性方面，摩尔线程通过多维度训练洞察方案，实现动态监测与智能诊断，解决训练中的慢节点致命短板，可以“看得见”每一片GPU从而实施精确管理，该方案使得慢节点、Hang等异常处理效率提升50%。 同时，为保证集群在训练起步阶段的成功率，摩尔线程的可靠性方案还结合了集群巡检与起飞检查，包含一系列自动化工具使其自动调度，优化管理效率，使得训练成功率以及速度提高10%。 一是MT Transformer自研推理引擎，面向LLM实现极致优化。二是TensorX自研推理引擎，面向生成类和视觉类。三是vLLM-MUSA，在NTT和DirectX不支持的情况下，用户可以使用vLLM，vLLM-MUSA能够达到推理引擎的最高性能的80%，可以让很多用户更快速地实现适配。 经过测试，摩尔线程最新AI旗舰产物MTT S5000针对DeepSeek R1满血版大语言模型的推理速度，达到100tokens/s，在同国际主流GPU和其他国产GPU的比较中，推理处于行业领先。 此次摩尔线程技术分享会上呈现的，是以 AI 工厂为核心载体，成功搭建起贯穿 “训练 - 推理 - 部署” 全流程的高效体系，这不仅是其自身技术实力的体现，更标志着国产计算基础设施在支撑 AGI 时代规模化、高效率、高可靠模型生产方面，迈出了关键且坚实的一步。 从图形渲染，到AI 算力引擎，摩尔线程的全功能 GPU 始终走在加速计算革新的前沿。以 “KUAE+MUSA” 构建的智算业务核心为驱动力，摩尔线程正不断拓展其影响力，加速为千行百业注入 AI 动能。未来，在物理仿真、AIGC、科学计算、具身智能、智能体、医疗影像分析、工业大模型等关键领域，由全功能 GPU 驱动的 AI 技术有望将在摩尔线程的推动下，实现更广泛的应用与深度部署，为国产计算力量的崛起和 AI 产业的蓬勃发展书写新的篇章。
