摩尔线程联合无问芯穹宣布：国产全功能GPU千卡集群的3B规模大模型实训于近日成功完成，并在摩尔线程夸娥（KUAE）千卡智算集群与无问芯穹AIStudio PaaS平台上取得了高效稳定的训练效果。此外，团队还在此实训过程中成功实现了国产大语言模型与国产GPU千卡智算集群深度合作的新范式，该模型名为“MT-infini-3B”。该模型经过精度调试，实现了全程稳定训练不中断，并且在千卡训练和单机相比扩展效率超过了90%。目前，MT-infini-3B已经在同规模模型中取得了出色的表现，相较于在国际主流硬件上训练而成的其他模型，在多个测试集上都有所突破。无问芯穹联合创始人兼CEO夏立雪对此表示：“中国的大模型与国产芯片的协同发展，最终目标是构建一个成熟生态系统。无问芯穹正在打造“M种模型”和“N种芯片”的中间层产品，实现多种大模型算法在多元芯片上的高效、统一部署。摩尔线程是第一家接入无问芯穹并进行千卡级别大模型训练的国产GPU公司，而“MT-infini-3B”的训练是行业内首次实现基于国产GPU芯片从0到1的端到端大模型实训案例。”摩尔线程创始人兼CEO张建中则认为：“无问芯穹在夸娥千卡智算集群上实现的从零开始的大模型训练，不仅证明了摩尔线程的技术实力，而且实现了国内大模型训练的国产化闭环。”此外，摩尔线程还与其他国内知名厂商达成了深度战略合作。

摩尔线程联合无问芯穹宣布：国产全功能GPU千卡集群的3B规模大模型实训于近日成功完成，并在摩尔线程夸娥（KUAE）千卡智算集群与无问芯穹AIStudio PaaS平台上取得了高效稳定的训练效果。

一、技术实力的充分展示

近年来，摩尔线程始终致力于推动GPU技术创新，尤其是在全功能GPU领域。此次实训的成功举办，充分展示了摩尔线程在GPU领域的研发实力和技术优势。

二、科研成果的应用落地
国产全功能GPU千卡集群的实训成功，标志着我国在GPU技术研发方面取得了新的突破。同时，通过此次实训，摩尔线程与无问芯穹将科技成果应用到实际生产场景中，有助于提高国产GPU产业的整体竞争力。
三、国内大模型与国产芯片协同发展的示范
国产大模型与国产芯片的协同发展，旨在构建一个成熟生态系统。作为最早引入无问芯穹并进行千卡级别大模型训练的国产GPU公司，摩尔线程的成功实践，无疑为我们树立了一个重要的样本，展现了国产大模型与国产芯片的有效协同。
四、国际合作的深化
摩尔线程与中国众多知名的厂商达成深度战略合作，将进一步推动国产GPU的发展进程。未来，我们期待摩尔线程能够与其他合作伙伴在全球范围内进一步加强合作，共同探索和开发更先进、更高效的GPU技术。
综上所述，摩尔线程联合无问芯穹宣布国产全功能GPU千卡集群的实训成功，是我国GPU产业发展的重要里程碑。我们将以此为契机，继续坚持技术创新，不断提升我国GPU产业的核心竞争力。同时，我们也期待与更多优秀的厂商展开深入的合作，共同推动全球GPU产业的繁荣和发展。