国内企业在构建10万卡集群面临三大难题：跨地域部署、多芯混训和集群稳定性。 国内企业较难构建单一大规模训练集群。 百舸4.0已实现10万卡集群的高效管理。 其中，百舸4.0构建了十万卡级别的超大规模HPN高性能网络。 实现了几十公里的跨地域通信。 同时，百度自研的BCCL(百度集合通信库)能够快速定位故障并自动提供容错能力，将故障恢复时间从小时级降低到分钟级。 根据阿里云发布的消息，7月22日，马斯克宣布位于美国田纳西州孟菲斯市的孟菲斯超级集群开始投入训练，该集群配备了10万个英伟达H100GPU，被命名为“世界上最强的人工智能训练集群”。 Meta也在六个月内进行了10万卡GPU的训练，并计划在未来一年内再次推出10万卡GPU的大规模训练集群。为了支持大模型，Meta预计本年度资本支出将达到10亿美元。
随着AI技术的发展，越来越多的企业开始尝试使用大型的人工智能训练集群来提高模型的性能。而在国内，面对复杂的地理环境和技术挑战，构建大规模训练集群却是一项艰巨的任务。然而，在过去的几年中，一些国内的企业已经开始探索如何解决这一问题。
作为一家专注于人工智能研发的企业，百舸科技在AI领域有着深厚的研究背景和丰富的实践经验。该公司曾成功地推出了超过十万个英伟达H100GPU的训练集群，这个集群被命名为“世界上最强的人工智能训练集群”。这个集群的特点是采用了最新的H100GPU技术，能够在短时间内完成大量的计算任务，从而提高了训练效率。
对于这个问题，百度公司也已经做出了积极的回应。据其官方发布的信息显示，百度已经在孟菲斯市启动了一个名为“孟菲斯超级集群”的训练项目。这个集群由百万个英伟达H100GPU组成，能够实现几十公里的跨地域通信，且能迅速定位故障并自动提供容错能力，使故障恢复时间大大缩短。
至于亚马逊，该公司也在最近的一次采访中表示，他们正在开发一种名为“Mega AI Platform”的训练平台，该平台的目标是在未来一年内再次推出10万卡GPU的大规模训练集群。除了拥有一流的硬件设施外，亚马逊还在努力提升自己的云计算基础设施，以便更好地支持大型模型的训练。
总的来说，虽然国内企业在构建大规模训练集群上还面临着许多挑战，但是通过不断的技术创新和投资，相信这些问题终将会得到解决。无论是传统的设备制造商还是新兴的云服务提供商，都将在未来的竞争中发挥更大的作用。