无问芯穹:打破异构芯片生态竖井,让异构芯片升级为高性能计算。

2024-07-05 热点资讯 关注公众号
无问芯穹:打破异构芯片生态竖井,让异构芯片升级为高性能计算。
摘要: AI基础设施论坛上,无问芯穹联合创始人兼CEO夏立雪指出,当前Model Scaling Law思潮下,大模型面临高性能、计算量等多方面挑战。同时呼吁打破异构生态竖井,支持多元化异构芯片融合,以提高算力推高大模型生态完整性,并通过统一编程框架实现多算力调度整合。

在近期的AI基础设施论坛上,无问芯穹联合创始人兼CEO夏立雪指出,在当前的Model Scaling Law思潮下,大模型面临着诸多挑战。这些挑战包括但不限于高性能、计算量和跨硬件平台运行等方面的问题。
他强调:“大模型是推动人工智能发展的重要引擎,但同时也面临着性能瓶颈。高性能主要体现在处理大规模复杂数据时的效率上,而计算量则直接影响了模型训练的速度和规模。此外,不同的硬件平台可能对同一种架构有不同的适用性,这不仅需要考虑硬件的成本,还需要考虑到其兼容性和可扩展性。”
针对这些问题,夏立雪提出了一个大胆的解决方案——打破异构生态竖井,支持多元化异构芯片融合。他认为,“只有当所有的硬件平台都能在一个平等的基础上运行,我们才能充分利用每一块硬件的优势,提高整体的计算能力和处理能力。”
他还指出,“我们应通过统一的编程框架来实现多算力调度整合,这样可以减少不同硬件平台之间的差异,使整个大模型生态系统更加完善。”
总的来说,夏立雪的观点是,面对大模型面临的挑战,我们需要采取创新的策略,如打破异构生态竖井,支持多元化异构芯片融合,并通过统一的编程框架来实现多算力调度整合,以应对当前的Model Scaling Law思潮。

上一篇:暑期夏令营适合所有孩子吗?
下一篇:要鱼不要命?恩施男子洪流中抓鱼,为何洪水冲来的鱼不能吃
更多更酷的内容分享
猜你感兴趣
全球首个千卡规模异构芯片混训平台上线,无问芯穹:打造全球AI算力新高地

全球首个千卡规模异构芯片混训平台上线,无问芯穹:打造全球AI算力新高地

无问芯穹发布全球首个千卡规模异构芯片混训平台,算力利用率最高达97.6%,可支持六种异构芯片,旨在推动大模型在各行业的应用创新。

热点资讯 07.15
全球首台具有超大规模异构芯片混合训练能力的平台:无问芯穹

全球首台具有超大规模异构芯片混合训练能力的平台:无问芯穹

无问芯穹发布全球首个支持单任务千卡规模异构芯片混合训练平台Infini-AI云平台,并已集成大模型异构千卡混训能力,支持包括AMD、华为昇腾、天数智芯等六种异构芯片,表明其在异构芯片计算优化与集群系统设计上有强大实力,是全球首个可进行单任务千卡规模异构芯片混合训练的平台。无问芯穹Infini-AI云平台已集成大模型异构千卡混训能力,其千卡异构混合训练集群算力利用率最高达到了97.6%,且未来将继续推高大模型技术能力的上限,同时降低大模型应用落地成本。同时,无问芯穹联合创始人兼CEO夏立雪还发布了无问芯穹大规模模型的异构分布式混合训练系统,可以进行700亿参数规模的大模型训练。

热点资讯 07.06
发布千卡规模异构芯片混训平台,无问芯穹要打造最具性价比的 AI 基础建设 | WAIC 2024

发布千卡规模异构芯片混训平台,无问芯穹要打造最具性价比的 AI 基础建设 | WAIC 2024

无问芯穹发布全球首个千卡规模异构芯片混训平台,实现算力资源有效整合,推动AI行业健康发展。

热点资讯 07.07
天玑9400:打造顶级SoC芯片的秘密武器解构

天玑9400:打造顶级SoC芯片的秘密武器解构

联发科技发布旗舰5G智能体AI芯片天玑9400,采用CPU全大核架构设计,具备1个超超大核+3个超大核性能核心和4个超大能效核心,是行业首款摆脱云侧训练的高端AI芯片。同时,天玑9400搭载联发科技第八代NPU 890,可支持端侧LoRA训练和端侧高画质视频生成,展现联发科技的技术实力。此外,联发科技积极与开发者合作,推动AI智能体、第三方应用程序和大模型之间的统一标准接口,将加速构建天玑AI生态。

热点资讯 10.12
美元霸权的未来走势:我们能预见吗?

美元霸权的未来走势:我们能预见吗?

2024年上半年美元霸权遭多国打击,面临多重困境。一是沙特退出与美签订的石油美元协议,二是北美和欧洲央行降息,引发美债利率波动。SWIFT等金融机构遭遇挑战,美元霸权风险增大。为了应对挑战,全球纷纷呼吁摆脱美元影响,采取去美元化策略。面对重重压力,美元霸权似乎已危在旦夕。

热点资讯 11.22
华谊兄弟被迫启动策略性筑底行动,股价或将面临调整挑战

华谊兄弟被迫启动策略性筑底行动,股价或将面临调整挑战

华谊兄弟披露的股票期权激励计划涉及市值高达9139.00万份,占公司总股本的3.29%,行权条件为2024年营业收入为基数,2025年增长不低于10%、2026年增长不低于21%。尽管投资者对此充满争议,但这份激励计划的核心目的是通过奖励管理层和核心员工提升公司运营效率,从而推动公司长期发展。行权价格设定为2.85元/股,并要求激励对象个人绩效考核需达到合格。

热点资讯 11.22
听说大模型创企边塞科技被阿里巴巴集团收购,这是真的吗?

听说大模型创企边塞科技被阿里巴巴集团收购,这是真的吗?

边塞科技确认被蚂蚁集团收购,吴翼已入职强化学习实验室。吴翼表示被收购后将继续独立运营,并透露此前对边塞科技商业落地空间有疑虑,寻求被收购机会。蚂蚁集团此次收购价格低于公司估值,投资人损失不小。边塞科技成立于 2023 年,致力于基于大语言模型的通用强化学习训练平台。

热点资讯 11.22
小米许斐:14年间未见雷军怒火发作,揭秘小米公司独特的人际关系处理方式

小米许斐:14年间未见雷军怒火发作,揭秘小米公司独特的人际关系处理方式

小米集团CMO许斐近期在北京小米之家与电商总裁俞敏洪探讨产品宣传时,称赞雷军对完美的极致追求和友善的性格,认为他是朋友圈内产品宣传做的最好的人。 --- 【语料】 小米集团CMO许斐近日在北京小米之家与电商总裁俞敏洪探讨产品宣传时,称赞雷军对完美的极致追求和友善的性格,认为他是朋友圈内产品宣传做的最好的人。

热点资讯 11.22
商务部公布重大政策,跨境电商有望迎来崭新发展时机

商务部公布重大政策,跨境电商有望迎来崭新发展时机

商务部发布一系列促进外贸稳定增长措施,跨境电商发展势头强劲,预计未来有望成为新的经济增长点。易点天下、焦点科技等行业龙头受益于此。

热点资讯 11.22
普京确认新型中程高超音速导弹实战测试情况:

普京确认新型中程高超音速导弹实战测试情况:

11月21日,俄罗斯击落乌克兰炮兵多枚高超音速导弹,并对其关键设施发起攻击。北约与俄方否认导弹来自乌克兰,但担忧北约防空系统可能无法拦截这种导弹。双方都誓言采取对应措施以维护国家安全。此事件凸显美欧关系紧张,挑战现有的国际安全体系。

热点资讯 11.22
司法部呼吁:彻底剥离安卓系统,严防谷歌AI训练的监管需求显现

司法部呼吁:彻底剥离安卓系统,严防谷歌AI训练的监管需求显现

谷歌遭司法部要求剥离Google Chrome浏览器、安卓操作系统以及AI模型,法院预计在2025年中作出是否接受该提案的决定。谷歌将面临法律挑战。

热点资讯 11.22
数据中心新需求:对核电与核能行业迎来革命性突破

数据中心新需求:对核电与核能行业迎来革命性突破

全球核电回归增长通道,预计到2029年前达到近60个在建核电机组。美资企业积极投资核电板块,推动中美核电快速发展。SMR技术满足AI用能需求及减碳目标,有助于数据中心等新兴用能需求。相关上市公司佳电股份、川仪股份等受益于核电市场复苏。

热点资讯 11.22
潘攻愚揭示重大真相,美国半导体行业协会发生大变脸!

潘攻愚揭示重大真相,美国半导体行业协会发生大变脸!

中国大陆半导体销售市场份额仅为全球7%,原因在于其在全球范围内仅占7%,而美国半导体市场占有率达到99%。SIA在其年度重量级报告中将中国描述为全球半导体市场的主要竞争对手,并声称是中国最大的半导体出口国,但这并非事实。SIA的报告存在严重误导,称中国大陆已成为美国半导体市场的7%,这可能会影响其在国际半导体市场中的地位和影响力。

热点资讯 11.22
中央纪委书记要求: 开展对村巡查工作

中央纪委书记要求: 开展对村巡查工作

村(社区)作为“最后一公里”的重要环节,纳入到常态化的巡查覆盖之中;要坚持实事求是的原则,切实解决群众反映强烈的实际问题;要强化制度建设和责任落实,确保各项工作任务的顺利完成。通过这样的方式,可以进一步推动全面从严治党向基层延伸,为乡村振兴提供坚强的保障,更好推进中国式现代化建设。

热点资讯 11.22