无问芯穹:打破异构芯片生态竖井,让异构芯片升级为高性能计算。

2024-07-05 热点资讯 关注公众号
无问芯穹:打破异构芯片生态竖井,让异构芯片升级为高性能计算。
摘要: AI基础设施论坛上,无问芯穹联合创始人兼CEO夏立雪指出,当前Model Scaling Law思潮下,大模型面临高性能、计算量等多方面挑战。同时呼吁打破异构生态竖井,支持多元化异构芯片融合,以提高算力推高大模型生态完整性,并通过统一编程框架实现多算力调度整合。

在近期的AI基础设施论坛上,无问芯穹联合创始人兼CEO夏立雪指出,在当前的Model Scaling Law思潮下,大模型面临着诸多挑战。这些挑战包括但不限于高性能、计算量和跨硬件平台运行等方面的问题。
他强调:“大模型是推动人工智能发展的重要引擎,但同时也面临着性能瓶颈。高性能主要体现在处理大规模复杂数据时的效率上,而计算量则直接影响了模型训练的速度和规模。此外,不同的硬件平台可能对同一种架构有不同的适用性,这不仅需要考虑硬件的成本,还需要考虑到其兼容性和可扩展性。”
针对这些问题,夏立雪提出了一个大胆的解决方案——打破异构生态竖井,支持多元化异构芯片融合。他认为,“只有当所有的硬件平台都能在一个平等的基础上运行,我们才能充分利用每一块硬件的优势,提高整体的计算能力和处理能力。”
他还指出,“我们应通过统一的编程框架来实现多算力调度整合,这样可以减少不同硬件平台之间的差异,使整个大模型生态系统更加完善。”
总的来说,夏立雪的观点是,面对大模型面临的挑战,我们需要采取创新的策略,如打破异构生态竖井,支持多元化异构芯片融合,并通过统一的编程框架来实现多算力调度整合,以应对当前的Model Scaling Law思潮。

上一篇:暑期夏令营适合所有孩子吗?
下一篇:要鱼不要命?恩施男子洪流中抓鱼,为何洪水冲来的鱼不能吃
更多更酷的内容分享
猜你感兴趣
全球首个千卡规模异构芯片混训平台上线,无问芯穹:打造全球AI算力新高地

全球首个千卡规模异构芯片混训平台上线,无问芯穹:打造全球AI算力新高地

无问芯穹发布全球首个千卡规模异构芯片混训平台,算力利用率最高达97.6%,可支持六种异构芯片,旨在推动大模型在各行业的应用创新。

热点资讯 07.15
全球首台具有超大规模异构芯片混合训练能力的平台:无问芯穹

全球首台具有超大规模异构芯片混合训练能力的平台:无问芯穹

无问芯穹发布全球首个支持单任务千卡规模异构芯片混合训练平台Infini-AI云平台,并已集成大模型异构千卡混训能力,支持包括AMD、华为昇腾、天数智芯等六种异构芯片,表明其在异构芯片计算优化与集群系统设计上有强大实力,是全球首个可进行单任务千卡规模异构芯片混合训练的平台。无问芯穹Infini-AI云平台已集成大模型异构千卡混训能力,其千卡异构混合训练集群算力利用率最高达到了97.6%,且未来将继续推高大模型技术能力的上限,同时降低大模型应用落地成本。同时,无问芯穹联合创始人兼CEO夏立雪还发布了无问芯穹大规模模型的异构分布式混合训练系统,可以进行700亿参数规模的大模型训练。

热点资讯 07.06
发布千卡规模异构芯片混训平台,无问芯穹要打造最具性价比的 AI 基础建设 | WAIC 2024

发布千卡规模异构芯片混训平台,无问芯穹要打造最具性价比的 AI 基础建设 | WAIC 2024

无问芯穹发布全球首个千卡规模异构芯片混训平台,实现算力资源有效整合,推动AI行业健康发展。

热点资讯 07.07
天玑9400:打造顶级SoC芯片的秘密武器解构

天玑9400:打造顶级SoC芯片的秘密武器解构

联发科技发布旗舰5G智能体AI芯片天玑9400,采用CPU全大核架构设计,具备1个超超大核+3个超大核性能核心和4个超大能效核心,是行业首款摆脱云侧训练的高端AI芯片。同时,天玑9400搭载联发科技第八代NPU 890,可支持端侧LoRA训练和端侧高画质视频生成,展现联发科技的技术实力。此外,联发科技积极与开发者合作,推动AI智能体、第三方应用程序和大模型之间的统一标准接口,将加速构建天玑AI生态。

热点资讯 10.12
投资者担忧:为何上汽集团股价屡创新低?原因曝光,再次引发质疑!

投资者担忧:为何上汽集团股价屡创新低?原因曝光,再次引发质疑!

会集中在高端电动车型,并且由于中外合资品牌的低迷导致销量下滑,对于集团来说无疑是一次挑战。同时,未来4-5季度,如果单靠这一部分产品无法达到集团设定的目标,那么可能面临巨大的市场份额和财务压力。不过,这只是时间问题,只要调整策略并推出更多创新产品,相信能够有所改善。对于投资者而言,未来需要密切关注行业动态以及企业的战略转型,以判断是否能从中受益。

热点资讯 11.10
特朗普或拒邀请前竞争对手黑利、蓬佩奥入内阁

特朗普或拒邀请前竞争对手黑利、蓬佩奥入内阁

美国前共和党总统候选人黑利宣布不参加2024年总统竞选。

热点资讯 11.10
长安首款“黑科技黑科技颠覆性的起售价9万的超酷年轻人掀背轿跑:全新长安汽车发布!黑科技十足,年轻人都要拥有一辆!

长安首款“黑科技黑科技颠覆性的起售价9万的超酷年轻人掀背轿跑:全新长安汽车发布!黑科技十足,年轻人都要拥有一辆!

长安UNI-V今年开启双11优惠,售价9.49万元,高配车型仅需9万即可拥有一辆中高级性能车,搭载1.5T高功发动机,最大功率188马力,直逼2.0T发动机,百公里油耗低至6.2升。内饰设计豪华,配备了10.3英寸中控大屏、全液晶行车电脑、L2级别智能辅助驾驶系统等配置,满足用户的各种需求。

热点资讯 11.10
互联网推动下的餐饮行业:为何越来越多的餐厅开始开设拌饭店?

互联网推动下的餐饮行业:为何越来越多的餐厅开始开设拌饭店?

拌饭在中国市场实现了逆袭增长,原因在于市场需求高、口味多样、符合平价消费趋势和餐饮供应链成熟。当前多个拌饭品牌获得融资,纷纷推出子品牌以扩大市场规模和品牌影响力。拌饭市场竞争激烈,不仅体现在资本投入上,还体现在连锁餐饮巨头的竞争下。

热点资讯 11.10
我在战场:震撼军容广告遍地,俄罗斯士兵面容疲态尽显

我在战场:震撼军容广告遍地,俄罗斯士兵面容疲态尽显

作家吴向在乘坐横跨西伯利亚的火车体验了俄罗斯士兵的生活艰辛后,在旅途中见到了来自不同民族和背景的人们,也见证了战争的冲击。与此同时,他还了解到战争对普通家庭的影响相对较小,因为征兵广告主要吸引来自贫苦人家的年轻人。此外,作者还发现俄罗斯人对猫的喜爱可能与中世纪鼠疫有关,猫士兵们勇敢地守护了他们的城市。文章共分为5部分:首段描述了吴向乘火车穿越西伯利亚的过程;第二段介绍了他在火车站见到的各种人物和景象;第三段讲述了他观察到的战争场景;第四段介绍了俄罗斯人喜爱猫的原因;第五段总结了整个旅行的经历。

热点资讯 11.10
蔡昉教授:将老年照护市场化,对推动就业与经济增长有深远影响

蔡昉教授:将老年照护市场化,对推动就业与经济增长有深远影响

须得到别人的照顾。其次,劳动力供给不足是另一个原因。随着劳动年龄人口减少,以及许多青壮年人为了工作选择外出务工,留在家里的家庭成员可能会变得空虚无力。 最后,随着科技进步和社会变革,家务劳动的形式也在发生转变。一些传统的体力劳动可以被机器替代,比如做家务、扫地等,这就需要人们学习新的技能来应对未来的需求。 针对这些问题,蔡昉建议将家务劳动市场化、职业化、产业化,即让家务劳动成为有偿劳动,同时引入新技术,如机器人和人工智能,来提高服务质量和效率。他的观点强调了将家务劳动市场化的重要性和紧迫性,并提出了相应的解决方案。

热点资讯 11.10
华尔街投资者担忧:过度乐观的市场表现可能带来的风险

华尔街投资者担忧:过度乐观的市场表现可能带来的风险

从事件起因来看,特朗普归来后,华尔街市场的情绪得到了极大的提振,尤其是小型股、银行股等股票表现抢眼。然而,过度乐观的情绪也可能导致投资者忽视了经济及其他领域的疲软现象,如就业数据不佳。 就事件关注的爆点来看,特朗普政府实施的移民限制和关税政策引发了通胀压力,同时,股市估值的攀升和市场的乐观情绪也给未来的不确定性带来了风险。

热点资讯 11.10
特朗普在美国大选中获得关键多数,终于赢得312张选举人票

特朗普在美国大选中获得关键多数,终于赢得312张选举人票

特朗普在佛罗里达州宣布获胜,拜登承认败选。特朗普在白宫发表讲话,宣布将在2024年总统选举中获胜。哈里斯在华盛顿特区发表讲话,承认败选。请注意,该新闻仅涉及两个主要人物的信息,详细情况还需查阅最新的报道和统计信息。

热点资讯 11.10
中国钻石市场刷新纪录,一天卖出4.27亿

中国钻石市场刷新纪录,一天卖出4.27亿

高端珠宝市场在面临经济挑战的情况下仍展现出非凡的抗跌能力与吸金效应。10月29日在佳士得举办的珠宝专场拍卖会上,其总成交额达到了4.67亿港元,其中52%的拍品成交价格超过了拍前最高估价。这一现象引发行业关注,贝恩公司指出,高级珠宝已成为当前不确定经济环境下的一个投资亮点。这可能是收藏家们对价格的敏感度有所提升的结果。此外,钻石开采与生产技术的显著进步,尤其是河南地区钻石产量的快速增长,也为中国钻石市场带来了更多的供应源。数据表明,2023年河南人造钻石产量达到190亿克拉,占全国总产量的约八成。因此,预计未来钻石市场的需求将继续增长。同时,市场竞争也将进一步加剧,中国钻石品牌面临着严峻挑战。

热点资讯 11.10
福州建立学校陪餐机制:原则上每月不少于一次

福州建立学校陪餐机制:原则上每月不少于一次

福建省福州市委教育工委书记、市教育局党组书记、局长游昕一行赴闽侯一中开展食品安全专项督导工作,并在学校陪餐。游昕一行深入学校的食堂后厨,实地查看了原料采购单据、加工制作、成品控制、清洗消毒、防虫、防鼠、防蝇等食品安全管控关键环节,了解学生用餐价格、结算方式、就餐秩序以及“制止餐饮浪费”落实等食堂管理情况。

热点资讯 11.10