领先的是B200,它配备了英伟达强大的处理器。你能看到车尾灯吗?

2024-03-23 热点资讯 关注公众号

集微网报道 黄教主当仁不让,一人撑起2024GTC大会2个多小时的秀场,并接连祭出数个王炸,让业界叹为观止。

光环加身,黄教主真人秀的金句无疑具有行业指向性意义:我们正处于行业中两个转变的开端,一是通用计算到加速计算的转变,二是向生成式AI的转变。

而让我们感叹的不止是第七代基于Blackwell架构的B200 GPU远超前一代的性能,英伟达一系列左右开弓、前瞻布局的举措也展现了其在通用AGI时代的完整战略和布局,业界惊呼:英伟达正在超越“英伟达”。

迎接两大转变 全面撒网

英伟达重磅发布的Blackwell架构GPU无疑是一枚深水炸弹:B200包含2080亿个晶体管,可提供高达20千兆次的FP4算力,是前一代H100的5倍,支撑10万亿参数大模型训练。由两片B200组成的GB200,在基于1750亿参数的GPT-3基准测试中,其性能是H100的7倍、训练速度则提高了4倍。

8年时间,从Pascal架构到Blackwell架构,英伟达将AI计算性能提升了1000倍。之前黄教主还表示,未来10年GPU还可将深度学习能力提升100万倍。

而这还只是开胃小菜,黄仁勋还直指足以优化万亿参数级GPU计算的最强AI基础设施,推出全新网络交换机X800系列,吞吐量高达800Gb/s;以及新一代DGX SuperPOD AI超级计算机,性能直接秒杀一众同侪。超级计算机的“生成”之路在于:两个GB200超级芯片形成一个计算节点,18个计算节点构成计算单元GB200 NVL72,它们可通过持续扩展,最终构成包含32000 GPU的分布式超算集群。

北京半导体行业协会副秘书长朱晶在朋友圈发文表示,Blackwell架构GPU展示了英伟达从芯片、互联、服务器、网络、算力集群等全方位的遥遥领先。

不止如此,尽管CUDA已成为英伟达的强护城河,但随着ChatGPT的出现大幅度加速了生成式AI的开发和应用进程,英伟达软件再下一程,推出了NIM。作为一组经过优化的云原生微服务,旨在缩短上市时间并简化在云端、数据中心和GPU加速工作站上部署生成式AI模型。

无疑,这或算是CUDA霸权的延伸。进一步来看,英伟达企业级软件家族的极大丰富,说明其在“软件公司”的路上越走越远,对于生态的深度和广度远非其他企业可比。

面向人形机器人的大爆发,英伟达也全线发力,发布人形机器人基础模型Project GR00T、新款人形机器人计算机Jetson Thor,对Isaac机器人平台进行重大升级,推动具身智能突破。与苹果强强联手,将Omniverse平台引入苹果Vision Pro,并宣布为工业数字孪生软件工具提供Omniverse Cloud API。

一系列凌厉出招,无疑都在表明英伟达正在全力打造一个AGI时代的“航空母舰”,英伟达的进化版已经实现全面的进化。

技术持续优化 前沿布局

实现如此巨大的“飞跃”,不得不说一些新兴和前沿技术功不可没。

有分析称,Blackwell自身最大的变化是dual die chiplet和更大的晶体管数量,采用同样的TN4工艺。而且,英伟达在系统级以及解决通信瓶颈层面提升迅速,包括互联的NVSwitch和NVlink不断提升性能,如升级第五代NVLink,具有1.8 TB/s的全对全双向带宽,互连速度是Hopper的2倍,支持576个GPU NVLink域,可解决万亿参数混合模型通信瓶颈。

通过Grace CPU+Blackwell GPU的比例优化(从1:1到1:2实际按照die是1:4),发挥更大的合力。这也凸显英伟达在GPU领域占据主导地位的同时,CPU也在成为英伟达的新利润池。

朱晶进一步表示,此次的Blackwell架构的chiplet设计与一般的Chiplet不太一样,两颗GPU之间的高带宽I/O链路是关键。英伟达称为NV高带宽接口 (NV-HBI ),可以提供 10TB/秒的带宽,这大于普通的Chiplet能做到的互联带宽,单纯看这个架构应该是高度依赖先进封装。

更值得关注的是,英伟达还宣布台积电、新思科技将突破性的光刻计算平台cuLitho投入生产。cuLitho可将计算光刻加速40-60倍,英伟达还将推出新的生成式AI算法增强cuLitho,将为2nm及更先进制程开发提供“神助攻”。

对此黄仁勋表示,计算光刻将成为芯片制造的基石。

台积电CEO魏哲家在一份声明中表示:“我们与英伟达合作,将GPU加速计算集成到台积电工作流程中,从而实现了性能的巨大飞跃、吞吐量的显著提高、周期时间的缩短和功耗的降低。我们正在将cuLitho转移到台积电生产,利用这种计算光刻技术来驱动半导体微缩的关键组件。”

整体而主,先进工艺+先进封装、算法改进、架构优化已成为英伟达持续进阶的三大利器,而在上述层面的强强联合也为英伟达未来发展增添无数后劲。

架构变革应对 押注推理

一系列“杀手级”GPU和超级计算机也让业界认识到,英伟达将进一步拉大与其他芯片企业在大模型训练上的差距,这种差距甚至可能在几十倍水平。

“在这次GTC之后,我国在大模型上的差距不止一年了,芯片层面更是差距遥远,短时间都摸不到Blackwell GPU……”朱晶如此叹息道。

要在训练层面翻盘,必须要独辟蹊径。业内人士对集微网表示,整体而言,国内与英伟达在GPGPU的差距在急剧拉大,如果沿袭之前的思路恐难以企及,需要通过新的架构和逻辑来追赶和超越,架构包括新的计算架构、芯片架构等,减少数据搬运是提升效率的关键。而且,不能仅依靠一两家大企业,必须百花齐放。

在生态层面,要认识到生态建设是个长期的过程,需要瞄准独立的生态才能有长足的发展,但是过渡期兼容性问题需要仔细考虑。上述人士进一步指出,好比新能源汽车,国内在新能源汽车市场发展强劲,通过自我闭环也打造出全新的新能源汽车生态。

避其锋锐,在推理层面或可扳回一局。

目前推理芯片市场规模相对较大,据预计国内到2025年训练芯片市场规模为494亿元,而推理芯片市场规模将达到891亿元,国内AI芯片企业走推理之路或能弯道超车。在大模型推理芯片市场,GPU优势并非无法撼动,据悉已有不少企业抢夺了英伟达的市场份额。

国外一位资深专家在解读时提到,英伟达B系列GPU代表了其未来瞄准的“万亿参数AI”的巨大飞跃。我经常读到的一本书上说软件能带来约 85%的利润率,而硬件利润率则通常很低,几十年来这一直被奉为圭臬。然而,现在的情况却并非如此,英伟达GPU正创造85%以上的利润率。如果要说科技行业有什么真理,那就是没有永恒的真理。


总结:
文章回顾了黄教主2024年GTC大会上的精彩演讲,其中包括他在构建AI计算产业的过程中提出的行业导向性和预见性意义的观点。他强调了通用计算到加速计算和向生成式AI转变的重要时刻,以及英伟达公司在这些领域的竞争优势和战略规划。同时,文章也提到了近年来AI行业的快速发展和英伟达的多项重要创新。
针对黄教主提出的展望和看法,读者可以从多个角度进行思考和讨论。例如,他认为新型计算架构和新技术的引入对于人工智能的重要性,以及中国在GPU市场的崛起可能会如何影响全球的AI产业发展。此外,文章也可能引发关于企业如何制定和执行有效的AI发展战略,以及企业如何适应不断变化的AI环境等问题。
总体来说,这篇文章以详细的数据和实例介绍了黄教主的演讲和观点,同时也提出了许多值得深入探讨的问题。通过对黄教主的看法进行反思和比较,我们可以更清晰地了解当前AI行业的现状和发展趋势,以及我们自身的角色和责任。

上一篇:微软推广 Copilot,计划 5 月底前覆盖大部分 Win10 / Win11 设备
下一篇:中央新定调,2024年起,房龄超过20年的老房子,统统这样处理!
更多更酷的内容分享
猜你感兴趣
英伟达B200劲爆预告:功率高达1000W!

英伟达B200劲爆预告:功率高达1000W!

戴尔高管在财报电话会议上透露,英伟达计划于2025年推出旗舰AI计算芯片B200 GPU,单张GPU功耗达1000W。这比当前英伟达旗舰H100 GPU的整体功耗高出300W。B200并未出现在英伟达公布的路线图中,可能是先向戴尔等大型合作伙伴透露了相关信息。

热点资讯 03.04
英伟达发布新AI处理器,性能提升数十倍。

英伟达发布新AI处理器,性能提升数十倍。

英伟达展示全新2080亿颗晶体管处理器——Blackwell。这款处理器能在处理人工智能模型时将速度提高数倍,包括训练阶段和推理阶段技术开发与运行过程。黑白数字处理器由两个独立芯片组成,协同运行以实现无缝操作,并有望推动AI超越简单任务。

热点资讯 03.20
OpenAI宣布与英伟达达成深度学习超级计算机合作:全新DGX B200工程机即将面世

OpenAI宣布与英伟达达成深度学习超级计算机合作:全新DGX B200工程机即将面世

10月9日,OpenAI发布英伟达新款游戏机器—— DGXB 200工程机,预计将于下月上市。 关于这次事件的起因和关注爆点,我们可以这样概括: - 起因:英伟达新款游戏机器—— DGXB 200工程机的发布。 - 关注爆点:这款机器的发布时间、上市时间以及具体参数等信息。

热点资讯 10.09
想了解更多吗?英伟达GTC大会即将震撼登场!,

想了解更多吗?英伟达GTC大会即将震撼登场!,

财联社讯,12月1日午后消息,据多方消息透露,百度自动驾驶车辆已经具备商业化运营能力,未来将在北京市等地实现商业落地。

热点资讯 03.18
拜登紧急指令:普京‘最后攻击’任务完成之际,政府如何应对?

拜登紧急指令:普京‘最后攻击’任务完成之际,政府如何应对?

美英法联合授权乌克兰使用远程武器,引发全球范围内的巨大轰动。这一决定不仅意味着冲突升级的新阶段,也可能影响未来地缘政治的走势。俄罗斯对此可能会感到不安,甚至有可能与西方国家发生对抗。而普京则考虑寻求与中国合作以增强本土防御能力。近期,绍伊古访华也被视为是俄罗斯寻求的一种新型合作关系的一部分。同时,这也被视为拜登政府有意制造麻烦的手段。在这种情况下,俄罗

热点资讯 11.23
中方关注美国在安理会的处境,呼吁对美国进行公正审判

中方关注美国在安理会的处境,呼吁对美国进行公正审判

继续进行军事干预,这与联合国安理会的初衷背道而驰。对于中国的观点,美国表示不满,认为中国政府对于安理会的问题置若罔闻,没有采取任何实际行动来解决问题。 中国政府针对美国的行为,决定向联合国安理会提出4点主张:第一,必须实现立即无条件停火;第二,必须扩大加沙地带的人道援助;第三,必须制止违反国际法的单边行动;第四,必须重新落实“两国方案”。 这份“讨美檄文”,直指美国为确保自己国家的利益,不顾人类道义,不断干涉他国内政,严重破坏了世界和平稳定,也将受到历史的审判。

热点资讯 11.23
Steam 2024 年秋季促销活动 11 月 28 日开启!丰富优惠等你来抢购!

Steam 2024 年秋季促销活动 11 月 28 日开启!丰富优惠等你来抢购!

Steam 2024 年秋季游戏促销即将于 11 月 28 日凌晨 2:00 开启至 12 月 5 日凌晨 2:00 ,将有多款游戏迎来折扣优惠。这些游戏包括《灰区战争》、《高达创坏者》、《霍格沃茨之遗》、《小丑牌》等。

热点资讯 11.23
上海玩家耗时1814天打造一款独特游戏,成功打破了传统网络游戏模式的桎梏。大家称其为‘疯狂’的游戏,究竟有何魅力?让我们一探究竟。

上海玩家耗时1814天打造一款独特游戏,成功打破了传统网络游戏模式的桎梏。大家称其为‘疯狂’的游戏,究竟有何魅力?让我们一探究竟。

叠纸创始人和CEO兼游戏制作人的姚润昊在接受采访时表示,《无限暖暖》的研发难度超过了以往的新游项目。这部24分钟的短片通过幕后纪录片的形式展现了这款年度大作的研发过程,包括研发团队面临的各种困难和挑战,以及他们如何克服这些困难并最终成功发布的游戏。这部纪录片让观众有机会了解《无限暖暖》的研发历程,并对这款游戏充满了期待。

热点资讯 11.23
小胖不打,狼队已没戏:AG的决定无可替代

小胖不打,狼队已没戏:AG的决定无可替代

是减少了一定的物理伤害,另一个是将回血速度提高20%。 总的来说,这一系列英雄调整旨在提升辅助英雄在比赛中的表现,同时加强物理系英雄的输出能力。尽管王昭君的被动被削弱,但这并不意味着她的实力下降,而是需要更多的时间去适应新的机制和调整自己的战术打法。

热点资讯 11.23
《完蛋!我被美女包围了!》12月4日登陆WeGame,海量内容等你探索!

12月4日,《完蛋!我被美女包围了!》登陆WeGame,探索无尽的网页美少女盛宴!

《完蛋!我被美女包围了!》12月4日登陆WeGame,海量内容等你探索! 12月4日,《完蛋!我被美女包围了!》登陆WeGame,探索无尽的网页美少女盛宴!

"完蛋!我被美女包围了!”将在WeGame上线,并对玩家体验方便。《完蛋!我被美女包围了!》是一部模拟恋爱全动态真人互动影像作品,游戏的成功是对细分娱乐需求体验的深度挖掘和创新尝试的结果。

热点资讯 11.23
五十铃全新2.2升发动机,实现高效启程与持久续航提升
56%增扭与10%燃油效率的升级体验,让五十铃2.2升发动机焕然一新
五十铃新款2.2升发动机,大幅度提升了动力和燃油经济性

五十铃全新2.2升发动机,实现高效启程与持久续航提升 56%增扭与10%燃油效率的升级体验,让五十铃2.2升发动机焕然一新 五十铃新款2.2升发动机,大幅度提升了动力和燃油经济性

五十铃汽车推出全新D-Max皮卡和MU-X SUV搭载的2.2升“MaxForce”涡轮增压柴油发动机,功率提高56%,燃油效率提升10%,达到符合全球排放法规的要求。这款发动机使用了低摩擦活塞技术,有助于五十铃满足日益严格的排放法规,目前官方还未公布更多细节。

热点资讯 11.23
比亚迪负债率揭秘:正常运营还是隐藏危机?

比亚迪负债率揭秘:正常运营还是隐藏危机?

积极扩大产能的表现,同时也是为了保证公司有足够的现金流来应对可能的风险。根据相关数据显示,比亚迪第三季的负债为5113.33亿元,占总负债的77.91%,这是一个比较健康的负债水平。然而,如果未来业绩出现下滑,可能会对公司的现金流产生影响,因此比亚迪需要注意销量波动对现金流的影响,并且要合理管理和运用负债。 比亚迪的负债率虽然较高,但是由于公司有着较强的偿债能力和良好的现金流管理,所以并不会出现所谓的“暴雷”危机。而且,在新能源、智能化等领域投入巨大且增长迅速的新势力企业也面临着同样高的负债率,如赛力斯、北汽蓝谷、蔚来的2024年第三季度资产负债率分别高达89.02%、85.02%,79.39%。这说明比亚迪在拓展业务和扩大规模的过程中,需要谨慎对待负债问题。 总的来说,比亚迪目前的负债情况处于一个相对合理的范围内,未来若能保持良好的发展前景,企业可以更好地应对债务问题。

热点资讯 11.23
2024广州国际车展:MG有望推出四款新车,除了销量还有品牌提升期待

2024广州国际车展:MG有望推出四款新车,除了销量还有品牌提升期待

2024年广州车展,MG狂发新品!当天上午,MG ES5发布;下午,2025款 MG7震撼登场,持续发布两款新车。俞经民表示明年,MG将在全球推出四款新车,每季度都有新品上市活动。同时,线上还举行全民颠球挑战,邀请用户体验ES5。 MG始终坚持打造“全球轿跑世家”,打造运动性能、动感驾趣的品牌基因。此外,也将推出中大型新能源SUV和搭载固态电池的新款轿车。推广方面,MG率先开启宠物友好模式展厅,开展全民颠球挑战等用户活动,吸引更多用户到展厅感受友好氛围、体验顶级驾趣。

热点资讯 11.23
哪吒释然放下压力,成功实现互联网逆袭

哪吒释然放下压力,成功实现互联网逆袭

哪吒汽车疑似寻求外部资源资金扶持。目前,南宁产业投资集团已与合众汽车达成了战略合作,为哪吒汽车的海外供应链提供了支持。此外,南宁产业投资集团还将提供供应链金融支持,帮助哪吒汽车管理原材料采购、生产、物流等业务。同时,哪吒汽车国内三个生产基地也已经停产近一个月,部分生产线工人被裁员。在海外市场方面,哪吒汽车急需找到新的“落脚点”。此次合作将帮助哪吒汽车保障海外供应链的稳定,并确保其海外车型的生产与交付。最后,哪吒汽车已经寻求到了外部资源的支持,而这些都对公司的未来前景产生了积极的影响。

热点资讯 11.23