黄仁勋又出超级芯,性能翻30倍。人工智能时代就要到来了。

2024-03-20 热点资讯 关注公众号

如果要说哪家公司是目前全球最炙手可热的公司,相信很多人第一时间的答案一定是老黄的英伟达。

在前不久公布的2023年度财报当中,英伟达营收达到了609.22亿美元,净利润297.6亿美元,同比分别增长126%和581%。

横向比较一下,英特尔2023年营收542亿美元,净利润16.89亿美元,同比分别下降14%和78.9%,AMD营收226.8亿美元,净利润8.54亿美元,同比分别下降3.9%和35.3%,英伟达在同类型公司中可谓鹤立鸡群

因为AI革命的发生,英伟达的芯片在过去一年一直处于供不应求的状态,以至于它的毛利率达到了恐怖的72.7%,超过了茅台

那么作为一家高科技企业,英伟达接下来是会挤牙膏收割毛利,还是进一步创新推高AI算力呢?就在今天早上的GTC2024上,黄仁勋给了我们答案

01

想要快,就要大!

想要芯片速度更快,该怎么办?

那就造的大一些!这是黄仁勋今早在GTC 2024上给出的答案。

这个大芯片,是目前英伟达,或者说这个地球上最快的AI计算芯片,它就是全新一代的BlackWell GPU芯片。

左侧为BlackWell,右侧为Hopper

与上一代的Hopper相比,新一代的芯片在面积上的确大出了不少。老黄解释道,这是因为一块完整的BlackWell芯片,其实是由两块同架构的小芯片构成

两块小芯片合成一个完整的BlackWell

因为制程从之前的台积电4N工艺升级到了现在的4NP工艺,所以即使单个小芯片的晶体管也比之前提升了200亿个,当两个小芯片合在一起后,一块完整的BlackWell芯片的晶体管数量达到了惊人的2080亿!要知道,上一代的Hopper规格只是800亿。

完整的BlackWell拥有2080亿个晶体管

在显存方面,新芯片依然采用了HBM3E规格的显存,但是容量从141GB提升到了现在192GB,带宽从4.8TB/S提升到了8TB/S

除了晶体管带来的计算能力提升,在架构上,英伟达对于FP4这个精度的计算也做了一些优化,在这个精度上,计算能力相比上代提升了5倍,其它的精度上,BlackWell的提升大约在2.5倍左右。这就像给一台发动机在增大的排量的同时,还给内部进行了一些优化,双管齐下,跑的更快了。

FP4精度不高,但响应快,因此一般都用在大模型的推理当中,优化过后,使用新芯片进行推理的速度提升了30倍

也就是说,如果把目前的ChatGPT中的GPU都换成BlackWell,那么我们得到回答的速度将会有着至少十几倍的提升。抛开专门的FP4优化,在正常的大模型训练下,采用新芯片的GB200计算卡,要比老款H100快上2.5倍到4倍

演讲中,老黄并没有提到配备一个GPU芯片的B200或者B100,只拿出了配备了2块GPU+1块CPU的GB200。其中的CPU依然是上一代ARM架构的Grace,只是GPU有了升级。

在展示BlackWell的后半段,老黄还回顾了从2016年开始,英伟达显卡在计算速度上的提升,虽然精度略有不同,但可以看出,这几年老黄在计算卡上确实没有挤牙膏,每次算力的提升都是实打实的

02

超级计算机的新骨骼

除了芯片更强外,老黄在芯片互联之间也有大幅更新。

比如组成BlackWell的两个小芯片,它们之间的互联速度就达到了10TB/S,按照老黄的说法,这个速度已经可以满足芯片缓存(Cache)的要求,可以完全把它看作一个单独的大芯片。

英伟达引以为傲的NVlink,也算是这次最佳配角,全新的NVLink交换机带宽提升到了7.2TB/S。NVLink交换机的存在,就像人体的骨骼和血管一样,它的存在,把各个GPU计算节点连接在一起,让它们更好的发挥,协同。

这次NVLink的提升,72个的GPU可以连接在一起,组成一个DXG超级计算机,并且可以让整个计算机被看做一个超级大的GPU来用。

为了达到72个GPU之间的高速互联,DXG内部总共使用了3.2公里长的光纤线缆。

这样一台DXG服务器在训练AI时候的算力达到了恐怖的720 PFLOPs,6年前老黄亲手把DXG初代机交给马斯克和OpenAI的时候,那台机器的算力只有0.17 PFLOPs,6年时间,DXG服务器的算力提升了3600倍!

在介绍GPU的最后,老黄用大家熟悉的GPT做了一个非常量化的比较,他说目前的OpenAI最先进的模型的参数是1.8万亿个。

在使用A100 GPU训练的时候,需要25000个,耗费时间3-6个月,到上一代H100,数量降低到8000块,时间压缩到90天,需要消耗1500万度电,如果用最新的BlackWell GPU,训练时间没变,依然是90天,但是GPU的数量将缩减至1/4,电量只需要400万度。

03

老黄依然没有忘记元宇宙

2个小时的演讲中,前一个小时围绕着硬件,后一个小时则是软件的“推广”。

NIM是英伟达新推出的一种大模型部署“傻瓜化服务”,只要你的显卡支持CUDA,那么就可以非常简单的利用NIM来部署和微调出属于自己业务的大模型。

剩下的时间,老黄都在介绍它的“元宇宙”——Omniverse。只不过和以前单纯的把所有的东西都数字化不同,Omniverse现在更多的扮演了AI和现实世界中的中间层

AI虽然能做到很多事情,但无法直接感觉现实世界,它只能通过各种资料来学习,从来没有实际上手过,就像经验值为0的小菜鸟。如果想让AI做到完美的控制机器,就要尽可能的让AI去现实世界中练习。

但现实练习的成本太高了,比如让AI管理一个仓库,总不能让工人,货物和机器人一起作AI的“陪练”。这个时候Omniverse就派上用场了,它对于现实物理的完美模拟,可以让AI在虚拟工厂中进行训练。

在老黄的例子中,Omniverse通过数字孪生把自动化工厂和工厂中搬运机器人联系起来。在工厂中,有一堆货物从货架上掉下来。

视频中AI会根据工厂中工人的位置,货物掉落的位置,为搬运机器人指出一条既不干扰工人工作,也不会被货物绊倒的路线。有过这样的经验,AI在现实中碰到同样的情况就可以妥善处理了。

在训练之后,人类还可以直接和AI对话,让它重现刚才发生的情况以及它的对策。

除了工业,老黄还启动了Gr00t计划,同上面一样,这也是一个AI,Omniverse,现实的三层结构。只不过这次它应用在机器人身上。

机器人通过AI,人类远程示教来进行学习,然后在Omniverse这个“虚拟锻炼场”进行各种锻炼,最终达到在现实中完成任务的目的。

演讲的最后,老黄还请出了一排机器人和两个装有英伟达Jetson处理器的小机器人,虽然和小机器人的沟通演示有些失败,但是对于一些像跟随,停止等基本指令,小机器人还是执行到位了。

04

人类已经处在AI发展的快车道上

简单总结下老黄的这次演讲,有两大重点。

第一,当然是AI算力的进一步提升,基于你的不同应用场景,新一代的英伟达芯片将带来2.5倍到30倍不等的算力提升。

这意味着我们将看到更强大的模型,以及更快的模型响应速度,具备实用性的视频图文语音多模态模型也将成为可能。这一块是英伟达市值翻倍的动力,也是接下来很长一段时间的中心所在。

第二,在大模型的应用场景上,老黄的目标,是从现在的白领服务业领域,向数字孪生,向工业,向机器人的方向扩展。

2024年我们将看到AI更多的出现在现实世界,特别是人型机器人的时代可能很快就会到来。

这确实是个让人害怕又兴奋的大时代。


总的来说,英伟达作为全球最炙手可热的科技公司之一,其持续不断的研发和发展推动着人工智能的发展。尤其是在AI革命的发生背景下,英伟达也在芯片性能和AI算力上进行了大量的投入和创新。
尽管如此,面对未来的挑战和竞争,英伟达仍然保持乐观的态度,认为随着技术的进步,新的AI模型将能够提供更快、更准确的服务,为更多的人类工作和生活带来便利。同时,老黄还在积极拓展Omniverse这个AI基础设施,使AI能够在现实世界中更好地服务于人类社会。
在未来,我们可以期待看到更多的AI应用出现在我们的生活中,包括但不限于智能家居、自动驾驶、医疗诊断、金融风控等领域。而在这个过程中,我们也需要注意保护个人隐私,避免AI技术滥用带来的风险。
总的来说,英伟达以其技术创新和对AI市场的深度理解,继续引领全球科技的发展趋势。而随着人工智能的普及和深入,我们也将迎来更加智能和便捷的生活方式。

上一篇:张瑞敏再提海尔改革:砍掉整个中层曾让我非常担心
下一篇:金蝶徐少春:砸出云商业模式后,未来要“立”AI管理助手
更多更酷的内容分享
猜你感兴趣
老黄打造业界顶级AI芯片!30倍性能飞跃,开启新一代人工智能时代!

老黄打造业界顶级AI芯片!30倍性能飞跃,开启新一代人工智能时代!

英伟达推出新一代AI芯片——Blackwell GB200,将于今年晚些时候发货。它比Hopper强30倍,能耗降低25倍,适用于大规模的语言模型推理任务,将开启AI的新“摩尔定律”时代。此次GTC大会上,黄仁勋介绍了新一代GPU的详细信息,并表示其将成为未来的数据中心和游戏服务器的基础架构。

热点资讯 03.20
黄仁勋:AI驱动的硬件革新,从单核到多核,8年间 GPU 性能翻倍

或者

强大的AI引擎,黄仁勋:GPU性能增长超1000倍,引领未来科技新趋势

黄仁勋:AI驱动的硬件革新,从单核到多核,8年间 GPU 性能翻倍 或者 强大的AI引擎,黄仁勋:GPU性能增长超1000倍,引领未来科技新趋势

英伟达CEO黄仁勋在接受美国CNBC知名主持人、股评人吉姆·克莱默主持的《Mad Money》节目访谈时表示,他是一个有远见、最有创新精神的CEO之一,他在思考如何通过技术创新重塑世界。他还提到了英伟达推出的全新Blackwell架构B200芯片,使其AI性能有了显著提升。对于全球AI军备竞赛,黄仁勋认为各国应发展自主可控的技术,因为他坚信数据属于所有人的国家资源,应该掌握自己AI技术的发展方向。他认为未来的机器人会更加像人类,因为他们能够创造出更多的自动化工厂,并推动人类编写代码。

热点资讯 04.14
世界顶尖AI工程师 黄仁勋: Blackwell人工智能芯片需求持续「疯狂」

世界顶尖AI工程师 黄仁勋: Blackwell人工智能芯片需求持续「疯狂」

英伟达CEO黄仁勋透露,其正在研发的Blackwell人工智能处理器需求达到了"疯狂"的程度,旨在推动生成式人工智能时代的处理器发展。预计在第四季度开始大规模出货,新处理器性能提升显著。

热点资讯 10.03
黄仁勋谈AI数据中心未来潜力,突破技术瓶颈实现性能翻倍,能耗降低2-3倍

巨匠黄仁勋揭示AI数据中心无限潜能,打破技术壁垒,效能飞速提升,能耗大幅下降

黄仁勋谈AI数据中心未来潜力,突破技术瓶颈实现性能翻倍,能耗降低2-3倍 巨匠黄仁勋揭示AI数据中心无限潜能,打破技术壁垒,效能飞速提升,能耗大幅下降

黄仁勋在节目中透露,人工智能正对未来科技产生深远影响,特别是在计算机科学、生物学和机器人技术方面。他表示,人工智能将在未来几年内成为所有科学领域和工程突破的基础,并鼓励人们不应怀疑这是否只是暂时的流行。此外,他强调了未来的计算栈和软件编写方式将发生改变,以适应生成性人工智能的需求。黄仁勋称,英伟达将采用不同的处理器类型结合以解决摩尔定律的问题,并计划在未来10年内将计算性能每年翻一番或三倍。他还表示,AI软件已能被成功扩展到多个数据中心,并处于该领域的起步阶段。

热点资讯 11.10
酒店摄像头曝光事件:「TP-LINK物联」APP实况直播被疑涉侵犯隐私

酒店摄像头曝光事件:「TP-LINK物联」APP实况直播被疑涉侵犯隐私

22日,普联技术有限公司安防监控产品服务部门工作人员称,出于保护用户隐私及安全的目的,已对“TP-LINK物联”APP的增值服务业务做出调整,暂停销售高级分享服务套餐,已购买的用户到期后,将无法续费。这是出于对用户隐私的保护。同时,相关报道也指出,酒店偷拍黑产、直播平台违规等行为已经引起社会广泛关注。

热点资讯 11.22
放宽农民工城镇落户限制 助力农民享受社保改革红利

放宽农民工城镇落户限制 助力农民享受社保改革红利

近日,《关于进一步加强农民工服务保障工作的意见》发布,旨在促进农民工高质量充分就业,推动农民工市民化高质量发展。《意见》将稳定和扩大农民工就业,引导外出就业与就地就近就业并重;优化场地、金融、税收等政策,支持农民工返乡创业;建立就业帮扶长效机制,确保农民稳岗就业;保障农民工合法权益,督促企业遵守劳动合同、劳务派遣、新就业形态劳动者权益保护等规定。同时,要促进进城农民工均等享有城镇基本公共服务,放宽城镇落户限制,实现有意愿的进城农民工在城镇落户,并保障农民工的土地权益。此外,还要开展新市民培训,加强随迁子女教育保障、住房保障,促进农民工就地就近享有基本公共服务。《意见》还要求加强农民工党建引领,加大对优秀农民工和在农民工工作中作出突出贡献的组织和个人的表彰奖励。

热点资讯 11.22
全球化竞争下,蒋凡或将挑战拼多多与抖音的崛起之路

全球化竞争下,蒋凡或将挑战拼多多与抖音的崛起之路

阿里巴巴成立电商事业群,任命蒋凡负责,将阿里海外电商业务进行整合。贾凡重返阿里权力中心,并推动了Lazada等海外电商平台本地化变革。根据阿里最近的财报,阿里国际在2024年Q3营收达到316.72亿元,同比增长29%,超越阿里云成为营收第二。

热点资讯 11.22
蔚来汽车否认比亚迪收购传闻:我们保持独立发展,一切言论均为造谣者所为

蔚来汽车否认比亚迪收购传闻:我们保持独立发展,一切言论均为造谣者所为

比亚迪疑似收购蔚来,双方已联系澄清。12月乐道有望破万,积极加电。

热点资讯 11.22
2022年度事件:非比寻常的挑战与机遇交织

2022年度事件:非比寻常的挑战与机遇交织

乌镇峰会注入新的活力,大会主题是"拥抱以人为本、智能向善的数字未来——携手构建网络空间命运共同体",将关注当前和未来的发展趋势。会议中,领导人的讲话表明,中国将继续推进互联网创新发展、安全发展和普惠发展,让数字生活惠及更多人。这场峰会在深化国际交流、探索未来发展路径方面具有重要价值。中国在全球最大的网络基础设施的基础上,已经在人工智能、量子科技等方面取得显著成就,正在通过开放合作共同推动全球数字化、网络化和智能化进程。

热点资讯 11.22
国际刑事法院对内塔尼亚胡和以色列前防长发出逮捕令:中国外交部对此表示关注

国际刑事法院对内塔尼亚胡和以色列前防长发出逮捕令:中国外交部对此表示关注

中国回应:呼吁国际刑事法院公平审判以色列政府与平民,支持人道主义危机并尊重国际法。

热点资讯 11.22
《白夜破晓》揭示了演员潘粤明的真实生活:他是真的在演戏,还是演技被曝光?

《白夜破晓》揭示了演员潘粤明的真实生活:他是真的在演戏,还是演技被曝光?

《白夜破晓》终于迎来久违的狙击剧热潮,首播即85万评分,悬念丛生的剧情收获大量粉丝。该剧同时曝光,尚未曝光的连环杀人案仍在进行中,探员潘粤明饰演的特工精彩表现,吃戏之有趣令人难以忘怀。随着剧情深入,关宏峰与关宏宇的身份纠葛引人深思。两位主角性格差异明显,一边是从一个卧底到复仇的狠角色,另一边则是发泄怒火的小混混。精彩吃戏的背后,潘粤明展现真实的演技,微妙的眼神变化揭示人物内心的矛盾。在轻松愉悦的氛围中,也让观众感受到了紧张刺激的推理悬疑。

热点资讯 11.22
习近平主席访问拉美,亮点纷呈:深度解读

习近平主席访问拉美,亮点纷呈:深度解读

"皇甫凌雨的视频报道中包含制作人、主播和观众的一些争议焦点"

热点资讯 11.22
《小巷人家》结局揭示:一纸红包引发的反转,真实揭开庄超英非亲生之谜

《小巷人家》结局揭示:一纸红包引发的反转,真实揭开庄超英非亲生之谜

庄家的四个孩子,尤其是庄图南,成功考入研究生和中层管理,并凭借创业积累了巨额财富;庄家的两个女儿庄晓婷与林栋哲结婚后过着富裕生活;庄家孙子辈分发红包,庄超英父母分别得到二十块、一百块和十块红包;庄超英父亲亲自给孩子打五块钱红包,显示对其孩子的关爱;庄超英兄弟俩因发现祖传红包数目不符,揭示庄超英并非亲生;事情背后的真相让很多人感到惊讶。

热点资讯 11.22
37岁葛夕:她的独特魅力让你惊艳不已,好身材和高颜值让肉都长在正确的位置

37岁葛夕:她的独特魅力让你惊艳不已,好身材和高颜值让肉都长在正确的位置

是打算过一种更好的生活。然而,他们的婚姻并不幸福,尤其是近期,葛夕选择了精神出轨。她无法接受自己将一切都给另一个男人,但她面对的选择是情感出轨还是肉体出轨。在这个问题上,刘爽的态度非常保守,他表示不会做出牺牲,但他会对葛夕表示理解和尊重。这个问题让他开始反思自己的行为,是否在婚姻中过于自私,是否有做得不对的地方。最后,葛夕选择了精神出轨,并且在节目结束后向刘爽道歉。她的这种选择让人们感到震惊,也让刘爽意识到自己的问题。这是一场关于婚姻责任的辩论,同时也是一个关于爱情和诚实的故事。

热点资讯 11.22