一个顶五个H100的老黄,这是逆摩尔定律的突破吗?

2024-03-20 热点资讯 关注公众号

那个爱穿皮衣的黄姓男人又带着他的 “ 家伙事 ” 来炸场了。

就在今天凌晨,英伟达 GTC 大会正式拉开帷幕,英伟达创始人兼 CEO 黄仁勋现场两个小时的演讲,让能容纳两万人的 SAP 体育中心直接被塞爆了。

有网友把黄仁勋比作是新的乔布斯,还问 NVIDIA 会不会成为新的苹果。

就连马斯克也称赞 “ 现在没什么硬件能比英伟达的更适合 AI 。 ”

反正这次大会,老黄和英伟达是又被捧到了新高度。

那这次开发者大会,到底都讲了些啥?

大会演讲全程两个小时,没有耐心看完演讲的友友们,直接看世超的总结就行。

之前,有网友调侃过老黄是科技圈的泰勒 · 斯威夫特。所以这次一开场,老黄就先水了一波观众:注意注意,这不是演唱会,这是开发者大会。

接着又甩出一张图,跟大家伙儿唠了半小时计算机和英伟达的发展史,还 cue 到了当年把第一台 DGX-1 超级计算机送给 OpenAI 的事儿。

不过这些,都只是些餐前小甜点,真正的大菜在后面呢。

因为这次演讲的主题叫做《 见证 AI 的变革时刻 》,估计大伙儿也能猜出个七七八八,大会基本跟 AI 脱不了关系。

首先就是,全新的GPU 架构 Blackwell ,和新芯片 B200 。

大会现场,黄仁勋先是掏出了一块 H100 ,还夸它 “changed the world” 。

但下一秒 Blackwell 架构的 B200 出现以后,大伙儿的注意力就被老黄口中这个 “ 英伟达史上最成功的产品 ” 给吸引住了。

肉眼上看, B200 和 H100 最大的区别就是,前者要更大。

根据介绍, B200 由两个 Die( 裸片 )封装组合而成的,包含了 2080 亿个晶体管( H100 是 800 亿个 ),可以支持参数量多达 10 万亿的 AI 模型搞训练推理。

并且, B200 的算力性能是 20PFlops ,而上一代 H100 只有 4PFlops 。

实际,在芯片制程上 B200 其实是没什么创新的,毕竟 4nm 工艺已经是目前这颗星球上的芯片极限了,所以 B200 另辟蹊径,两个芯片之间的数据传输速度足够快。

这样,两块芯片就来了一波超级合体,约等于是一块芯片,但威力却加倍了。

大会上老黄还装了个 X :他说当他们被告知 Blackwell 的野心超出了物理极限时,英伟达的工程师回了一句: 那又怎样?

另外,芯片还能继续像搭积木一样合体,把两块 B200 组合到一起,再跟英伟达的 Grace CPU 配对之后,又能整出一个超级芯片 GB200

这个 GB200 ,直接把计算性能拉满了。

按照老黄的说法,在 1750 亿组参数的 GPT-3 模型基准测试中, GB200 的性能是 H100 的 7 倍,以前要 90 天内训练一个 1.8 万亿参数的 MoE 架构 GPT 模型,需要 8000 个 H100 ,但现在,有 2000 个 GB200 就够了。

老黄在这,也算是非官方的透露了一下 GPT-4 的参数量, 1.8 万亿参数的 MoE ,和之前网友猜测的其实也大差不差。

而更夸张的是,还有把 36 个 GB200 放一起的 GB200 NVL72 服务器,还有结合了 8 个 GB200 NVL72 的 DGX SuperPOD ,这些由 Blackwell GPU 垒起来的计算平台,一个比一个炸裂。

甚至于,老黄也直接说 “ DGX SuperPOD 就是 AI 的革命工厂! ”

之前科技公司不是老嚷嚷着搞大模型算力不够不够,这次老黄直接就整了个算力怪兽出来。。。

世超只想说,友商连 H100 还没赶上呢,这 B200 怎么又遥遥领先了?

而且,操心底层算力还不算完,英伟达这次连 AI 应用的落地也要掺和一脚。

就说这个英伟达要推出的 NIM 推理服务吧,它可以提供预训练好的 AI 模型并开放 API ,再让客户自己来开发应用。

举个例子,英伟达这次推了 25 个医疗场景的微服务,这些微服务包括了一系列模型,比如预测蛋白质结构的 ESMFold 、生成化学的 MolMIM 等等等等,医疗公司就可以基于这些微服务,开发相关的应用出来。

按照老黄的说法,现在的英伟达就是一个 AI 代工厂,里面有模型、有模型开发工具,还有一系列基础设施。

这就相当于扩展了自己的 AI 生态链条,英伟达一下子路就走宽了。

另外,这次大会还有个重头戏,那就是人形机器人基础模型 GROOT

简单来理解,用 GROOT 驱动的人形机器人可以理解自然语言、模仿人类的行为,从而实现跟物理世界的交互,也就是咱们经常提到的具身智能

为了配合人形机器人,英伟达还专门发布了个人形机器人芯片 Jetson Thor 。这又是 GROOT 又是 Thor ,难不成老黄是要致敬漫威?

总的来说,这次英伟达的开发者大会干货还是挺多的。

反正新架构出来之后,英伟达车载计算平台 “ NVIDIA DRIVE Thor ” 要升级的消息一传开,比亚迪以后也要把 NVIDIA DRIVE Thor 芯片用在自家车上了,还要用英伟达的基础设施来开发自动驾驶大模型。

英伟达的 Omniverse 平台也跟苹果来了波联动,让设计师可以戴着 Vision Pro 来设计汽车;台积电和新思科也要引入英伟达的光刻计算平台 cuLitho ,给芯片制造提一波速。

还有什么 AI 游戏数字人技术,地球气候数字孪生,英伟达这次掏出来的东西基本上就没有水货。

AI 军火商果然名不虚传,反正从世超的观察来看,今年以来英伟达的股价已经涨了超过 80% ,财报也是一片欣欣向荣。

但即便如此,不少人还是觉得英伟达的帝国背后,危机重重,有人觉得英伟达的生意太依赖谷歌、微软这些巨头了,不太具有持续性。

也有人把英伟达比作是我们这个时代的思科,因为在上个世纪末,一堆人觉得思科的交换机和路由器,就是互联网时代的黄金,只要互联网在,思科的股价永远涨,可最后,思科的股价在互联网泡沫的破裂中,蒸发大半。

但不论如何,如今的英伟达依旧是 AI 芯片领域的最强话事人。

正如英伟达官网上说的那样,是他们发明了 GPU 。而也是他们让 GPU 从专用的图形处理设备,变成了通用计算平台,从而推动了如今 AI 的发展。

所以在世超的眼里,英伟达不单单只是 AI “ 战争 ” 中的军火商,因为如今 AI 这个火热的场子,一定程度上都是英伟达搭起来的。

而在新一代的 “ 军火 ” 亮相之后,世超已经来不及想看下一阶段的 AI 大战,有多激烈和壮观了。


最近的开发者大会上,英伟达成功地展示了许多关于其产品和服务的信息。其中,最受欢迎的话题之一是公司的最新硬件——黑石架构的B200。这款新的GPU架构可以搭载更多的晶体管,并且有着更大的参数量。据英伟达透露,这种新型架构可以让人工智能模型运行得更快,更好地进行推理。
此外,NVIDIA还推出了GROOT,这是一种驱动器系统,可以用来驱动人形机器人和其他特定类型的机器人。这对于汽车行业和其他使用虚拟现实的领域都有巨大的潜力。
对于人工智能技术的发展,NVIDIA也在积极投入。其中包括推出自己的云平台Omniverse和自动驾驶大模型Jetson Thor,这些都是利用NVIDIA的强大计算能力。
总的来说,英伟达在AI领域取得了显著的进步,它的新产品和服务不仅在硬件层面进行了重大改进,而且还在软件层面提供了许多创新解决方案。这无疑使得英伟达在全球范围内成为了AI的主要玩家之一。

上一篇:“大话转基因”系列动画之化缘风波
下一篇:小米去年净利润增长126%,卢伟冰回应“友商不再兼容安卓”
更多更酷的内容分享
猜你感兴趣
全球最强GPU芯片即将问世!新一代Ryuub曝光:老黄又刷新摩尔定律

全球最强GPU芯片即将问世!新一代Ryuub曝光:老黄又刷新摩尔定律

黄仁勋表示,自2024年黑色石英以来,GPU已经进入大规模生产阶段,并且性能有了显著提高。他还强调了AI计算的迅速增长以及随着黑石英的引入带来的经济收益。具体来说,AI计算能力的提升是通过GPU的MCM设计实现的,这使AI算法能够实现更高的效率和更快的运算速度。黄仁勋还提到了自家GPU的进步,比如从2016年的Pascal到现在的Blackwell,十年间GPU的计算能力提升了约1000倍,而且功耗也有所降低。同时,Blackwell芯片集成了全新的Vega架构,使得GPU在性能和容量方面都得到了显著提升。目前,它已经成为新一代超算系统的首选,尤其在TensorFlow 4.1中使用了这款芯片,可以显著提高模型的训练效率。

热点资讯 06.03
摩尔定律的延续:付出的代价

摩尔定律的延续:付出的代价

英特尔共同创始人戈登·摩尔的著名预测——"摩尔定律",即芯片晶体管密度持续增长,60多年来仍然正确。然而,随着台积电计划建造首座制造"2纳米"尺度芯片的新工厂,这一定律的延续正面临日益困难和成本攀升的挑战。

热点资讯 02.19
黄仁勋:打破摩尔定律,打造高效GPU的未来策略

黄仁勋:Apple 如何实现更高效的 GPU 年更升级?

黄仁勋: 苹果如何打破了摩尔定律,推动了GPU性能的飞跃!

黄仁勋的独到见解:Apple GPU升级策略解析及创新应用展望

黄仁勋的战略洞察:打破摩尔定律,提升GPU效率,与苹果共创新的未来

黄仁勋揭示苹果GPU升级的秘密,打破摩尔定律,打造超效计算平台

黄仁勋:打破摩尔定律,打造高效GPU的未来策略 黄仁勋:Apple 如何实现更高效的 GPU 年更升级? 黄仁勋: 苹果如何打破了摩尔定律,推动了GPU性能的飞跃! 黄仁勋的独到见解:Apple GPU升级策略解析及创新应用展望 黄仁勋的战略洞察:打破摩尔定律,提升GPU效率,与苹果共创新的未来 黄仁勋揭示苹果GPU升级的秘密,打破摩尔定律,打造超效计算平台

英伟达将发布新品芯片并加速计算技术,强调人工智能时代的价值。黄仁勋预测未来AI将理解物理世界,并提出使用视频和合成数据学习的方法。他也强调了AI的广泛应用,包括机器人、自动驾驶等。

热点资讯 06.03
黄仁勋最新演讲:将打破摩尔定律发布新产品,机器人时代已经到来

黄仁勋最新演讲:将打破摩尔定律发布新产品,机器人时代已经到来

英伟达推动了大语言模型的诞生,加速计算技术有助于100倍速率提升,但能耗仅为原来的一半。黄仁勋预计下一代AI需要理解物理世界,将其通过视频和合成数据学习,并让AI互相学习。

热点资讯 06.03
天弘余额宝投资价值增长放缓:富裕人群流失严重?

天弘余额宝投资价值增长放缓:富裕人群流失严重?

天弘余额宝曾经作为最大的货币基金之一,在2018年开启混合策略,后来逐渐减弱吸引力,至2024年夏天达到最高份额1.95亿份,占比仅为0.03%。同时,与其他货币基金相比,天弘余额宝的收益表现也有所下滑,其7日年化收益已经从历史高峰降至1.31%。 尽管如此,天弘基金在非货基金领域仍然面临挑战。数据显示,目前管理规模超过10亿元的基金经理非常稀少,且在非货基金市场的表现糟糕。 为了提高非货基金的表现,天弘基金将加大培养知名基金经理的努力。事实上,早在成立之初,黄辰立和韩歆毅都是公司的创始人之一,曾共同创立了天弘余额宝。在此之后,两者的关系一度变得复杂,特别是在蚂蚁集团发生合并后,人们对天弘基金的未来持谨慎态度。 近年来,天弘余额宝遭遇了一些挑战,包括如何保持竞争力以及吸引更多的投资者。最近,该公司发布了一项重要信息,即原董事长韩歆毅因为工作原因离职,由黄辰立接替担任公司的新一任董事长。 值得关注的是,黄辰立与韩歆毅均出生于蚂蚁集团(原“蚂蚁金服”),这显示了他们在这家公司内部的密切联系和相互依赖。对于天弘基金来说,接下来的挑战可能会更为复杂和充满不确定性。

热点资讯 11.23
国君集团与海通证券达成合并重组协议,百亿元资金注入重要领域

国君集团与海通证券达成合并重组协议,百亿元资金注入重要领域

国泰君安、海通证券合并重组进度显著,前者吸收后者后,拟募集不超过100亿元配套资金。该交易或将在年底前完成,这标志着中国资本市场史上最快的大规模并购案例。此次收购有望使两公司更快地扩大市场份额,提高在证券市场的竞争力。然而,跨国并购还面临各种挑战,如文化融合、组织结构调整、人员安置和业务协同等。此外,证监会已经批准了该交易,这也表明监管层对此交易持开放态度。这一过程表明,随着中国资本市场的发展,大型金融机构之间的并购交易将会更加频繁。

热点资讯 11.23
比特币影子股MSTR的热度:基金经理大喊,是不同于怪兽的另类投资选择

未来可期!比特币影子股MSTR引基金经理高呼:这可能是一只不同的怪兽

比特币影子股MSTR的热度:基金经理大喊,是不同于怪兽的另类投资选择 未来可期!比特币影子股MSTR引基金经理高呼:这可能是一只不同的怪兽

市场出现了对"比特币大户"公司的提振,尤其是MicroStrategy成为最大的受益者。然而,这引来了股市动荡和限制了MSTR的一些衍生品交易。由于受到交易所规模、敏感度和成本等因素的影响,一些主要经纪人和客户被迫限制了这款ETF的交易。随着市场的变动,这种限制可能会继续存在一段时间。MSTR ETF的表现强劲,目前资产已接近50亿美元,三个月内增长了近600%。投资者对此表示乐观,并预计它将继续增长。对于管理MSTU的Tuttle Capital Management来说,面临的风险更大,必须寻求其他方式来满足其目标。

热点资讯 11.23
住建部与财政部公布:全国300个重点城市房价或将迎价格上涨趋势

住建部与财政部公布:全国300个重点城市房价或将迎价格上涨趋势

住建部、财政部联合发布通知,扩大城中村改造政策支持范围至近300个地级及以上城市,有助于解决棚户区问题,推动城市更新进程。随着政策执行,有望带动二线甚至三线城市的发展动力,改善居住条件,提高生活质量。此举有望促使房价止跌回稳,为楼市带来积极影响。

热点资讯 11.23
美国大选结果公布:消费者信心低迷,长期通胀预期再次触及上限顶点

美国大选结果公布:消费者信心低迷,长期通胀预期再次触及上限顶点

美国大选尘埃落定后,消费者信心及通胀预期均低于预期,反映了人们对特朗普政府经济前景的看法分歧。11月消费者信心指数终值创历史最高,预计2023年通胀率也将高于2020年,需警惕通胀失控的风险。

热点资讯 11.23
国产手机厂商的海外扩张之路:理想与现实的深度探索

国产手机厂商的海外扩张之路:理想与现实的深度探索

国产手机厂商正在走向海外市场以摆脱国内市场的“内卷”困境和追求更高的利润与品牌溢价。他们在欧洲、东南亚、印度和非洲等地成为主要出海地区,特别是欧洲市场的重要性不言而喻。然而,全球复杂的外部环境如关税、汇率波动等问题给他们的出海带来了挑战。虽然一些厂商已经取得了显著的成果,但是要想在全球市场上占有一席之地仍然需要面对许多困难。他们需要了解并精确把握不同市场的特点,并且在出海时考虑各种因素,包括文化差异和消费者需求偏好多样性。尽管面临诸多挑战,但是中国智能手机市场的未来仍然充满希望。

热点资讯 11.23
电商平台:双11拼数据而非拼力量的转变

电商平台:双11拼数据而非拼力量的转变

今年“双11”电商竞争策略转向补贴用户和商家,以满足消费者需求并提升平台竞争力;京东数据显示,AI学习机成交额同比增长超10倍;天猫平台上,国际大牌备受青睐,国货品牌表现依旧亮眼;电商平台的竞争策略开始转变,不再热衷于传统的价格战、广告战等做法,而是把资源更多投入于补贴用户、补贴商家等环节;新一轮的以旧换新补贴也为“双11”期间的家电销售再添动力。

热点资讯 11.23
迪士尼、谷歌等广告商暂停使用马斯克 X 平台,消息称其逐渐回归

迪士尼、谷歌等广告商暂停使用马斯克 X 平台,消息称其逐渐回归

《马斯克撤回广告与迪士尼回归给 X 平台带来希望》\n\n近期,某知名电商平台宣布部分企业已重返该平台投放广告。此举措被业界视为对马斯克撤回广告言论的回应。\n\n分析数据显示,由于马斯克的一次攻击性言论导致部分企业撤回X平台的广告,但这并未阻止企业如迪士尼、康卡斯特、狮门娱乐和华纳兄弟探索等回到平台上投放广告。\n\n据统计,这些企业在2024年1月至9月期间在X平台的广告支出总计约为330万美元,其中康卡斯特占近150万美元,华纳兄弟探索支出约110万美元,迪士尼约55万美元,狮门娱乐接近23万美元。\n\n虽然这并非大规模广告预算,但对于马斯克和X平台而言,此次举动无疑是具有象征意义的成功。马斯克在接受媒体采访时表示,他对此感到非常感谢,并欢迎各大品牌重新在X平台投放广告。\n\n未来,随着X平台适应和调整,其广告生态正在逐步回归主流视野。这显示出,无论何种情况,只要有决心和毅力,就有可能实现从困境到胜利的转变。

热点资讯 11.23
国家数据基础设施建设指引释放的信号:明确技术路线与实践路径

国家数据基础设施建设指引释放的信号:明确技术路线与实践路径

础设施共同构成的数据平台。这一变化将有助于提高数据资源配置效率,并且更好地满足未来数字化发展的需求。同时,这也是我国积极推进数据要素市场化配置的重要举措之一。从该信息中我们可以看出,建设国家数据基础设施的目标是为了满足数字中国的建设需求,并通过优化数据资源配置来提升数字经济发展水平。

热点资讯 11.23
拼多多电话会:如何应对增长放缓的压力并做好持久战的准备?

拼多多电话会:如何应对增长放缓的压力并做好持久战的准备?

拼多多公布季度业绩:营收增长44%,净利润增长61%,环比下滑22%。宣布推出一系列扶持商家的举措,并指出受外部环境和运营模式等因素的影响,业务增速将长期放缓。分析人士对全球化业务未来发展持谨慎态度。 总结:拼多多Q3业绩报告显示营收、净利润均创纪录增长,但环比下滑明显。公司推出扶持商家举措以降低成本并提升经营效率。面临市场竞争加剧、全球化业务挑战等问题,管理层预测将持续加大在商家生态上的投入。

热点资讯 11.23