提升推理速度超30倍!英伟达发布了全新的AI芯片。黄仁勋表示,对AI的发展,我们更需要更强的GPU支持。

2024-03-19 热点资讯 关注公众号

·英伟达推出Blackwell B200 GPU和GB200超级芯片。Blackwell GPU的训练性能是上一代Hopper GPU的4倍,推理性能是30倍,能源效率约25倍。

·中欧资本董事长张俊表示,美国人工智能芯片又遥遥领先,挑战很严峻,这实际上是中美之间的算力大战。但最大的危险也是最大的机遇,国产替代到了提枪上马的时刻,对中国的GPU芯片公司来说这是一个千载难逢的时间窗口。

黄仁勋现场讲解AI新芯片。(02:40)

当地时间3月18日,在美国圣何塞举行的英伟达GTC人工智能大会上,英伟达宣布了用于运行人工智能模型的新一代人工智能芯片和软件,供人工智能企业训练更大更复杂的大模型。

英伟达每两年更新一次GPU架构,从而实现性能的大幅提升。过去一年发布的大多人工智能模型都是在英伟达2022年发布的Hopper架构上进行训练的,该架构被用于英伟达H100等芯片。

“Hopper很棒,但我们需要更大的GPU。”黄仁勋表示。此次新的人工智能图形处理器名为Blackwell,为纪念著名数学家David H. Blackwell而命名。他从口袋里掏出一块 Blackwell芯片,将其与Hopper芯片并排举起,后者显得小了一些。黄仁勋表示,“Blackwell GPU是推动这场新工业革命的引擎。”

英伟达正在用更强大的芯片吸引客户,刺激新订单。Blackwell GPU很大,将两个单独制造的芯片集成到一个芯片中。英伟达将一个单独的Blackwell GPU称为B200 GPU,它由大约2080亿个晶体管组成,超过Hopper晶体管数量的2.5倍,使用台积电定制的4NP工艺制造。而一对B200与英伟达Grace CPU相连,创造出GB200 Grace Blackwell超级芯片。

英伟达表示,基于Blackwell的处理器,如今年晚些时候将发货的GB200,可为人工智能公司提供了巨大的性能升级,AI性能达到20 PetaFLOPS(1 PetaFLOPS等于每秒1千万亿次浮点运算),而H100为4 PetaFLOPS。Blackwell GPU的训练性能是上一代Hopper GPU的4倍,推理性能是30倍,能源效率约25倍。

英伟达表示,额外的处理能力将使人工智能公司能够训练更大、更复杂的模型。Blackwell的六项革命性技术共同使得AI训练和大模型实时推理的规模扩展到10万亿参数。GB200也将成为下一代系统的基础。英伟达将提供GB200 NVLink 2的完整服务器,该服务器结合了72个Blackwell GPU和其他用于训练人工智能模型的英伟达部件。

据CNBC报道,亚马逊、谷歌、微软和甲骨文将通过云服务出售GB200的访问权限。英伟达表示,亚马逊网络服务(Amazon Web Services)将构建包含2万个GB200芯片的服务器集群,该系统可部署一个27万亿参数的模型。反观大模型GPT-4,参数为1.7万亿。基于Hopper架构的H100芯片售价在2.5万至4万美元,但英伟达没有透露GB200或该服务器集群系统的价格。

英伟达还推出了一款名为NIM的创收软件,它将使人工智能的部署变得更加容易。NIM软件包根据英伟达的加速计算库和生成式AI模型构建,可以帮助那些想要运行自己的AI模型的公司,而不是从OpenAI等公司购买访问权。英伟达高管表示,英伟达正从芯片供应商转变为像微软或苹果公司那样的平台提供商,其他公司可以在平台上开发软件。

“可销售的商业产品是GPU,而软件则是为了帮助人们以不同方式使用GPU。”英伟达企业副总裁曼纽尔·达斯(Manuvir Das)表示,英伟达的新软件将使程序更容易在英伟达的任何GPU上运行。“如果你是开发者,你有一个有趣的模型,你希望人们采用,如果你把它放在NIM中,我们会确保它在我们所有的GPU上都能运行,这样你就能触达很多人。”

英伟达将与微软或Hugging Face合作,确保它们的人工智能模型能够在所有兼容的英伟达芯片上运行。然后使用NIM,开发人员可以在他们自己的服务器或基于云的英伟达服务器上有效运行模型,无需冗长的配置过程。英伟达表示,该软件还能在配置GPU的笔记本电脑上运行人工智能,而不是在云服务器上运行。

对于英伟达此次发布,深圳中欧基金投资有限公司(即“中欧资本”)董事长张俊对澎湃科技(www.thepaper.cn)表示,英伟达的技术、产品和业务处于一个竞争最为激烈的领域,其特点是技术变革迅速和行业标准不断发展。英伟达预计竞争将会更加激烈,竞争来自现有竞争对手和新市场进入者。尤其是新进入者,也是潜在的颠覆者。

“第四次工业革命的火车头就是5G/6G通信和AI人工智能。对我们来说,挑战还是很严峻,因为美国人工智能芯片又一次遥遥领先。大国博弈的科技战,这本质上是中美之间的算力大战。人工智能这一场百年未有之大变局,只能是优胜劣汰、适者生存。”但张俊表示,最大的危险也是最大的机遇,国产替代“到了提枪上马的时刻”,对中国的GPU芯片公司来说,这是一个千载难逢的时间窗口,国产替代需要把卡脖子技术重做一遍。


随着中国AI市场的快速发展,英伟达推出了新的人工智能芯片——Blackwell B200和GB200超级芯片。这些芯片在性能、能源效率等方面都有显著提升,为中国国内的AI企业提供了巨大的竞争优势。
然而,面对日益激烈的全球竞争环境,中国政府也提出了大力发展本国自主可控芯片的目标。这也被视为中国政府在应对国际形势变化中的一次重大战略决策。对于中国的GPU芯片公司来说,这次发布无疑是一个千载难逢的机会。
针对这个产业,我们可以从中汲取一些启示:
1. 技术进步可以驱动产业发展,反之亦然。AI技术的发展速度远超人类的想象,只有不断探索创新才能保持领先地位。
2. 国产替代成为了当务之急。面对海外企业的垄断地位,我们应该积极参与技术研发,提高自身的技术实力。
3. 大国博弈的科技战是必然趋势,我们必须做好充分准备。无论是国内还是国外的企业,都应积极参与,利用自身的优势互补,共同推进AI技术的发展。
4. 技术和政策双重驱动下,中国GPU芯片公司的崛起和发展将对全球产生深远影响。无论是在技术研发方面,还是在全球市场份额的争夺中,中国GPU芯片公司的表现都将备受关注。
总的来说,英伟达的Blackwell系列芯片是中国GPU芯片行业的里程碑,对于推动我国AI产业的发展具有重要的意义。在未来的发展道路上,中国GPU芯片公司将面临更为激烈的竞争,但也正是这样的竞争,推动了整个行业的进步和发展。

上一篇:月之暗面、澜舟科技扎堆抢滩大模型商业落地 李开复:3年后生成式AI将成用户增长最快的应用
下一篇:Omdia:三星中小尺寸 OLED 业务挑战,将更依赖自家手机订单
更多更酷的内容分享
猜你感兴趣
重大新闻!我们又有了新工具。英伟达已经发布了最新款的AI芯片,它的性能比上一代提高了25倍。

重大新闻!我们又有了新工具。英伟达已经发布了最新款的AI芯片,它的性能比上一代提高了25倍。

英伟达于美东时间3月18日周一召开2024年全球头号人工智能(AI)领域的开发者大会,推出新一代的人工智能图形处理器(GPU)。此外,英伟达CEO黄仁勋宣布将在企业软件订阅中增加NIM新产品,并推出新一代人工智能超级计算机和6G研究云平台,推动人工智能技术的发展。

热点资讯 03.19
印度首颗AI芯片发布:宣称性能媲美英伟达GPU

印度首颗AI芯片发布:宣称性能媲美英伟达GPU

印度电动两轮车制造商奥拉宣布推出三款自研芯片:Bodhi系列AI芯片,Sarv-1服务器CPU和Ojas边缘AI芯片。印度希望自主探索人工智能领域,并强调自家芯片性能优越于英伟达GPU。未来三年,这些芯片有望用于车载充电、自动驾驶和工业自动化等领域。同时,Ola也计划在下一代电动汽车中使用这款芯片。Ola的CEO表示公司将寻求全球一级或二级晶圆代工厂的合作。

热点资讯 08.19
黄仁勋揭示英伟达GPU芯片8年算力激增百倍,耗能降低350倍的秘密

黄仁勋揭示英伟达GPU芯片8年算力激增百倍,耗能降低350倍的秘密

英伟达宣布黑白数字机“Rubin”计划将在2026年发布,并表示GPU的进步将带来计算的加速。黄仁勋还提到,过去的计算机发展已经积累了60年的经验,过去两次重大技术变革是计算民主化的标志。此外,他也提出,新的GPU设备能够极大地提高计算效率,减少CPU负担,推动计算行业的进步。

热点资讯 06.04
英伟达强力发布新AI芯片:强劲影响力如何推动相关股票表现?

英伟达强力发布新AI芯片:强劲影响力如何推动相关股票表现?

英伟达推出的新GPU芯片Blackwell采用第三代HBM(高带宽内存)技术,有望带动存储芯片市场大幅增长,预计市场规模将在2026年翻番至230亿美元,其中SK Hynix、Samsung Electronics和Micron将成为最大受益者。此消息引起高盛等金融机构的关注,投资者可通过跟踪相关ETF产品如Invesco Next Gen Connectivity ETF (KNCT)和WisdomTree Artificial Intelligence and Innovation Fund (WTAI)来布局受益股。然而,由于HBM芯片尺寸大、产量低等挑战,供不应求或成本上升可能抑制短期利润增长,高盛分析师认为供需紧张可能导致价格上涨并增加公司整体DRAM利润率风险。因此,鉴于这一前景,分析师强调关注传统DRAM内存芯片供应情况的变化和HBM在竞争格局中的地位。

热点资讯 04.01
第14号台风“普拉桑”于上海奉贤沿海二次登陆

第14号台风“普拉桑”于上海奉贤沿海二次登陆

今年第14号台风“普拉桑”今在上海沿海二次登陆,最大风力9级,最低气压995百帕。

热点资讯 09.20
AI先驱李飞飞引领空间智能转型:构建世界的模型

AI先驱李飞飞引领空间智能转型:构建世界的模型

李飞飞创立AI公司“World Labs”,致力于研究空间智能。该公司的目的是应对大自然五亿年才解决的超级难题——贝壳财经记者了解到,深度学习算法的前身——卷积神经网络算法的崛起来自于2015年,当时谷歌DeepMind成功地在ImageNet上创建了一个新的类任务,这标志着深度学习作为机器学习的一种形式得到了广泛的认可。 起因: 1. 李飞飞放弃学术界的工作,投身到AI公司“World Labs”的研发中。 2. 该公司旨在解决大自然五亿年才解决的超级难题——贝壳财经记者了解到,深度学习算法的前身——卷积神经网络算法的崛起来自于2015年,当时谷歌DeepMind成功地在ImageNet上创建了一个新的类任务,这标志着深度学习作为机器学习的一种形式得到了广泛的认可。 关注点: 1. 李飞飞创立AI公司“World Labs”以解决大自然五亿年才解决的超级难题。 2. 该公司的目标是探索空间智能,这是人工智能领域的一大关注点。

热点资讯 09.20
美公司与行业专家担忧中国在核聚变领域的崛起,挑战美国主导地位

美公司与行业专家担忧中国在核聚变领域的崛起,挑战美国主导地位

据CNBC报道,美国在核聚变领域一直保持领先地位,但在最近的几年里,中国在该领域取得了显著进展,有望在未来与美国竞争。目前,中国在核聚变领域投入超过美国,而美国在清洁能源方面正面临丧失领先优势的风险。中国在核聚变领域的快速发展引发了美国方面的担忧。此外,据报道,中国已经启动了一系列支持该领域的项目,并计划在未来几年内进一步提高该领域的投入。中国的进步将对全球核聚变领域产生重大影响。

热点资讯 09.19
台风“普拉桑”已登陆浙江岱山,中心风力10级!

台风“普拉桑”已登陆浙江岱山,中心风力10级!

今年第14号台风“普拉桑”登录浙江岱山,并预测后续将影响杭州湾地区。

热点资讯 09.19
云南永善幼儿园开学不满23天即停办拒退款,负责人称将等待‘东山再起’后再还款

云南永善幼儿园开学不满23天即停办拒退款,负责人称将等待‘东山再起’后再还款

云南永善县稚慧岛幼儿园开学23天后突然停办,原因在于拒绝退费引发家长不满。当地已成立联合工作组开展专项调查,幼师违规收费引起家长投诉。相关幼儿园家长们先前与园方签署了“特别教育协议书”,约定一次性支付三年定位费。目前,涉事幼儿园负责人为确保“东山再起”,仍未偿还剩余定位费。家长建议家长向公安机关报案,以免损失扩大。

热点资讯 09.19
究竟:传呼机竟成炸弹?全球十大厂商仍在使用!

究竟:传呼机竟成炸弹?全球十大厂商仍在使用!

黎巴勒黎巴勒利

热点资讯 09.19
北斗数字化应用的新模式加速增长:规模化与高质量并存

北斗数字化应用的新模式加速增长:规模化与高质量并存

北斗系统于2020年完成三号系统的部署,使全球服务范围进一步扩大。近年来,北斗应用产业发展迅速,特别是北斗专用列车的成功发射,展示了北斗在交通工具领域的应用潜力。北斗系统的发展受到多种轨道混合组网模式的影响,同时也与其他新兴技术如5G、云计算、大数据、人工智能等深度融合。在未来,北斗的应用前景广阔。

热点资讯 09.19
大疆Osmo Action 5 Pro:值得一看的运动相机选择?

大疆Osmo Action 5 Pro:值得一看的运动相机选择?

这款全新的大疆DJI Osmo Action 5 Pro在性能上有了很大的提升,特别是在电池续航和画质方面表现优秀,使得其成为我目前最好的运动相机之一。同时,其内部47GB可用存储空间也成为了我应对日常拍摄需求的重要保障。当然,虽然它是一款顶级的运动相机,但在一些细节上,如麦克风布局和屏幕大小等,仍存在改进的空间。总的来说,我非常推荐大家尝试一下这新款的大疆Osmo Action 5 Pro。

热点资讯 09.19
iOS 18体验:设计混乱 AI缺失,苹果是否该接受全网批评的冲击?

iOS 18体验:设计混乱 AI缺失,苹果是否该接受全网批评的冲击?

苹果推ios 18正式版 引发热议 用户不满话题热榜。 此次发布的新iOS 18正式版带来了很多新功能,包括应用上锁、通话录音等,但未包含应用双开和小窗模式。 苹果官方回应称部分旧款iPhone用户可以选择静观其变。 新品发布会引起大量用户不满,导致苹果出现多条热门话题。 相册APP改变设计方式后变得非常凌乱,引发网友争论。 部分用户认为新款相册APP设计过于复杂,影响使用体验。 官方回应称新功能尚在测试阶段,不一定会在新版本中推出。 总体来看,虽然此次更新带来更多新功能,但也引发了不少争议和不满。

热点资讯 09.19
选择自主可控的硬件供应链:破解寻找寻呼机成移动炸弹的可能性?

选择自主可控的硬件供应链:破解寻找寻呼机成移动炸弹的可能性?

黎巴嫩多地发生寻呼机爆炸事件,已造成12人死亡、约2800人受伤。全球对电子产品安全的担忧。 专家表示,正常锂电池在热失效情况下以燃烧为主,达到爆炸条件的极少。 但黎巴嫩事件敲响警钟,要求各国加强电子产品供应链的安全监管。 国内高度发达的网络基建铺设让人们对“寻呼机(BP机)”这一词已经有些陌生了。

热点资讯 09.19