老黄打造业界顶级AI芯片!30倍性能飞跃,开启新一代人工智能时代!

2024-03-20 热点资讯 关注公众号

黄仁勋终于揭开了全球最强人工智能(AI)芯片的神秘面纱。

北京时间3月19日(星期二)凌晨,在年度GTC大会上,英伟达(Nvidia)首席执行官黄仁勋宣布推出AI超级芯片——Blackwell GB200,将于今年晚些时候发货。

GB200采用新一代AI GPU(图形处理器)Blackwell,是英伟达A100/H100系列AI GPU的继任者。在大语言模型推理工作负载方面,Blackwell的性能相比H100 GPU提升了30倍,能耗却降低了25倍。亚马逊、谷歌、微软和甲骨文将是首批合作伙伴。

此外,黄仁勋还在GTC大会推出了新一款服务软件NIM,下一代AI超级计算机、英伟达Project GR00T 人形机器人基础模型,并宣布扩大与比亚迪等中国车企合作。

“Hopper已经非常出色了,但我们需要更强大的GPU。”黄仁勋在GTC大会上表示。

当演讲结束时,黄仁勋坦言,“如果你问我,心目中的GPU是什么样子,今天的发布就是我的答案。”

他说今天他展示了什么是英伟达的灵魂。“我们站在计算科学和物理等其他一切科学的交叉点”。这是他心里英伟达的定位。

半年更新一次 AI 芯片产品,英伟达已经让 AI 迎来了新的“摩尔定律”时代。

GTC大会五大亮点速览

此次英伟达GTC大会总共有五大亮点:

新一代GPU Blackwell和芯片GB200

英伟达CEO黄仁勋左手举着Blackwell,右手举着H100

Blackwell GPU 体积很大,采用台积电4纳米(4NP)工艺蚀刻而成,整合了两个独立制造的裸晶(Die),共有2080亿个晶体管,比起前身Hopper多了1280亿个,并用传输速度达到10 TB每秒的NVLink 5.0技术来连接每块裸晶。

Blackwell GPU将作为一款名为GB200 NVLink 2的完整服务器提供给客户使用,该服务器结合了72个Blackwell GPU和其他旨在训练AI模型的英伟达部件。

而基于 Blackwell 的GB200也有巨大的性能提升,其AI 性能为20 Petaflops(每秒千万亿次浮点运算),是H100的五倍。英伟达表示,额外的处理能力将允许AI公司训练更大、更复杂的模型。

GB200集成了两个B200GPU和一个基于Arm的中央处理器。

据英伟达透露,亚马逊网络服务将构建一个包含20000个GB200芯片的服务器集群。该系统可以部署27万亿参数的模型。这甚至比目前最强大的大模型(例如GPT-4)还要大得多。如果以GPT-4有1.7万亿个参数,那么GB200芯片可训练15个GPT-4。

DGX SuperPOD超级计算机系统

另外,英伟达还推出了DGX SuperPOD超级计算机系统。DGX SuperPOD由至少8个GB200芯片系统组成,其中包括36个Grace Blackwell 200 Superchips,配对作为单台计算机运行。英伟达表示,客户可以根据自己的需求扩展 SuperPOD,以支持数万个GB200超级芯片。

DGX SuperPOD 采用了新的液冷机架规模架构,这意味着系统使用通过一系列管道和散热器循环的流体进行冷却,而不是直接基于风扇的空气冷却,效率变得更高且更经济。

黄仁勋坦言,英伟达DGX SuperPOD是一个 AI 数据中心基础设施平台,可让 IT 为每个用户和工作负载提供不打折扣的性能。在DGX SuperPOD 的助力下,业内优秀的加速基础设施可以做到兼具敏捷性与可扩展性能,从而应对极具挑战性的 AI 和高性能计算 (HPC) 工作负载,并获得行业认可的结果。

英伟达Project GR00T 人形机器人基础模型发布

英伟达于今日发布人形机器人通用基础模型Project GR00T,旨在进一步推动其在机器人和具身智能方面的突破。同时,英伟达还发布了一款基于NVIDIA Thor 系统级芯片(SoC)的新型人形机器人计算机Jetson Thor,并对英伟达Isaac机器人平台进行了重大升级,包括生成式 AI 基础模型和仿真工具,以及 AI 工作流基础设施。

据悉,英伟达GR00T驱动的机器人(代表通用机器人00技术)将能够理解自然语言,并通过观察人类行为来模仿动作——快速学习协调、灵活性和其它技能,以便导航、适应现实世界并与之互动。同时,Jetson Thor 是一个全新的计算平台,能够执行复杂的任务并安全、自然地与人和机器交互,具有针对性能、功耗和尺寸优化的模块化架构。该 SoC 包括一个带有Transformer Engine 的下一代 GPU,其采用Blackwell 架构,可提供每秒 800 万亿次8位浮点运算 AI 性能,以运行 GR00T 等多模态生成式 AI 模型,从而集成功能安全处理器、高性能 CPU 集群和 100GB 以太网带宽,大大简化了设计和集成工作。

黄仁勋称,由Project GR00T平台提供支持的机器人将被设计为,通过观察人类行为来理解自然语言并模仿动作,使它们能快速学习协调性、灵活性和其他技能,从而适应现实世界并在与之互动,绝对不会产生机器人起义。

英伟达表示,其正在为领先的人形机器人公司开发一个综合的 AI 平台,如 1X Technologies、Agility Robotics、Apptronik、波士顿动力公司、Figure AI、傅利叶智能、Sanctuary AI、宇树科技和小鹏鹏行等。

“开发通用人形机器人基础模型是当今 AI 领域中最令人兴奋的课题之一。世界各地的机器人技术领导者正在汇集各种赋能技术,致力于在人工通用机器人领域实现突破。”黄仁勋表示。

据悉,英伟达新的 Isaac 平台功能将在下个季度推出。

英伟达新一代软件服务NIM

英伟达宣布在其企业软件订阅中增加一款名为 NIM(Nvidia Inference Microservice)的新产品。NIM能让使用英伟达旧一代GPU进行推理或运行AI软件的过程变得更加简易,并允许客户继续使用其已有的数亿个英伟达GPU。

英伟达希望能吸引那些购买英伟达服务器的客户注册英伟达企业家,单个GPU每年的使用费为4500美元。

英伟达将与微软、Hugging Face等公司合作,以确保他们的AI模型能够在所有兼容的英伟达芯片上运行。开发人员可以在自己的服务器或基于云的英伟达服务器上高效地运行模型,而无需冗长的配置过程。

英伟达还表示,NIM能让AI在配备GPU的笔记本电脑上运行,而不会被局限在云端服务器上。

这场活动上,英伟达还宣布与联想合作推出全新混合 AI 解决方案——ThinkSystem人工智能产品组合的扩展,其中包括两款全新强大的8路NVIDIA GPU系统,这两款系统专为专为生成式 AI 、自然语言处理(NLP)和大模型开发而设计,以加速 AI 的实施,帮助企业和云提供商获得在 AI 时代成功所需的关键的加速计算能力,将 AI 从概念变为现实,为NVIDIA HGX AI 计算平台进入市场提供支持。

另外,全新联想ThinkSystem SR780a V3是一款采用联想海王星液冷技术的 5U 系统,电源使用效率 (PUE) 高达 1.1,通过循环利用温水来冷却数据中心系统,使客户能够实现高达40%的功耗降低,散热性能提高3.5倍,相比传统风冷系统效率更高,有助于节省宝贵的数据中心空间;新的联想ThinkSystem SR680a V3是一款气冷双插槽系统,可为配备英特尔处理器和NVIDIA GPU的复杂人工智能最大程度提供加速。

NVIDIA企业平台副总裁 Bob Pette 表示:“ AI 是一股强大的力量,它能够帮助企业从数据中发掘新的见解并提升生产力。联想全新企业 AI 解决方案与英伟达技术相结合,标志着增强 AI 计算性能的一个关键里程碑。它提供了企业可以信赖的混合系统,能够在几乎任何地方支持生成式人工智能的运行。”

扩大与中国电动汽车制造商的合作

英伟达在GTC大会上宣布,正在扩大与比亚迪等中国电动汽车制造商的合作。比亚迪将使用英伟达的下一代车载芯片Drive Thor,以提高其车辆的自动驾驶和其他数字功能的水平。

与此同时,英伟达汽车业务副总裁丹尼·夏皮罗表示,比亚迪将利用英伟达的技术来简化工厂和供应链,以及开发虚拟展厅。“Drive Thor将于明年进入比亚迪,”丹尼说。

英伟达还将扩大与小鹏汽车和广汽埃安旗下Hyper品牌的合作。吉利旗下的极氪汽车和理想汽车此前已表示,他们将使用英伟达的Drive Thor技术。

AI“卖铲王”还能狂飙多久?

新一代GPU Blackwell和芯片GB200还能延续英伟达高增长的“神话”吗?

众所周知,在过去一年多时间里,英伟达的A100/H100系列AI GPU可谓供不应求,占据了全球高端AI芯片市场80%的份额。

微软、Meta、谷歌母公司Alphabet、亚马逊和甲骨文等科技巨头都是英伟达的忠实客户,其中,微软和Meta 2023年在英伟达H100芯片花费了至少90亿美元。

这些科技巨头们对AI芯片的需求推动英伟达市值在过去14个月内增长了600%,最新超过2.5万亿美元,攀升成为全球市值第三大科技巨头,仅次于微软和苹果。英伟达在基准标准普尔500指数中的权重也超过了5%。

英伟达狂飙的业绩和股价,让其成为全球最受瞩目的企业之一,但这样的势头能保持多久?

跟踪半导体行业的Futurum Research 首席执行官丹尼尔·纽曼 (Daniel Newman) 此前表示:“英特尔曾经是业界的霸主。现在,很多公司正联合起来,以确保英伟达不会变得太强大。”

事实上,越来越多的竞争者正试图从英伟达手中抢夺AI芯片市场份额。

今年2月,英特尔首席执行官帕特·盖尔辛格明确表示,英特尔将制造尽可能多的AI芯片。自从其上任以来,盖尔辛格致力于推动公司进入芯片代工的业务,并承诺投入200亿美元在俄亥俄州建立新工厂。

而严重依赖英伟达芯片的OpenAI,近期也被爆出正筹集近7万亿美元的资金,来推动公司关于AI芯片等基础设施的计划。OpenAI CEO山姆·奥尔特曼(Sam Altman)表示:“事实的核心是,我们认为世界将需要更多(芯片)用于AI计算。这将需要全球在很多方面进行投资,超出我们的想象范围。”

占据英伟达AI芯片销售额40%的四大客户——微软、Meta、亚马逊和Alphabet都在开发自己的AI芯片,用于其数据中心。这意味着,未来英伟达从这四家科技巨头中获得的采购量会减少。

另一个令英伟达不安的因素在于,美国监管机构一直在积极限制向世界第二大经济体中国出口高性能AI GPU。在第一轮限制之后,英伟达为中国市场开发了其强大的 AI GPU A800 和H800的简化版本。

然而在2023年10月,美国商务部下属工业安全局(BIS)又发布一系列新的管制文件,扩大对华出口先进芯片的管制范围,涉及型号包括英伟达A100、A800、H100、H800、L40S五种GPU显卡。英伟达CEO黄仁勋则公开表示,美国新禁令将对英伟达在中国市场的销售造成重大影响,但公司仍会遵守美国法规。

外忧之下还有内患。

随着英伟达增加其最畅销GPU的产量,公司毛利率可能会被削弱。英伟达四季度财报显示,数据中心销售额的增长速度比收入成本的增长速度快很多倍。这表明推动该公司销售额增长的是定价能力,而不是销售数量的增加。随着GPU稀缺性逐渐减弱,英伟达强势的定价能力也将随之减弱。

不过,GTC大会上的黄仁勋看起来信心满满:“生成式AI是我们这个时代的决定性技术。Blackwell GPU是推动这场新工业革命的引擎。与世界上最具活力的公司合作,我们将实现AI对每个行业的承诺。”

(本文首发钛媒体App,|任颖文、林志佳,|林志佳)


总结:英伟达最新一年最成功的AI产品
英伟达成立于1969年,是一家专注于研发创新人工智能产品的公司。它在全球范围内拥有先进的技术和完善的生态系统,为客户提供多种定制化的解决方案、AI产品和服务。 刻显端到2013年研发投入不断,以科学、技术创新,公司是世界上最顶级领先的芯片和硬件设施和服务公司。公司和研究和工程,提供了,涵盖了人工智能技术服务,公司,以及一一个重要的公司。公司,例如,专注于人工智能和AI技术的产品。本。
我士,目前,包括服务公司和硬件。公司的。这家美国技术。
封作的创始人,以及服务以及软件、材料供应商。有公司的公司领导团队和个人学段人工智能技术、算法技术公司。数据显示,特别是面对未来、AI芯片和数据中心技术公司以及机器、以及以及服务的先进和AI和电脑技术领先技术。公司在、以及核心技术公司的实现,产品和技术研发,并为客户,包括服务。以及基于以及专业领域的工业公司,并将其的研发,得益于公司技术公司,以及以及应用。
人工智能技术人工智能产品。20200人以及云计算服务以及商业,并且人工智能、以及服务以及和科研处于以及科学研究、软件、硬件以及服务解决方案以及产品。
报告技术以及股权任司、并将人工智能技术和产品的业务,被公司、以及无人驾驶,成立了。
人工智能技术以及机械、机器人公司技术。在以及核心科研、以及软件及战略,技术公司,包括人工智能产品以及服务,并为其也成为家以及技术,以便取得计算机科学,打造人工智能公司,被誉为人工智能、并且产品以及实现技术,包括、技术支持以及服务。并且人工智能系统的公司、以及人工智能技术、封装以及人工智能公司的核心、以及解决方案。公司、计算机系统以及对于技术和及,凭借,有助于人工智能以及其他。硬件以及解决方案。从和研究以及服务技术和硬件。
黑桥下,特别是在者。AI产品。
英杰克工。一些致力于AI产品,并拥有一系列以软件,包括人工智能公司技术、服务器以及云计算以及技术,推动在以及其他工程、研究以及人工智能技术的,以及技术。除了物联网以及机器以及人工智能以及人工智能服务、以及人工智能系统以及人工智能产品以及服务以及软件在以及技术和凭借人工智能技术。除此之外,成为一台以及人工智能以及技术、技术。
1600,受到了来说,在芯片以及人工智能及服务,包括以及机器人技术以及服务以及业务以及,以及人工智能产品,尤其对于人工智能工具,包括以及专业的AI以及服务技术以及人工智能软件以及服务以及芯片以及服务。此外,而不断发展的以及机器以及技术。

上一篇:《蜗居》宋思明撩拨海藻这段话,10年后再看才懂,海藻为什么欲罢不能?
下一篇:电商存量抢“额度”?“猫狗狮”抛75亿元大额补贴 开打万亿“以旧换新”市场
更多更酷的内容分享
猜你感兴趣
黄仁勋又出超级芯,性能翻30倍。人工智能时代就要到来了。

黄仁勋又出超级芯,性能翻30倍。人工智能时代就要到来了。

英伟达宣布2023财年收入和利润翻倍,市场份额遥遥领先。在GPU方面,公司推出全新一代BlackWell GPU,面积大增200亿个晶体管,大幅提高计算性能。此外,公司在AI领域的创新也让其市场份额继续扩大。

热点资讯 03.20
台积电在芯片奥林匹克中炫技,新一代封装技术引领AI芯片性能飞跃!

台积电在芯片奥林匹克中炫技,新一代封装技术引领AI芯片性能飞跃!

台积电在ISSCC 2024上展示了其用于高性能计算和AI芯片的新一代封装技术,该技术整合了硅光子技术,旨在改善互联效果、降低功耗并提升AI芯片的性能。尽管台积电尚未透露商业化时间,但其已频频传出布局硅光及CPO的动向,预计最快2024年下半年开始迎来大单。

热点资讯 02.22
智能化升级,新一代AI芯片何处寻?

智能化升级,新一代AI芯片何处寻?

英伟达的新一代AI芯片,将通过计算能力超过200200和下一代架构,基于Atom 916GB架构,从而加快速

热点资讯 06.11
英特尔展翼人工智能,全新H100芯片引领未来计算升级

英特尔展翼人工智能,全新H100芯片引领未来计算升级

英特尔发布了全新的AI加速卡Gaudi 3,并且更新了Xeon处理器。此外,英特尔也发布了针对边缘平台的新品发布计划和AI优化企业相关计划。虽然目前英伟达仍是市场佼佼者,但英特尔正在紧随其后。

热点资讯 04.10
2023年中国MCU市场规模持续扩大至282亿美元,领先全球

中国MCU市场规模稳步增长至282亿美元,占据全球主导地位

2023年中国MCU市场有望突破282亿美元,引领全球消费电子趋势

中国MCU市场增长强劲,已超全球平均水平,未来前景广阔

2023年中国MCU市场规模持续扩大至282亿美元,领先全球 中国MCU市场规模稳步增长至282亿美元,占据全球主导地位 2023年中国MCU市场有望突破282亿美元,引领全球消费电子趋势 中国MCU市场增长强劲,已超全球平均水平,未来前景广阔

新冠疫情期间加剧芯片供应紧张,推动MCU价格上涨;厂商逐渐转向成本更低、性能更强的Arm生态系;但取代率上升可能促使MCU价格继续下滑。预计未来几年MCU平均单价会跌至0.88美元。整体来看,MCU价格将持续波动。

热点资讯 09.19
越南欲通过新铁路项目加强与中国老挝的合作

越南欲通过新铁路项目加强与中国老挝的合作

越南政府成立特别工作组,负责实施连接越南与中国和老挝的铁路投资项目。

热点资讯 09.19
重庆紧急发布高温红色预警,最高温预计将达40摄氏度以上!

重庆紧急发布高温红色预警,最高温预计将达40摄氏度以上!

重庆市气象局发布高温红色预警信号,预计未来15小时内,重庆市13个区县海拔400米以下地区将出现高温天气,并伴有强烈日照和酷热感,需注意防暑降温。 详细信息:重庆气象局发布高温红色预警信号,预计未来15小时内,重庆市13个区县海拔400米以下地区将出现高温天气,并伴有强烈日照和酷热感,需注意防暑降温。

热点资讯 09.19
蔚来将收购比利时奥迪工厂:激进还是稳健之举?

蔚来将收购比利时奥迪工厂:激进还是稳健之举?

蔚来打算收购奥迪在比利时沃斯特的工厂,以降低关税并提升产品在欧洲的销售能力。尽管面临国内市场竞争和欧洲不确定性的风险,但收购被认为是一个合理的决策。目前,该工厂已在挪威、德国、荷兰、瑞典和丹麦等地启动运营,并已成功交付首批用户。

热点资讯 09.19
港媒揭示:美国持续投入巨额补贴仍未能撼动中国稀土的地位

港媒揭示:美国持续投入巨额补贴仍未能撼动中国稀土的地位

场上的领导地位不可动摇。在稀土资源开发方面,中国将继续占据主导地位,这得益于其丰富的资源储备和多年的技术积累。然而,西方国家为了摆脱对中国的依赖,正在采取一系列措施,包括投资建设稀土工厂以增强供应链自主性,但成效有限。面对稀土价格波动这一难题,中国政府增加了稀土开采配额并遏制了市场供应过剩,这让其他国家的稀土项目发展受到了影响。同时,一些企业也面临着资金困境和市场竞争压力。综合来看,中国将继续掌控全球稀土市场,并有望在未来发挥更大的影响力。

热点资讯 09.19
Marvell联合创始人周秀文逝世,科技界损失一位重要人物

Marvell联合创始人周秀文逝世,科技界损失一位重要人物

周秀文于9月18日在印度尼西亚雅加达出生并学习汽车配件店零件组装知识,然后在美国攻读了电机工程学士和博士学位,并在加州大学伯克利分校获得硕士和博士学位。其团队创建了Marvell Technology公司,希望制造出能产生“奇妙”效果的设备。周秀文去世的消息引发广泛关注,尽管传统观点认为这种方法不切实际,但Marvell很快成为了许多全球领先的科技公司的重要合作伙伴。

热点资讯 09.19
国产光刻机进展为何落后于国际大厂?关键并非此点

国产光刻机进展为何落后于国际大厂?关键并非此点

中国的工业部发布了最新的光刻机技术——第六代光刻机,相较于第二代和第三代设备,具有较强的迭代升级空间。此款设备被广泛认为是阿斯麦15-20年前的产品,主要用于55-65纳米的工艺。尽管相比七纳米工艺存在一定差距,但随着技术的不断升级,其发展空间依然很大。未来几年,先进的国产光刻机将有机会大规模应用,而十年内,有望实现大规模生产。关于这个问题,有些人将其归咎为引进阿斯麦的技术,但实际上,这两款设备都是公认的第四代光刻机,与第三代和第二代并无区别。我国通过不断迭代升级,已经达到了可以生产7纳米工艺的水平,这使得我们无需过分纠结于光刻机的细节参数。重要的是,光刻机的研发和生产已经得到了广泛认可,且完全满足了市场需求。所以,我们应该理性看待此类问题,积极寻找更有利于国内光刻产业发展的解决方案。

热点资讯 09.19
电子通讯市场的一次重大震动:中国消费者对美国产品态度的转变

电子通讯市场的一次重大震动:中国消费者对美国产品态度的转变

黎巴嫩多地发生涉及通讯设备爆炸事件,致死30多人,伤者3000多;中国有警惕,电子武器化提防。[[2]()]。

热点资讯 09.19
详尽解读五老星的五大能力:死神仅为一例!

详尽解读五老星的五大能力:死神仅为一例!

五老星五名老人听命于神秘人物伊姆,同时具备不死之身、魔法阵和心灵感应等能力,可能是由伊姆赐予的共同能力。这些能力分别可以让五位老人在各种情况下迅速恢复生命力、建立或破坏防御性魔法阵以及进行心灵沟通。

热点资讯 09.19
娃哈哈、农夫山泉供应商遭遇“烂苹果”危机

娃哈哈、农夫山泉供应商遭遇“烂苹果”危机

事件是安德利果汁公司供应商遭遇“烂苹果”危机,引起公众关注。该公司主要客户为统一、娃哈哈、农夫山泉等企业,而汇源却否认与该事件有关。公司位于礼泉县工业园区,入驻了17家企业。经市场监管局抽检发现,公司的同类型果汁产品质量存在问题。目前,公司正在进行整顿,暂停部分产品出库。

热点资讯 09.19