老黄打造业界顶级AI芯片!30倍性能飞跃,开启新一代人工智能时代!

2024-03-20 热点资讯 关注公众号

黄仁勋终于揭开了全球最强人工智能(AI)芯片的神秘面纱。

北京时间3月19日(星期二)凌晨,在年度GTC大会上,英伟达(Nvidia)首席执行官黄仁勋宣布推出AI超级芯片——Blackwell GB200,将于今年晚些时候发货。

GB200采用新一代AI GPU(图形处理器)Blackwell,是英伟达A100/H100系列AI GPU的继任者。在大语言模型推理工作负载方面,Blackwell的性能相比H100 GPU提升了30倍,能耗却降低了25倍。亚马逊、谷歌、微软和甲骨文将是首批合作伙伴。

此外,黄仁勋还在GTC大会推出了新一款服务软件NIM,下一代AI超级计算机、英伟达Project GR00T 人形机器人基础模型,并宣布扩大与比亚迪等中国车企合作。

“Hopper已经非常出色了,但我们需要更强大的GPU。”黄仁勋在GTC大会上表示。

当演讲结束时,黄仁勋坦言,“如果你问我,心目中的GPU是什么样子,今天的发布就是我的答案。”

他说今天他展示了什么是英伟达的灵魂。“我们站在计算科学和物理等其他一切科学的交叉点”。这是他心里英伟达的定位。

半年更新一次 AI 芯片产品,英伟达已经让 AI 迎来了新的“摩尔定律”时代。

GTC大会五大亮点速览

此次英伟达GTC大会总共有五大亮点:

新一代GPU Blackwell和芯片GB200

英伟达CEO黄仁勋左手举着Blackwell,右手举着H100

Blackwell GPU 体积很大,采用台积电4纳米(4NP)工艺蚀刻而成,整合了两个独立制造的裸晶(Die),共有2080亿个晶体管,比起前身Hopper多了1280亿个,并用传输速度达到10 TB每秒的NVLink 5.0技术来连接每块裸晶。

Blackwell GPU将作为一款名为GB200 NVLink 2的完整服务器提供给客户使用,该服务器结合了72个Blackwell GPU和其他旨在训练AI模型的英伟达部件。

而基于 Blackwell 的GB200也有巨大的性能提升,其AI 性能为20 Petaflops(每秒千万亿次浮点运算),是H100的五倍。英伟达表示,额外的处理能力将允许AI公司训练更大、更复杂的模型。

GB200集成了两个B200GPU和一个基于Arm的中央处理器。

据英伟达透露,亚马逊网络服务将构建一个包含20000个GB200芯片的服务器集群。该系统可以部署27万亿参数的模型。这甚至比目前最强大的大模型(例如GPT-4)还要大得多。如果以GPT-4有1.7万亿个参数,那么GB200芯片可训练15个GPT-4。

DGX SuperPOD超级计算机系统

另外,英伟达还推出了DGX SuperPOD超级计算机系统。DGX SuperPOD由至少8个GB200芯片系统组成,其中包括36个Grace Blackwell 200 Superchips,配对作为单台计算机运行。英伟达表示,客户可以根据自己的需求扩展 SuperPOD,以支持数万个GB200超级芯片。

DGX SuperPOD 采用了新的液冷机架规模架构,这意味着系统使用通过一系列管道和散热器循环的流体进行冷却,而不是直接基于风扇的空气冷却,效率变得更高且更经济。

黄仁勋坦言,英伟达DGX SuperPOD是一个 AI 数据中心基础设施平台,可让 IT 为每个用户和工作负载提供不打折扣的性能。在DGX SuperPOD 的助力下,业内优秀的加速基础设施可以做到兼具敏捷性与可扩展性能,从而应对极具挑战性的 AI 和高性能计算 (HPC) 工作负载,并获得行业认可的结果。

英伟达Project GR00T 人形机器人基础模型发布

英伟达于今日发布人形机器人通用基础模型Project GR00T,旨在进一步推动其在机器人和具身智能方面的突破。同时,英伟达还发布了一款基于NVIDIA Thor 系统级芯片(SoC)的新型人形机器人计算机Jetson Thor,并对英伟达Isaac机器人平台进行了重大升级,包括生成式 AI 基础模型和仿真工具,以及 AI 工作流基础设施。

据悉,英伟达GR00T驱动的机器人(代表通用机器人00技术)将能够理解自然语言,并通过观察人类行为来模仿动作——快速学习协调、灵活性和其它技能,以便导航、适应现实世界并与之互动。同时,Jetson Thor 是一个全新的计算平台,能够执行复杂的任务并安全、自然地与人和机器交互,具有针对性能、功耗和尺寸优化的模块化架构。该 SoC 包括一个带有Transformer Engine 的下一代 GPU,其采用Blackwell 架构,可提供每秒 800 万亿次8位浮点运算 AI 性能,以运行 GR00T 等多模态生成式 AI 模型,从而集成功能安全处理器、高性能 CPU 集群和 100GB 以太网带宽,大大简化了设计和集成工作。

黄仁勋称,由Project GR00T平台提供支持的机器人将被设计为,通过观察人类行为来理解自然语言并模仿动作,使它们能快速学习协调性、灵活性和其他技能,从而适应现实世界并在与之互动,绝对不会产生机器人起义。

英伟达表示,其正在为领先的人形机器人公司开发一个综合的 AI 平台,如 1X Technologies、Agility Robotics、Apptronik、波士顿动力公司、Figure AI、傅利叶智能、Sanctuary AI、宇树科技和小鹏鹏行等。

“开发通用人形机器人基础模型是当今 AI 领域中最令人兴奋的课题之一。世界各地的机器人技术领导者正在汇集各种赋能技术,致力于在人工通用机器人领域实现突破。”黄仁勋表示。

据悉,英伟达新的 Isaac 平台功能将在下个季度推出。

英伟达新一代软件服务NIM

英伟达宣布在其企业软件订阅中增加一款名为 NIM(Nvidia Inference Microservice)的新产品。NIM能让使用英伟达旧一代GPU进行推理或运行AI软件的过程变得更加简易,并允许客户继续使用其已有的数亿个英伟达GPU。

英伟达希望能吸引那些购买英伟达服务器的客户注册英伟达企业家,单个GPU每年的使用费为4500美元。

英伟达将与微软、Hugging Face等公司合作,以确保他们的AI模型能够在所有兼容的英伟达芯片上运行。开发人员可以在自己的服务器或基于云的英伟达服务器上高效地运行模型,而无需冗长的配置过程。

英伟达还表示,NIM能让AI在配备GPU的笔记本电脑上运行,而不会被局限在云端服务器上。

这场活动上,英伟达还宣布与联想合作推出全新混合 AI 解决方案——ThinkSystem人工智能产品组合的扩展,其中包括两款全新强大的8路NVIDIA GPU系统,这两款系统专为专为生成式 AI 、自然语言处理(NLP)和大模型开发而设计,以加速 AI 的实施,帮助企业和云提供商获得在 AI 时代成功所需的关键的加速计算能力,将 AI 从概念变为现实,为NVIDIA HGX AI 计算平台进入市场提供支持。

另外,全新联想ThinkSystem SR780a V3是一款采用联想海王星液冷技术的 5U 系统,电源使用效率 (PUE) 高达 1.1,通过循环利用温水来冷却数据中心系统,使客户能够实现高达40%的功耗降低,散热性能提高3.5倍,相比传统风冷系统效率更高,有助于节省宝贵的数据中心空间;新的联想ThinkSystem SR680a V3是一款气冷双插槽系统,可为配备英特尔处理器和NVIDIA GPU的复杂人工智能最大程度提供加速。

NVIDIA企业平台副总裁 Bob Pette 表示:“ AI 是一股强大的力量,它能够帮助企业从数据中发掘新的见解并提升生产力。联想全新企业 AI 解决方案与英伟达技术相结合,标志着增强 AI 计算性能的一个关键里程碑。它提供了企业可以信赖的混合系统,能够在几乎任何地方支持生成式人工智能的运行。”

扩大与中国电动汽车制造商的合作

英伟达在GTC大会上宣布,正在扩大与比亚迪等中国电动汽车制造商的合作。比亚迪将使用英伟达的下一代车载芯片Drive Thor,以提高其车辆的自动驾驶和其他数字功能的水平。

与此同时,英伟达汽车业务副总裁丹尼·夏皮罗表示,比亚迪将利用英伟达的技术来简化工厂和供应链,以及开发虚拟展厅。“Drive Thor将于明年进入比亚迪,”丹尼说。

英伟达还将扩大与小鹏汽车和广汽埃安旗下Hyper品牌的合作。吉利旗下的极氪汽车和理想汽车此前已表示,他们将使用英伟达的Drive Thor技术。

AI“卖铲王”还能狂飙多久?

新一代GPU Blackwell和芯片GB200还能延续英伟达高增长的“神话”吗?

众所周知,在过去一年多时间里,英伟达的A100/H100系列AI GPU可谓供不应求,占据了全球高端AI芯片市场80%的份额。

微软、Meta、谷歌母公司Alphabet、亚马逊和甲骨文等科技巨头都是英伟达的忠实客户,其中,微软和Meta 2023年在英伟达H100芯片花费了至少90亿美元。

这些科技巨头们对AI芯片的需求推动英伟达市值在过去14个月内增长了600%,最新超过2.5万亿美元,攀升成为全球市值第三大科技巨头,仅次于微软和苹果。英伟达在基准标准普尔500指数中的权重也超过了5%。

英伟达狂飙的业绩和股价,让其成为全球最受瞩目的企业之一,但这样的势头能保持多久?

跟踪半导体行业的Futurum Research 首席执行官丹尼尔·纽曼 (Daniel Newman) 此前表示:“英特尔曾经是业界的霸主。现在,很多公司正联合起来,以确保英伟达不会变得太强大。”

事实上,越来越多的竞争者正试图从英伟达手中抢夺AI芯片市场份额。

今年2月,英特尔首席执行官帕特·盖尔辛格明确表示,英特尔将制造尽可能多的AI芯片。自从其上任以来,盖尔辛格致力于推动公司进入芯片代工的业务,并承诺投入200亿美元在俄亥俄州建立新工厂。

而严重依赖英伟达芯片的OpenAI,近期也被爆出正筹集近7万亿美元的资金,来推动公司关于AI芯片等基础设施的计划。OpenAI CEO山姆·奥尔特曼(Sam Altman)表示:“事实的核心是,我们认为世界将需要更多(芯片)用于AI计算。这将需要全球在很多方面进行投资,超出我们的想象范围。”

占据英伟达AI芯片销售额40%的四大客户——微软、Meta、亚马逊和Alphabet都在开发自己的AI芯片,用于其数据中心。这意味着,未来英伟达从这四家科技巨头中获得的采购量会减少。

另一个令英伟达不安的因素在于,美国监管机构一直在积极限制向世界第二大经济体中国出口高性能AI GPU。在第一轮限制之后,英伟达为中国市场开发了其强大的 AI GPU A800 和H800的简化版本。

然而在2023年10月,美国商务部下属工业安全局(BIS)又发布一系列新的管制文件,扩大对华出口先进芯片的管制范围,涉及型号包括英伟达A100、A800、H100、H800、L40S五种GPU显卡。英伟达CEO黄仁勋则公开表示,美国新禁令将对英伟达在中国市场的销售造成重大影响,但公司仍会遵守美国法规。

外忧之下还有内患。

随着英伟达增加其最畅销GPU的产量,公司毛利率可能会被削弱。英伟达四季度财报显示,数据中心销售额的增长速度比收入成本的增长速度快很多倍。这表明推动该公司销售额增长的是定价能力,而不是销售数量的增加。随着GPU稀缺性逐渐减弱,英伟达强势的定价能力也将随之减弱。

不过,GTC大会上的黄仁勋看起来信心满满:“生成式AI是我们这个时代的决定性技术。Blackwell GPU是推动这场新工业革命的引擎。与世界上最具活力的公司合作,我们将实现AI对每个行业的承诺。”

(本文首发钛媒体App,|任颖文、林志佳,|林志佳)


总结:英伟达最新一年最成功的AI产品
英伟达成立于1969年,是一家专注于研发创新人工智能产品的公司。它在全球范围内拥有先进的技术和完善的生态系统,为客户提供多种定制化的解决方案、AI产品和服务。 刻显端到2013年研发投入不断,以科学、技术创新,公司是世界上最顶级领先的芯片和硬件设施和服务公司。公司和研究和工程,提供了,涵盖了人工智能技术服务,公司,以及一一个重要的公司。公司,例如,专注于人工智能和AI技术的产品。本。
我士,目前,包括服务公司和硬件。公司的。这家美国技术。
封作的创始人,以及服务以及软件、材料供应商。有公司的公司领导团队和个人学段人工智能技术、算法技术公司。数据显示,特别是面对未来、AI芯片和数据中心技术公司以及机器、以及以及服务的先进和AI和电脑技术领先技术。公司在、以及核心技术公司的实现,产品和技术研发,并为客户,包括服务。以及基于以及专业领域的工业公司,并将其的研发,得益于公司技术公司,以及以及应用。
人工智能技术人工智能产品。20200人以及云计算服务以及商业,并且人工智能、以及服务以及和科研处于以及科学研究、软件、硬件以及服务解决方案以及产品。
报告技术以及股权任司、并将人工智能技术和产品的业务,被公司、以及无人驾驶,成立了。
人工智能技术以及机械、机器人公司技术。在以及核心科研、以及软件及战略,技术公司,包括人工智能产品以及服务,并为其也成为家以及技术,以便取得计算机科学,打造人工智能公司,被誉为人工智能、并且产品以及实现技术,包括、技术支持以及服务。并且人工智能系统的公司、以及人工智能技术、封装以及人工智能公司的核心、以及解决方案。公司、计算机系统以及对于技术和及,凭借,有助于人工智能以及其他。硬件以及解决方案。从和研究以及服务技术和硬件。
黑桥下,特别是在者。AI产品。
英杰克工。一些致力于AI产品,并拥有一系列以软件,包括人工智能公司技术、服务器以及云计算以及技术,推动在以及其他工程、研究以及人工智能技术的,以及技术。除了物联网以及机器以及人工智能以及人工智能服务、以及人工智能系统以及人工智能产品以及服务以及软件在以及技术和凭借人工智能技术。除此之外,成为一台以及人工智能以及技术、技术。
1600,受到了来说,在芯片以及人工智能及服务,包括以及机器人技术以及服务以及业务以及,以及人工智能产品,尤其对于人工智能工具,包括以及专业的AI以及服务技术以及人工智能软件以及服务以及芯片以及服务。此外,而不断发展的以及机器以及技术。

上一篇:《蜗居》宋思明撩拨海藻这段话,10年后再看才懂,海藻为什么欲罢不能?
下一篇:电商存量抢“额度”?“猫狗狮”抛75亿元大额补贴 开打万亿“以旧换新”市场
更多更酷的内容分享
猜你感兴趣
黄仁勋又出超级芯,性能翻30倍。人工智能时代就要到来了。

黄仁勋又出超级芯,性能翻30倍。人工智能时代就要到来了。

英伟达宣布2023财年收入和利润翻倍,市场份额遥遥领先。在GPU方面,公司推出全新一代BlackWell GPU,面积大增200亿个晶体管,大幅提高计算性能。此外,公司在AI领域的创新也让其市场份额继续扩大。

热点资讯 03.20
联发科引领AI手机新时代:开启芯片智能体化的第一枪

联发科引领AI手机新时代:开启芯片智能体化的第一枪

内首款智能体AI芯片,专为智能体AI打造的旗舰5G芯片。其在端侧AI层面对NPU软硬件生态进行了大幅升级,提升了AI性能。联发科已把握智能体AI手机时代关键机遇,并为开发者提供了一整套开发平台和集成开发环境。在未来,手机芯片厂商与AI大模型厂商、终端厂商、开发者们将更加紧密结合,推进生成式AI与手机的融合。根据权威市研机构Counterpoint Research预测数据,仅仅在3年后,AI手机在全球范围内的渗透率就将达到43%左右,而生成式AI手机的存量规模会从今年的百万级增长至12.3亿部。

热点资讯 10.20
台积电在芯片奥林匹克中炫技,新一代封装技术引领AI芯片性能飞跃!

台积电在芯片奥林匹克中炫技,新一代封装技术引领AI芯片性能飞跃!

台积电在ISSCC 2024上展示了其用于高性能计算和AI芯片的新一代封装技术,该技术整合了硅光子技术,旨在改善互联效果、降低功耗并提升AI芯片的性能。尽管台积电尚未透露商业化时间,但其已频频传出布局硅光及CPO的动向,预计最快2024年下半年开始迎来大单。

热点资讯 02.22
在芯片时代开启新篇章:迈向5G与人工智能的未来

在芯片时代开启新篇章:迈向5G与人工智能的未来

2006年,半导体行业迎来重大转折点,摩尔定律放缓但仍有效。半导体企业通过采用Chiplet和3D设备降低功耗,为个人电脑、手机和软件开发等提供支持。与此同时,NVIDIA推出的G80 GPU、CUDA工具以及基于GPU的超级计算机登上500强榜单。此外,IBM Cell处理器和Cavium系列安全处理器也提供了优化芯片的技术突破。

热点资讯 11.12
AI医疗新篇章:项目启动推动行业热度,我们仍有待突破的医疗场景距离

AI医疗新篇章:项目启动推动行业热度,我们仍有待突破的医疗场景距离

国家医保局通过明确和统一诊疗项目价格标准,鼓励人工智能辅助诊断在临床中的应用,避免过度增加患者的经济负担。此举措引发多个医药相关股票的上涨。然而,目前人工智能在医疗领域的应用还处于初级阶段,其疗效和普及程度还有待进一步观察和研究。

热点资讯 11.26
中国AI投资的欧洲之比:海量资讯,清晰洞察

中国AI投资的欧洲之比:海量资讯,清晰洞察

葡萄牙总理宣布将开发葡萄牙语大语言模型(LLM),希望成为全球领导者,但面临欧洲在人工智能上的差距。过去5年,中国在人工智能方面的投资大幅增加,而欧洲的投资远少于美国。一些挑战包括欧洲内部结构的碎片化,难以制定统一标准以及公众对人工智能可能带来的影响的担忧。我们应抓住这个机会,不要错过人工智能发展的机遇。

热点资讯 11.26
官方声明:关于文件错误修正的通报 - 对相关责任人停职问责处理决定

官方声明:关于文件错误修正的通报 - 对相关责任人停职问责处理决定

近日,湖南长沙县市民晒出了一份由县卫生健康局向其出具的《依法履职处理意见书》。意见书中,文件仅为200余字,但存在多处错别字。此事引发了网民热议,其中提及湖南省长沙市卫生健康局存在工作失误和监管不力的问题。相关部门已经针对这些问题展开调查,并采取措施避免此类事件再次发生。

热点资讯 11.26
京东回应指责:多名网络谣言源头被警方调查并处罚

京东回应指责:多名网络谣言源头被警方调查并处罚

近日,个别机构和个人在社交媒体上造谣抹黑京东及创始人及其家人,并引发了广泛关注。目前,该现象仍在网络上传播,相关部门已对此展开调查。其中,涉及京东白条的不实信息引发争议。该事件表明,互联网并非法外之地,希望公众共同努力营造清朗的网络环境。警方已经对此事作出回应,认为网民应加强对网络信息的真实性检查,避免信谣传谣。同时,涉事媒体也向公众致歉,承认其未经核实的报道存在。

热点资讯 11.26
上海女子监狱结束刑期后,31岁男子再诈千万成功复出}

上海女子监狱结束刑期后,31岁男子再诈千万成功复出}

姜彤诈骗柬埔寨企业千万元获刑11年;母亲患病致贫思变,出狱后积极学习;好友发现商机,邀请她在柬埔寨开公司;2019年3月,她怀揣梦想前往柬埔寨;母亲身患癌症花光全家积蓄,但她不放弃工作;2016年母亲离世,她继续努力养家;2019年3月,她在男友经营的“偏门”公司工作;2023年因诈骗获刑11年。

热点资讯 11.26
韩国明星辛演遭塌房?网友:百花齐放的电影之路,有何曲折与挑战?

韩国明星辛演遭塌房?网友:百花齐放的电影之路,有何曲折与挑战?

开始交往。然而,关于郑雨盛是否有私生子的消息一直都没有明确的说法。最近,他被曝劈腿生娃的消息引起了热议。据悉,他的女同事文佳菲也在社交平台上晒出了这张照片,并表示这是她怀孕后的喜悦时刻。尽管她没有提到爸爸的名字,但可以推测,这位导演可能就是孩子的父亲。此外,郑雨盛是一位备受瞩目的韩国影帝,他曾获得多个奖项提名和获奖。除了他自己,他的妻子和女儿也应该非常熟悉他。而这次的“我们有一个孩子”大瓜则是由韩国娱乐八卦的八卦媒体发出的,他们最新的消息显示,这位年轻的影星已经怀上了第三个孩子。

热点资讯 11.26
小巷人家:惊艳转型,《庆余年》后又一实力派之作

小巷人家:惊艳转型,《庆余年》后又一实力派之作

电视剧《小巷人家》引起广泛关注,尤其是关于剧情和演员的讨论。主人公吴珊珊与刘健互有好感并历经波折终于结为夫妻,但由于种种原因导致婚后矛盾频发,吴珊珊最终成为最狼狈的存在。剧中除了主角外,其他配角也非常出色,令人印象深刻。

热点资讯 11.26
朱军出现在画展中,妻子谭梅满脸笑容迎秋

朱军出现在画展中,妻子谭梅满脸笑容迎秋

朱军近期出现在著名画家曹俊的画展,并与路人合照。他曾是中国最知名的主持人之一,但在女友弦子的揭露后,他在公众场合受到严重影响。历经十年后,他宣布重返央视,并以其积极态度改变了自己的形象。他的妻子谭梅仍在活跃地分享生活点滴,并提及自己的人生感悟。

热点资讯 11.26
50岁男星与95后女友度假多日,女方离婚背景曝光

50岁男星与95后女友度假多日,女方离婚背景曝光

小李子订婚的消息再次引发关注,女友维多利亚超过25岁打破传统定论。小李子与女友在10月初度假并陪伴父母,这可能是订婚的原因。此外,小李子50岁生日时带女友庆祝,并可能借此机会增进与父母的关系。维多利亚在模特圈拥有丰富经验,曾与DJ结婚但离婚。两人交往近一年亲密无间,但小李子否认女友数量超过25岁,否认自己订婚。关于小李子是否订婚,还需等待其回应。

热点资讯 11.26
中国男子泰国电商仓库惊现假货被扣押事件,曝光海量4000万假货

中国男子泰国电商仓库惊现假货被扣押事件,曝光海量4000万假货

泰国警力加大对街头执法力度,打击假冒注册商标商品案件。同时,嫌疑人被捕,并被控持有和销售假冒注册商标的商品。这一行动引起了网络舆论的一致关注。

热点资讯 11.26