黄总眼中,GPU与他人的差异很大。

2024-03-21 热点资讯 关注公众号

气氛突然严肃了起来。

「有媒体认为你要么是 AI 时代的达芬奇,要么是 AI 时代的奥本海默,你怎么看?」

「奥本海默是造炸弹的,我们(英伟达)不干这个。」面对这个多少有点戏谑的问题,英伟达创始人、CEO 黄仁勋迟疑片刻,非常认真地回答了出来。

当地时间 3 月 19 日,以堪比流行巨星的热度完成了 GTC 2024 的开场演讲后第二天,黄仁勋接受了全球媒体采访。

黄仁勋给在场媒体重新解释了一遍「演唱会」上的要点|图片来源:极客公园

无论是宏大问题例如「AGI 何时到来」、「英伟达如何看待中国市场」,或者是具体到新推出的 NIM 软件如何应用,这位全球市值第三公司的掌舵人,都能将问题分解并抽象成更容易理解的层次,用简单的比喻回答出来,虽然其中可能不乏「太极」的嫌疑,但至少令人难以怀疑回答者的诚恳。

两万亿的市值新高度下,老黄认为,GPU 芯片市场,不是英伟达的追求——「英伟达不造芯片,英伟达造数据中心」,为此,英伟达搭建了所有:硬件、软件、服务,让客户决定怎么购买自己的数据中心。

GTC 2024 Keynote 演讲中,老黄展示的 5 个要点:新工业革命(加速计算和生成式 AI)下,英伟达的新基建包括:Blackwell 平台;NIMS;NEMO 和 NVIDIA AI Foundry;Omniverse 和 ISAAC 机器人。|图片来源:Nvidia

01 GTC 新品的中国市场计划

问:新的网络和技术计划向中国销售多少?有任何中国特定SKU的信息可以披露吗?是否为该市场做出了任何考虑或改变?

黄仁勋:我还没有向你宣布这一点,你很贪婪(哈哈),这就是全部答案。现在对于中国,我们有 L20 和 H20 芯片符合出口要求,我们正在尽最大努力为中国市场组织调配资源。

02 AI Foundry 的目标

问:你在主题演讲里提到AIFoudry 正在许多企业起作用,这个计划的总体战略和长期目标是什么?

黄仁勋:AIFoundry 的目标是构建软件。这不是指软件作为工具,任何人都有这样的软件。很久以前创建的两个最重要的软件,一个叫做 Office,它让软件变得 RTS(Real-Time Software,实时软件)。

另一个非常重要的软件叫做cuDNN(CUDA 深度神经网络库)。我们有 AI 所有这些不同的。未来的库是一个微服务,因为未来的库不仅仅用数学来描述,还用 AI 来描述。未来,它们都将变成 NIMs(微服务)。

这些 NIMs 是超级复杂的软件,你所要做的就是来到我们的网站。你可以选择用户在那里,或者下载它、在另一个云端运行它,或者下载在你的本地计算机上运行。当运行你的工作站、你的数据中心时,这项服务将使它们非常高效,所以这是一种在环境中使用的新方式。现在,当你作为一个企业运行这些库时,我们有一个软件许可(Liscence)的授权操作系统可用,你可以以 4500 美元/GPU/年的价格使用这些服务。

03 Blackwell 定价

问:你之前说最新一代AI芯片 Blackwell 的定价在 3 万至 4 万美元,有更精确的信息吗?

黄仁勋:这很难说,我也只是试图让大家对我们产品的定价有一定体感,并不打算给出具体报价。

Blackwell 系统的定价非常不同,因为每个人要的配置不同。如果不仅使用 Blackwell,Blackwell 系统通常包括 NV-Link 在里面,所以不同系统的定价不同。像往常一样,定价范围通常视 TCO(总体拥有成本)而定。

英伟达不造芯片,英伟达造数据中心,为此我们搭建了所有任务,引入所有软件,调整它使数据中心系统尽可能地运转良好。然后,疯狂的部分来了,我们将数据中心聚合成更小的部分,允许客户根据自己的特定需求对其进行修改,这包括网络、存储、控制平面、安全和管理模块,想办法把数据中心整合到客户的系统中,最终,客户决定如何购买它,所以跟过去销售芯片不同,Blackwell 的定价不是芯片的事,我们的商业模式也反映了这一点。

英伟达的机会不是 GPU 芯片,是数据中心,数据中心正在快速走向加速,这是每年 2500 亿美元的市场,并以每年 20% 至 25% 的速度增长,这主要是由于 AI 方面的需求。其中,英伟达会占据重要的份额,从 1 万亿美元升至 2 万亿美元,我认为是合理的。

黄仁勋:你说的 GPU,和我说的 GPU,脑海中想象的差距非常大|图片来源:极客公园

04 Sam Altman 要扩张到芯片行业

问:Sam Altman 一直在与芯片业的人们谈论扩大AI芯片的规模。他和你谈过这个问题吗?

黄仁勋:我不知道他的意图。他认为生成式AI会变得很大,在这一点我很认同。

今天计算机产生像素的方式是从数据集中检索数据,处理数据,然后传递数据。在整个过程中,人们认为需要消耗的能源非常少,但这恰恰相反。原因是每次你触摸手机、每个提示,需要与数据集赛跑并返回。从数据集中检索数据,使用 CPU 收集所有必要的部分,然后以一种从推荐系统的角度看有意义的方式组合信息,然后将结果信息发送回用户,这个过程需要大量的计算。

这就像每次问我一个问题,我都需要跑回办公室检索信息,这需要大量的精力。未来,越来越多的计算将是生成的,而不是基于检索的。当然,这个生成过程必须是智能的、与上下文相关的。我相信,未来人们电脑上的几乎每一个像素、每一次交互都将通过生成过程产生,我相信 Sam 也这么认为。希望通过 Blackwell 新一代架构能为生成式 AI 这个领域做出重大贡献。现在大多数体验还是基于检索的,但是如果未来每个人的人机交互都是生成式的体验,我会很惊讶。这是一个巨大的机遇。

05 个人大模型会是什么样子?

问:我完全同意你对未来软件的定义,我们的生活也在通过LLM发生很大变化。在基础模型方面,你认为未来会是什么样的?

黄仁勋:核心是,我们如何拥有个人的大模型?有一些方式可以做到。开始,我们认为这个过程可能需要微调(fine tuning),在持续的使用过程中,持续微调。

但是,正如你所知,微调是相当耗时的。然后我们发现了提示词工程(prompt engineering),发现了上下文学习(context learning),发现了工作环境(working environment)等等。

我认为答案将是所有这些的组合。在未来,你可以通过只微调一层叫 Lora 的权重(weights),锁定其他部分不必微调,从而低成本地做微调,你可以做提示词共创、上下文学习、增加模型记忆,所有这些成就了你独特的大模型,可以在云端运行,也可以在你的本地电脑上运行。

06 对 AI 芯片初创公司的看法

问:昨天在你的主题演讲后,芯片公司 Groq 发推文说自家芯片跑得仍然更快,你怎么看AI芯片初创公司的评论?

黄仁勋:我还没了解那么多(哈哈),不评论了。

任何以 token 方式做生成的模型都需要其独特的方式,因为 Transformer 不是任何一个模型的名称。

这些模型总体基于 Transformer 技术,都利用了 Transformer 注意力机制,但模型与模型之间存在巨大差别。有的模型用了混合专家模型(Mixture of Experts),混合模型里有的是两个专家模型,有的是四个专家模型,这些模型等待消息,以及路由分发,里面的一切步骤都不同,模型中的每一个都需要特殊优化。

此时,如果计算单元被设计成只能以特定的方式、做特定的事情,它就是一个可配置的电脑,而不是可编程配置的计算机,就无法受益于软件创新的速度和潜力。

就像 CPU 的奇迹不可低估一样,这么多年,CPU 一直是 CPU 的原因,是它克服了这些年来设置在 PC 主板上的可配置硬件,软件工程师的才能可以通过 CPU 来实现。相反,如果你把它固定在芯片上,你就断了软件工程师能带给芯片的聪颖智慧。

这就是英伟达芯片能够在不同的 AI 模型架构(从 AlexNet 一直到 Transformer)下,都能表现出色的原因,英伟达找到了一种方法,从一种非常专业的计算形式中受益。芯片在这里被用来促进软件,而英伟达的工作是促进发明,促进像ChatGPT的发明。

07 机器人空间模拟如何利用语言模型?

问:你讲述了使用生成式AI和模拟/仿真(simulation)来大规模训练机器人,但是有很多事情我们不知道如何很好地模拟,特别是当涉及到结构性的环境,如何突破限制继续训练机器人?

黄仁勋:有多种方法可以做到这一点。首先,你可以在我们的语言模型上下文中构建你的问题或观点。

大型语言模型以不受约束和非结构化的方式运行,这同时也是它的潜力之一。它从文本中学到了很多东西,但可能不适合泛化。它们如何在空间泛化是一种「魔力」,机器人的ChatGPT时刻可能就在眼前。

为了克服这个问题,你可以指定上下文和问题,例如告诉它处在特定条件的厨房中。通过应用 ChatGPT 的魔力,机器人可以有效地泛化并生成对软件有意义的 token。一旦你的计算机感官识别了这些 token,机器人可以根据这些例子进行归纳。

08 预判下一个 ChatGPT 时刻

问:你提到一些行业先迎来 ChatGPT 时刻。哪些行业会率先变化?可以分享你看到的突破,尤其让你激动人心的案例吗?

黄仁勋:有很多例子。我对Sora非常兴奋,去年在 wayve 上看到了同样的能力,这是关于文生视频的例子。

为了生成一个这样的视频,模型必须对物理规律有感知,比如把放在桌子上,而不是中间;走路的人是在地面上。不能违背物理规律。

另一个例子是我们用 Earth-2 来预测极端天气影响。这是一个关键的研究领域,因为极端天气事件会对当地社区造成毁灭性的影响。利用 Earth-2,可以在 3 公里尺度上预测极端天气事件的影响。这是对现有方法的重大改进,现有方法需要的超级计算机要大 2.5 万倍。

生成新药物和蛋白质是另一个非常令人印象深刻的潜在用例。这是通过像 Alphago 这样的强化学习循环来实现的,它允许在不消耗纯物质的情况下探索大分子空间,这有可能彻底改变药物发现。

这些是非常有影响力的东西,机器人技术也是如此。

在 3 月 18 日的 GTC 开场演讲中,老黄注视着最新的 Blackwell 架构产品|图片来源:极客公园

09 芯片出口管制如何影响英伟达

问:对芯片的出口管制,以及地缘政治,会对英伟达产生什么影响?

黄仁勋:有两件事我们必须马上去做。第一,了解所有政策,以确保其合规;第二,也要提高供应链韧性。

关于后者,我举个例子。当我们把Blackwell 芯片配置成 DGX处理器时,其中有 60 万个零件来自世界各地,很多来自中国。就像全球汽车供应链的复杂性一样,供应链的全球化很难被打破。

10 和台积电的关系

问:你能谈谈与台积电的关系吗?在过去的几年里,随着不断芯片封装的复杂性,台积电如何帮助英伟达实现目标的?

黄仁勋:与台积电的合作是我们最紧密的合作之一,因为我们要做的事情非常难,而他们能做得非常好。

我们从台积电得到了计算单元,CPU、GPU 裸芯片,良率很好。存储器是来自美光、海力士、三星,并且这些组装必须在台湾完成。所以,供应链并非易事,需要公司之间的协调。这些大公司与我们一起合作,也逐渐意识到,更加密切的合作是非常必要的。

我们从各家公司获取部件,然后组装,第三家公司测试,第四家公司组成系统,当然这个大系统最后是为了建成一个超级计算机,再进行测试。最终,我们建立了数据中心。想象下,所有的加工制造就是为了形成一个巨大的数据中心。整个供应链从上到下复杂度非常高,因为我们不仅仅是组装,除了芯片本身是个奇迹外,我们做成了巨大而庞杂的系统。

所以,当人们问我对GPU是什么感受时,可能一部分觉得它有点像Soc(集成芯片)而已,而我看到的是架子、线缆、交换机等等。这才是我心中 GPU 和软件的模型。台积电真的很重要。

11 云业务的战略

问:英伟达正在向云业务转型,其他云厂商则在做自己的芯片。他们会影响你的定价策略吗?英伟达云业务的策略是什么?会向中国客户销售 DGX 云业务吗?

黄仁勋:英伟达与云服务提供商合作,将其硬件和软件放入他们的云中,这样做的目标是将客户带到他们的云中。

英伟达是一家计算平台公司,我们开发软件,我们有一批追随英伟达的开发者,因而,我们为使用英伟达 DGX 的云服务供应商(CSP)创造需求、带去客户。

12「当代达芬奇」,还是「奥本海默」?

问:你曾说 AGI 将在 5 年内到来,这个时间预测有发生变化吗?AGI 的加速到来会让你感到害怕吗?有人说你是当代达芬奇(多才多艺、做出如此贡献),也有人说你是当代的奥本海默,你怎么看?

黄仁勋:奥本海默是造炸弹的,我们(英伟达)不干这个。

先具体定义 AGI,这样我们才能知道什么程度才算到达 AGI、什么时候到达。如果 AGI 意味着在大量的测试集上,数学测试、阅读测试、逻辑测试、医学考试、法律考试、GMAT、SAT 等等,软件程序可以做到比大多数人类都更好,甚至比所有人都好,那么计算机在 5 年内可以实现 AGI


结论,让我们学会如何去观察世界。

上一篇:不顾马斯克嘲讽,贝佐斯前妻加大捐赠力度,一口气捐出6.4亿美元
下一篇:100亿追赶AI,荣耀能否长出第二曲线?
更多更酷的内容分享
猜你感兴趣
识别“蜜薯”与其他红薯的区别:口味差很多,一定要选对!

识别“蜜薯”与其他红薯的区别:口味差很多,一定要选对!

"我从小到大都喜欢吃的五谷杂粮,记得奶奶还因此‘笑话’道,在她们那个年代,红薯都被视为一种珍贵的食品。'蜜薯'则是通过人工技术培育出的一种口感优良的红薯,是目前市场上最受欢迎的红薯品种之一。" 这段话可以简洁概括为:虽然同属红薯,但"蜜薯"因其人工培育、口感好等优势而受到青睐,且并非市场上唯一的优质红薯品种。

热点资讯 04.18
黄仁勋亮出极大GPU。

黄仁勋亮出极大GPU。

英伟达将在GTC大会上发布新的AI训练芯片产品,预计会在年底上市。此次发布的新一代芯片包括Blackwell GPU,将是英伟达在AI芯片领域的最高技术代表。这次发布会引起了行业的热烈讨论,并且黄仁勋还表示,这一新一代芯片将会重新定义AI计算的性能极限。

热点资讯 03.20
郑永年:不应聚焦中美AI发展差距,应重视差异化差异

郑永年:不应聚焦中美AI发展差距,应重视差异化差异

将对中国、美国、欧盟以及亚洲四国在AI发展路径上的差异进行了详细的比较,并建议中国企业积极应对中美之间的竞争,承担起社会责任和国家责任。他认为,中国的“新浮士德文明”正在珠三角和长三角地区崛起,应抓住时代机遇,实现中国式现代化和高质量发展。

热点资讯 04.13
爱喝牛奶与不喝牛奶的人有何差异?

爱喝牛奶与不喝牛奶的人有何差异?

牛奶作为身体重要营养来源,对人体健康至关重要。然而,有些人不怎么喜欢喝牛奶。这些爱好喝牛奶的人和不喜欢喝牛奶的人都存在很大的差异。一方面,喝牛奶能增强骨骼强度、改善肠道健康、降低尿酸含量、控制血压,并且有助于预防心血管疾病。另一方面,牛奶虽然含有丰富的钙和有益健康的成分,但也存在一些潜在的风险,如过量饮用可能导致钙中毒或尿酸过高等。因此,对于是否要选择喝牛奶,最好根据自己的体质和生活习惯来做出决定。

生活常识 10.14
格力股价狂跌,两位老员工透露内幕:我们不靠股票升值赚钱,靠的是核心技术

格力股价狂跌,两位老员工透露内幕:我们不靠股票升值赚钱,靠的是核心技术

格力电器近期减持海立股份600万;海立股份股价本月涨幅超270%;上海微电子筹划借壳上市未获证实;格力电器董事长表示公司将发展好海立股份。

热点资讯 11.10
今年的魔兽万圣节:究竟谁能成为真正的欧皇?狗与坐骑的魅力揭露

今年的魔兽万圣节:究竟谁能成为真正的欧皇?狗与坐骑的魅力揭露

万圣节结束后,未达目标副本获取率极低的阿尔福斯和无头骑士缰绳引发讨论,明年再战。建议已过目标副本任务的朋友关注公众号以便不落后于好友。 总结: 最近,《怪物猎人》和《荒野乱斗》等游戏中两款游戏过度依赖掉率的产物引发了玩家的关注与讨论。尤其是阿尔福斯掉落率极低以及无头骑士缰绳的高掉率更是让不少玩家心生不满。为此,建议已在目标副本中未能达成目标的玩家及时关注公众号以避免落后于朋友。

热点资讯 11.10
《生化4RE》艾达王变终极芙蕾娜MOD挑战:如何提升你的操作技巧?

《生化4RE》艾达王变终极芙蕾娜MOD挑战:如何提升你的操作技巧?

最近,《第一后裔》推出了终极弗蕾娜皮肤,引发一阵热潮。现在有人将其制作成《生化危机4:重制版》中的一个MOD,替换艾达王默认服装,并提供不替换脸部模型的版本。此外,数据颜色方案已更改为暗色调,背景颜色为黑色或深蓝色。这个MOD为玩家带来了新的视觉体验。

热点资讯 11.10
想象风暴降临!亚刻三套装甲震撼登场,虫族大战即将展开

想象风暴降临!亚刻三套装甲震撼登场,虫族大战即将展开

怪兽军团降临星元市,亚刻银河装甲想象力拉满,三套铠甲同时现身,激战铺天盖地的虫族大军。斩基尔传授亚刻斩杀亡灵的方法,在完成了使命后,同样身为亡灵的斩基尔在夕阳下消失。正如猜测的那样,斩基尔也是“冥府暗将军”赫尔纳拉制造的亡灵怪兽。只是斩基尔没有接受黑暗能量,因此力量不断衰弱。斩基尔将亡灵大军的来龙去脉,都告诉了怪防所,还传授亚刻斩杀亡灵之法,就是用心灵的力量。宇宙兽沙迪灭划开的次元缝隙,大量的怪兽胶囊出现,坠落亚刻的世界,孵化出“深海怪兽”盖多斯和“甲虫怪兽”塔加努拉。斩基尔毛遂自荐对付塔加努拉,亚刻对付盖多斯。然而,这俩怪兽只是头菜,更多的怪兽正在孵化。亚刻和盖多斯的战斗,以亚刻获得胜利。斩基尔因为力量衰弱,不敌塔加努拉,由穿上银河装甲的亚刻接手。然而,银河亚刻的面前是黑压压的塔加努拉大军。于是,银河亚刻使出了分身,灼日和皓月两套铠甲同时现身。三套铠甲VS塔加努拉大军。灼日亚刻将众多的塔加努拉掀上天空,然后被皓月亚刻分身击杀。地上的塔加努拉大军集体释放高热光束,皓月分身切换为灼日亚刻,以众多灼日亚刻防住了塔加努拉大军的炮击,最后银河装甲覆灭了地面塔加努拉大军。然而,远处的天空是漫天的塔加努拉大军。银河亚刻一点没慌,将三枚魔方以皓月为首,嵌入银河之刃,制造光之弓,释放密集的光之箭,简称“无限箭制”。漫天的虫族大军被一扫而空,然而,事件还没结束。下一集,亡灵军团仍在继续,石堂想出了终止之法。

热点资讯 11.10
全新凯迪拉克XT6曝光:黑武士设计酷炫,内饰粗糙有待提升

凯迪拉克XT6黑武士实车曝光,能否刷新你的审美观?

全新凯迪拉克XT6曝光:黑武士设计酷炫,内饰粗糙有待提升 凯迪拉克XT6黑武士实车曝光,能否刷新你的审美观?

全新凯迪拉克XT6上市实车,黑武士设计时尚,内饰稍显敷衍。新款车型起售价定在44.99万,搭载2.0T涡轮增压发动机,预计一口价较低。外观方面,新款XT6将主打大6座布局,并优化车内科技氛围。

热点资讯 11.10
俄总统普京签署联邦法律,批准与朝鲜实施全面战略伙伴关系条约

俄总统普京签署联邦法律,批准与朝鲜实施全面战略伙伴关系条约

俄总理签署《俄朝全面战略伙伴关系条约》,将为两国长期发展带来双边军事和信息领域的合作。

热点资讯 11.10
奥迪告别四环标:全新品牌AUDI即将于明年上市,首款车型震撼发布!

奥迪告别四环标:全新品牌AUDI即将于明年上市,首款车型震撼发布!

奥迪正式发布全新品牌AUDI,并于11月7日在同一平台上同步首发亮相,首次基于奥迪与上汽联合开发的全新平台“智能数字平台(Advanced Digitized Platform)”打造,采用智能分区电子架构,未来三年内,奥迪上海上汽项目将推出三款纯电动车,包括B级和C级市场。AUDI E 概念车设计主要由奥迪在德国英戈尔施塔特完成,预计将在上海安亭生产。新车将定位为B级电动Sportback车型,拥有3.6秒的零至百公里加速时间,配备宁德时代的电池,续航里程达到700公里。此外,新车还将具备L2++智驾水平的自动驾驶系统,与上汽集团、大众等合作伙伴共享创新技术成果。

热点资讯 11.10
2024年一季度最受关注的全球汽车品牌排行榜:比亚迪位居榜首,特斯拉屈居第二,宝马排名第三

2024年一季度最受关注的全球汽车品牌排行榜:比亚迪位居榜首,特斯拉屈居第二,宝马排名第三

比亚迪以两位数速度增长占据全球电动车销售榜首位,但特斯拉销量停滞不前;宝马仍稳居第二;理想汽车下滑至第五;大众和吉利排名变化悬殊;丰田可能超越大众;零跑汽车强劲表现。

热点资讯 11.10
海通策略:科技有望推动主线行情 国产操作系统等领域持续成长

或

海通策略:科技驱动主线行情 国产操作系统发展空间巨大

海通策略:科技有望推动主线行情 国产操作系统等领域持续成长 或 海通策略:科技驱动主线行情 国产操作系统发展空间巨大

海通策略研报认为基本面更优的科技及中高端制造或为股市中期主线。重点关注产业周期回升的科技制造、兼具供需优势的中高端制造以及并购重组带来的投资机遇。科技制造方面,政策和技术双重利好叠加产业周期回升,科技有望演绎主线行情。中短期看科技产品创新和政策支持正共同推动科技行情演绎。信创方面,未来财政发力背景下信创有望获得更多资金和政策支持,国产操作系统等领域增长空间较大。人形机器人方面,技术突破下人形机器人应用或将加速。

热点资讯 11.10
贝果走红:被茶咖品牌捧成下一个顶流

贝果走红:被茶咖品牌捧成下一个顶流

本文主要讲述了贝果作为一个品牌,逐渐成为了茶饮品牌们的"掌上明珠"。它以其独特的外观、低脂低糖以及平价等特点吸引着年轻人,并成为了网红食品。然而,部分贝果专卖店为了提升口感和客单价,对贝果进行了改良,导致其健康属性逐渐淡化。最终,高价值贝果可能成为"平民"贝果的未来走向,谁能在贝果市场走得更远,哪种模式运营得更持久,仍然值得观察。

热点资讯 11.10