为何都看好NPU?

2024-03-15 热点资讯 关注公众号
    NPU热潮再起:全球处理器巨头竞逐边缘AI,高通引领“混合AI”未来
为何都盯上了NPU?    随着人工智能的迅猛发展,NPU这一概念在科技界再度焕发新生。去年年底,Intel与AMD两大PC芯片巨头不约而同地发布了集成了NPU的新型处理器,其中Intel预示到2028年,AI PC将占据市场的主导地位,其处理器在实现人工智能规模和速度上展现出前所未有的实力;紧随其后,英伟达在今年二月推出的笔记本电脑GPU也内置了NPU,旨在高效处理轻型AI任务;更早之前,高通在其骁龙8gen3平台中嵌入性能强大的Hexagon NPU,再次证明几乎所有顶尖处理器制造商已全面布局NPU领域。
为何都盯上了NPU?    这股NPU热潮的背后,实质是人工智能产业发展大势所趋。尤其是面对以ChatGPT和大型模型为代表的AI应用激增,市场对终端AI的需求日益显著。据Gartner预测,至2026年,全球边缘AI芯片市场规模将达到688亿美元,复合年增长率高达16.9%,揭示出边缘端的巨大潜力。然而,边缘端AI因其应用场景受限,在成本和功耗上面临严格挑战。
为何都盯上了NPU?    在此背景下,高通提出的“混合AI”理念被视为AI未来发展的重要方向。所谓混合AI,即终端与云端协同工作,根据实际场景和时间需求智能分配AI计算负载,从而提供卓越体验并高效利用资源。高通强调,生成式AI的爆炸性增长及计算需求的不断提升,使得AI处理必须分布于云端与终端,才能实现规模化扩展并释放最大潜能。
为何都盯上了NPU?    为了满足混合AI的要求,高通倡导研发专为边缘端AI设计的全新计算架构,关键在于打造一款面向生成式AI优化设计的神经网络处理器(NPU),并结合异构处理器(如CPU和GPU)实现最佳应用性能、能效及电池续航。NPU凭借其在标量、向量和张量数学运算上的优势,成为处理核心AI工作负载的理想选择。
为何都盯上了NPU?    NPU在AI推理中的角色至关重要,尤其是在终端推理方面。随着大语言模型和视觉模型驱动的生成式AI崛起,模型尺寸呈数量级增长,内存和系统设计优化成为新的焦点。一个定制化设计的专用NPU能够平衡性能、功耗、效率、可编程性和面积等多重要素,适应快速演进发展的AI技术要求。
为何都盯上了NPU?    至于为何选择集成NPU而非单独设计推理芯片,答案在于AI负载多样性的现实需求。集成NPU的SoC提供了峰值性能、能效、单位面积、芯片尺寸和成本的最佳平衡。高通通过多年的技术积累,在SoC内部整合包括CPU、GPU和NPU在内的多种处理器,使其能够针对不同负载发挥各自优势,并协同运作,实现了业界领先水平。
    此外,高通在5G+AI融合领域的独特优势进一步赋能未来。自2007年首款Hexagon DSP在骁龙平台上亮相以来,高通在NPU技术上持续创新迭代。第三代骁龙8中的Hexagon NPU在生成式AI处理上实现了性能提升98%、能效提升40%,并支持运行超过100亿参数的模型,展现出了业界领先的LLM处理能力。
    高通不仅拥有先进的计算能力,还凭借其深厚的连接技术底蕴,在推动AI规模化扩展时独具优势。在近期的MWC大会上,高通发布了一系列搭载AI创新的产品和技术,如第三代AI赋能的5G调制解调器骁龙X80和首个支持AI优化的Wi-Fi 7系统FastConnect 7900,同时推出了全新的高通AI Hub,内含丰富的预优化AI模型库,助力开发者无缝部署各类主流AI和生成式AI模型。
    综上所述,高通正以其独特的混合AI策略、尖端的NPU技术以及跨平台的计算与连接能力,引领着从智能手机、PC到物联网终端、汽车等多个领域的AI变革,赋予用户强大、快速、个性化且高效的AI体验,塑造未来的工作、娱乐生活方式,为各行各业带来无限可能。

上一篇:男性保健:前列腺作用
下一篇:从龙涎香说起,追寻失落在印度洋上的古代中国
更多更酷的内容分享
猜你感兴趣
GPU之后,NPU成为新标配。手机、电脑如何适应AI大模型?

GPU之后,NPU成为新标配。手机、电脑如何适应AI大模型?

2024年AI行业风起云涌,OpenAI的Sora模型和英伟达市值突破引发关注。Anthropic的Claude3模型超越GPT4,显示行业仍处于初级阶段,技术迭代快速。生成式AI的云端部署存在传输速度和数据隐私问题,本地部署成为趋势但面临挑战。

热点资讯 03.12
夏季行情:机构为何看好下半年投资主线?投资者该如何抓住机会?

夏季行情:机构为何看好下半年投资主线?投资者该如何抓住机会?

火线快评报告指出,在市场担忧退市个股压力下,猪肉养殖业以及电力行业等相关概念板块和个股的表现强劲。火线快评团队梳理的这些投资逻辑及相关个股,在6月3日开盘前发布了资讯。这些股票在短时间内受到了投资者的关注,正虹科技在资讯发布后的两天内最高涨幅达到17.91%,国电电力在消息公布后的五日内最高涨幅为11.55%。这表明,火线快评团队认为,对于6月的股市,有理由充满期待。

热点资讯 06.08
金牛座2024真的旺吗:为何大家都说金牛座的未来很美好?

金牛座2024真的旺吗:为何大家都说金牛座的未来很美好?

金牛座2024年好。

星座运势 04.18
大龄剩女真的就不会被看好吗? 或者 为何许多大龄剩女自视清高,认为自己才是最优秀的人选?

大龄剩女真的就不会被看好吗? 或者 为何许多大龄剩女自视清高,认为自己才是最优秀的人选?

"大龄剩女是否被人看不起?" 这句话的关键词是“剩女”和“被人看不起”。其事件起因可能是由于大龄剩女对自己的外貌、能力或婚姻前景过于自信,导致她们感到被社会边缘化。而这一事件的关注爆点则是这些剩女对男性选择的态度,即她们是否选择丧偶或离婚。

热点资讯 04.04
港媒揭示:美国持续投入巨额补贴仍未能撼动中国稀土的地位

港媒揭示:美国持续投入巨额补贴仍未能撼动中国稀土的地位

场上的领导地位不可动摇。在稀土资源开发方面,中国将继续占据主导地位,这得益于其丰富的资源储备和多年的技术积累。然而,西方国家为了摆脱对中国的依赖,正在采取一系列措施,包括投资建设稀土工厂以增强供应链自主性,但成效有限。面对稀土价格波动这一难题,中国政府增加了稀土开采配额并遏制了市场供应过剩,这让其他国家的稀土项目发展受到了影响。同时,一些企业也面临着资金困境和市场竞争压力。综合来看,中国将继续掌控全球稀土市场,并有望在未来发挥更大的影响力。

热点资讯 09.19
Marvell联合创始人周秀文逝世,科技界损失一位重要人物

Marvell联合创始人周秀文逝世,科技界损失一位重要人物

周秀文于9月18日在印度尼西亚雅加达出生并学习汽车配件店零件组装知识,然后在美国攻读了电机工程学士和博士学位,并在加州大学伯克利分校获得硕士和博士学位。其团队创建了Marvell Technology公司,希望制造出能产生“奇妙”效果的设备。周秀文去世的消息引发广泛关注,尽管传统观点认为这种方法不切实际,但Marvell很快成为了许多全球领先的科技公司的重要合作伙伴。

热点资讯 09.19
国产光刻机进展为何落后于国际大厂?关键并非此点

国产光刻机进展为何落后于国际大厂?关键并非此点

中国的工业部发布了最新的光刻机技术——第六代光刻机,相较于第二代和第三代设备,具有较强的迭代升级空间。此款设备被广泛认为是阿斯麦15-20年前的产品,主要用于55-65纳米的工艺。尽管相比七纳米工艺存在一定差距,但随着技术的不断升级,其发展空间依然很大。未来几年,先进的国产光刻机将有机会大规模应用,而十年内,有望实现大规模生产。关于这个问题,有些人将其归咎为引进阿斯麦的技术,但实际上,这两款设备都是公认的第四代光刻机,与第三代和第二代并无区别。我国通过不断迭代升级,已经达到了可以生产7纳米工艺的水平,这使得我们无需过分纠结于光刻机的细节参数。重要的是,光刻机的研发和生产已经得到了广泛认可,且完全满足了市场需求。所以,我们应该理性看待此类问题,积极寻找更有利于国内光刻产业发展的解决方案。

热点资讯 09.19
电子通讯市场的一次重大震动:中国消费者对美国产品态度的转变

电子通讯市场的一次重大震动:中国消费者对美国产品态度的转变

黎巴嫩多地发生涉及通讯设备爆炸事件,致死30多人,伤者3000多;中国有警惕,电子武器化提防。[[2]()]。

热点资讯 09.19
详尽解读五老星的五大能力:死神仅为一例!

详尽解读五老星的五大能力:死神仅为一例!

五老星五名老人听命于神秘人物伊姆,同时具备不死之身、魔法阵和心灵感应等能力,可能是由伊姆赐予的共同能力。这些能力分别可以让五位老人在各种情况下迅速恢复生命力、建立或破坏防御性魔法阵以及进行心灵沟通。

热点资讯 09.19
娃哈哈、农夫山泉供应商遭遇“烂苹果”危机

娃哈哈、农夫山泉供应商遭遇“烂苹果”危机

事件是安德利果汁公司供应商遭遇“烂苹果”危机,引起公众关注。该公司主要客户为统一、娃哈哈、农夫山泉等企业,而汇源却否认与该事件有关。公司位于礼泉县工业园区,入驻了17家企业。经市场监管局抽检发现,公司的同类型果汁产品质量存在问题。目前,公司正在进行整顿,暂停部分产品出库。

热点资讯 09.19
华为新挑战:竞争加剧!三折屏卷轴屏能否满足你的需求?

华为新挑战:竞争加剧!三折屏卷轴屏能否满足你的需求?

华为折叠屏手机的预约人数已达642万,预计2024年第二季度全球折叠屏智能手机出货量同比增长48%。 三星计划在2025年推出卷轴屏智能手机,屏幕将比MateXT更大,最高可达12.4英寸,并采用屏下摄像头。 由于中国手机厂商的进入,三星折叠屏市场份额逐渐下滑,今年一季度全球出货量暴跌42%,市场份额同比降25个百分点。 另外,小米公司获得了一项“手机及其主体”的外观设计专利,展示了小米三折叠手机的设计。

热点资讯 09.19
郑钦文确认参加2023年联合杯,引领中国国家队阵容连续两年征战世界大赛

郑钦文确认参加2023年联合杯,引领中国国家队阵容连续两年征战世界大赛

中国选手郑钦文将于2025赛季引领国家队参加联合杯。 联合杯是中国与多个国家和地区球队之间的混双比赛,将于今年举行。郑钦文将带领中国女子组合参加比赛。她将在第一轮对阵西班牙选手塞雷娜·威廉姆斯,如果获胜,她将成为第一位进入女单八强的亚洲球员。

热点资讯 09.19
内蒙古车祸:一辆小车与收割机相撞,造成一人死亡和四人受伤,目击者称该车似为逆向行驶

内蒙古车祸:一辆小车与收割机相撞,造成一人死亡和四人受伤,目击者称该车似为逆向行驶

一位名叫刘欣荣的中央广播网记者经过采访得知,9月18日在内蒙古赤峰市阿鲁科尔沁旗的一农田市场附近发生了一起交通事故,现场可见一辆小车和一辆收割机发生了碰撞,导致其中一辆收割机受损严重,同时一名乘客被困车内无法自行离开。据当地政府通报,事故发生的原因是车主在送孩子上学的路上发生了意外。目前,事故已造成1人死亡4人受伤,相关部门正在进一步调查中。

热点资讯 09.19
乌克兰外交困境:盟友分裂与全球南方团结的挑战

乌克兰外交困境:盟友分裂与全球南方团结的挑战

表达了对乌克兰的强烈不满。不过,各方的态度仍然存在分歧。波兰、斯洛伐克和匈牙利等国的质疑声逐渐汇聚成一股力量,而乌克兰则试图通过访问加拿大的方式改变美国及欧盟的核心国家的看法。然而,由于西方内部分歧加剧,乌克兰的国际形象受到了影响,非洲国家对乌克兰的支持萨赫勒地区的分离主义势力的反应加剧了这一问题。贸易争端和外交危机的出现,使得这场战争仍在进行中,但西方支持俄罗斯的“统一战线”却出现了裂缝。对于未来的前景,各方的态度仍存在分歧,但乌克兰的情况仍然令人担忧。

热点资讯 09.19