为何都看好NPU?

2024-03-15 热点资讯 关注公众号
    NPU热潮再起:全球处理器巨头竞逐边缘AI,高通引领“混合AI”未来
为何都盯上了NPU?    随着人工智能的迅猛发展,NPU这一概念在科技界再度焕发新生。去年年底,Intel与AMD两大PC芯片巨头不约而同地发布了集成了NPU的新型处理器,其中Intel预示到2028年,AI PC将占据市场的主导地位,其处理器在实现人工智能规模和速度上展现出前所未有的实力;紧随其后,英伟达在今年二月推出的笔记本电脑GPU也内置了NPU,旨在高效处理轻型AI任务;更早之前,高通在其骁龙8gen3平台中嵌入性能强大的Hexagon NPU,再次证明几乎所有顶尖处理器制造商已全面布局NPU领域。
为何都盯上了NPU?    这股NPU热潮的背后,实质是人工智能产业发展大势所趋。尤其是面对以ChatGPT和大型模型为代表的AI应用激增,市场对终端AI的需求日益显著。据Gartner预测,至2026年,全球边缘AI芯片市场规模将达到688亿美元,复合年增长率高达16.9%,揭示出边缘端的巨大潜力。然而,边缘端AI因其应用场景受限,在成本和功耗上面临严格挑战。
为何都盯上了NPU?    在此背景下,高通提出的“混合AI”理念被视为AI未来发展的重要方向。所谓混合AI,即终端与云端协同工作,根据实际场景和时间需求智能分配AI计算负载,从而提供卓越体验并高效利用资源。高通强调,生成式AI的爆炸性增长及计算需求的不断提升,使得AI处理必须分布于云端与终端,才能实现规模化扩展并释放最大潜能。
为何都盯上了NPU?    为了满足混合AI的要求,高通倡导研发专为边缘端AI设计的全新计算架构,关键在于打造一款面向生成式AI优化设计的神经网络处理器(NPU),并结合异构处理器(如CPU和GPU)实现最佳应用性能、能效及电池续航。NPU凭借其在标量、向量和张量数学运算上的优势,成为处理核心AI工作负载的理想选择。
为何都盯上了NPU?    NPU在AI推理中的角色至关重要,尤其是在终端推理方面。随着大语言模型和视觉模型驱动的生成式AI崛起,模型尺寸呈数量级增长,内存和系统设计优化成为新的焦点。一个定制化设计的专用NPU能够平衡性能、功耗、效率、可编程性和面积等多重要素,适应快速演进发展的AI技术要求。
为何都盯上了NPU?    至于为何选择集成NPU而非单独设计推理芯片,答案在于AI负载多样性的现实需求。集成NPU的SoC提供了峰值性能、能效、单位面积、芯片尺寸和成本的最佳平衡。高通通过多年的技术积累,在SoC内部整合包括CPU、GPU和NPU在内的多种处理器,使其能够针对不同负载发挥各自优势,并协同运作,实现了业界领先水平。
    此外,高通在5G+AI融合领域的独特优势进一步赋能未来。自2007年首款Hexagon DSP在骁龙平台上亮相以来,高通在NPU技术上持续创新迭代。第三代骁龙8中的Hexagon NPU在生成式AI处理上实现了性能提升98%、能效提升40%,并支持运行超过100亿参数的模型,展现出了业界领先的LLM处理能力。
    高通不仅拥有先进的计算能力,还凭借其深厚的连接技术底蕴,在推动AI规模化扩展时独具优势。在近期的MWC大会上,高通发布了一系列搭载AI创新的产品和技术,如第三代AI赋能的5G调制解调器骁龙X80和首个支持AI优化的Wi-Fi 7系统FastConnect 7900,同时推出了全新的高通AI Hub,内含丰富的预优化AI模型库,助力开发者无缝部署各类主流AI和生成式AI模型。
    综上所述,高通正以其独特的混合AI策略、尖端的NPU技术以及跨平台的计算与连接能力,引领着从智能手机、PC到物联网终端、汽车等多个领域的AI变革,赋予用户强大、快速、个性化且高效的AI体验,塑造未来的工作、娱乐生活方式,为各行各业带来无限可能。

上一篇:男性保健:前列腺作用
下一篇:从龙涎香说起,追寻失落在印度洋上的古代中国
更多更酷的内容分享
猜你感兴趣
了解NPU为何比CPU和GPU更强大:深度学习与机器学习的必备工具

了解NPU为何比CPU和GPU更强大:深度学习与机器学习的必备工具

CPU 快得多的原因。由于没有 GPU,AI 计算任务需要长时间才能完成。但是有了 NPU,AI 计算任务可以在短时间内完成,从而提高效率。NPU 正在成为计算机行业的一个热门话题,因为它们正在加速 AI 计算任务。然而,要获得最佳性能,大部分 PC 都会配备 NPU。因此,目前只有部分 PC 配备了 NPU,但预计未来会有更多的 PC 配备。总的来说,NPU 可以大大提高 AI 计算任务的效率,并已成为当前计算机行业的热门话题。

热点资讯 09.25
GPU之后,NPU成为新标配。手机、电脑如何适应AI大模型?

GPU之后,NPU成为新标配。手机、电脑如何适应AI大模型?

2024年AI行业风起云涌,OpenAI的Sora模型和英伟达市值突破引发关注。Anthropic的Claude3模型超越GPT4,显示行业仍处于初级阶段,技术迭代快速。生成式AI的云端部署存在传输速度和数据隐私问题,本地部署成为趋势但面临挑战。

热点资讯 03.12
王利:如何让每个孩子都成为最好的自己

王利:如何让每个孩子都成为最好的自己

半岛全媒体记者张彤在采访中发现一位名叫王利的英语教师在课堂上与学生互动积极,充满热情。她在做中学,用爱心教育每一位学生,她的工作得到了学生和家长的高度赞扬。王利凭借自己的专业知识,引导学生克服困难,成绩稳步上升,体现了教师的敬业精神。她深感:“教师不仅是传授知识的人,更是孩子们心灵的园丁”,全身心投入到教育教学工作中,得到了大家的尊敬和支持。

生活常识 11.13
夏季行情:机构为何看好下半年投资主线?投资者该如何抓住机会?

夏季行情:机构为何看好下半年投资主线?投资者该如何抓住机会?

火线快评报告指出,在市场担忧退市个股压力下,猪肉养殖业以及电力行业等相关概念板块和个股的表现强劲。火线快评团队梳理的这些投资逻辑及相关个股,在6月3日开盘前发布了资讯。这些股票在短时间内受到了投资者的关注,正虹科技在资讯发布后的两天内最高涨幅达到17.91%,国电电力在消息公布后的五日内最高涨幅为11.55%。这表明,火线快评团队认为,对于6月的股市,有理由充满期待。

热点资讯 06.08
亚马逊海外官方旗舰店入驻京东:跨境巨头的激战升级还是新一轮较量?

亚马逊海外官方旗舰店入驻京东:跨境巨头的激战升级还是新一轮较量?

亚马逊海外官方旗舰店已正式入驻京东,旨在为全球消费者提供更多选择。亚马逊中国副总裁李岩川表示,他们将扩大采销、售前服务和支付方式的合作机会。同时,两家公司也将探索社交媒体电商和直播电商领域的投资和布局。

热点资讯 11.23
纳芯微王升杨:中国模拟芯片行业并购整合的必然趋势,你的浏览器可能需要更新一下

纳芯微王升杨:中国模拟芯片行业并购整合的必然趋势,你的浏览器可能需要更新一下

芯片制造商面临毛利率下降的压力。然而,纳芯微有限公司董事长王升杨表示,他有信心带领企业走出困境,走向更广阔的发展空间。他在采访中指出,在未来,中国芯片企业在市场竞争中将更加注重产品的定位和定义,以及与用户的深入沟通。此外,他也认为,当前的芯片行业正逐渐迈向稳健发展的阶段,关键在于企业的技术进步和创新能力。最后,他表示,中国汽车芯片产业将持续发展,为全球汽车行业注入新的动力。

热点资讯 11.23
苹果即将对Siri进行重大变革:发布会日期曝光!

苹果即将对Siri进行重大变革:发布会日期曝光!

苹果正开发更强大且具有对话功能的Siri数字助手,旨在赶超OpenAI的ChatGPT和其他语音服务。此新型Siri将采用高级的语言模型,支持双向对话,并且更精准地控制第三方应用。此项目已进行了13年,但仍然落后于Google的Gemini等竞争对手。苹果计划最早在2025年发布新的Siri,但确切日期仍有不确定性。此外,近期发布的招聘信息也显示,苹果计划推出更强大的Siri。

热点资讯 11.23
37岁导演再次开山之作:《庆余年2》演绎主角,他的新挑战引行业热议

37岁导演再次开山之作:《庆余年2》演绎主角,他的新挑战引行业热议

本文主要讲述了悬疑剧《宿敌》上线后引发的关注度,以及多个演员在其中的角色塑造。包括男主角廖凡、女主角黄萧、胡夏峰和国安警官肖波等,他们分别在剧中表现出层次感分明、立体饱满的人物形象和出色的表演。沈晓海作为一名熟知多年的老戏骨,在《宿敌》中的出色表现也受到了观众的一致好评。这些演员们在剧中共同营造了一个引人入胜的故事,并且展现出各自的特色和魅力。文章最后强调了这部电视剧的价值所在,呼吁更多优秀的影视作品出现。

热点资讯 11.23
《小巷人家》全体告别成员致敬与告别:王安宇手书歌词,周洁琼弹琵琶,闫妮蒋欣言简意赅

王安宇告别《小巷人家》,留下手写歌词与心声;周洁琼、闫妮、蒋欣齐唱,歌曲简单却深情。告别日常,致敬同行!

《小巷人家》全体告别成员致敬与告别:王安宇手书歌词,周洁琼弹琵琶,闫妮蒋欣言简意赅 王安宇告别《小巷人家》,留下手写歌词与心声;周洁琼、闫妮、蒋欣齐唱,歌曲简单却深情。告别日常,致敬同行!

度,乐观且坚强的林栋哲,犹如一缕阳光照亮了整个小巷。面对结束,四人分别发布告别信,感谢付出与陪伴。蒋欣饰演的宋莹圆满告别华妃的角色,闫妮塑造的黄玲突破难关,郭晓东塑造的庄超英深具责任感,李光洁扮演的林武峰则令人称赞。最后四位主角以微笑告别,完美谢幕。剧中情感深厚,让人感慨万千。

热点资讯 11.23
李行亮为何没有朋友?原因解析:朋友被麦琳清空

李行亮为何没有朋友?原因解析:朋友被麦琳清空

麦琳炒热了自己的名声并造成争议,同时也揭露了好友的贪婪行为。尽管如此,500哥并未因此生气,并表示对朋友充满了尊重。

热点资讯 11.23
韩国「标志」三人组合能否延续传奇,新曲能否引发争议?

韩国「标志」三人组合能否延续传奇,新曲能否引发争议?

BigBANG即将推出的新曲将在11月22日下午2点在和韩国国内外各大音乐平台发布。权志龙(G-Dragon)与BIGBANG成员太阳(Taeyang)、大声(Daesung)一起参与新曲创作,并邀请银河公司旗下的银河乐团担当伴奏。BigBANG计划在2024年MAMA颁奖礼上首秀新曲,但银河公司还未对此消息进行确认。关于权志龙的回归,银河乐团表示相信他会带来一场标志性的舞台表演。BigBANG上一次以团体形式发布作品是在2022年,共有四名成员参与其中,其中权志龙、太阳、大声和崔胜铉均退出组合。BigBANG目前仍在法律争议中,除崔胜炫外,李胜利因“ Burning Sun”夜店丑闻而退团。

热点资讯 11.23
泰国女总理与全球小姐冠军,30厘米高差背后的气质实力较量

泰国女总理与全球小姐冠军,30厘米高差背后的气质实力较量

泰国新任总理接见环球小姐季军奥帕尔,对其在墨西哥比赛的表现表示赞扬,并邀请其来政府大楼做客,意图通过文化交流和推广泰国文化走向世界。两人交谈中探讨了传播泰国历史和文化、展示传统纺织艺术和手工艺品等问题,旨在提升泰国文化的国际影响力。奥帕尔以其过人的身高和气质赢得了现场观众的认可。尽管在身高上存在差距,但佩通坦凭借自身的魅力和气场成功吸引了人们的眼球。

热点资讯 11.23
中美高层会谈:拜登坚持不希望改变台海现状

中美高层会谈:拜登坚持不希望改变台海现状

拜登在亚太经合组织会议上对中国表达了坚定的立场,不支持任何形式的“台独”。同时,他也警告了中国不要利用台湾问题来影响美国与其他国家的关系。然而,在台湾问题上,拜登并没有做出根本性的改变,仍然坚持强硬态度。在会晤中,拜登不仅向解放军提出了要求,还在强调要和平解决分歧,并呼吁两岸以和平方式解决问题。目前来看,中美之间的僵持局面可能难以化解,而中国已经做好了充分的准备应对可能出现的情况。

热点资讯 11.23
特朗普内阁成形遇阻 玛斯克紧急划清反华立场

特朗普内阁成形遇阻 玛斯克紧急划清反华立场

特朗普胜选后,筹谋内阁人选,两大反华鹰派人物马特·盖茨和皮特·海格塞斯因深陷丑闻位置不保,特朗普提名前佛罗里达州检长帕姆·邦迪为司法部长提名人,但盖茨因吸毒、未成年人性交易丑闻主动放弃司法部长提名。马斯克被质疑与特朗普内阁成员选择有关,他急忙澄清,避免引火烧身。特朗普亲自撤回对马斯克的提名,称不需要浪费时间在无谓的争斗上,盖茨在参议院确认过程中将面临严峻挑战,特朗普对此感到欣慰。特朗普认可盖茨为提名做出的努力,但对于是否会影响新政府注意力,特朗普没有明确表态。

热点资讯 11.23