Groq挑战英伟达,LPU押注胜算在哪?

2024-03-08 热点资讯 关注公众号
    【英伟达万亿市值光环下的挑战者:Groq与LPU芯片的逆袭之路】
英伟达的挑战者Groq ,在LPU上押对了什么?    自英伟达市值突破2万亿,稳居全球第三之后,市场对谁能撼动其GPU霸主地位充满好奇。一款名为LPU的AI推理芯片正在崭露头角,它可能正是那个改变格局的答案。
英伟达的挑战者Groq ,在LPU上押对了什么?    在大模型应用中,用户常常抱怨其响应速度慢、卡顿明显。然而,搭载了LPU芯片后,大模型处理速度显著提升,每秒可输出500个tokens,远超ChatGPT每秒40个token的表现。LPU由初创独角兽公司Groq研发,该公司拥有谷歌TPU项目背景的强大团队,专门针对语言处理任务设计了这款“语言处理单元”(LPU)芯片。
英伟达的挑战者Groq ,在LPU上押对了什么?    Groq LPU在性能上展现出压倒性优势,声称比英伟达主力芯片H100快10倍,成本仅为其十分之一,从而将大模型从“功能机时代”推进到“智能机时代”。尽管有质疑指出Groq在成本计算上的描述并不全面,但LPU凭借其突出的内存带宽和低延迟表现,在实际应用中表现出色,成功撬开了市场缺口。
    Groq创始人乔纳森·罗斯在社交平台X上展示了芯片交付照片,这一举动标志着Groq在AI芯片市场上已打开局面。短短一周内,Groq不仅组建新部门、强化云业务,并且牵手沙特阿美,瞄准全球3000强企业,积极构建生态合作网络。LPU的设计理念——软件定义硬件,让其在解决大模型推理瓶颈方面独具优势。
    不同于通用GPU架构,Groq LPU采用SRAM替换HBM,大幅提升内存带宽至80TB/s,有效解决了访存速度限制问题。同时,通过软件优先思维更新芯片架构,赋予编译器更多的管理和调度权限,使得芯片专注于确定性计算,大大提高了吞吐量和容量利用率。
    当前,以英伟达为代表的GPU巨头正面临大模型推理环节的性能瓶颈,而Groq LPU的出现恰好弥补了这一短板。随着供应链布局北美及即将采用更先进的三星4nm工艺,Groq有望进一步扩大市场份额,挑战英伟达主导的AI芯片市场格局。
    Groq将客户群体精准定位为大规模数据中心、全球3000强企业和各类开发者,并坚信只有真正解决商业应用场景中的痛点,才能实现技术的商业化飞跃。LPU的成功崛起,预示着专用芯片在AI领域的确定性优势日益显现,或将引领新一轮的AI芯片市场竞争热潮。

上一篇:儿童节,三个娃在室外排节目想让重病爸爸高兴一下,爸爸在房内悄然去世
下一篇:J MED VIROL | 单超团队在乙型脑炎病毒抗病毒药物研究方面取得进展
更多更酷的内容分享
猜你感兴趣
Groq宣布获得6.4亿美元融资,将与英伟达争夺AI芯片市场领导权

Groq宣布获得6.4亿美元融资,将与英伟达争夺AI芯片市场领导权

以下是提取出的一句话概述: Groq获得6.4亿美元融资,由Blackrock领投,公司估值达到28亿美元。 重点: - 创办人工智能芯片初创公司 - Blackrock领投,公司估值达到28亿美元 - 此次融资使总融资额超过10亿美元 - Meta首席人工智能科学家Yann LeCun将担任Groq的技术顾问 - 英特尔代工业务前负责人Stuart Pann将加入担任首席运营官 - Groq开发名为LPU的推理引擎 - 定制芯片提供云端AI工作负载的解决方案 - 阿里巴巴、谷歌和微软等公司竞争 - Groq计划利用这笔新资金扩大规模并研发更多AI产品 简要概括:Groq已完成新一轮融资,以加速其人工智能芯片业务的发展。具体而言,它已获得了来自Blackrock、Type One Ventures、思科、KDDI 和三星 Catalyst Fund 等知名投资者的支持,使其估值达到了28亿美元。此外,投资方还将聘请Yann LeCun和Stuart Pann为公司的技术顾问和首席运营官。

热点资讯 08.06
谁在挑战英伟达的AI芯片霸主之位?

谁在挑战英伟达的AI芯片霸主之位?

英伟达市值超2万亿美元,成为美国第三家估值超过2万亿美元的公司。其在AI芯片市场的领先地位,尤其是H100芯片,推动了市值增长。尽管全球芯片短缺,但生成式AI服务的需求持续增长,使得H100芯片昂贵且供不应求。中美科技公司都在追捧这款芯片。

热点资讯 02.28
英伟达与中国的深度合作:押注自动驾驶,共同推动行业的未来

英伟达与中国的深度合作:押注自动驾驶,共同推动行业的未来

2023年底,吴新宙成为英伟达汽车事业副总裁,因加盟英伟达而备受关注。此前他因小鹏自动驾驶副总裁而闻名。自2016年起,英伟达自动驾驶团队流失严重,导致销售收入占比不足30%,业绩不佳。近期,这支充满中国元素的新团队将为英伟达打开自动驾驶领域最后一片拼图。 来源:《Autocar》,内容链接:https://www.autocar.com/2023/12/24/vw-osi-vs-apple-and-google-in-auto-your-sUVs/.

热点资讯 04.13
AMD前高管紧随Groq CEO,怒指英伟达:妨碍竞争!

AMD前高管紧随Groq CEO,怒指英伟达:妨碍竞争!

英伟达被指控滥用其在AI芯片市场的领导地位,进行报复性行为。多家企业高管指责英伟达在得知客户与竞争对手洽谈后会延后对该客户的出货。Groq的CEO控诉英伟达阻碍公平竞争,称其他芯片供应商客户因害怕报复而否认与Groq交谈。AMD前副总裁也指控英伟达限制GPU供应以维持产业主导地位。尽管英伟达否认这些指控,但这些声明将加剧对英伟达商业行为的讨论和审视。

热点资讯 03.03
大众关闭工厂,狼堡裁员,互联网巨头的严峻挑战与未来展望

大众关闭工厂,狼堡裁员,互联网巨头的严峻挑战与未来展望

沃尔夫斯堡面临前所未有的挑战:汽车电动化、智能化转型和竞争压力加剧导致德国这家百年历史的工业重镇面临倒闭风险。沃尔夫斯堡及其庞大的大众汽车集团总部象征着德国工业复兴,但随着欧洲最大汽车制造商宣布关闭本土工厂,并放弃工作保障承诺,这座城市的12万居民开始担忧未来。沃尔夫斯堡拥有超过4800万辆汽车的生产能力,而在中国汽车市场竞争加剧的影响下,该公司可能会遭受重大打击,需要大幅增加拨备以应对这一冲击。这个消息引发了全球汽车产业的关注。

热点资讯 09.19
罗峰全新造型发布,诺岚山危机,五大强者的降临:一位神秘人物的隐藏身份

罗峰全新造型发布,诺岚山危机,五大强者的降临:一位神秘人物的隐藏身份

米克、亚瑟和涅塔。在这五人当中,涅塔的名字最引人注目,因为他是一名黑帮老大,同时还是一个天才级别的战士。从他的实力来看,他是第五个出场的五大强者之一,绝对不容小觑。 另外,涅塔在预告片中并未完全展示出他的实力,只能猜测他的战斗力应该很强。这次出现在《吞噬星空》动漫中的涅塔,无疑会给观众带来更大的惊喜。 总之,从这次剧情来看,有很多看点,包括主角罗峰的新造型、五大超级强者的登场等,相信这部动漫会有更多的精彩内容等待着观众。

热点资讯 09.19
黎巴嫩爆炸引发猜测:台企生产寻呼机,源头调查仍在进行中

黎巴嫩爆炸引发猜测:台企生产寻呼机,源头调查仍在进行中

黎巴嫩真主党订购台产寻呼机爆炸,以色列事先破坏并伪装成自杀式袭击。

热点资讯 09.19
梦幻西游:首款秋杀九黎城装备首曝 - 表弟团队打造联赛冠军帮计划已启动!

梦幻西游:首款秋杀九黎城装备首曝 - 表弟团队打造联赛冠军帮计划已启动!

标题:奇幻高手晒新装!打造双九黎城阵容及联赛冠军帮! 事件起因及关注爆点:梦幻游戏官方曝光九黎城装备,打造双九黎城阵容;另曝雪山表弟团队欲打造联赛冠军帮,提高团队实力。

热点资讯 09.19
70后农行女性高管晋升至高层,预示着银行业改革与发展新趋势

70后农行女性高管晋升至高层,预示着银行业改革与发展新趋势

张曼获湖南农行派重任官,时值长沙银行半年后新行长人选揭晓,张曼晋升为副行长,成为湖南省万亿上市银行董事长人选,由她提名成为董事会董事候选人。此前张曼加入长沙银行前是中国农业银行的员工,期间担任过多个职务,包括副行长等,此次晋升为总经理。

热点资讯 09.19
东方甄选创始人董宇辉今年或将陷入口碑危机:丈母娘是否被冤枉?

东方甄选创始人董宇辉今年或将陷入口碑危机:丈母娘是否被冤枉?

今年初,董宇辉成为东方甄选最高薪酬雇员之一。他在2024财年年度收益高达3.41亿港元,包括年薪、奖金、期权和新公司分润。自7月25日分手后,他自立门户已55天。但近日舆论场对其进行猛烈批评,被指责“没有文化”,并有人称对其进行了“绞杀”。在此期间,他面临各种商业挑战,如稳住人设、守住口碑和带领“与辉同行”前行等。目前,他的抖音账号粉丝数量超过51.7万,“与辉同行”账号粉丝数超过165.7万,显示出良好的发展势头。尽管如此,东方甄选主账号却掉了24.3万粉丝,这无疑给与辉同行带来了竞争压力。在完成一系列直播带货数据后,于近日新增了一家名为“与辉同行”的品牌公司,实现了业绩增长。与辉同行目前的销售额和粉丝数量均超过了东方甄选,与竞争对手相比有着明显优势。在未来的发展中,他还将继续努力稳定形象,提升口碑,并带领“与辉同行”走向更广阔的舞台。

热点资讯 09.19
科沃斯:过去26年的逆袭之路——如何成为中国及全球的领先智能扫地机器人制造商

科沃斯:过去26年的逆袭之路——如何成为中国及全球的领先智能扫地机器人制造商

科沃斯推出全球首款恒压活水洗地机器人地宝X8 PRO PLUS,打破传统洗地模式。此款产品采用滚筒式结构,通过内置恒压系统提供持续的水源,解决了高清洁度和长寿命的问题。此外,它还配备高性能多维视觉模组和业内首个扫地机器人自研大语言模型,实现了智能交互和自主避障,为用户提供便捷高效的生活体验。这一创新突破标志着科沃斯在扫地机器人领域的领先地位,同时也引领了行业的未来发展方向。

热点资讯 09.19
从大小杨到曾志伟:网站编辑成长历程与自我评价

从大小杨到曾志伟:网站编辑成长历程与自我评价

曾志伟率领公司员工全力支持大小杨哥开设的分公司,并为其捧场,以期借此打开新的市场局面。其背后其实是一场互帮互助的好事。曾志伟的入场既是为了捞取后者的人气,也是为了扩张公司的影响力。最终,被挖墙角的不仅是大小杨哥所在的分公司,还有曾经在其中大放异彩的明星们。

热点资讯 09.19
梦幻西游中西栅黑的绰号-麻狼蹲着尿尿与七星地煞奖励2级神秘石

梦幻西游中西栅黑的绰号-麻狼蹲着尿尿与七星地煞奖励2级神秘石

黑总改名为“麻狼蹲着尿尿”,西栅老街黑总的160法暴神链号已被转会至超级联赛。 内容总结:黑总改名成“麻狼蹲着尿尿”,黑总的新号已在超级联赛报名中。

热点资讯 09.19
深一度:深度解读手机通信技术——寻找寻呼机的历史与现实威胁

深一度:深度解读手机通信技术——寻找寻呼机的历史与现实威胁

黎巴嫩发生多个区域的无线通信设备爆炸事件,伤亡人数超过4000人,死亡人数增多至11人。爆炸可能是由装置故障、电池过热等原因引发。目前,真主党方面怀疑是有人通过传呼机发送恶意信号或指令导致电池过热引发爆炸。该情况引起了外交与安全部门的高度关注,目前尚不清楚爆炸的具体原因。

热点资讯 09.19