新进展!Cerebras发布全球首款WSE-3芯片,拥有4万亿个晶体管和90万个核心。

2024-03-22 热点资讯 关注公众号

芯东西3月22日消息,美国半导体初创公司Cerebras于19日举办Cerebras AI Day,期间发布了CS-3人工智能超级计算机与其所搭载的最新WSE-3芯片、以及人工智能超级计算机Condor Galaxy 3。

据Cerebras官网介绍,CS-3拥有高达1.2 PB的巨大内存系统,旨在训练比OpenAI GPT-4和谷歌Gemini大10倍的下一代前沿模型。在CS-3上训练一万亿参数模型就像在GPU上训练十亿参数模型一样简单。

一、四万亿晶体管,拥有90万个计算核心

最新发布的WSE-3芯片是从WSE-2改进而来的,其晶体管数量较上一代WSE-2明显提高,达到4万亿。

它还拥有90万个计算核心、44GB的SRAM内存,制造工艺也更新到5纳米。基于5纳米、4万亿晶体管的WSE-3可以为Cerebras CS-3人工智能超级计算机提供动力,通过90万个人工智能优化的计算核心,提供每秒125千万亿次的峰值人工智能性能。

据该公司称,WSE-3在人工智能工作负载方面的性能是其前身的两倍,它的峰值速度可以达到每秒125千万亿次浮点计算。

作为人工智能芯片的独角兽企业,Cerebras在2021年首次亮相了WSE-2芯片,集成了2.6万亿个晶体管、40万个核心。当同行都在将晶圆分割成数百颗独立芯片之时,Cerebras选择将整个晶圆做成一颗芯片。

二、基于高通AI 100 Ultra,实现十倍性价比提升

Cerebras在社交平台X上宣布将利用美国高通产品在AI推理中的强大性能,通过使用Cerebras业界领先的CS-3 AI加速器与美国高通骁龙的AI推理芯片AI 100 Ultra进行推理,生产级部署可实现高达10倍的性价比提升。

“这些共同努力旨在开创高性能低成本推理的新时代,而现在是最合适的时机。我们的客户专注于训练最高质量、最先进的模型,这些模型在推理时不至于花费过多资金。”Cerebras首席执行官兼联合创始人安德鲁·费尔德曼(Andrew Feldman)说道,“利用高通的AI 100 Ultra,我们可以在不牺牲模型质量的情况下,从根本上降低推理成本,从而实现当今最高效的部署。”

Cerebras与高通的AI 100 Ultra合作所使用的先进技术包括四个方面,分别是:非结构化稀疏性(Unstructured Sparsity)、推测解码(Speculative Decoding)、高效的MX6推理(Efficient MX6 inference)以及来自Cerebras的NAS服务(NAS service from Cerebras)。

这些技术和其他先进技术的结合,旨在使Cerebras和高通技术的解决方案的实现性能提升一个数量级,在模型发布时提供数量级的性能改进,从而使推理就绪的模型可以部署在任何高通云实例上。

三、同G42合作,打造超级计算机

此外,Cerebras将建造Condor Galaxy 3,这是他们的人工智能超级计算机星座的第三个集群,即秃鹰星系。Condor Galaxy 3配备64个Cerebras新发布的CS-3系统,将基于5800万个AI优化核心提供8 exaFLOPs的AI性能。

在去年七月,Cerebras公布了CS-2,一台价值1亿美元的人工智能超级计算机。Cerebras与阿联酋AI公司G42一起使用这台机器。

Cerebras和G42之间的战略合作伙伴关系也将随着Condor Galaxy 3的建设而扩大。G42首席技术官Kiril Evtimov称:“借助Condor Galaxy 3,我们将继续实现通过开发世界上最大、最快的AI超级计算机来改变全球AI计算库存的共同愿景。”

据外媒报道,Condor Galaxy 3将于2024年第二季度上市。

结语:人工智能超级计算机潜能再次突破

Cerebras CS-3人工智能超级计算机的公布,是对人工智能技术的飞速发展、以及对于强大计算能力的需求日益迫切的最新回答。伴随着各种类型的人工智能大模型不断涌现,CS-3依靠其在性能上质的飞跃,使得训练超大规模的人工智能模型变得更加简单。

外媒认为,Cerebras的CS-3人工智能超级计算机和WSE-3芯片的发布,标志着人工智能硬件领域的一次重大突破。

来源:雅虎财经、Business Wire、PR Newswire


结论:
Cerebras在最近举行的Cerebras AI Day活动中发布了他们的新款人工智能超级计算机CS-3。这款超级计算机拥有了巨大的内存系统,能够训练出比OpenAI GPT-4和谷歌Gemini大的10倍的人工智能模型。WSE-3芯片也有显著提升,每秒可达125千万亿次的峰值人工智能性能。这一系列的技术创新展示了人工智能的强大潜力,并且在降低成本方面实现了显著提升。
此外,Cerebras还宣布计划通过合作使用高通的产品和架构来提升推理性能,使其能够在不牺牲模型质量的情况下降低推理成本。同时,他们还将建造Condor Galaxy 3,这是一个包含大量Cerebras CS-3系统的大型人工智能超级计算机星座,计划在未来两年内上市。
综上所述,Cerebras的CS-3人工智能超级计算机和WSE-3芯片的发布,无疑将进一步推动人工智能技术的发展,同时也在提高AI应用程序的成本效益。这一系列的技术创新将会对人工智能领域产生深远影响。

上一篇:盲视技术已在猴子身上见效!马斯克脑机接口公司新目标:让盲人重见光明
下一篇:阿里回应出售B站 ADR:会继续加强与B站的合作
更多更酷的内容分享
猜你感兴趣
4万亿晶体管,90万AI核心,Cerebras第三代晶圆级AI芯片震撼登场!

4万亿晶体管,90万AI核心,Cerebras第三代晶圆级AI芯片震撼登场!

Cerebras Systems推出第三代晶圆级AI芯片WSE-3,性能是上一代的两倍,采用台积电5nm制程,拥有4万亿个晶体管和90万个AI核心。与英伟达的H100相比,WSE-3在面积、内核数量、片上内存和带宽等方面有显著优势。同时推出的CS-3超级计算机可用于训练参数高达24万亿的人工智能模型,简化训练过程并提高开发人员效率。最新的Cerebras软件框架支持PyTorch 2.0和其他AI技术,并为动态和非结构化稀疏性提供硬件加速。

热点资讯 03.15
当前最先进的AI芯片拥有多达4万亿个晶体管,可用于建设庞大的人工智能超级计算机。

当前最先进的AI芯片拥有多达4万亿个晶体管,可用于建设庞大的人工智能超级计算机。

Cerebras Systems推出了全新的5纳米级“晶圆级引擎3”,这是目前世界上运行速度最快的AI芯片,也将大幅提升之前的世界纪录。 关键词:5纳米级引擎3、WSE-3、世界纪录、最大计算机芯片、训练大型AI模型、秃鹰银河3号。

热点资讯 03.19
晶圆级AI芯片WSE-3性能展示:每秒生成1800个Token,里程碑般的技术创新突破

晶圆级AI芯片WSE-3性能展示:每秒生成1800个Token,里程碑般的技术创新突破

Cerebras Systems推出全新AI芯片WSE-3,性能提高一倍,包含12英寸晶圆级AI芯片WSE-3和基于该芯片的超计算机CS-3,用于训练AI模型,但其价格也高于传统CPU。

热点资讯 08.31
5nm技术,4万亿晶体管,全球最快AI芯片,超越H100!能训练24万亿参数LLM的单机,Llama 70B一天完成。

5nm技术,4万亿晶体管,全球最快AI芯片,超越H100!能训练24万亿参数LLM的单机,Llama 70B一天完成。

全球最强最大AI芯片WSE-3发布,4万亿晶体管5nm工艺制程,性能是上一代的两倍,功耗不变。单个超算可训出24万亿参数模型,相当于GPT-4/Gemini的十倍大。WSE-3搭载40000亿个晶体管,芯片面积为46225平方毫米,专为AI打造的计算能力,单芯片实现集群级性能。

热点资讯 03.17
完善模型性能,优化大型在线平台的大规模微调过程

高级技术引领,大语言模型的高效微调策略解析与实践

完善模型性能,优化大型在线平台的大规模微调过程 高级技术引领,大语言模型的高效微调策略解析与实践

摘要: 这篇文章深入探讨了如何通过模型微调来优化LLM,使其更精准地适应特定任务。模型微调是一种将预训练模型适配到特定任务中的方法,可以有效地提高模型的泛化能力和性能。 步骤: 1. 准备数据:向LLM提供一个包含示例的数据集。 2. 上传数据:将数据集上传至LLM。 3. 执行微调任务:使用预训练模型和微调参数对LLM进行微调。 4. 微调模型调用:调用微调后的LLM进行特定任务的预测。

热点资讯 11.10
TVB御用学生妹一改清纯形象,身材丰满与样貌不符的争议再次引人关注

TVB御用学生妹一改清纯形象,身材丰满与样貌不符的争议再次引人关注

电视剧《黑色月光》中年轻版黄翠如备受瞩目,曾多次饰演学生妹一角。但近期曝光的一段采访显示,她表示将会推出个人首本写真散文集,以诚意满满的行动回应粉丝的支持。在此之前,她曾凭借清新甜美的形象多次出现在电视节目中,并因此被誉为“TVB御用学生妹”。 此外,区内明妙是一位童星出身,以其可爱的形象深得人心。她在童年时期参与了许多剧集作品,例如《亲亲我好妈》、《她她她的少女时代》等。近年来,她也参演了一些热门剧集,例如《黯夜守护者》和《你好,我的大夫》。 然而,这次的演出却让她有了新的转变,决定推出自己的首本写真散文集。在采访中,区明妙透露将亲自前往台北取景,并且这些照片都经过精心挑选。对于读者来说,这无疑是一个非常值得期待的消息。

热点资讯 11.10
《江南水乡》端午节:世事如棋局,一场人与人的较量

《江南水乡》端午节:世事如棋局,一场人与人的较量

燕氏商队无一人退缩勇闯西域,然而曹大没了,响仔没了,小虾米没了,众人去一人归,站在端午的视角,她失去了全世界;燕氏商队全军覆没,燕子京有不可推卸的责任。小情侣确定恋爱关系,欢声笑语还历历在目,转眼间物是人非阴阳两隔。此次的最大问题出在尉迟无意身上,他是琅嬛坞的坞主,也是燕子京的好大哥,其实他的真实身份是骊龙盗的首领,阴狠狡诈,诡计多端。男主错把仇人当大哥,葬送了燕氏商队。从端午失踪,到商队几乎全军覆没,反派的目标一直都是八娘留下的血珠,这颗珠子藏着宝藏的秘密。巫医亖了,解药没了,端午对燕子京误会重重,希望亮了又破灭了,剧情反转太快了,男女主的感情线太难了吧!后期端午改名为苏幕遮,勇闯扬州,宁可万劫不复也要追寻真相。在这个过程中,她心如明镜,不被仇恨裹挟,一手缔造明镜台,联合张晋然昭雪旧案。

热点资讯 11.10
45岁逆袭成功:减掉30斤后邂逅小九岁男友,如今53岁事业焕发生机

53岁逆袭人生:从零开始减肥30斤,历经风雨爱情再起航

45岁逆袭成功:减掉30斤后邂逅小九岁男友,如今53岁事业焕发生机 53岁逆袭人生:从零开始减肥30斤,历经风雨爱情再起航

"我当初是看中了她的演技,但现在看来是得不偿失。" 这句话概述了闫妮出演《武林外传》时的经历,突出了其在该剧中的角色转变以及对婚姻的看法。同时强调了她在剧中遭受的巨大痛苦,包括与丈夫的离婚以及家庭破碎等,从而突显了她的悲剧命运。

热点资讯 11.10
张新成与李兰迪cp升级!爆款剧擦出火花,幸福照进现实吗?

张新成与李兰迪cp升级!爆款剧擦出火花,幸福照进现实吗?

李兰迪与张新成被曝已婚,男女主角粉丝各为其战。吴奇隆与刘诗诗曾引发热议,但现在两人都没有正面回应。而马雅舒也曾为刘诗诗带来争议。娱乐圈多部作品中都有CP出现,但最终大多数都会以分手或不合结束。

热点资讯 11.10
叶珂隐私录音大曝光:揭露真伪富豪身份

叶珂隐私录音大曝光:揭露真伪富豪身份

黄晓明和网红叶珂的恋情让女方成为了公众焦点,被曝出怀孕消息后,叶珂并未再直播,她在黄晓明家中为其庆生并露面。这引起了一场网络风暴,叶珂遭遇了严重的网络暴力,其中包括其服装生意的损失。有人认为叶珂受到了情绪的影响,甚至因此迷失方向。而叶珂则表示她已经澄清了两人之间的关系,并否认了外界关于分手的消息。网络博主“妖怪”通过录音的方式揭露了事实,称黄晓明和叶珂存在合作模式,并试图澄清他的不悦。最后,妖怪称他将帮助叶珂洗脑,以解释她为何要联系他。对于此事,双方各执己见,但目前尚未有定论。

热点资讯 11.10
荷兰国王明确表示:我们不会忽视并保护以色列人的遭遇

荷兰国王明确表示:我们不会忽视并保护以色列人的遭遇

荷兰阿姆斯特丹市中心发生了针对以色列球迷的暴力袭击,导致5人受伤,另外还有多人受到轻伤。该事件引起了欧盟、美国和以色列等国领导人的谴责,并引起了许多人的震惊,因为他们都在庆祝纪念“水晶之夜”(1938年纳粹对德国犹太人的大屠杀)前夕发生的类似事件。荷兰国王表示,犹太人在荷兰必须感到安全,称这是荷兰不可忽视的历史责任。这一事件也使许多人心情沉重,因为二战期间荷兰四分之三的犹太人被杀害。美国总统拜登表示,这些袭击让人回想起历史上犹太人受迫害的黑暗时刻。

热点资讯 11.10
美国总统胜选与其替代:这是真的吗?

美国总统胜选与其替代:这是真的吗?

特朗普成功回归白宫,成为第47任美国总统。这次胜利不仅是特朗普个人的胜利,也是美国共和党的胜利。特朗普政府赢得了新冠防疫失败、社会动荡的烂摊子,并且成功地重启美国经济与社会,让美国以人工智能为代表的新科技如日中天。同时,拜登政府也从特朗普手中接过了一个烂摊子,并成功地恢复了美国经济与社会。然而,民主党人在此次选举中的表现令人失望,特别是在劳动成果被特朗普夸大的情况下,民主党领导层也遭到了民众的猛烈批评。这场胜利揭示了民主党和特朗普之间的巨大分歧,以及美国政治制度的复杂性和挑战性。

热点资讯 11.10
缅甸班茂镇爆发新冠疫情:卫生组织紧急行动应对高感染率

感染率最高的缅甸班茂镇突发疫情:卫生部门紧急采取措施应对高风险

缅甸班茂镇新冠感染人数激增:卫生部门全力应对,发布重要提醒

紧急通知:缅甸班茂镇出现确诊患者,卫生部门启动全面防疫措施应对新冠病毒传播

缅甸班茂镇爆发新冠疫情:卫生组织紧急行动应对高感染率 感染率最高的缅甸班茂镇突发疫情:卫生部门紧急采取措施应对高风险 缅甸班茂镇新冠感染人数激增:卫生部门全力应对,发布重要提醒 紧急通知:缅甸班茂镇出现确诊患者,卫生部门启动全面防疫措施应对新冠病毒传播

缅媒报道,班茂镇是疟疾感染率最高地区之一。卫生组织将在发放疟疾治疗药物前给各地区居民分发必要药物。

热点资讯 11.10
凯特王妃结束化疗回归公众视线,首度同框家人们惊喜照曝光。然而卡米拉并未到场

凯特王妃结束化疗回归公众视线,首度同框家人们惊喜照曝光。然而卡米拉并未到场

英国王室成员在皇家阿尔伯特音乐厅观看年度纪念音乐会,纪念在战争和冲突中牺牲的人们。尽管王室成员很少坐在皇家包厢中,但凯特的到场让这场演出显得并不那么重要。英国报纸普遍认为,现年43岁的凯特已经华丽归来了,虽然她是否频繁露面未知,但她看起来很健康和幸福。凯特已经开始回到健身房恢复体力,期待增长肌肉。

热点资讯 11.10