马斯克为什么要做开源?

2024-03-21 热点资讯 关注公众号

出品|虎嗅科技组

|齐健

|王一鹏

头图|视觉中国

3月11日周一,马斯克发推文说要在一周内开源Grok。众多开发者等着盼着过了一周,到周日Grok才正式将代码推到了开源社区。

开源的Grok-1是一个基于Transformer架构的自回归模型,参数规模达到3140亿参数,是目前参数量最大的开源模型之一,Grok-1与主流开源大模型一样免费可商用。

在开源之前,Grok最大的亮点是直接调用X中的实时数据和“幽默”。

但开源版本的Grok已经打了折扣——在开发者手里,Grok不可能调取X的数据。从本次开源的信息来看,2023年11月Grok上线以后调用过的X数据,也没有被作为训练数据沉淀到Grok中。

除开源打折外,Grok本身的性能也并不占优。刚上线时,Grok的评分就远落后于当时的Palm 2、Claude 2和GPT-4。最典型的问题是,其支持的上下文长度只有8192个token。

Grok取得的关注(上线3天在GitHub收获3.9万Star),似乎很大一部分都来自马斯克本身的流量热度。开源Grok被马斯克说成是为了践行“AI造福全人类”的目标,但在与OpenAI的官司期间开源,有观点认为,Grok 开源的目的之一,就是为马斯克起诉、声讨OpenAI提供的事实依据——这是一场由马斯克亲自操盘的“AI 大秀”。

开源Grok是作秀?

开源是一场让企业与开发者跳双人舞的“社区游戏”,但Grok这个“舞伴”,完全不是普通开发者所能掌控的。

在Grok-1之前,很多开源大语言模型(LLM)的参数量只有70亿,LLaMA-2开源的最大参数量也只有700亿。

而马斯克直接开源了自家尺寸最大的3140亿参数模型,据估计Grok-1需要约628 GB GPU内存才能勉强运行,普通开发者几乎不可能在本地尝试Grok-1,对于云服务用户来说,至少需要8张80GB显存的A100或H100 GPU。

在Grok的GitHub讨论区有用户留言表示:谷歌云上80GB A100的4卡服务器每小时运行成本是20美元,这不适合我。(GCP instance with 4 A100 80GB; it cost around $20 per hour; this is not for me LOL.)

Grok开源之后,笔者也加入了一个关于Grok的开源讨论群,但到了第二天,群内的讨论焦点,已经转向了只有40亿参数的Qwen-1.5。

不过,Grok-1也支持8bit量化,一些开发者认为,如果模型可以量化到160GB,“可玩性”会大幅提高。算力不太宽裕的开发者,可以等到官方或者其他开发者发布量化版本后再尝试。

至少从短期来看,开源Grok对普通开发者并不是很友好。那么开源对于Grok本身来说,有什么帮助呢?从传统的开源视角来看,也很难说。

一些人认为开源模型可以汇聚更多开发者力量,帮助优化模型。但今天的开源AI与传统的开源软件逻辑几乎完全不同。代码开源对于AI大模型的促进作用,并不像过去的开源软件那样明显。

传统软件开发过程中,一款系统、工具或软件开源以后,开发者可以基于共享代码直接修复bug,优化程序。然而今天的多数AI模型本身就是一个很大的黑盒,要从中找到问题,并对模型的底层算法进行训练、调优并不容易。

“AI大模型训练是一个很‘集中’的工作。”生数科技CEO唐家渝表示,AI大模型很难通过“分布式”的开源来收集开发者的“贡献”。闭源反而是更能集中包括智力的资源、算力的资源,去做不断地迭代的。

一些开发者认为,对于开源AI模型的来说,最大的好处是打响知名度——以Grok目前的模型能力来看,只有吸引一批开发者、公司、机构对模型进行试用、开发,逐步建立起对模型的认可,才能稳固其在AI大模型领域的“江湖地位”,提高这款既不太新,也不太强的AI大模型的影响力。

闭源Grok把路走窄了?

从AI行业角度来看,Grok的受关注度不高。由于模型跑分不高,过去几个月中发布的AI大模型,在对比评测数据集得分时,几乎很少有人对标Grok。

从业务视角来看,Grok在X平台中的表现也不理想。

Grok上线到X后,与ChatGPT Plus一样采取订阅制,但ChatGPT的GPT-3.5免费开放,而Grok则一刀切,只提供给X Premium会员。X Premium会员的订阅费用是16美元包月,168美元包年。

由于一开始就设置了付费门槛,Grok没有吃到X庞大用户基础的红利。

X与三款AI对话网站流量  数据来源|SimilarWeb

虽然影响网站流量的因素很多,且x.com网站的受众、属性与其他几家也有明显差异,直接对比流量并不能完全说明问题,但访问时长的巨大差异,也侧面反映了X用户大概率没有跟付费的Grok聊太多。

马斯克最早给Grok的战略定位,可能更多是考虑促进X的Premium会员销售,以补贴X的广告收入。然而,如今Grok在X中发挥的作用很可能并没有达到马斯克的预期。与其一直在X Premium中“躺平”,开源Grok或许能给马斯克和x.AI打开新局面。

开源激起千层浪

在AI大模型热潮中,靠开源大模型树立行业地位的公司并不少见,包括MistralAI以及国内的智谱,阿里的通义千问等。

深陷元宇宙泥潭的Meta更是依靠开源LLaMA模型打了一次翻身仗。在2023年中,全球市场最大的变数是AI大模型,而Meta最大的变数就是开源了一款AI大模型。

通过开源LLaMA,Meta展现了其在大型语言模型(LLM)领域的技术实力和开放创新的姿态,这在一定程度上帮助公司缓解了市场对其元宇宙战略的担忧。由此Meta的股价也在一年内翻了几番,市值从3155亿美元涨到1.2万亿美元,涨出了19个京东。

LLaMA的开源,特别是其成本效益高的特点,对Meta而言具有战略意义。与Google和Microsoft等竞争对手的AI大模型相比,LLaMA的小巧和高性能使得Meta能够以较低成本部署高效的AI模型。这不仅提高了AI技术的普及率,也为Meta未来在各种应用和用例上的广泛部署提供了可能。有分析人士认为,基于Meta的业务范围,从聊天机器人到游戏,再到未来的生产力软件,生成式AI预计将带动一个价值超过500亿美元的市场。

虽然LLaMA最初的开源一直被业界传说是无意间的“泄露”,但其最终的结果却为Meta在AI大模型行业奠定了技术和市场的领导地位。

“开源”的战略逻辑,对于马斯克来说并不陌生。

2014年,马斯克开放了特斯拉的350多项电动车专利技术。当时马斯克在接受采访时表示,“特斯拉的首要目标是加速全世界向可持续能源转变”。事实证明,马斯克大公无私的“开源”,在后来使得他自己成为了最大的受益者。

特斯拉开放专利的做法,一举将全球汽车市场的水搅浑。大量新能源车企借助特斯拉的专利异军突起,直接激活了整个新能源汽车市场。而特斯拉作为行业领军企业,则借助长期积累的行业口碑和技术开发实力,持续保持了行业的领先地位。

虽然开源Grok大概不会像特斯拉开放专利那一石激起千层浪,改变整个AI行业的格局,但对于目前的x.AI来说,应该也会产生一些积极的影响。


本文主要探讨了开源Grok项目及其对普通开发者的影响。Grok是一个基于Transformer架构的自回归模型,其参数量高达3140亿参数,是目前参数量最大的开源模型之一。但在公开前,Grok的参数并未用于任何实际任务。
尽管如此,开源Grok的成功也引起了一些争议。许多开发者期待通过开源模型获取更多的研究机会和合作机会,但这同时也带来了挑战,例如高计算要求和潜在的合规风险。此外,开源Grok是否真正适用于人工智能领域,还有待进一步探索。
开源AI模型可以汇聚更多开发者力量,但其在某些方面并不如传统的开源软件那样明显。AI大模型的研发往往需要庞大的资金投入和复杂的算法开发,这些因素通常会影响到开源项目的吸引力。
虽然开源模型可以帮助推动AI技术的发展,但对于不同的企业和市场,其使用效果可能会有所不同。对于Grok这样依赖GPU资源的模型,可能不如一些专门针对低硬件要求的模型更有效。
最后,开源Grok的成功也引发了人们对于人工智能领域开放策略的深入思考。如何平衡商业化和学术研究之间的关系,以及如何保证AI技术的安全性和公平性,都是值得我们关注的问题。

上一篇:家长注意!4月1日起,长沙中小学入学报名系统将开放
下一篇:从极草到听花酒,这片土地上行骗的成本实在太低(上)
更多更酷的内容分享
猜你感兴趣
消息来了:马斯克宣布Grok开源!

消息来了:马斯克宣布Grok开源!

马斯克的新款大模型Grok-1参数量达到3140亿,远超OpenAI GPT-3.5。这款大模型采用混合专家(Mixture-of-Experts,MOE)架构,门控网络机制使得每个领域专家负责特定任务。目前,Grok-1项目的评分约3400颗星。

热点资讯 03.18
马斯克怒告OpenAI,被骗要赔偿,还要求开源!

马斯克怒告OpenAI,被骗要赔偿,还要求开源!

马斯克因违反合同将OpenAI告上法院,要求赔偿损失、恢复开源和非盈利性质,并切断其与微软的财路。诉讼文件中揭露了OpenAI违背初衷和一些不为人知的内幕细节。案件管理会议定于2024年7月31日召开。

热点资讯 03.02
马斯克与OpenAI分道扬镳,大模型开源还是闭源,你怎么看?

马斯克与OpenAI分道扬镳,大模型开源还是闭源,你怎么看?

马斯克起诉OpenAI事件引发关注,争议焦点在于马斯克对OpenAI的开源要求。纽约大学副教授Julian Togelius认为开源是大势所趋,可防止权力集中。马萨诸塞大学教授Jie Wang则表示未来各主要参与者可能会部分开源,但不会包括最重要的部分。此次纠纷反映出AI浪潮下科学界的长期争论话题——开源还是闭源。

热点资讯 03.09
马斯克加入开源AI大军

马斯克加入开源AI大军

特斯拉创始人埃隆·马斯克宣布开源大语言模型Grok-1,打破了对OpenAI封闭路线的不满,引发全球关注。

热点资讯 03.23
重新审视甄子丹与赵文卓的世纪骂战:陈可辛揭示真相

重新审视甄子丹与赵文卓的世纪骂战:陈可辛揭示真相

2012年,甄子丹与赵文卓发生“世纪骂战”,引发港圈和内娱半数明星的关注和不满。这场争论源于港媒一篇文章,文章中赵文卓被指更改剧本和导演,导致双方爆发冲突。这场争斗后来升级为互删微博,甄子丹甚至被封杀。虽然有明星为甄子丹发声,但背后是否有人为此蓄意报复仍成疑云。

热点资讯 11.10
金星演艺事业遭受打击,资产疑云满布?盘点其过往历程:贫富差距的深度剖析

金星演艺事业遭受打击,资产疑云满布?盘点其过往历程:贫富差距的深度剖析

金星称自己为“资产成谜”,近年来连遭演出取消,她在多个城市尝试建立自己的舞蹈团,然而却未能带来足够的收入。对于为何选择这样的方式来维持生计,她并没有给出明确的答案。此外,金星也曾经靠出卖身体参与商业表演而积累了大量的财富,但她从未公开承认过这一点。她在演艺事业上的成就和知名度一度很高,但在取消演出后,她的经济状况并未因此得到改善。最终,她选择了离开演艺圈,创立了自己的舞蹈团。尽管她的舞蹈有着独特的中国风元素,但由于其缺乏经验和市场认知,舞蹈团的发展并不顺利。

热点资讯 11.10
刀郎澳门演唱会:独特形式呈现,小女儿同台献唱,四太梁安琪化身刀迷狂欢之夜

刀郎澳门演唱会:独特形式呈现,小女儿同台献唱,四太梁安琪化身刀迷狂欢之夜

11月8日和9日在澳门银河综艺馆,刀郎举办了第四场国内巡演。现场人满为患,歌迷忍不住提前到达。他延续一贯的快节奏,没有多余的聊天。这次演唱会上,他与小女儿同台演唱,父女间的合唱充满温馨感。最后,他用《谢谢你》表达了对歌迷的感谢。

热点资讯 11.10
缅甸遭受前所未有的粮食短缺与电力危机:艰难时刻的严峻挑战

缅甸遭受前所未有的粮食短缺与电力危机:艰难时刻的严峻挑战

2022年的干旱天气持续了很长时间,使得农业生产受到了极大的影响。 综上所述,缅甸面临近代史上粮食安全形势最糟糕的情况,四分之一的人口粮食遭遇困难,尤其是270万人口面临紧急状况;物价上涨使缅甸基础食品价格比去年上涨了50%,导致1330万左右人口粮食困难。为此,WFP计划与志愿者、非政府组织NGO和合作推动工作,以确保欧盟的援助能够直接到达最需要帮助的社区。

热点资讯 11.10
英国与乌克兰关系陷入紧张局势:媒体评论

英国与乌克兰关系陷入紧张局势:媒体评论

英国和乌克兰的关系恶化,英国尚未对乌克兰交付额外远程“风暴之影”导弹;乌克兰总统拒绝英国首相斯塔默访问,西方媒体称他在唐纳德·特朗普赢得美国总统大选后获得较好的武器储备。

热点资讯 11.10
普京呼吁乌克兰坚守中立,以确保全球稳定与和平

普京呼吁乌克兰坚守中立,以确保全球稳定与和平

俄罗斯总统普京明确要求乌克兰保持中立才能避免成为外国棋子命运,强调了中立地位对于永久和平解决冲突的重要性。普京重申,俄罗斯致力于创造条件以期乌克兰成为长期独立且主权完整的国家,并否认2014至2015年达成的明斯克协议被用作让乌克兰武装部队取得时间的借口。他还强调,美国和北约的军事扩张威胁到俄罗斯的安全。

热点资讯 11.10
极限挑战!连续13把影之哀伤? 连接游戏,释放你的无限可能

极限挑战!连续13把影之哀伤? 连接游戏,释放你的无限可能

"影之哀伤的十三连击"玩家TrueButFunny开始了极具创意的"影之哀伤"制作之旅,他利用自己13个板甲小号的特殊方法来完成冰冠堡垒幻化装备的同时,开启了每个小号的影之哀伤任务线。最终成功获得了丰厚的战利品和资源。

热点资讯 11.10
梦幻西游:五开逆袭150级无级别,马头头书失败?道人发现超级兽诀换保时捷秘诀

或者

梦幻西游:十五级战力大突破,马头头却因书失败?道人揭示保时捷换兽诀秘密

梦幻西游:五开逆袭150级无级别,马头头书失败?道人发现超级兽诀换保时捷秘诀 或者 梦幻西游:十五级战力大突破,马头头却因书失败?道人揭示保时捷换兽诀秘密

主角发现疑似无底洞武器,但账号底子差;游戏公司决定是否推荐玩家改书;双开成功逆袭,五开难过开路虎。

热点资讯 11.10
斗破苍穹:萧炎首战慕骨惨败?三星巅峰斗尊一指戳死

斗破苍穹:萧炎首战慕骨惨败?三星巅峰斗尊一指戳死

蓝光从萧炎前方的空间中闪过,映入了慕骨老人的眼帘。慕骨老人脸色苍白,看向下方一片混乱的战场,心中明白这是自己的孙子在战斗。 "真没想到,你竟然会遇到药尘的师弟,我算是小看你了。"慕骨轻蔑地说道,手上光芒闪烁。 萧炎听后,眼中闪过一丝警惕,然而面对慕骨老人的挑衅,他也只能硬生生地回应。 画面回到了先前的战斗,萧炎挥舞着玄重尺挡住了慕骨老人的海心焰,但在下一刻,他又再次遭遇了一次浩劫般的攻击。 "又是这些废物,真是令人头疼。"慕骨冷笑着,突然手中一阵波动,一团红光自指尖喷涌而出。 "他,萧炎也是一名五星斗尊?"慕骨惊讶地看着萧炎,他从未想过这个年轻人会有如此高的实力。 "也许这只是我的猜测,但愿他会有所作为吧。"慕骨说完,微微一笑,仿佛那笑容已经足以驱散所有的阴霾。 就在这时,萧炎手中的玄重尺闪烁着耀眼的光芒,似乎蕴含着无穷的力量。 "这就是你的结局吗?"萧炎的声音有些悲壮,但也带着一丝坚定。 "你错了,这个世界并没有那么简单的结束。"慕骨突然开口,他的声音充满了决然。 "我不相信!" "为什么你不相信?"慕骨盯着萧炎的眼睛,认真地道。 "因为你根本不知道,真正的世界并不是你想看到的那样。"萧炎的话如同炸开的导火索,引来了整个场景的连锁反应。

热点资讯 11.10
11月中旬新兴四巨头引领,T0法王逼近,米莱狄重制之路曲折

11月中旬新兴四巨头引领,T0法王逼近,米莱狄重制之路曲折

11月的中路梯队格局中,T0/T0.5梯度法师甄姬凭借高额输出,排名第三;而T1和T2梯度法师则各有特色,如甄姬可以作为主力英雄上分,海月和王昭君则适合绝活哥使用;目前T0.T0.5层级的甄姬已经表现得相当出色,一技能连招稳定,大招击杀能力强。此外,海月和甄姬出装推荐也很实用,可以帮助他们在高分段取得优势。总的来说,这是一个值得关注的版本更新,期待更多选手能在游戏中取得好成绩。

热点资讯 11.10