OpenAI工程师必读,《苦涩的教训》早有原型,二十年前就已存在。

2024-02-24 热点资讯 关注公众号
    《OpenAI 的 Sora 模型与通往 AGI 的方法论》
OpenAI工程师必备经典《苦涩的教训》,原来20多年前就有了原型    一周前,OpenAI 掀起了一场人工智能领域的风暴,其发布的视频生成模型 Sora 凭借惊艳的性能和创造力引发了全球关注。Sora 不仅能够自动生成并剪辑高质量的电影预告片,如“小狗探索天空废墟”,更在业界掀起了一场关于 AGI(通用人工智能)技术栈构建方式的深度探讨。
OpenAI工程师必备经典《苦涩的教训》,原来20多年前就有了原型    近日,在知乎的一篇文章中,加州大学伯克利分校计算机科学博士 @SIY.Z 分析了 OpenAI 能够率先打造 Sora 并成功运用 AGI 技术栈的关键原因。他指出,OpenAI 的方法论实际上是通向 AGI 的一种核心路径,这一方法论根植于三个关键理念之上:The bitter lesson、Scaling Law 以及 Emerging properties。
OpenAI工程师必备经典《苦涩的教训》,原来20多年前就有了原型    其中,《苦涩的教训》源自机器学习先驱 Rich Sutton 在2019年的经典文章,强调了通过利用强大算力,尤其是大规模数据训练和大型模型来实现人工智能长期提升的重要性。这一点在 OpenAI 研究人员 Jason Wei 的每日工作时间线中也得到了体现,众多业内人士对此观点深表赞同,甚至将 The bitter lesson 视为 AI 进步的核心原则之一,与 Transformer 论文中的“Attention is All You Need”相提并论。
OpenAI工程师必备经典《苦涩的教训》,原来20多年前就有了原型    同时,@SIY.Z 引用了 Rich Sutton 博客中未完成的文章,进一步揭示了 AI 领域的一个重要观点:智能体应具备发现新知识的能力,而非仅仅依赖人类预先编程的知识结构。这意味着在构建 AGI 的过程中,要重视能自主学习和适应复杂环境的算法,而不仅仅是复制或模拟人类思维模式。
OpenAI工程师必备经典《苦涩的教训》,原来20多年前就有了原型    回顾 Rich Sutton 的《苦涩的教训》全文,他通过多个 AI 子领域的发展历程阐述了一个普遍规律:从长远来看,倚重计算能力的方法最终会超越那些过于依赖人为设计规则和特定领域知识的方法。这不仅体现在 Sora 的开发过程中,也在计算机国际象棋、围棋等领域取得了突破性进展。
OpenAI工程师必备经典《苦涩的教训》,原来20多年前就有了原型    总结来说,OpenAI 利用大规模数据、大模型和强大算力成功推出 Sora,验证了以 The bitter lesson 为核心的方法论对于构建 AGI 的重要作用。这一方法论提醒我们,未来的 AI 发展将更多地依靠对海量数据的挖掘和利用,并通过不断扩展和优化算法来实现真正的智能进化。
OpenAI工程师必备经典《苦涩的教训》,原来20多年前就有了原型

上一篇:你会不会给孩子买点贵的?
下一篇:7岁孩子将黄豆塞入耳朵,三个月后已发芽……医生提醒
更多更酷的内容分享
猜你感兴趣
华为原软件工程师余承东:在31年前的求职经历

华为原软件工程师余承东:在31年前的求职经历

华为常务董事余承东与开发者体验原生鸿蒙应用开发,并称在21世纪初编程语言仍需多写代码。

热点资讯 06.24
纳德拉揭示:如果没有微软的早期支持,OpenAI将无法存在

早期微软支持与OpenAI的发展:一场关于未来科技的关键对话

纳德拉揭示:如果没有微软的早期支持,OpenAI将无法存在 早期微软支持与OpenAI的发展:一场关于未来科技的关键对话

微软投入巨资支持OpenAI发展,但也需警惕潜在竞争对手。

热点资讯 04.23
谷歌工程师警告:OpenAI的AGI研究延缓了至少5-10年

谷歌工程师警告:OpenAI的AGI研究延缓了至少5-10年

谷歌软件工程师弗朗索瓦・肖莱在与播客主Dwarkesh Patel讨论 AGI 时表达了对其研究现状的担忧,并批评OpenAI引 发了对大语言模型的炒作。

热点资讯 06.13
打开AI大幕:无需额外训练的OpenAI GPT-4模型在日本理疗师考试中崭露头角

打开AI大幕:无需额外训练的OpenAI GPT-4模型在日本理疗师考试中崭露头角

日本国家理疗考试新增AI评测工具,GPT-4无额外训练轻松通过考试,显示其视觉理解有限。

热点资讯 08.31
港星梁朝伟确诊胃癌,周润发回应:圈中人关心至极,呼吁发哥早日康复

港星梁朝伟确诊胃癌,周润发回应:圈中人关心至极,呼吁发哥早日康复

周润发四肢长出小肉球引发担忧,艺人黎彼得称其疑为肿瘤,但称周润发生活作息正常,港艺人马海伦曾慰问,其他人关心发哥;11月5日否认生病,跑步缓解肉球大小;周润发对健康乐观,每天跑步,组建明星跑步团。

热点资讯 11.10
新恋情闪电曝光:网红已公开否认恋情,粉丝炸锅}

新恋情闪电曝光:网红已公开否认恋情,粉丝炸锅}

11月7日晚#彭高翁青雅分手#的消息在微博热搜爆了!这究竟是怎么一回事? 2024年11月7日,参加综艺节目《心动的信号7》的嘉宾彭高和翁青雅正式宣布分手。两人发文确认这一消息,并表示目前是朋友关系。 彭高提到他们在离开小屋后仍有一些接触,但最终决定回归朋友关系。翁青雅则表示两人的生活节奏错开了,当她鼓起勇气反馈时已经太晚。 彭高在个人声明中回顾了他在节目中的体验,表示这是一个高度浓缩的经历,充满了挑战和欣喜。他表示在7月底与翁青雅进行了最后一次私下见面,随后因拍摄仍有几次碰面。经过深思熟虑,他认为朋友关系是最合适的状态。他还感谢了节目的其他参与者和支持他的朋友们。 翁青雅也在个人声明中表达了感激之情,感谢通过节目认识她的粉丝们。

热点资讯 11.10
被任达华女儿近距离曝光:长相独特,气质出众,继承超模妈妈基因

被任达华女儿近距离曝光:长相独特,气质出众,继承超模妈妈基因

眼神,让人一眼就能认出是娱乐圈里的当红炸子鸡。此外,任达华女儿任晴佳也是吸引目光的一大焦点。其独特的气质和魅力让她一出现就引起全场的关注。不仅如此,她的小短腿更是成为了一个亮点。虽然十岁不到,但已经拥有了宛如成年人的身高,这无疑是任何年龄段的人无法企及的。 同时,她在时尚方面的表现也同样出色。简单的一套黑西装配白色衬衫,长发披肩,展现出其精致的品味和气质。无论是身材比例还是气质,都与众多网红相差无几。这就是被称为“小女神”的任晴佳,凭借自身的实力和个人魅力,在娱乐圈里占据了一席之地。

热点资讯 11.10
叶珂的网络逆袭:原来黄晓明并非知晓真相的最后一个人!

叶珂的网络逆袭:原来黄晓明并非知晓真相的最后一个人!

叶珂频登热搜,揭露大V“妖怪”的真实面目。其中一位名为“妖怪”的美妆博主曝出了叶珂与黄晓明产检的细节,称黄晓明可能是在拍摄过程中走神,导致恋情受到影响。叶珂否认花费1000万购买钻戒,并认为男友对她的真实性格一无所知,相信他是真爱。

热点资讯 11.10
美国放弃乌克兰,影响深远:新闻解析与预测

美国放弃乌克兰,影响深远:新闻解析与预测

匈牙利总理指出美国可能退出乌克兰冲突,欧盟面临“尴尬局面”,呼吁重新审视和调整相关政策。欧尔班认为特朗普将引领全球范围内深刻的变革,可能导致一些政客陷入困境,建议各国做好乌克兰转型的准备。一些欧盟领导人的反对意见被反驳,欧尔班坚持自己的外交策略。

热点资讯 11.10
运河二期工程总投资达200亿:我国重要项目进展顺利,利于国家与民众利益提升

运河二期工程总投资达200亿:我国重要项目进展顺利,利于国家与民众利益提升

阿富汗国家开发公司宣布库什塔帕运河第二期工程已完工81%,预计完成64%。该项目对阿富汗至关重要,由国内工程师负责建设,总成本为200亿阿尼,全部由国内资金支付。

热点资讯 11.10
美国43只恒河猴意外逃脱,只有1只被成功找回,人类务必远离!

美国43只恒河猴意外逃脱,只有1只被成功找回,人类务必远离!

美国南卡罗来纳州一所研究机构内的43只恒河猴出逃。警方建议居民关好窗户防猴入室。其中一只猴子被找回,其余仍未找回。美国疾病控制与预防中心证实,43只猴子携带猴B病毒。专家警告,这些猴子可能造成致命伤害。

热点资讯 11.10
拜登暗示将挖掘特朗普的前任们作为候选人竞选总统

拜登暗示将挖掘特朗普的前任们作为候选人竞选总统

拜登政府允许美国军火商前往乌克兰前线维护修理美国提供的武器,这一举动被视为重大的政策转变,涉及人权、战争和战略等多个问题。尽管得到了美国国会的批准,但白宫并没有遵守这些协议,并继续推进向乌克兰提供军事援助。美国政府在交接过程中的行为引起争议和担忧,可能导致特朗普在政府中的处境变得更加艰难。

热点资讯 11.10
关于大爹的谣言:非李信与暗信之别,暗信依旧主流

关于大爹的谣言:非李信与暗信之别,暗信依旧主流

李信加强后的表现引发热议,全分段胜率突破50%,但强度有所下降。建议高端局避免使用李信。光信比暗信强,但需注意自身失误风险。

热点资讯 11.10
九星斗圣与斗帝的差距:魂天帝一招击败古元与烛坤的神话对决

穿越玄幻世界:九星斗圣与斗帝的到底差距在哪?魂天帝一击重创古元与烛坤的实力对比

九星斗圣与斗帝的差距:魂天帝一招击败古元与烛坤的神话对决 穿越玄幻世界:九星斗圣与斗帝的到底差距在哪?魂天帝一击重创古元与烛坤的实力对比

《斗破苍穹》漫画版已接近尾声,对比九星斗圣,谁更强?萧炎通过成为七星斗圣才有了挑战斗帝的机会,但并非所有九星斗圣后期者都能超越九星斗圣后期者。其中,萧炎属于唯一一人拥有陀舍古帝传承并成功晋升斗帝。而魂天帝是目前斗气大陆最高位的斗帝,他与四大皇族之一的古元、烛坤都有过激烈竞争。尽管魂天帝具备较强的实力,但他仍需突破多个瓶颈才能迈入斗帝领域,而这正是九星斗圣的重要区别。

热点资讯 11.10