OpenAI工程师必读,《苦涩的教训》早有原型,二十年前就已存在。

2024-02-24 热点资讯 关注公众号
    《OpenAI 的 Sora 模型与通往 AGI 的方法论》
OpenAI工程师必备经典《苦涩的教训》,原来20多年前就有了原型    一周前,OpenAI 掀起了一场人工智能领域的风暴,其发布的视频生成模型 Sora 凭借惊艳的性能和创造力引发了全球关注。Sora 不仅能够自动生成并剪辑高质量的电影预告片,如“小狗探索天空废墟”,更在业界掀起了一场关于 AGI(通用人工智能)技术栈构建方式的深度探讨。
OpenAI工程师必备经典《苦涩的教训》,原来20多年前就有了原型    近日,在知乎的一篇文章中,加州大学伯克利分校计算机科学博士 @SIY.Z 分析了 OpenAI 能够率先打造 Sora 并成功运用 AGI 技术栈的关键原因。他指出,OpenAI 的方法论实际上是通向 AGI 的一种核心路径,这一方法论根植于三个关键理念之上:The bitter lesson、Scaling Law 以及 Emerging properties。
OpenAI工程师必备经典《苦涩的教训》,原来20多年前就有了原型    其中,《苦涩的教训》源自机器学习先驱 Rich Sutton 在2019年的经典文章,强调了通过利用强大算力,尤其是大规模数据训练和大型模型来实现人工智能长期提升的重要性。这一点在 OpenAI 研究人员 Jason Wei 的每日工作时间线中也得到了体现,众多业内人士对此观点深表赞同,甚至将 The bitter lesson 视为 AI 进步的核心原则之一,与 Transformer 论文中的“Attention is All You Need”相提并论。
OpenAI工程师必备经典《苦涩的教训》,原来20多年前就有了原型    同时,@SIY.Z 引用了 Rich Sutton 博客中未完成的文章,进一步揭示了 AI 领域的一个重要观点:智能体应具备发现新知识的能力,而非仅仅依赖人类预先编程的知识结构。这意味着在构建 AGI 的过程中,要重视能自主学习和适应复杂环境的算法,而不仅仅是复制或模拟人类思维模式。
OpenAI工程师必备经典《苦涩的教训》,原来20多年前就有了原型    回顾 Rich Sutton 的《苦涩的教训》全文,他通过多个 AI 子领域的发展历程阐述了一个普遍规律:从长远来看,倚重计算能力的方法最终会超越那些过于依赖人为设计规则和特定领域知识的方法。这不仅体现在 Sora 的开发过程中,也在计算机国际象棋、围棋等领域取得了突破性进展。
OpenAI工程师必备经典《苦涩的教训》,原来20多年前就有了原型    总结来说,OpenAI 利用大规模数据、大模型和强大算力成功推出 Sora,验证了以 The bitter lesson 为核心的方法论对于构建 AGI 的重要作用。这一方法论提醒我们,未来的 AI 发展将更多地依靠对海量数据的挖掘和利用,并通过不断扩展和优化算法来实现真正的智能进化。
OpenAI工程师必备经典《苦涩的教训》,原来20多年前就有了原型

上一篇:你会不会给孩子买点贵的?
下一篇:7岁孩子将黄豆塞入耳朵,三个月后已发芽……医生提醒
更多更酷的内容分享
猜你感兴趣
华为原软件工程师余承东:在31年前的求职经历

华为原软件工程师余承东:在31年前的求职经历

华为常务董事余承东与开发者体验原生鸿蒙应用开发,并称在21世纪初编程语言仍需多写代码。

热点资讯 06.24
纳德拉揭示:如果没有微软的早期支持,OpenAI将无法存在

早期微软支持与OpenAI的发展:一场关于未来科技的关键对话

纳德拉揭示:如果没有微软的早期支持,OpenAI将无法存在 早期微软支持与OpenAI的发展:一场关于未来科技的关键对话

微软投入巨资支持OpenAI发展,但也需警惕潜在竞争对手。

热点资讯 04.23
谷歌工程师警告:OpenAI的AGI研究延缓了至少5-10年

谷歌工程师警告:OpenAI的AGI研究延缓了至少5-10年

谷歌软件工程师弗朗索瓦・肖莱在与播客主Dwarkesh Patel讨论 AGI 时表达了对其研究现状的担忧,并批评OpenAI引 发了对大语言模型的炒作。

热点资讯 06.13
打开AI大幕:无需额外训练的OpenAI GPT-4模型在日本理疗师考试中崭露头角

打开AI大幕:无需额外训练的OpenAI GPT-4模型在日本理疗师考试中崭露头角

日本国家理疗考试新增AI评测工具,GPT-4无额外训练轻松通过考试,显示其视觉理解有限。

热点资讯 08.31
北汽制造锐胜王牌 EM7新增「创业版/创富版」,官方售价仅8.28万起!

全新EM7车型发布:搭载创富版与创业版,8.28万元起预售!

北汽制造锐胜王牌 EM7新增「创业版/创富版」,官方售价仅8.28万起! 全新EM7车型发布:搭载创富版与创业版,8.28万元起预售!

以下是经过提取的一句话概述: 这款EM7车型新增创业版和创富版两款车型,定价范围在8.28万至10.98万元之间,分为2座和7座两个版本,其外观和内饰均有多种颜色供消费者选择。 注意:这只是一个简化的概述,可能没有涵盖所有的细节或信息。

热点资讯 11.23
新一代大众高尔夫家族闪亮登场:两厢燃油车的全新里程碑!

新一代大众高尔夫家族闪亮登场:两厢燃油车的全新里程碑!

大众新款高尔夫及新款高尔夫GTI将于11月30日上市,采用全新设计语言,外观内饰进行全面升级,提供8种车身颜色和多种动力选择,适合年轻消费者。新款高尔夫换装1.5T涡轮增压四缸发动机和2.0T发动机,提供更好的动力性能。

热点资讯 11.23
一线城市推退豪宅税,提振楼市消费热情

一线城市推退豪宅税,提振楼市消费热情

在此次北京、上海、广州三大一线城市全面取消普通住房标准后,四一线城市均调整了增值税和契税政策,以适应市场变化。广东城市规院住房政策研究中心首席研究员李宇嘉指出,这不仅有利于缓解市场下行压力,也有利于提高房地产业运行效率。目前来看,中国房地产市场的供应仍然充足,未来的政策方向仍然是稳增长、调结构。

热点资讯 11.23
黑色星期五港股急挫背后的原因:揭秘A股巨变

黑色星期五港股急挫背后的原因:揭秘A股巨变

点,就要做好长线布局和风险控制。至于分歧意见的来源,除了上面提到的各种可能性外,可能还包括海外市场调整等外部因素的影响。 总结来说,今日股市大跌,主要是由于国内出现了一些利空消息,而这些消息引发的资金过度反应,导致了市场的恐慌和抛售行为,最终导致了全盘股的下跌。对于接下来的走势,投资者需要注意市场的短期波动,并且要做好风险控制。

热点资讯 11.23
美的再次出手,重拳出击,一举拿下东芝电梯中国业务

美的再次出手,重拳出击,一举拿下东芝电梯中国业务

美的集团成功收购东芝电梯,成为中国最大的电梯合资企业“东芝电梯中国”。此外,美的还完成了对库卡集团股份的收购,并成为了其最大单一股东。美的进入电梯行业始于2020年12月,暖通与楼宇事业部收购菱王电梯,并正式进军电梯业务。未来,美的有望进一步推动电梯行业的智能化转型。同时,美的也将继续加强技术研发,提高品牌和技术水平,争取在中高端市场占据更大份额。

热点资讯 11.23
美联储的经济警告:美国债务与通胀威胁加重,警惕贸易战对金融稳定的影响

美联储的经济警告:美国债务与通胀威胁加重,警惕贸易战对金融稳定的影响

的风险,例如中东局势和政策不确定性。 根据美联储报告,经济学家们普遍认为美国政府债务的可持续性是一个重要的金融稳定风险。过去六个月的研究显示,大多数专家认为未来一年到一年半,债务可持续性是最可能的风险。这个观点的变化表明,对于债务问题的担忧已经开始减缓。

热点资讯 11.23
证券行业并购重组加速:中国经济日报为您解读

证券行业并购重组加速:中国经济日报为您解读

今年以来,我国证券行业的并购重组步伐加快,尤其是中小券商业务整合进程加速。一些头部券商业务整合将有助于其加强国际一流投行地位,而中小型券商业务则可以通过并购重组来提升资本金实力、实现业务资源优势互补和提高市场竞争力。然而,最后整合结果还需看后续整合情况。

热点资讯 11.23
中国芯片出口创纪录:总额超过9311亿人民币,令人惊叹不已

中国芯片出口创纪录:总额超过9311亿人民币,令人惊叹不已

本文主要讲述了近年来,随着全球经济形势的变化,中国在芯片出口领域的表现异常出色,出口增速远超预期。虽然受美欧等西方国家的芯片打压和封锁影响,但我国依然保持了较强的出口动力,已成为全球第三大出口产业。另外,船舶、汽车、芯片也是三大亮点,船舶出口量和增速均居全球首位,显示出我国强大的制造业实力。同时,随着新能源汽车的发展,我国汽车出口也实现了爆发式增长,成为全球第三大出口国。未来,我国应继续保持强大的出口动力,推动制造业向高端化发展。

热点资讯 11.23
2024年世界互联网大会乌镇峰会落幕:独特时光的回忆与未来的展望

2024年世界互联网大会乌镇峰会落幕:独特时光的回忆与未来的展望

2024年世界互联网大会乌镇峰会在今天闭幕。这是该会自1997年以来连续第11届召开,也是“下一个十年”的开局之会。本次峰会汇聚了全球130多个国家和地区的嘉宾,在三天的时间里,他们围绕“拥抱以人为本、智能向善的数字未来——携手构建网络空间命运共同体”的主题,聚焦人工智能,展现了丰富的成果,并为未来的数字经济提供了有益的思考。

热点资讯 11.23
中国科大突破催化领域的重大科学难题与成果,《Science》杂志报道

中国科大突破催化领域的重大科学难题与成果,《Science》杂志报道

中国科学技术大学揭示了金属-载体相互作用的本质,并提出了强金属-金属作用原理性判据。可解释性人工智能提供了新的视角和可能的解决方案,有助于加速科学原理发现,推动AI技术与化学研究的深度融合。相关研究成果发表于《科学》期刊。

热点资讯 11.23