还没看到OpenAI,就看到了Open-Sora的全面开源。

2024-03-18 热点资讯 关注公众号

机器之心发布

机器之心部

不久前 OpenAI Sora 以其惊人的视频生成效果迅速走红,在一众文生视频模型中突出重围,成为全球瞩目的焦点。继 2 周前推出成本直降 46% 的 Sora 训练推理复现流程后,Colossal-AI 团队全面开源全球首个类 Sora 架构视频生成模型 「Open-Sora 1.0」,涵盖了整个训练流程,包括数据处理、所有训练细节和模型权重,携手全球 AI 热爱者共同推进视频创作的新纪元。

先睹为快,我们先看一段由 Colossal-AI 团队发布的「Open-Sora 1.0」模型生成的都市繁华掠影视频。

Open-Sora 1.0 生成的都市繁华掠影

这仅仅是 Sora 复现技术冰山的一角,关于以上文生视频的模型架构、训练好的模型权重、复现的所有训练细节、数据预处理过程、demo 展示和详细的上手教程,Colossal-AI 团队已经全面免费开源在 GitHub,同时笔者第一时间联系了该团队,了解到他们将不断更新 Open-Sora 的相关解决方案和最新动态,感兴趣的朋友可以持续关注 Open-Sora 的开源社区。

Open-Sora 开源地址:https://github.com/hpcaitech/Open-Sora

全面解读 Sora 复现方案

接下来,我们将深入解读 Sora 复现方案的多个关键维度,包括模型架构设计、训练复现方案、数据预处理、模型生成效果展示以及高效训练优化策略。

模型架构设计

模型采用了目前火热的 Diffusion Transformer (DiT) [1] 架构。团队以同样使用 DiT 架构的高质量开源文生图模型 PixArt-α [2] 为基座,在此基础上引入时间注意力层,将其扩展到了视频数据上。具体来说,整个架构包括一个预训练好的 VAE,一个文本编码器,和一个利用空间 - 时间注意力机制的 STDiT (Spatial Temporal Diffusion Transformer) 模型。其中,STDiT 每层的结构如下图所示。它采用串行的方式在二维的空间注意力模块上叠加一维的时间注意力模块,用于建模时序关系。在时间注意力模块之后,交叉注意力模块用于对齐文本的语意。与全注意力机制相比,这样的结构大大降低了训练和推理开销。与同样使用空间 - 时间注意力机制的 Latte [3] 模型相比,STDiT 可以更好的利用已经预训练好的图像 DiT 的权重,从而在视频数据上继续训练。

STDiT 结构示意图

整个模型的训练和推理流程如下。据了解,在训练阶段首先采用预训练好的 Variational Autoencoder (VAE) 的编码器将视频数据进行压缩,然后在压缩之后的潜在空间中与文本嵌入 (text embedding) 一起训练 STDiT 扩散模型。在推理阶段,从 VAE 的潜在空间中随机采样出一个高斯噪声,与提示词嵌入 (prompt embedding) 一起输入到 STDiT 中,得到去噪之后的特征,最后输入到 VAE 的解码器,解码得到视频。

模型的训练流程

训练复现方案

我们向该团队了解到,Open-Sora 的复现方案参考了 Stable Video Diffusion (SVD)[3] 工作,共包括三个阶段,分别是:

1) 大规模图像预训练;

2) 大规模视频预训练;

3) 高质量视频数据微调。

每个阶段都会基于前一个阶段的权重继续训练。相比于从零开始单阶段训练,多阶段训练通过逐步扩展数据,更高效地达成高质量视频生成的目标。

训练方案三阶段

第一阶段:大规模图像预训练

第一阶段通过大规模图像预训练,借助成熟的文生图模型,有效降低视频预训练成本。

团队向我们透露,通过互联网上丰富的大规模图像数据和先进的文生图技术,我们可以训练一个高质量的文生图模型,该模型将作为下一阶段视频预训练的初始化权重。同时,由于目前没有高质量的时空 VAE,他们采用了 Stable Diffusion [5] 模型预训练好的图像 VAE。该策略不仅保障了初始模型的优越性能,还显著降低了视频预训练的整体成本。

第二阶段:大规模视频预训练

第二阶段执行大规模视频预训练,增加模型泛化能力,有效掌握视频的时间序列关联。

我们了解到,这个阶段需要使用大量视频数据训练,保证视频题材的多样性,从而增加模型的泛化能力。第二阶段的模型在第一阶段文生图模型的基础上加入了时序注意力模块,用于学习视频中的时序关系。其余模块与第一阶段保持一致,并加载第一阶段权重作为初始化,同时初始化时序注意力模块输出为零,以达到更高效更快速的收敛。Colossal-AI 团队使用了 PixArt-alpha [2] 的开源权重作为第二阶段 STDiT 模型的初始化,以及采用了 T5 [6] 模型作为文本编码器。同时他们采用了 256x256 的小分辨率进行预训练,进一步增加了收敛速度,降低训练成本。

第三阶段:高质量视频数据微调

第三阶段对高质量视频数据进行微调,显著提升视频生成的质量。

团队提及第三阶段用到的视频数据规模比第二阶段要少一个量级,但是视频的时长、分辨率和质量都更高。通过这种方式进行微调,他们实现了视频生成从短到长、从低分辨率到高分辨率、从低保真度到高保真度的高效扩展。

团队表示,在 Open-Sora 的复现流程中,他们使用了 64 块 H800 进行训练。第二阶段的训练量一共是 2808 GPU hours,约合 7000 美元,第三阶段的训练量是 1920 GPU hours,大约 4500 美元。经过初步估算,整个训练方案成功把 Open-Sora 复现流程控制在了 1 万美元左右。

数据预处理

为了进一步降低 Sora 复现的门槛和复杂度,Colossal-AI 团队在代码仓库中还提供了便捷的视频数据预处理脚本,让大家可以轻松启动 Sora 复现预训练,包括公开视频数据集下载,长视频根据镜头连续性分割为短视频片段,使用开源大语言模型 LLaVA [7] 生成精细的提示词。团队提到他们提供的批量视频标题生成代码可以用两卡 3 秒标注一个视频,并且质量接近于 GPT-4V。最终得到的视频 / 文本对可直接用于训练。借助他们在 GitHub 上提供的开源代码,我们可以轻松地在自己的数据集上快速生成训练所需的视频 / 文本对,显著降低了启动 Sora 复现项目的技术门槛和前期准备。

基于数据预处理脚本自动生成的视频 / 文本对

模型生成效果展示

下面我们来看一下 Open-Sora 实际视频生成效果。比如让 Open-Sora 生成一段在悬崖海岸边,海水拍打着岩石的航拍画面。

再让 Open-Sora 去捕捉山川瀑布从悬崖上澎湃而下,最终汇入湖泊的宏伟鸟瞰画面。

除了上天还能入海,简单输入 prompt,让 Open-Sora 生成了一段水中世界的镜头,镜头中一只海龟在珊瑚礁间悠然游弋。

Open-Sora 还能通过延时摄影的手法,向我们展现了繁星闪烁的银河。

如果你还有更多视频生成的有趣想法,可以访问 Open-Sora 开源社区获取模型权重进行免费的体验。链接:https://github.com/hpcaitech/Open-Sora

值得注意的是,团队在 Github 上提到目前版本仅使用了 400K 的训练数据,模型的生成质量和遵循文本的能力都有待提升。例如在上面的乌龟视频中,生成的乌龟多了一只脚。Open-Sora 1.0 也并不擅长生成人像和复杂画面。团队在 Github 上列举了一系列待做规划,旨在不断解决现有缺陷,提升生成质量。

高效训练加持

除了大幅降低 Sora 复现的技术门槛,提升视频生成在时长、分辨率、等多个维度的质量,团队还提供了 Colossal-AI 加速系统进行 Sora 复现的高效训练加持。通过算子优化和混合并行等高效训练策略,在处理 64 帧、512x512 分辨率视频的训练中,实现了 1.55 倍的加速效果。同时,得益于 Colossal-AI 的异构内存管理系统,在单台服务器上(8*H800)可以无阻碍地进行 1 分钟的 1080p 高清视频训练任务。

此外,在团队的报告中,我们也发现 STDiT 模型架构在训练时也展现出卓越的高效性。和采用全注意力机制的 DiT 相比,随着帧数的增加,STDiT 实现了高达 5 倍的加速效果,这在处理长视频序列等现实任务中尤为关键。

一览 Open-Sora 模型视频生成效果

最后,让我们一睹Open-Sora模型在视频生成上的精彩表现。

视频链接:https://mp.weixin.qq.com/s?__biz=MzA3MzI4MjgzMw==&mid=2650911307&idx=1&sn=a7f96f7af740a62e862db62230c05fc6&chksm=84e47635b393ff23a9046643078eae23a3170a4c8d34c6248ba2df795f2e10388527c0086a47&token=1135948699&lang=zh_CN#rd

欢迎持续关注 Open-Sora 开源项目:https://github.com/hpcaitech/Open-Sora

团队表示,他们将会继续维护和优化 Open-Sora 项目,预计将使用更多的视频训练数据,以生成更高质量、更长时长的视频,并支持多分辨率特性,切实推进 AI 技术在电影、游戏、广告等领域的落地。

参考链接:

[1] https://arxiv.org/abs/2212.09748 Scalable Diffusion Models with Transformers

[2] https://arxiv.org/abs/2310.00426 PixArt-α: Fast Training of Diffusion Transformer for Photorealistic Text-to-Image Synthesis

[3] https://arxiv.org/abs/2311.15127 Stable Video Diffusion: Scaling Latent Video Diffusion Models to Large Datasets

[4] https://arxiv.org/abs/2401.03048 Latte: Latent Diffusion Transformer for Video Generation

[5] https://huggingface.co/stabilityai/sd-vae-ft-mse-original

[6] https://github.com/google-research/text-to-text-transfer-transformer

[7] https://github.com/haotian-liu/LLaVA

[8] https://hpc-ai.com/blog/open-sora-v1.0


结论与建议:
经过深思熟虑,我们建议大家关注Open-Sora开源项目的开放状态。Colossal-AI团队发布了一款完全开源的Sora模型——Open-Sora 1.0,这是一个值得投入时间和资源的项目。该模型采用了Diffusion Transformer架构,并融入了时序注意力模块,使得模型能够在不同场景中取得良好的视觉效果。此外,Open-Sora还具备高效的训练和推理方法,能够支持大量的数据集训练,并且已经在社交媒体平台上获得了广泛的关注。
然而,虽然Open-Sora的模型架构非常强大,但研究人员需要进一步研究如何提高其质量和效率。因此,建议用户关注Open-Sora的开发者团队,并在GitHub上了解他们的工作进度和未来的计划。Colossal-AI团队希望进一步优化模型,包括计算效率和训练效果,以便更好地服务于AI产业的发展。
最后,考虑到Open-Sora作为一个开源项目,团队将持续进行优化和改进,以确保模型的质量和效率。他们提供了一个便捷的视频数据预处理脚本,可以帮助用户快速实现Sora模型的初稿。建议用户关注Open-Sora社区,以获取更多信息。
值得注意的是,尽管Open-Sora已经有了一定的基础,但仍有许多潜力有待挖掘。团队希望继续收集更多的数据,用于构建更加高级和复杂的模型,以满足行业的需求。同时,他们也计划开发更多的高效工具和技术来加速模型的训练,提高训练效率。

上一篇:存储芯片涨价+增产,三星一季度利润将暴涨669%?
下一篇:南方基金|A股微调之际,有色金属逆势上涨
更多更酷的内容分享
猜你感兴趣
Open-Sora全面升级:16s视频生成及720p分辨率的开放源代码解决方案

Open-Sora全面升级:16s视频生成及720p分辨率的开放源代码解决方案

DIT-2架构优化了模型的稳定性和性能,提升了训练效率。同时,它还支持长视频生成和单模态文本到多种格式的输出。这个版本被称为Open-Sora 1.0,包含了全新的开源库和报告,可以帮助开发者更好地实现他们的项目。

热点资讯 04.28
我们成功实现OpenAI的没有Open技术的开源成果:OpenRLHF让大模型对接变得更简单

我们成功实现OpenAI的没有Open技术的开源成果:OpenRLHF让大模型对接变得更简单

机器之心报道编辑:Panda随着大型语言模型(LLM)规模不断增大,其性能也在不断提升。尽管如此,LLM 依然面临着一个关键难题:与人类的价值和意图对齐。在解决...

热点资讯 06.09
孩子没有的夫妻:看看梁朝伟与刘嘉玲的生活,你就懂了

孩子没有的夫妻:看看梁朝伟与刘嘉玲的生活,你就懂了

梁朝伟与刘嘉玲两人感情破裂多年,最终选择在日本独立生活。原因可能是他们缺乏有效沟通,甚至互相排斥对方的存在。他们不愿意面对没有孩子所带来的问题,害怕失去伴侣的支持。如今,他们的关系已经到了形同陌路的地步,分手已成为必然。梁朝伟选择日本独立生活的原因是不想暴露自身疑虑,防止财产纠纷。同时,他的愿望也是为了能真正摆脱过去,开始新的生活。

热点资讯 05.15
马斯克与OpenAI分道扬镳,大模型开源还是闭源,你怎么看?

马斯克与OpenAI分道扬镳,大模型开源还是闭源,你怎么看?

马斯克起诉OpenAI事件引发关注,争议焦点在于马斯克对OpenAI的开源要求。纽约大学副教授Julian Togelius认为开源是大势所趋,可防止权力集中。马萨诸塞大学教授Jie Wang则表示未来各主要参与者可能会部分开源,但不会包括最重要的部分。此次纠纷反映出AI浪潮下科学界的长期争论话题——开源还是闭源。

热点资讯 03.09
第三季度加仓首选:险资抢滩那些热门股票

第三季度加仓首选:险资抢滩那些热门股票

今年来,保险资金举牌次数创五年新高,累计达12次,涉及700多家上市公司,总投资规模超过1.6万亿。同时,险资加大对私募股权投资基金的投资布局,包括中国人寿、新华保险、陕煤业、伊利股份等。这一现象反映出保险资金对长期资本市场的信心,并带来了投资收益的增长。未来,监管部门将继续推动保险业的高质量发展,包括扩大保险资金长期投资改革试点等。

热点资讯 11.10
红杉中国:郭山汕创立新投资机构,成功引领拼多多与极兔快递等领域重大项目

红杉中国:郭山汕创立新投资机构,成功引领拼多多与极兔快递等领域重大项目

郭山汕自2024年10月创办熵管理投资机构,涉足公开市场股权投资、基金投资和慈善活动,其中投资拼多多、中通快递、极兔速递、满帮集团、BOSS直聘、得物、货拉拉、达达-京东到家等公司。投资界曾报道,红杉中国合伙人郭山汕在2016年末参与拼多多投资时完成尽调,并由麦肯锡出身的他确认数据真实性,下注拼多多。

热点资讯 11.10
巨额投资下,泡泡玛特再次海外布局:泰国寻求疗伤之旅?

巨额投资下,泡泡玛特再次海外布局:泰国寻求疗伤之旅?

11月2日,泡泡玛特在菲律宾的首个快闪店开业,实现了在东南亚六国的线下门店全面覆盖。 2021年以来,泡泡玛特在新加坡开出东南亚首店,之后一直保持稳步增长。数据显示,2023年全年,海外市场营收同比增长134.9%。这意味着它已经成为推动海外业务的关键力量。 泡泡玛特重视线下实体店,与当地艺术家合作,打造有文化感的品牌,并且强调品牌文化对用户吸引力的重要性。

热点资讯 11.10
提升待遇:国企将有哪些人面临薪资上涨?

提升待遇:国企将有哪些人面临薪资上涨?

段推出了量化的股权激励制度,涵盖了科研、技术、财务等多个领域,大大提升了员工的工作积极性和效率。 总结起来,国企改革深化行动中,市场化经营机制的构建和完善以及收入分配机制的改革都是重中之重。其中,市场化经营机制的改革推动了国有企业的发展活力和效率的提升,促进了业务质量的提高;而收入分配机制的改革则为科技创新和人才发展提供了强大的动力,也使得国企成为推进原始创新制度安排的重要力量。同时,国有企业也在努力将激励资源向科创、技术人才和技术一线倾斜,发挥出优秀的“头雁效应”,实现了人力资源的优化配置。

热点资讯 11.10
发掘今日最热门基金投资‘终极答案’

发掘今日最热门基金投资‘终极答案’

投资者最大愿望之一是赚得更多、波动更少。在金融学上,夏普比率衡量投资承受的风险产生的超额回报。全球最赚钱的对冲基金达里欧创立的桥水基金取代了肯·格尔和他的城堡基金成为新一届"对冲基金之王"。2022年美国市场遭受股债双杀,导致许多顶级对冲基金巨额亏损,而Citadel却在这场动荡中取得了巨大的利润。

热点资讯 11.10
华尔街紧急预警:美联储可能改变大局!

华尔街紧急预警:美联储可能改变大局!

美国总统选举结果将影响美联储的决策,但目前主流预测显示美国今年还将经历两次降息。

热点资讯 11.10
主播技巧并非关键: 西街观察直播带货的优质策略

主播技巧并非关键: 西街观察直播带货的优质策略

力可以掩盖商品本质,甚至会成为饭圈乱象的关键因素。艺人、企业家等其他角色也可以尝试直播带货,但必须保持专业性和专注度。虽然主播光环可能吸引眼球,但其内容的真实性应该被认真对待。此外,商业模式也值得深入讨论,包括主播流量价值、商品价格透明度等。总之,直播带货仍需成熟运作来保证商品和服务的质量,避免出现负面影响。

热点资讯 11.10
AI在古典学中的应用:探寻科技与传统的交融——从历史到现实,AI技术在古典学领域的应用探索

AI在古典学中的应用:探寻科技与传统的交融——从历史到现实,AI技术在古典学领域的应用探索

人工智能在古典学领域的应用越来越广泛,尤其是在文本数字化、文字识别、残缺文本复原方面取得显著成果。然而,在古典语言教学和研究中仍存在一些弊端,如缺乏词典数据支持和翻译准确性不足。为了解决这些问题,一些学者担忧过度依赖AI会削弱学生对古典语言学习的乐趣和成就感。未来,AI技术有望在碑铭学等领域发挥更大作用,但仍需关注在场感和成就感等研究乐趣。各种大学和政策组织正在制定使用生成式人工智能的指导原则和指南。

热点资讯 11.10
卢伟冰否认‘小米空调第一’,强调在全球范围内仍处于领先地位

卢伟冰否认‘小米空调第一’,强调在全球范围内仍处于领先地位

小米15系列手机销量已破万台,卢伟冰透露小米空调销量并被批评为虚假;小米手环首销翻倍,Watch S4销量翻倍;年内净增5000家小米之家,目标年底净增加5000家小米之家。

热点资讯 11.10
网易张海星卸任新职位,仍有与公司保持良好联系的可能

网易张海星卸任新职位,仍有与公司保持良好联系的可能

网易游戏营销总经理张海星在公司内部办公软件POPO上被查到失踪。目前张海星仍有微信联系,但他并未说明具体离职原因。近期又有另一批员工受到影响。目前正配合公司接受调查。关于张海星是否涉嫌违法违纪还需等待进一步调查结果。曾有传闻称张海星已被控制,但他很快辟谣并为自己负责的产品打上了广告。张海星负责多款重点产品的营销,对外title为网易营销总经理。

热点资讯 11.10