业界动态
中国挑战者来了!Vidu横空出世:文生视频能力比肩Sora?
2024-05-05 21:04

2 个月前,OpenAI 发布了全新的文生视频模型 Sora,瞬间引爆了全球科技圈,也让马斯克说出了「人类愿赌服输」。在那之后,没有任何一个大模型敢于在文生视频领域「挑衅」Sora。

现在,事情有了变化。

在 4 月 27 日举办的 2024 中关村论坛上,生数科技与清华大学联合发布了「Vidu」文生视频模型,全面对标 OpenAI 的 Sora。

Vidu 生成,动图经过压缩。图/生数科技

不仅是在视频生成分辨率和时长上,最关键的根据官方放出的生成视频,Vidu 已经实现了相当程度的「拟真」——模拟真实世界的物理原理,以及主体的一致性。这是 Vidu 真正对标 Sora 的底气。

但 Vidu,离 Sora 到底还有多少差距?

从这次发布可以看出,Vidu 处处都在对标 Sora。同样是通过提示词直接生成视频,同样支持最高 1080P,虽然 16 秒的生成视频时长还明显短于 Sora(最长 60 秒)。

最明显的还是生成的视频内容。

比如 Sora 街头行走这一段,相信会看这篇文章的读者应该都看过,一度刷爆了各大社交媒体。

Sora 生成,动图经过压缩。图/ OpenAI

Vidu 也同样生成了类似的视频内容,开始展示了一男一女一熊走在街头的画面,随后又重点展示了熊人的背景街道。

Vidu 生成,动图经过压缩。图/生数科技

虽然相比 Sora 那段少了很多震撼和细节展示,但不管是皮衣的质感,还是路面的反射和倒影,Vidu 其实都展现了非常有说服力的效果。

更重要的是,背景、人物主体是一致的,并没有在前后发生大的变形或变化。

类似的表现还出现在其他生成视频上。

比如开车这一段,镜头一直跟随着汽车前移,但路旁的树木和汽车主体始终没有发生变化,并不像很多扩散模型一样,这一秒和下一秒的主体都可能出现明显的差异。

Vidu 生成,动图经过压缩。图/生数科技

不过在保真度上,Vidu 还是和 Sora 有比较明显的差距。相似的提示词(内容)下,Sora 开车这一段的背景明显更接近真实世界,用比较通俗的话讲,Vidu 有点「油画」。

Sora 生成,动图经过压缩。图/ OpenAI

但显然,Vidu 作为国产大模型,还是更懂中国。

Sora 在之前曾经生成过一段街头「舞龙」的视频,而 Vidu 干脆直接生成了一段「真龙」的视频,背景是辉煌的宫殿群。

Vidu 生成,动图经过压缩。图/生数科技

如果 Sora 的重点与其说是舞龙,实则更像展现「围观群众」的惊人模拟,那 Vidu 就是真真正正模拟了一条龙。

此外,Vidu 还生成了一段「熊猫在湖边弹吉他」,除了主体上的拟真,背景部分的草地、湖水都相当程度地「真实」。

Vidu 生成片段截图,非动图。图/生数科技

在人物生成上,Vidu 也有一组画面充分展示了它的实力,从面部表情、眨眼到抬头,都非常接近实拍镜头。就算比起 Sora 的人物镜头,也不逊色多少。

Vidu 生成,动图经过压缩。图/生数科技

另外考虑到要参与视频内容制作流程,这类文生视频模型也绕不开「镜头调度」的能力,事实是 Vidu 依然展示了相当不错的水平。

总的来说,虽然有 Sora 珠玉在前,但从目前公布的生成视频来看,Vidu 依然展示了极高的视频生成能力,或者说是模拟物理世界的能力。或许在生成复杂画面、保真度等方面还差 Sora,但有一些镜头完全称得上可用,这已经是一个很大的进步。

当然,Sora 的反方向跑步,Vidu 的「人物」突然长出第三条腿,都说明即便 AI 在视频生成领域有了跨越性的进步,仍然还有很大的提升空间。

突然出现的第三条腿。图/生数科技

正如 OpenAI 在 Sora 发布之初承认的,这类模型当前存在一定的局限性,比如无法模拟复杂场景的物理效应,理解某些特定因果关系等。

看起来,Vidu 就好像 Sora 一样横空出世,以相当惊艳的表现引起刷屏,而且同是基于对 Transformer 与 Diffusion 架构的融合。但很多人并不知道,生数科技联合创始人兼 CEO 唐家渝上个月就透露过:

「今年内一定能达到 Sora 目前版本的效果。」

不仅如此,这家几乎可以算是从清华大学人工智能研究所「孵化」出来的初创公司,在 2022 年 9 月就提出了融合 Diffusion 和 Transformer 的 U-ViT 架构,比 OpenAI 提出 DiT 架构(Sora 的底层架构)还要早。

甚至因为发布时间更早,计算机视觉顶会 CVPR 2023 提前收录了清华大学的 U-ViT 论文,而以「缺乏创新」为由拒绝了 OpenAI DiT 论文。

但总的来说,这两家公司的思路大体一致。

目前市面上大部分视频生成模型都是基于 Diffusion 架构的扩散模型,比如 Stable Video Diffusion。OpenAI 和生数科技则是引入大语言模型底层的 Transformer 架构,在一定程度上,解决了文生视频一直以来前后一致性和视频长度过短的问题。

Vidu 生成,动图经过压缩。图/生数科技

所以在 Sora 和 Vidu 生成的视频中,你可以说有很多不完美,但在保证主体和背景一致性上,它们都有了实质性的飞跃,几乎不会看到有人物边走边变形的情况,背景不会时刻在变,场景也不会在没有任何转场的情况下突变。

不过很多人可能还有一个问题:明明更早提出融合架构,生数科技为什么更慢?甚至效果还差一些?

事实上不难理解。要知道,生数科技正式成立于 2023 年 3 月,虽然在不久后获得了阿里、百度、字节等公司和机构的多轮融资,但最多也就融到数亿。相比之下,OpenAI 背靠微软,在算力、数据、资金、人才等方面都有着更大的优势。

同时,这也会影响到 Sora 和 Vidu 完全不同的发展路径。

在接受 WSJ 记者采访时,OpenAI 首席技术官 Mira Murati 公开表示,Sora 最快将会在今年年内面向公众推出。考虑到 Sora 生成视频需要的海量算力,外界估计,可能将有限度地率先开放给 ChatGPT Plus 用户。

而据唐家渝表示,生数科技目前要走两条路。

一是打造覆盖文本、图像、视频、3D 模型等多模态能力的底层通用大模型,面向 B 端提供模型服务能力;二是自己面向图像生成、视频生成等场景打造垂类应用,面向游戏制作、影视后期等需求提供订阅制收费服务。

Sora 刚发布的时候,国内一片惊叹,又是一片哀嚎。

360 创始人周鸿祎说,Sora 将人类实现 AGI(通用人工智能)的时间从 10 年拉小到了 1-2 年,同时也进一步拉大了中美在 AI 领域的差距。还有更多人认为,尽管国内大模型众多,做视频模型的也不少,却看不到一个能够追赶 Sora 的竞争对手。

而 Vidu 的发布,至少再次证明了一切皆有可能。但如果说 Sora 的发布是一个开始,那我相信 Vidu 不是结束,「甚至不是结束的开始。但这也许是开始的结束。」

4月25日-5月4日,北京国际汽车展览会(北京车展)正在火热进行。本届车展以“新时代新汽车”为主题,是“汽车从电动化走向智能化”的风向标。

雷科技旗下“关注电动车,更懂智能化”的账号电车通已派出豪华报道团,正在北京车展现场,进行一线专业报道,欢迎关注“电车通”获取一手专业现场报道。

    以上就是本篇文章【中国挑战者来了!Vidu横空出世:文生视频能力比肩Sora?】的全部内容了,欢迎阅览 ! 文章地址:http://www.dbeile.cn/news/9073.html 
     资讯      企业新闻      行情      企业黄页      同类资讯      首页      网站地图      返回首页 多贝乐移动站 http://www.dbeile.cn/mobile/ , 查看更多   
最新新闻
她是天龙八部最美的钟灵(她是天龙八部最美的钟灵)
关于她是天龙八部最美的钟灵,这个很多人还不知道,今天团团来为大家解答以上的问题,现在让我们一起来看看吧!1、以金庸的武侠
皇太极要杀玉儿的一集(皇太极玉儿是谁)
大家好,一只小美今天来为大家解答以下问题,皇太极要杀玉儿的一集很多人还不知道,现在让我们一起来看看吧!1、第20集。2、为了
这种果核千万别扔,简单加工一下,秒变小零食,可惜很多人不知道
?????? 在五彩斑斓的热带水果中,菠萝蜜以其独特的香甜气息,赢得了无数人的喜爱。但你知道吗?除了那甘甜的果肉,菠萝蜜的籽也
美丽的秘密36集(美丽的秘密36集)
大家好,一只小美今天来为大家解答以下问题,美丽的秘密36集很多人还不知道,现在让我们一起来看看吧!1、第36集。2、第36集,汪
nike足球鞋排行榜前四名推荐(nike足球鞋排行榜前四名推荐)
夏团今天来为大家解答以下的问题,nike足球鞋排行榜前四名推荐,现在让我们一起来看看吧!1、足球鞋十大品牌排行榜NO.1、耐克Nik
【兵地融合】14连党支部与多浪乡博斯坦村党支部开展“军垦文化润民心 兵地融合促发展”主题党日活动联谊活动
4月28日 ,14连党支部结合博斯坦村在16团1连老一营开展了“军垦文化润民心 兵地融合促成长”主题党日运动。本次运动共计40人列入
【南洋科普】关于胆囊结石,您所关心的问题都在这里
本文开讲之前,先阐述几个概念:胆石症是指胆道系统里发生结石的疾病,包罗胆囊结石和胆管结石。平时老公民所说的“胆结石”,一
吃出来的早熟,医生:这五类食物,再馋也尽量别让孩子吃!
萱萱是一个8岁的女孩,上面有两个哥哥。我们都知道世界白叟向小的,萱萱作为家里独一的女孩,又是最小的孩子,家庭地位不问可知
台风预警由低到高(台风预警由低到高的顺序)
大家好,来来今天为大家解答以下问题,台风预警由低到高很多人还不知道,现在让我们一起来看看吧!1、台风预警信号分四级:蓝色
华为新荣耀20怎么样(华为荣耀20这款手机怎么样)
大家好,小娟今天来为大家解答华为新荣耀20怎么样以下问题,华为荣耀20这款手机怎么样很多人还不知道,现在让我们一起来看看吧!
本企业新闻