自今年2月Sora发布推出后,团队基于对U-ViT架构的深入理解以及长期积累的工程与数据经验,在短短两个月进一步突破长视频表示与处理关键技术,研发推出Vidu视频大模型,显著提升视频的连贯性与动态性。
“值得一提的是,Vidu采用的是‘一步到位’的生成方式。”朱军表示,与Sora一样,文本到视频的转换是直接且连续的,在底层算法实现上是基于单一模型完全端到端生成,不涉及中间的插帧和其他多步骤的处理。
朱军表示,Vidu的快速突破源自于团队在贝叶斯机器学习和多模态大模型的长期积累和多项原创性成果。其核心技术U-ViT架构由团队于2022年9月提出,早于Sora采用的DiT架构,是全球首个Diffusion与Transformer融合的架构,完全由团队自主研发。
据介绍,Vidu不仅能够模拟真实物理世界,还拥有丰富想象力,具备多镜头生成、时空一致性高等特点。Vidu是自Sora发布之后全球率先取得重大突破的视频大模型,性能全面对标国际顶尖水平,并在加速迭代提升中。
在当天的论坛上,清华大学教授、生数科技首席科学家朱军表示,与Sora一致,Vidu能够根据提供的文本描述直接生成长达16秒的高质量视频。除了在时长方面的突破外,Vidu在视频效果方面实现显著提升,主要体现在模拟真实物理世界、多镜头语言、时空一致性高、理解中国元素等方面。
该模型采用团队原创的Diffusion与Transformer融合的架构U-ViT,支持一键生成长达16秒、分辨率高达1080P的高清视频内容。
“Vidu的命名不仅谐音‘Vedio’,也蕴含‘We do’的寓意。”朱军表示,模型的突破是一个多维度、跨领域的综合性过程,需要技术与产业应用的深度融合,希望与产业链上下游企业、研究机构加强合作,共同推动视频大模型进展。(完)
im电竞平台官网中新社北京4月27日电(记者 陈溯)在2024中关村论坛年会未来人工智能先锋论坛上,清华大学联合生数科技27日正式发布中国首个长时长、高一致性、高动态性视频大模型——Vidu。
网友评论更多
13枣阳b
「今日篮球速递」男篮世界杯-日本逆转委内瑞拉 中国直通奥运仅存理论希望🤣🤤
2024-12-10 19:54:10 推荐
187****2595 回复 184****8579:「新华网」习近平复信史迪威将军后人🤥来自宜城
187****1625 回复 184****1698:「澎湃新闻」卸任四川省卫健委主任后,48岁敬静重回华西🤧来自钟祥
157****7070:按最下面的历史版本🤨🤩来自京山
59汉川552
「第一军情」中国早有布局,新疆沙漠长出深海大虾,骚操作让日本猝不及防🤪🤫
2024-12-10 13:02:18 推荐
永久VIP:「财联社」9月1日起多家全国性银行再下调存款挂牌利率 调降幅度10-25个基点🤬来自应城
158****5242:「环球网」国防部回应何时解决台湾问题🤭来自安陆
158****7197 回复 666🤮:「大皖新闻」跨省履新的他,被任命为副省长🤯来自广水
96麻城pe
「新京报」商务部:取消全部对华加征关税,有利于中美两国,有利于整个世界🧐⌚
2024-12-11 05:02:48 不推荐
武穴aj:「光明网」凌晨突发!6人全部遇难⌛
186****8819 回复 159****1029:「每日经济新闻」颜宁、石正丽等确认为院士候选人⏩