体育投注 电竞投注 真人娱乐

多宝体育- 多宝体育官方网站- APP下载 DUOBAO SPORTS256块NPU训成8B视频模型抖音内容技术团队开源ContentV

发布时间:2025-06-18 17:30:07  浏览:

  多宝体育,多宝体育官网,多宝体育平台登录,多宝体育下载,多宝体育网页,多宝体育app,多宝体育试玩,多宝体育入口,多宝体育注册网址,多宝体育登录,多宝体育靠谱吗,多宝官网,多宝网址,多宝真人,多宝电竞

多宝体育- 多宝体育官方网站- 多宝体育APP下载 DUOBAO SPORTS256块NPU训成8B视频模型抖音内容技术团队开源ContentV

  近日,抖音内容技术团队开源了 ContentV,一种面向视频生成任务的高效训练方案。该方案在多项技术优化的基础上,使用 256 块 NPU,在约 4 周内完成了一个 8B 参数模型的训练。尽管资源有限,ContentV 在多个评估维度上取得了与现有主流方案相近的生成效果。

  该工作探索了在有限算力条件下训练视频生成模型的可行路径。目前,推理代码与模型权重已对外开放。

  CogVideoX、HunyuanVideo 和 Wan2.1 等一系列优秀的开源工作表明,视频生成的关键并不在于架构上的特殊设计,而在于如何高效利用有限的数据资源,并有效对齐人类偏好。

  为验证 ContentV 方案的通用性,本次开源的版本在扩散模型部分采用了经典的文生图模型 Stable Diffusion 3.5 Large。为了适配视频模态,模型在结构上仅做了以下两项必要调整:

  将原始图像 VAE 替换为 Wan2.1 中使用的 3D-VAE;将 2D 位置编码升级为 3D 版本。在具体编码方式上,团队对比了传统的绝对位置编码与主流的旋转位置编码。评估结果显示,两者在客观指标和主观感受上差异较小,因此保留了计算更高效的绝对位置编码方案。

  上述的最小化结构改动,在解锁了视频生成能力的同时,也最大限度地保留了原模型的图像生成能力。实验证明,在新的 VAE 和位置编码的适配阶段,沿用 Flow Matching 的训练方式,仅需 1000 步左右的微调,就能基本还原模型的图片生成能力,大幅节省图片预训练阶段的训练成本。

  在视频生成的预训练阶段,为加速收敛实现高效训练,研究团队设计了一套从「低清短片」到「高清长片」的多阶段渐进式训练流程,逐步引导模型学习时间维度与空间维度上的动态表征,从而提升视频的连续性、动态表现力和画面细节。

  此外,实验证明,在推理阶段引入非线性采样步长机制(Flow Shift)能够显著提升视频的整体生成质量。通过多组对比实验,团队最终确定了最优的采样策略,进一步优化了生成效果。

  在后训练阶段,除了使用高质量数据集进行微调外,通过 RLHF 或 DPO 等对齐人类偏好的监督训练,也能显著提升视频生成质量。然而,这类方法通常依赖大量人工标注,用于训练奖励模型或直接监督扩散模型。同时,相较于图像,视频的序列长度显著增加了 RLHF 和 DPO 的训练资源需求。

  为此,ContentV 研究团队提出了一种轻量级的 RLHF 训练方案,旨在不依赖人工标注的前提下,低成本提升视频质量:

  利用开源的图像奖励模型对生成视频的单帧进行监督。相较于视频场景,目前图像奖励模型的训练数据更易获取,且在实际效果中表现更佳。实验证明,由于 MM DiT 采用全局注意力机制,仅优化单帧即可带动整体视频质量的提升;将监督范围限制在生成视频的前 1 秒,相较于对完整视频进行监督,可大幅减少训练资源的消耗,同时获得相近的质量提升效果。

  采用上述策略后,在无需人工标注的情况下,仅使用少量训练资源,便可显著提升画面质量。RLHF 微调后,模型在视觉质量(VQ)指标上的表现大幅提升,评估胜率高达 89.38%。

  在 VBench 这一主流视频生成评测基准上,ContentV(8B)取得了 85.14 的综合得分,表现优于多个现有的商业闭源模型,包括 Sora、Kling 1.6 和 Gen-3 等。

  为更贴近真实用户偏好,研究团队围绕感知质量、指令跟随、物理一致性和视觉效果四个维度开展了人类偏好评估。结果显示,ContentV 在整体表现上与 CogVideoX-5B、HunyuanVideo-13B 和 Wan2.1-14B 等主流开源模型相比具有一定优势。

  06月08日,柬埔寨举办首届数字政府论坛 推动技术研发创新,皇冠最新地址,云顶娱乐官方网站登录,澳门十大网络平台,米乐m6在线日,桂江可能出现今年首次编号洪水,大玩家游戏下载,金沙误乐下载app,永利总站手机登录,狗万2021

  06月08日,从青头潜鸭“看见”白洋淀,万博manbext手机app,v1bet,AG棋牌游戏,滚球比分直播90

  06月08日以戏会友 全国46支戏曲参赛队伍齐聚蓉城同台竞技皇冠怎么注册欧宝手机APP新濠天地在哪开户线日东西问|海春生:如何挖掘好、使用好民族古籍资源?赢钱的游戏排行榜龙8登录威尼斯人休体育还能玩吗注册娱乐平台大全

  06月08日第九届全国新农村文化艺术展演在四川达州启动银河国际入口登录星力打渔澳门首家线上网址利澳国际彩票平台……

  06月08日,中国前四个经济大省,都有新突破,太阳集团app下载,亚星手机版登录,起点国际 蛊真人,火狐体育手机版登陆

  06月08日会上,这位代表拿出十几张设计图ku娱乐体育app皇冠彩票官网下载斗地主在线玩澳门官方网投平台

  06月08日,第六届海参产业发展大会暨2024世界海参产业(烟台)博览会举办,澳门即时盘囗比分旧版,点金,米博体育平台下载安装,yobo登录入口

  06月08日,广西老农半世纪专研杂交水稻 为后代培育更好的品种,大发体育真人,bbin快速开户,pg电子棋牌有哪些平台,新2下载

  06月08日,看文字砖、观麒麟影壁 乌克兰留学生金山岭感受长城文化,皇冠足球正版app下载地址,亚游平台和AG真人,澳门永利下载链接,明升体育最新版APP

  06月08日提高就业补助资金使用效益 哪些人可以享受职业培训和社会保险补贴?佛祖天书四肖料最新棋牌ag8国际大厅登录jdb飞鸟派对

  06月08日宁夏中宁:“苦”药材种出“甜”滋味乐动体育登陆B体育ManBetX万博免费试玩k8凯发官方

  06月08日财政部:一季度全国一般公共预算支出同比增长2.9%大赢家手机APP澳门永利网址登录是多少尊龙官网登录真人斗地主赚线

  60位离婚律师组团研讨再见爱人,LOL天龙祈愿抽到了什么智利外长范克拉韦伦将访华12BET注册手机牛牛明牌抢庄规律抢庄牛牛支付宝提款bbin体育注册玩家首选

  剑来,商务部专家:中方最不缺反制工具前10月中国服务贸易继续快速增长 旅行服务成为服务贸易第一大领域欧亚国际网站乐虎国际下载地址巴黎人网投信誉ag手机版官网

  一系列生育支持措施来了,非正常动物研究中心微视频|家事·国事蒙特卡罗娱乐必赢官方下载皇冠足球为什么用不了了星速下载app官方

  克拉克森的农场 第三季,吴磊翻牌福建出台一系列保障政策——发展绿色经济 拓宽就业空间北京发布雷电蓝色预警:预计当前至23日大部地区有雷阵雨AG真人手机版澳门巴黎国际真人影视网站欧洲杯哪个平台能赌mgm好玩吗?

  以告诉美方将在拉法展开军事行动,唐艺昕曾拒绝过张若昀求婚2024年黑龙江省“北疆·石榴情”各族青少年主题交流活动启动银河娱乐捕鱼下载bbin手机客户端官网凯时国际平台网址ylg9999官方网站

  当烦人亲戚过年来做客,美甲走起中国第41次南极考察:中山站越冬队圆满完成任务太阳城体育外围万博官网网页千赢国际网投平台泛亚电竞菠菜