跳转至

视频到视频编辑:把“改变”与“守恒”写进同一份合同

冻结日期:2026-08-30。 本页把 video-to-video(V2V)限定为:源视频定义待修改的既有时间轴,系统按指令、掩码、参考或控制信号产生反事实视频,并能说明哪些内容应改变、哪些内容必须保留。若源视频只是驱动信号、历史前缀或可被丢弃的提示,就不能仅因输出也是视频而称为 V2V 编辑。

从 Video Rewrite 的局部口型替换 [1]、时空补全 [2] 和 vid2vid 的条件域翻译 [3],到扩散模型的测试时特征注入、原生视频编辑 DiT / flow、三维运动控制与流式编辑,能力主线并不是“画面越来越漂亮”,而是可编辑自由度扩大时,源视频中的身份、几何、运动和因果关系还能否守恒

检索式、纳排规则、正式 venue、2025–2026 release surface、负面核验、图片记录与验证命令见配套研究记录

1. 先写任务合同,再选择模型

1.1 严格输入、输出与区域合同

一次可审计的 V2V 请求写成

\[
T_{\mathrm{V2V}}=(X,U,M,R,C,H)\rightarrow(Y,\Delta,D),
\]

其中:

  • $X=\lbrace x_t\rbrace_{t=1}^{T}$ 是完整源视频,决定输出的时间轴;
  • \(U\) 是自然语言编辑指令,可为空;
  • $M=\lbrace m_t\rbrace$ 是可选时空掩码,需声明是硬边界还是软提示
  • \(R\) 是外观、身份、材质或风格参考,可为多图、多视频或前一轮结果;
  • \(C\) 是轨迹、点、框、姿态、深度、法线、相机、音频等显式控制;
  • \(H\) 是多轮历史或流式状态,必须区分“已接受状态”和临时预览;
  • $Y=\lbrace y_t\rbrace_{t=1}^{T'}$ 是编辑视频;\(\Delta\) 是机器可读的改动范围;\(D\) 是种子、模型、条件、轮次和撤销信息。

对时间重映射、插帧或变速,\(T'\) 可以不同于 \(T\),但必须给出源—目标时间映射。否则默认 \(T'=T\) 且逐帧对齐。令 \(E_t\) 为允许编辑区,\(P_t=\Omega\setminus E_t\) 为保留区:

\[
\mathcal L=\mathcal L_{\mathrm{edit}}(Y,U,R,C,E)
+\lambda_p\mathcal L_{\mathrm{preserve}}(Y,X,P)
+\lambda_t\mathcal L_{\mathrm{temporal}}(Y,X).
\]

硬掩码表示 $y_t(p)=x_t(p),\ p\in P_t$,应在解码后再做一次已知像素合成;软掩码只表示“主要改这里”,允许影子、反射、遮挡和接触区域随对象一起变化。只给对象轮廓而不说明环境效应,无法判断 mask 外变化是错误还是必要编辑。

1.2 四个正交轴,不把任务名混成方法名

选项 必须固定的合同
编辑范围 local / masked;global 局部任务报告 mask 外泄漏;全局任务列出仍需保留的身份、布局、运动或镜头
编辑内容 appearance;object;motion;camera / geometry “换材质”和“改轨迹”不能共用一个模糊的文本相似度验收;restoration 是邻接合同而非编辑内容标签
条件接口 instruction;mask / box;reference;track / pose / depth / camera;组合条件 说明哪个条件具有冲突时优先级,以及条件是否逐帧对齐
会话形态 one-shot;multi-turn;streaming 多轮需保存状态与撤销点;流式需声明可见未来、缓冲区和端到端延迟

多参考不等于多轮:前者在同一轮提供多个条件,后者要求第 \(k\) 轮只改变本轮目标并保留前 \(1\ldots k-1\) 轮已接受结果。streaming 也不等于 long video:离线滑窗可以处理长视频,却使用未来帧;真正在线系统必须按因果可见性报告延迟。

1.3 什么算、什么不算 V2V

输入—输出关系 是否属于本页的严格 V2V 判据
源 RGB 视频 + 指令 / 参考 / 控制 → 同一场景的反事实视频 源视频不可被移除;需同时验收 edit success 与 preservation
局部对象替换、删除、重着色或动作修改 编辑区与保留区可写明;删除若目标是恢复遮挡背景,也与 inpainting 相交
全局风格、天气或域翻译 是,但属于 global edit 不能用“全画面都变”免除结构、身份和运动守恒
超分、去模糊、去噪、去压缩或复合低质恢复 邻接任务 全帧通常仍有退化观测;详见视频退化修复
缺失像素补全、对象移除后背景生成、outpainting 邻接任务 未知支持由 mask 指定或估计;详见视频补全
单图 / 首帧 + 文本 → 视频 图像是时间锚点而非待编辑视频;详见图像到视频
语义图 / pose / depth 视频 → RGB 视频 视合同而定 若源 RGB 不参与或可丢弃,是 conditional synthesis / translation;vid2vid 属于历史上的 video translation [3]
相机轨迹 + 文本 → 新场景 是 camera-conditioned generation
源视频 + 新相机轨迹 → 同一动态场景的新视图 是,属于 camera / geometry edit 必须保持同一对象状态并检验显露区和三维几何;ReCamMaster 是这一交叉点 [26]
视频前缀 → 未知未来 是 prediction / continuation,源帧是历史而非被修改对象
driving video + 人像参考 → 新人物动画 通常否 driving video 提供动作控制;若还要编辑 driving video 本身才进入 V2V
主体参考集 + prompt → 新时间轴视频 没有完整源视频可守恒;属于开放集视频个性化

图 074:严格视频到视频编辑的边界判定 顺序化文字替代: 先确认存在完整源视频;再确认输出修改的是这条既有时间轴,而非把它当驱动或历史。若目标只是恢复原内容,再判断是全帧退化观测的 restoration,还是由 mask 指定缺失支持的 inpainting。其余按局部、全局、运动或相机 / 视角编辑分流,每一支都同时写出编辑目标和守恒目标。

2. 方法选择器:控制越强,证据合同越具体

视频到视频任务合同选择器:从同一源视频与可选 instruction、mask、domain、reference、audio 或 pose 条件出发,先把图中的广义 restoration 或 completion 入口继续拆成全帧退化修复与缺失支持补全,再与外观翻译、语义编辑和重定时分流,并分别检查编辑成功、源保真、局部性、时间一致和身份或运动守恒。

图注: 四条路线先写“允许改变什么”和“必须保留什么”,再交付输出视频与 edit ledger。A 路是邻接任务入口,图中的 restoration / completion 必须继续拆成全帧退化逆问题mask 缺失支持补全,不能共用一份验收;B–D 分别扩大到外观、语义与时间/运动结构。右侧五个验收轴彼此独立,不能用 edit success 掩盖整帧重绘。未来预测与首帧动画不修改完整源时间轴,属于不同合同。

图的顺序化文字替代:

  1. 输入先固定完整源视频;instruction、mask/track、target domain、reference、audio/pose 只是可选控制。
  2. 若目标是逆转 blur、noise、downsample 或 compression,进入 degradation restoration;若目标是补 mask 缺失支持,进入 completion / inpainting。两者都冻结身份与时序,但只有后者具有 mask 外像素硬保护。
  3. 若只改变风格或域,进入 appearance translation,并保留身份、运动、几何和时间。
  4. 若增删、替换或重照明指定内容,进入 semantic edit,并把改动限制在请求区域或属性及其必要环境效应。
  5. 若改变速度、运动路径或镜头结构,进入 retime / restructure,并显式冻结身份和因果连续性。
  6. 所有路线都输出 edit ledger,并分别验收 edit success、source fidelity、locality、temporal consistency 和 identity/motion preservation。

图 075:视频编辑方法主线选择器 顺序化文字替代: 先由 mask 外是否需要像素级锁定决定是否使用 mask-aware 路线。没有专用训练数据时优先考虑 inversion 与测试时注入;大幅语义变化优先原生编辑模型;首帧或关键帧驱动的小改动可走对应传播。运动、相机和材质分解需要更具体的 2D / 3D / RGBX 控制。最后按离线、多轮长视频或因果流式选择状态管理。上方 PNG 用于快速识别输出关系;本 Mermaid 保留“任务合同 → 控制自由度 → 时序形态”的可编辑精确分支。

3. 八条机制路线及各自的守恒假设

3.1 传播与 warp:把少量可靠编辑扩散到时间轴

这一路线先编辑首帧、关键帧或稀疏锚点,再用光流、对应特征或 I2V 模型传播。优点是接口直观、可复用成熟图像编辑器;弱点是遮挡、显露区、快速非刚性运动和长程漂移。AnyV2V 把图像编辑与视频传播解耦 [10],FlowV2V 将一致编辑重写为 flow-driven I2V [12],FFP-300K 则把首帧传播扩展为大规模配对训练问题 [13]

隐藏假设: 第一帧包含未来所需身份和材质,且对应关系可跨遮挡恢复。若编辑目标只在后半段出现,首帧传播合同本身就不充分。

3.2 GAN 与 paired translation:从逐帧映射走向时间判别

vid2vid 把语义图、姿态等输入序列翻译为 RGB 视频,并用时序判别、前帧与光流约束增强连续性 [3]。它建立了“结构条件 + 时间一致”的工程范式,却依赖配对域、固定任务和训练分布;对任意自然语言反事实编辑并不天然适用。把 vid2vid 当作现代 instruction-based V2V 的同义词,会掩盖“源 RGB 是否必须保留”的合同差异。

3.3 分层、atlas 与显式合成:先把可编辑对象从视频中拆出来

Layered Neural Atlases 把前景和背景映射到统一 atlas,用户在二维 atlas 上编辑后再投影回视频 [4];Text2LIVE 学习文本驱动的编辑层并与原视频合成 [5]。这类方法的优势是改动可解释、可局部撤销,失败通常来自分层错误、拓扑变化、长时遮挡和非朗伯反射。它提醒后续生成模型:可合成的显式 delta 比只返回一段新视频更接近非破坏性编辑。

3.4 测试时 attention / feature injection:借图像扩散先验而不重训视频模型

FateZero 在反演轨迹中融合注意力,保留布局和运动 [7];Pix2Video 在图像扩散特征上建立帧间一致性 [8];TokenFlow 用扩散特征对应传播编辑 token [9]。这些方法把“源视频信息”注入去噪过程,适合文本外观编辑和低成本迁移,但大动作、遮挡、新对象交互与长视频会暴露二维对应的上限。

关键区别: attention injection 保留的是模型内部对应,不等于硬 mask 外像素守恒;视觉上相似也不等于身份、几何或运动轨迹没有漂移。

3.5 Diffusion inversion 与测试时适配:先找回源视频,再沿条件方向移动

Dreamix 通过加噪、混合微调与视频扩散实现视频到视频、图像到视频和主体驱动编辑 [6]。StableV2V 强调编辑前后形状稳定 [11],AnyV2V 则把 inversion、图像编辑和时间传播模块化 [10]。路线的主要误差来自:反演重建误差、编辑方向和源运动纠缠、每视频优化成本,以及不同随机种子导致的不可归因差异。

Dreamix 的逐视频反演/微调仍围绕已有源时间轴验收;若优化对象是开放集主体表示,并在全新时间轴中生成,则归入开放集视频个性化

实验必须先报告 reconstruction-only:在不施加编辑时,反演—解码能否重建 \(X\)。否则后续变化无法区分是编辑成功还是反演损失。

3.6 原生 editing DiT / rectified flow:把源、目标和条件共同 token 化

Movie Gen 把视频生成与精确编辑纳入同一媒体基础模型族 [14]。VACE 用统一条件接口覆盖生成、参考和视频编辑,并在 ICCV 2025 正式发表 [15]。2026 年,EditVerse 把异构编辑样本统一为 token 序列 [16],UNIC 把源视频、带噪目标和多模态条件共同建模 [17],Ditto 用大规模合成数据训练原生指令编辑器 [19],EasyV2V 用序列拼接、LoRA 与时空 mask 兼容局部 / 全局及可选参考 [18]

原生模型能执行更大语义变化,却不能因为“端到端”就省略编辑区域合同。VIVA 用 VLM instructor 与强化学习提升指令对齐 [20],CoT-Edit 把指令规划为框、mask 和编辑步骤 [21],EditCtrl 只更新 mask token 并用低分辨率全局上下文控制计算量 [45]:三者分别把语义规划、空间定位和计算边界显式化。

3.7 多参考、3D / 4D 与内禀分解:从像素相关走向可控制世界状态

MotionFollower 用 pose / appearance controllers 和 score guidance 改变主体运动并保留外观与背景 [22];MotionV2V 构造 motion counterfactual,以稀疏轨迹改变对象运动同时保留外观 [23];3D Point Tracks 方法进一步把深度、遮挡与源 / 目标三维点轨迹写入运动合同 [24]。TrajectoryCrafter [25] 与 ReCamMaster [26] 面向新轨迹 / 新相机视角,只有当它们保持同一动态场景状态时才属于 V2V 的 novel-view edit。

V-RGBX 先把视频分解为反照率、法线、材质和照明,再做 intrinsic-aware 编辑 [27];V2Edit 同时面向视频和三维场景 [28]。这一路线更适合检验遮挡、光照和几何,却要求可靠深度、相机或内禀估计。所谓“4D-aware”若没有跨视角 / 时间的几何证据,仍可能只是更强的视频先验。

编辑主张一旦扩展到“所有视角、所有时刻保持同一变化”,就要从像素保持合同升级为 camera-time grid、重投影、遮挡、loop closure 与可渲染状态合同;完整测试见多视角与 4D 生成

3.8 记忆、多轮与流式:状态管理成为模型合同的一部分

Memory-V2V 用外部记忆、检索、动态 token 化和压缩支持长视频多轮一致性 [29]。EgoEdit 面向第一视角数据、流式模型与评测 [30]。LiveEdit 以双向到因果蒸馏和自回归 mask cache 逼近实时流式编辑 [31],JoyAI 使用自回归扩散、因果 VAE 和有界 KV cache [32],EditStream 则统一交互式视频生成与编辑 [33]

“实时”必须拆成捕获到显示的端到端延迟、稳态 FPS、首帧时间、分辨率、窗口长度、峰值显存和硬件;论文中的作者报告速度不能替代本地复测。离线模型一次处理完整 clip 的 FPS 也不能证明在线因果性。

4. 能力转折点:每次扩大自由度,都留下新的守恒债务

时间 能力转折 代表证据 当时没有解决、今天仍需验收的项
1997–2004 从局部口型重排走向通用时空洞补全 Video Rewrite [1];Space-Time Completion [2] 长遮挡、语义重绘、用户可控边界
2018 paired video translation 把时间判别和条件序列纳入训练 vid2vid [3] 新域泛化、自然语言开放编辑、源 RGB 守恒
2021–2022 atlas / edit layer 让改动可合成、可定位 Layered Neural Atlases [4];Text2LIVE [5] 复杂拓扑、显露区、长程非刚体
2023–2024 图像扩散先验通过 inversion、attention 和 feature propagation 迁移到视频 Dreamix [6];FateZero [7];Pix2Video [8];TokenFlow [9];AnyV2V [10] 大动作、对象交互、反演误差、逐视频成本
2024–2025 视频基础模型与统一条件接口允许更大幅、多任务编辑 Movie Gen [14];VACE [15] 精确 mask 外守恒、训练数据可追溯、可复现实验成本
2025–2026 原生编辑数据 / 模型把 instruction、mask、reference 共同训练 EditVerse [16];UNIC [17];EasyV2V [18];Ditto [19] 组合指令、罕见交互、真实人工编辑对、许可边界
2025–2026 控制从外观推进到运动、相机、三维轨迹和内禀属性 MotionFollower [22];MotionV2V [23];3D tracks [24];V-RGBX [27] 接触与碰撞、遮挡、拓扑变化、真实 4D 一致性
2026 多轮、长视频与因果流式成为一等协议 Memory-V2V [29];EgoEdit [30];LiveEdit [31];JoyAI [32];EditStream [33] 非破坏性状态、撤销、跨轮漂移、统一实时测量

这条时间线不是 SOTA 排名。早期显式分层方法在可解释 delta 和撤销上可能优于大模型;新模型扩大了指令覆盖,并未自动偿还 preservation、geometry 或 provenance 的债务。

5. 2025–2026 冻结快照:正式发表、预印本与 release surface 分开写

工作 截至冻结日的证据状态 核心贡献 可公开复现边界
VACE ICCV 2025 正式论文 [15] 统一生成、参考与编辑条件 官方仓库有推理、预处理、Gradio、权重与 benchmark;未见完整预训练管线 [37]
MotionFollower / TrajectoryCrafter / ReCamMaster ICCV 2025 正式论文 [22] [25] [26] 运动轨迹、通用轨迹和相机重定位 需逐项目核对数据、相机 / 深度前处理和权重,不把项目 demo 当复现
VE-Bench / FiVE-Bench AAAI 2025 / ICCV 2025 正式论文 [34] [35] 主观对齐质量与细粒度编辑评测 是评测协议,不是编辑模型
V2Edit / FlowV2V 2025 arXiv 预印本 [28] [12] 视频—3D 联合编辑;flow-driven I2V 不因年份相同写成正式 proceedings
EditVerse / UNIC / IVEBench ICLR 2026 正式论文 [16] [17] [36] 统一数据 / 条件建模;现代 instruction benchmark 数据、权重与训练 recipe 仍需按各官方发布面核验
EasyV2V / Ditto / MotionV2V / 3D Point Tracks / EditCtrl / VIVA / CoT-Edit / V-RGBX / EgoEdit / FFP-300K CVPR 2026 正式论文 [18] [19] [23] [24] [45] [20] [21] [27] [30] [13] 原生编辑、数据扩展、运动 / 3D、mask 计算、规划、内禀属性、流式第一视角、首帧传播 “有 proceedings”不等于“有完全一致的训练代码与 checkpoint”
Memory-V2V arXiv v3;Adobe Research 页面标注 ECCV 2026,但页面公开日期晚于冻结日 [29] 外部记忆与多轮一致 冻结日官方仓库仍写 Code coming soon [41]
LiveEdit arXiv v2;官方仓库标注 accepted to ECCV 2026 [31] [46] 双向到因果蒸馏、流式 cache 仓库公开推理 / 训练 / checkpoint;作者速度需本地复测
JoyAI-Video-Edit 2026-08 arXiv 预印本 [32] 开放式自回归扩散编辑 官方仓库公开部署与权重;完整训练代码 / 数据在冻结日仍为 TODO [43]
EditStream 2026-08 arXiv 预印本 [33] 交互式生成—编辑统一自回归框架 官方项目页在冻结日写 Code soon、Data & Model soon [47]

5.1 这些论文真正改变了什么

  • 数据成为能力瓶颈。 Ditto-1M 与 EditVerse 不再把编辑当成生成模型的附带推理技巧,而是训练原生 source→target 关系 [16] [19]。收益是大幅编辑和组合条件;代价是合成配对偏差、数据许可和巨大训练成本。Ditto 论文报告超过 12,000 GPU-days,这是作者报告,不是本页复测值。
  • mask 从输入提示变成算力边界。 EasyV2V 的时空 mask 统一 local / global 编辑 [18],EditCtrl 只在 masked token 上执行主要计算,并保留低分辨率全局上下文 [45]。但 mask 外 token 不更新仍不保证解码后像素完全不变,硬合同需要输出合成和误差审计。
  • 运动编辑从文本形容词走向反事实轨迹。 MotionV2V 的问题是“同一对象如果沿另一条轨迹运动会怎样” [23];3D Point Tracks 显式处理深度与遮挡 [24]。这比用 CLIP 判断“moves left”更可检验,但仍未自动解决接触、碰撞与拓扑变化。
  • 规划与执行被拆开。 CoT-Edit 先生成计划、框和 mask,再调用编辑器 [21];VIVA 用视觉语言反馈训练编辑器 [20]。需要分别测 planner 的定位错误和 renderer 的生成错误,不能只报最终偏好分。
  • 在线编辑把未来信息变成公平性问题。 EgoEdit、LiveEdit、JoyAI 与 EditStream 的可见未来和缓存不同 [30] [31] [32] [33]。离线基线若看到完整视频,不能与严格因果模型只按 FPS 横比。

6. 评价:至少八个维度,不能压成一个“总体质量”

VE-Bench 收集 8 个模型、24 位标注者和 28,080 个主观分数,用于研究自动指标与人类判断的对齐 [34]。FiVE-Bench 由 74 个真实源视频和 26 个生成源视频构成,覆盖 6 类编辑与 420 组 prompt / mask [35]。IVEBench 包含 600 个源视频、32–1024 帧、8 个主类和 35 个子类,强调现代指令编辑的时长与任务覆盖 [36]。这些规模来自论文,不应外推为“已覆盖所有真实编辑”。

维度 要回答的问题 推荐证据 常见误判
Preservation 不该改的区域是否保持? 对齐后的 mask 外 PSNR / LPIPS;DINO 特征;背景轨迹;人审 全局 CLIP 高分掩盖背景漂移
Edit success 指令、参考或控制是否真的实现? 编辑区 VLM / task classifier;参考身份;轨迹 / pose / camera 误差;成对人审 只看 prompt 相似度,模型可通过重绘整帧得分
Temporal 变化是否跨帧连续且不拖影? flow-warp error、flicker 频谱、长程 correspondence、scene-cut 分层报告 短 clip 平均值掩盖后半段漂移
Identity 主体身份、服装与可接受属性是否保留? face / person / object embedding、关键属性标注、跨遮挡重现 人脸分数替代通用对象身份
Geometry 深度、遮挡、相机和显露区是否自洽? depth / normal、2D / 3D tracks、camera pose、occlusion ordering 单帧美观被误当三维一致
Physics 接触、支撑、碰撞、影子和反射是否随编辑变化? 事件标注、接触点轨迹、前后因果检查、人审失败 taxonomy FVD / VBench 不能诊断具体物理错误
Latency 交互是否真的可用? cold / warm 首帧时间、稳态 FPS、端到端延迟、峰值显存、分辨率和硬件 只报去噪 kernel FPS;忽略 VAE、传输和缓存预热
Undo / multi-turn 连续编辑能否非破坏地撤销? 每轮 delta、accepted-state checkpoint、逆操作误差、跨轮漂移曲线 把上一轮压成有损视频后仍称“无损历史”

6.1 局部编辑的最低分解

至少分别报告

\[
E_{\mathrm{out}}=d(Y\odot(1-M),X\odot(1-M)),
\]
\[
S_{\mathrm{edit}}=s(Y\odot M,U,R,C),
\]

以及时序边界误差 \(E_{\partial M}\)。若软 mask 允许影子或反射外溢,应另给扩张环 \(\mathrm{dilate}(M)-M\),不能悄悄把它并入背景平均值。全局编辑也要定义锚点集合,例如脸部身份、对象轨迹、相机或场景布局。

6.2 多轮非破坏性协议

设第 \(k\) 轮的已接受状态为 \(S_k=(Y_k,\Delta_k,D_k)\)。新编辑从 \(S_k\) 派生临时分支 \(\tilde S_{k+1}\);用户接受后才写入 \(S_{k+1}\)。撤销是恢复 \(S_k\) 或重新应用可逆 delta,而不是再输入一句“改回去”。建议测试:

  1. 顺序交换: 对互不相交的编辑 \(a,b\),比较 \(a\rightarrow b\)\(b\rightarrow a\)
  2. 循环撤销: \(a\rightarrow b\rightarrow\mathrm{undo}(b)\)\(a\) 的差异;
  3. 区域隔离:\(k\) 轮只重测新区域,也重测所有已接受区域;
  4. 长程重现: 对象遮挡后再出现时,身份和前轮属性是否回来;
  5. 状态压缩: 固定历史 token / memory 预算,画出质量—内存—轮数曲线。

6.3 streaming 公平协议

统一输入帧率和分辨率,分别设置 look-ahead \(L=0\)、有限 \(L\) 和 full-context;报告 capture→encode→edit→decode→display 的分段与总延迟。发生 scene cut、指令切换或 mask 突变时,检查 cache 是否重置。对作者报告的 LiveEdit、JoyAI 或 EditStream 速度,只能写“在其硬件和设置下报告”,本地未复测前不能写成通用实时结论。

7. 一套可复现、可归因的实验矩阵

7.1 固定样本,而不是为每个方法挑最擅长的 demo

建立带版本号的 source suite,至少分层覆盖:静态 / 运动相机、刚体 / 非刚体、单 / 多对象、短 / 长遮挡、室内 / 户外、真实 / 生成视频、人物 / 动物 / 通用对象、低 / 高纹理。每个源视频配同一组合同:

  1. 零编辑: 空指令或 identity instruction,测纯重建与方法固有漂移;
  2. 局部外观: 小 mask 换色 / 材质,测 mask 外守恒和边界;
  3. 对象增删 / 替换: 测显露区、影子、反射和遮挡;
  4. 全局外观: 天气 / 风格变化,但锁定身份、布局和原运动;
  5. 2D / 3D 运动: 同一对象改轨迹,测几何、接触和速度;
  6. 相机编辑: 同一动态场景改视角,测姿态和新显露区;
  7. 多轮: 三个互不相交编辑、一个重叠编辑、一次撤销;
  8. 流式: 指令切换、scene cut、长期运行和突发遮挡。

只比较共同支持的条件。一个仅文本全局编辑器不能因不接受 mask 而在 mask 精确度上被判为实现错误,但应明确标成“不支持该合同”,不能把缺失接口记成零分后再算综合排名。

7.2 每条路线的最低对照

路线 必做对照 / 消融 要隔离的因果项
propagation / warp 只编辑关键帧;无 flow;不同锚点间隔;遮挡开 / 关 改善来自图像编辑器还是时间传播
inversion / injection reconstruction-only;无 attention / feature injection;相同 seed 编辑收益与反演误差分离
native editor source condition 移除;mask / reference / instruction 分别移除;同骨干生成基线 原生编辑训练是否真正利用源视频
motion / 3D 2D track 对照 3D track;真值深度对照估计深度;遮挡子集 几何条件贡献与估计器误差
multi-turn memory 无记忆;固定窗口;不同压缩率;轮次交换 一致性来自记忆还是重生成
streaming full-context 上界;相同 look-ahead;cache reset;冷 / 热启动 质量—延迟权衡和未来信息泄漏

7.3 复现记录必须能重放

每次运行保存:论文版本、仓库 URL 与 commit SHA、checkpoint 哈希、依赖 lockfile / 容器、GPU 与驱动、输入文件哈希、解码后分辨率 / FPS / 色彩空间、prompt / negative prompt、mask 定义、参考排序、所有 seed、采样器 / 步数 / guidance、窗口 / overlap / cache、峰值显存、分段耗时和失败日志。批量结果同时保存逐样本指标;只给平均数无法定位哪类编辑崩溃。

报告三种复现层级:

  • R0 文档复核: 能定位论文、配置、权重与许可,但未运行;
  • R1 推理复现: 用官方 checkpoint 完成固定样本和哈希记录;
  • R2 训练 / 微调复现: 数据版本、训练代码、预算与指标可重跑。

本页的 release surface 审计属于 R0;没有下载全部权重、执行 GPU 推理或复跑作者速度。

8. Release surface:有论文不等于可完整复现

以下状态按 2026-08-30 的官方页面与默认分支快照记录;“未见”只表示在核验位置没有发现,不能证明私有资产不存在。

项目 冻结快照 已公开 负面核验 / 限制
VACE 48eb44f1c4be87cc65a98bff985a26976841e9f3,Apache-2.0 [37] 推理、预处理、Gradio、权重、benchmark 未见完整预训练 recipe;依赖上游基础模型与许可
AnyV2V bc540befacafddb9689ee86a396e7738bfed0e4f,MIT [38] 模块化推理代码与示例 复现还依赖外部图像编辑 / I2V 组件,不是单一自包含 checkpoint
StableV2V 68aff43cd01aed58159f57fee626e5f1bb72aef3,MIT [39] 代码、权重与 DAVIS-Edit 资源 任务和数据规模不等于开放式原生 instruction editor
Ditto 4b1c86eee134d1f1e8c3db35a4eef750cec13f16,CC BY-NC-SA [40] 推理、训练、数据说明与模型权重 非商业许可;大规模训练预算未在本页复跑
Memory-V2V a9cb5430ba8d05669a5cbafc8967cff2858d5d0a [41] 论文、项目说明 README 仍写 Code coming soon,不能标记为代码可复现
EgoEdit 8e90b19e6dfe46fa06f2c4915ebdadb5d3de5d72,非商业条款 [42] 数据 / benchmark 相关资源 冻结日未核验到与论文模型完全对应的官方 checkpoint
JoyAI-Video-Edit 114a1f605acacbf494b46c383fab49df6240268c,Apache-2.0 [43] 部署代码与权重 README 的完整训练代码 / 数据仍为 TODO;30 FPS 等为作者设置报告
MotionV2V f2efa3d3ce641f34ae9b177c2df84d39e688e82c [44] 项目页素材 默认分支未见推理代码或权重,不能把网页结果当本地复现
EditCtrl e0a31e6abcc8684dd319772eabf916b5d9dc616a,Apache-2.0 [45] 公开重实现、推理接口 README 明示是 public reimplementation,不是内部精确 checkpoint
LiveEdit 官方仓库与 checkpoint [46] 推理、训练与模型资源 需按其硬件重测端到端延迟;接受状态不等于冻结日已有正式 proceedings 页面
EditStream 官方项目页 [47] 论文、视频与说明 页面写 Code soon、Data & Model soon,冻结日不可做 R1

9. 失败诊断:先判断破坏了哪条合同

现象 优先检查 可能机制原因 针对性对照
mask 外颜色或纹理漂移 硬 / 软 mask、解码后合成 全局 cross-attention、VAE 重建误差 identity edit;已知像素硬合成
主体跨帧换脸 / 换纹理 长程身份、遮挡后重现 局部对应短视、memory 被压缩 遮挡子集;延长锚点间隔
动作改了但身体拉伸 2D / 3D 轨迹、深度和遮挡 只有屏幕空间控制,无几何约束 真值 / 估计深度对照;3D track 对照
新视角暴露重复纹理 相机姿态和 disocclusion 把新视图当二维重绘 固定相机误差;多视角重投影
删除对象但影子 / 反射残留 soft edit support mask 只覆盖对象轮廓 mask 扩张环;副作用标注
多轮后早期编辑消失 accepted state、轮次 delta 每轮从压缩 RGB 重生成或历史截断 轮次交换;undo cycle
流式遇 scene cut 污染 cache 生命周期 旧 KV / mask cache 未重置 人工 cut;强制 reset 对照
指令分数高但整帧重绘 preservation 指标 目标函数只奖励语义匹配 配对人审;mask 外特征和轨迹

10. 尚未解决的研究问题

  1. 可证明的编辑局部性。 如何让 hard mask 成为架构或采样不变量,而不只是训练提示?
  2. 组合因果编辑。 改变对象运动后,影子、接触、碰撞和相机遮挡应如何联动,又如何避免无关背景重生成?
  3. 真实编辑数据。 合成 before / after 对能扩规模,但会复制生成器偏差;真实创作轨迹、许可与隐私如何兼顾?
  4. 多轮可逆状态。 未来系统应保存 latent scene graph、分层 delta、外部记忆还是完整版本树?“撤销”能否不依赖再生成?
  5. 4D 证据。 如何用可观测的多视角重投影、3D 轨迹和遮挡顺序证明模型真的维护动态场景,而不是视频先验碰巧连贯?
  6. 流式公平性。 如何统一 look-ahead、缓存、VAE、传输和显示延迟,使不同论文的 FPS 可比?
  7. 评价可解释性。 如何把 VLM 偏好与像素、身份、几何、物理和人类工作流中的可撤销性结合,而不制造新的单一总分?

11. 建议阅读路径

  • 理解任务边界: 先读本页第 1 节,再读图像到视频开放集视频个性化视频退化修复视频补全任务分类
  • 理解测试时编辑: Dreamix → FateZero → Pix2Video → TokenFlow → AnyV2V。
  • 理解原生编辑模型: VACE → EditVerse / UNIC → EasyV2V / Ditto → EditCtrl / VIVA / CoT-Edit。
  • 理解运动与几何: MotionFollower → MotionV2V → 3D Point Tracks → ReCamMaster → V-RGBX。
  • 理解工作流状态: Layered Neural Atlases / Text2LIVE → Memory-V2V → EgoEdit / LiveEdit / JoyAI / EditStream。
  • 做实验前: 先读 VE-Bench、FiVE-Bench 与 IVEBench,再按第 7 节冻结样本和版本。

参考文献

[1] Video Rewrite: Driving Visual Speech with Audio. SIGGRAPH, 1997.

[2] Space-Time Video Completion. CVPR, 2004.

[3] Video-to-Video Synthesis. NeurIPS, 2018.

[4] Layered Neural Atlases for Consistent Video Editing. ACM TOG (SIGGRAPH Asia), 2021.

[5] Text2LIVE: Text-Driven Layered Image and Video Editing. ECCV, 2022.

[6] Dreamix: Video Diffusion Models are General Video Editors. arXiv, 2023.

[7] FateZero: Fusing Attentions for Zero-shot Text-based Video Editing. ICCV, 2023.

[8] Pix2Video: Video Editing using Image Diffusion. ICCV, 2023.

[9] TokenFlow: Consistent Diffusion Features for Consistent Video Editing. ICLR, 2024.

[10] AnyV2V: A Tuning-Free Framework For Any Video-to-Video Editing Tasks. TMLR, 2024.

[11] StableV2V: Stablizing Shape Consistency in Video-to-Video Editing. arXiv, 2024.

[12] Consistent Video Editing as Flow-Driven Image-to-Video Generation. arXiv, 2025.

[13] FFP-300K: Scaling First-Frame Propagation for Generalizable Video Editing. CVPR, 2026.

[14] Movie Gen: A Cast of Media Foundation Models. arXiv, 2024.

[15] VACE: All-in-One Video Creation and Editing. ICCV, 2025.

[16] EditVerse: Unifying Image and Video Editing and Generation with In-Context Learning. ICLR, 2026.

[17] UNIC: Unified In-Context Video Editing. ICLR, 2026.

[18] EasyV2V: A High-quality Instruction-based Video Editing Framework; official project. CVPR, 2026.

[19] Scaling Instruction-Based Video Editing with a High-Quality Synthetic Dataset. CVPR, 2026.

[20] VIVA: VLM-Guided Instruction-Based Video Editing with Reward Optimization. CVPR, 2026.

[21] CoT-Edit: Let CoT Guide Instruction Video Editing. CVPR, 2026.

[22] MotionFollower: Editing Video Motion via Score-Guided Diffusion. ICCV, 2025.

[23] MotionV2V: Editing Motion in a Video. CVPR, 2026.

[24] Generative Video Motion Editing with 3D Point Tracks. CVPR, 2026.

[25] TrajectoryCrafter: Redirecting Camera Trajectory for Monocular Videos via Diffusion Models. ICCV, 2025.

[26] ReCamMaster: Camera-Controlled Generative Rendering from A Single Video. ICCV, 2025.

[27] V-RGBX: Video Editing with Accurate Controls over Intrinsic Properties. CVPR, 2026.

[28] V2Edit: Versatile Video Diffusion Editor for Videos and 3D Scenes. arXiv, 2025.

[29] Memory-V2V: Memory-Augmented Video-to-Video Diffusion for Consistent Multi-Turn Editing; Adobe Research record. arXiv / institutional record, 2026.

[30] EgoEdit: Dataset, Real-Time Streaming Model, and Benchmark for Egocentric Video Editing. CVPR, 2026.

[31] LiveEdit: Towards Real-Time Diffusion-Based Streaming Video Editing. arXiv, 2026.

[32] JoyAI-Video-Edit: Real-Time Open-Ended Video Editing with Autoregressive Diffusion. arXiv, 2026.

[33] EditStream: A Unified Autoregressive Framework for Interactive Video Generation and Editing. arXiv, 2026.

[34] VE-Bench: Subjective-Aligned Benchmark Suite for Text-Driven Video Editing Quality Assessment. AAAI, 2025.

[35] FiVE-Bench: A Fine-grained Video Editing Benchmark for Evaluating Emerging Diffusion and Rectified Flow Models. ICCV, 2025.

[36] IVEBench: Modern Benchmark Suite for Instruction-Guided Video Editing Assessment. ICLR, 2026.

[37] VACE official repository GitHub: ali-vilab/VACE. GitHub, accessed 2026-08-30.

[38] AnyV2V official repository GitHub: TIGER-AI-Lab/AnyV2V. GitHub, accessed 2026-08-30.

[39] StableV2V official repository GitHub: AlonzoLeeeooo/StableV2V. GitHub, accessed 2026-08-30.

[40] Ditto official repository GitHub: EzioBy/Ditto. GitHub, accessed 2026-08-30.

[41] Memory-V2V official repository GitHub: DoHunLee1/Memory-V2V. GitHub, accessed 2026-08-30.

[42] EgoEdit official repository GitHub: snap-research/EgoEdit. GitHub, accessed 2026-08-30.

[43] JoyAI-Video-Edit official repository GitHub: jd-opensource/JoyAI-Video-Edit. GitHub, accessed 2026-08-30.

[44] MotionV2V official repository GitHub: RyannDaGreat/MotionV2V. GitHub, accessed 2026-08-30.

[45] EditCtrl paper and public reimplementation GitHub: yehonathanlitman/EditCtrl. CVPR / GitHub, 2026.

[46] LiveEdit official repository GitHub: cp-cp/LiveEdit. GitHub, accessed 2026-08-30.

[47] EditStream official project page. Accessed 2026-08-30.