跳转至

手册使用说明

本手册用于理解视频生成方法、选择模型与数据、制定训练或推理流程,以及评估结果。正文以技术定义、接口、处理步骤、适用条件和故障诊断为主;论文与项目作为方法说明的来源。

1. 按工作目标查阅

工作目标 建议步骤 交付记录
建立基础知识 入门 → 方法分类 → 任务定义 能描述输入、输出、条件和预测范围
实现或替换模型 任务章节 → 模型资源 → 系统组成 模型版本、输入输出规格、环境和运行配置
准备训练数据 数据处理 → 任务章节的数据要求 来源、处理配置、划分和版本清单
优化生成速度 成本分析 → 对应优化方法 → 评测 同质量约束下的延迟、吞吐、显存和成本
构建视频制作系统 智能体视频生成 → 多镜头生成 → 应用验收 规划、资产、状态、工具调用与失败恢复记录
检验研究结论 对应方法章节 → 评测 → 文献索引 对照、指标、采样预算、失败样本与结论范围

2. 章节结构

方法章节按“范围与前置知识 → 数学或数据接口 → 处理流程 → 代表方法 → 配置与评测 → 故障诊断及限制”组织。资源章节提供带统计单位和版本的条目;时间线及阅读清单作为检索入口。无需按目录顺序逐章阅读。

示例设置用于说明实验如何设计。标为“实验设计示例”“尚未运行”的内容,不是公开数据集、标准协议或本仓库的实验结果。参数与通过阈值需根据具体任务确定,并在测试前固定。

2.1 分类轴与主责章节

问题或共用内容 主责章节 相邻章节保留的内容
任务的输入、输出、条件与保持项 任务分类 任务专章展开张量、数据与失败条件
C1–C9 能力的定义 能力地图 任务、后训练、系统与评测表引用 C 编号
表示、分解、目标、骨干与部署五轴 生成原理总览 分章展开对应轴;同一系统可跨轴组合
latent、离散 code、压缩预算与 codec Tokenizer 系统章保留接口和成本,变分章保留概率模型
时空网络、注意力、位置与条件融合 Video DiT 系统优化章保留硬件执行和端到端性能
SFT、偏好、RL 与独立验收 后训练 蒸馏章负责 teacher–student 目标与加速取舍
增加推理预算与执行一次的成本 推理时扩展 / 推理优化 前者比较预算—质量,后者分解每次执行成本
长度外推与长期漂移 长视频 流式负责因果输出、提交、时限;长视频无需实时
角色、道具、镜头边界与叙事状态 故事与多镜头 智能体制作负责工具调度、资产、预算和局部返工
预测状态、动力学、规划与观测校正 世界模型 动作条件预测负责动作/观测张量、时间轴与预测协议
预测如何参与动作产生与选择 WAM 级联、联合、在线/离线用途与消融集中维护
持续接收动作的生成环境 交互式世界生成 动作接受、状态权威性、回访、记忆案例与交互故障
可执行规则与视觉接口 Coding World Model 与制作脚本、潜在状态和程序执行推理分别比较
表征预测、约束正确与任务求解 JEPA / 物理一致性 / 视觉推理 三者分别回答表示、约束和计算问题,不作为世界模型的升级顺序
L0–L7 与通用评测口径 评测总览 世界模型协议维护报告字段,任务章补专项实验
数据来源、切分、标注与版本 数据处理 基础模型系统保留训练管线的组合及系统实例

2.2 章节复用规则

共用定义、完整推导和通用协议只在主责章节展开;邻章保留理解本任务所需的简短说明与可点击入口。相同论文可出现在多个任务中,但实验条件、数值和来源必须明确;重复的背景介绍不能代替任务差异。旧页面和锚点保留为入口,转移技术段落时连同公式、图注、实验条件和引文一起处理。

3. 术语和符号

术语或符号 含义及使用规则
视频时间 \(t\) 真实帧、片段或环境步;单位需在任务中说明
生成时间 \(\tau\) 去噪、流积分或其他生成迭代轴;与视频时间分开
\(x\)、\(z\)、\(c\)、\(a\) 通常为视频、潜在表示、条件、动作;以各章的局部定义为准
token 指定是离散代码、连续潜变量位置还是 Transformer 的图像块单元
模型 / 检查点 / 系统 网络及训练方法 / 固定参数版本 / 包含前后处理、工具和服务的整体
帧率 区分视频播放 FPS、模型生成吞吐 FPS 和用户实际收到视频的速率
实时 在指定硬件、并发和时限内满足响应要求;高平均 FPS 本身不足以证明实时
开放 分别注明论文、代码、权重、数据索引、标注和媒体是否发布
来源可核查性与能力证据 来源用发表入口、预印本、机构展示及 artifact 状态描述;L0–L7 描述实验支持的行为。历史 A–D 仅表示可核查面;WM、VP、IW 是协议字段编号,不是能力排名
L0–L7 评测章节的手册内部报告约定,不是社区标准或统一排名

章节中的英文论文名、模型名和指标名保留官方拼写。同一符号在不同论文中可能具有不同含义,引用公式时必须连同其定义阅读。

4. 结果与来源的解释

  • 作者报告: 数字来自论文、技术报告或官方项目,解释范围受原实验设置限制。
  • 本仓库复现: 只有提供运行配置、结果文件与可复查记录时使用该表述。资料整理或链接检查不构成模型复现。
  • 方法解释: 对已有机制的整理应保留出处;比较或推导应说明假设。
  • 建议实验: 给出可执行步骤和失败条件,实际效果仍待实验验证。

引用年份区分预印本初次公开与正式发表。资源可用性、服务状态和许可证按条目注明的日期理解;原资料覆盖日期不等于全部事实最近一次核验日期。使用动态资源前,应查阅该条目链接的官方页面。

5. 配置与结果记录

完成一次训练、推理或评测时,至少保存下列信息。此表是记录模板,不要求所有方法具有相同参数。

类别 必填信息
任务 输入条件、输出尺寸、时长、帧率、内容保持约束
数据 来源与版本、划分单位、预处理、去重、测试集隔离
模型 检查点版本或哈希、代码版本、精度、适配或微调方式
推理 采样器、步数、引导强度、种子、候选数、选择器
系统 硬件、软件版本、批量、并发、冷启动或预热方式
结果 指标实现、统计单位、重复次数、不确定性、失败样本
成本 端到端延迟、吞吐、显存、模型调用数及其他工具费用

6. 内容维护

新增条目须有可核验的一手来源。先确认对象是否实际存在,再核对名称、任务、机制和实验条件;资源条目另查发布内容。修订记录保存在仓库的 sources/,不作为技术正文或搜索结果的主体。贡献与检查流程见贡献指南。