手册使用说明¶
本手册用于理解视频生成方法、选择模型与数据、制定训练或推理流程,以及评估结果。正文以技术定义、接口、处理步骤、适用条件和故障诊断为主;论文与项目作为方法说明的来源。
1. 按工作目标查阅¶
| 工作目标 | 建议步骤 | 交付记录 |
|---|---|---|
| 建立基础知识 | 入门 → 方法分类 → 任务定义 | 能描述输入、输出、条件和预测范围 |
| 实现或替换模型 | 任务章节 → 模型资源 → 系统组成 | 模型版本、输入输出规格、环境和运行配置 |
| 准备训练数据 | 数据处理 → 任务章节的数据要求 | 来源、处理配置、划分和版本清单 |
| 优化生成速度 | 成本分析 → 对应优化方法 → 评测 | 同质量约束下的延迟、吞吐、显存和成本 |
| 构建视频制作系统 | 智能体视频生成 → 多镜头生成 → 应用验收 | 规划、资产、状态、工具调用与失败恢复记录 |
| 检验研究结论 | 对应方法章节 → 评测 → 文献索引 | 对照、指标、采样预算、失败样本与结论范围 |
2. 章节结构¶
方法章节按“范围与前置知识 → 数学或数据接口 → 处理流程 → 代表方法 → 配置与评测 → 故障诊断及限制”组织。资源章节提供带统计单位和版本的条目;时间线及阅读清单作为检索入口。无需按目录顺序逐章阅读。
示例设置用于说明实验如何设计。标为“实验设计示例”“尚未运行”的内容,不是公开数据集、标准协议或本仓库的实验结果。参数与通过阈值需根据具体任务确定,并在测试前固定。
2.1 分类轴与主责章节¶
| 问题或共用内容 | 主责章节 | 相邻章节保留的内容 |
|---|---|---|
| 任务的输入、输出、条件与保持项 | 任务分类 | 任务专章展开张量、数据与失败条件 |
| C1–C9 能力的定义 | 能力地图 | 任务、后训练、系统与评测表引用 C 编号 |
| 表示、分解、目标、骨干与部署五轴 | 生成原理总览 | 分章展开对应轴;同一系统可跨轴组合 |
| latent、离散 code、压缩预算与 codec | Tokenizer | 系统章保留接口和成本,变分章保留概率模型 |
| 时空网络、注意力、位置与条件融合 | Video DiT | 系统优化章保留硬件执行和端到端性能 |
| SFT、偏好、RL 与独立验收 | 后训练 | 蒸馏章负责 teacher–student 目标与加速取舍 |
| 增加推理预算与执行一次的成本 | 推理时扩展 / 推理优化 | 前者比较预算—质量,后者分解每次执行成本 |
| 长度外推与长期漂移 | 长视频 | 流式负责因果输出、提交、时限;长视频无需实时 |
| 角色、道具、镜头边界与叙事状态 | 故事与多镜头 | 智能体制作负责工具调度、资产、预算和局部返工 |
| 预测状态、动力学、规划与观测校正 | 世界模型 | 动作条件预测负责动作/观测张量、时间轴与预测协议 |
| 预测如何参与动作产生与选择 | WAM | 级联、联合、在线/离线用途与消融集中维护 |
| 持续接收动作的生成环境 | 交互式世界生成 | 动作接受、状态权威性、回访、记忆案例与交互故障 |
| 可执行规则与视觉接口 | Coding World Model | 与制作脚本、潜在状态和程序执行推理分别比较 |
| 表征预测、约束正确与任务求解 | JEPA / 物理一致性 / 视觉推理 | 三者分别回答表示、约束和计算问题,不作为世界模型的升级顺序 |
| L0–L7 与通用评测口径 | 评测总览 | 世界模型协议维护报告字段,任务章补专项实验 |
| 数据来源、切分、标注与版本 | 数据处理 | 基础模型系统保留训练管线的组合及系统实例 |
2.2 章节复用规则¶
共用定义、完整推导和通用协议只在主责章节展开;邻章保留理解本任务所需的简短说明与可点击入口。相同论文可出现在多个任务中,但实验条件、数值和来源必须明确;重复的背景介绍不能代替任务差异。旧页面和锚点保留为入口,转移技术段落时连同公式、图注、实验条件和引文一起处理。
3. 术语和符号¶
| 术语或符号 | 含义及使用规则 |
|---|---|
| 视频时间 \(t\) | 真实帧、片段或环境步;单位需在任务中说明 |
| 生成时间 \(\tau\) | 去噪、流积分或其他生成迭代轴;与视频时间分开 |
| \(x\)、\(z\)、\(c\)、\(a\) | 通常为视频、潜在表示、条件、动作;以各章的局部定义为准 |
| token | 指定是离散代码、连续潜变量位置还是 Transformer 的图像块单元 |
| 模型 / 检查点 / 系统 | 网络及训练方法 / 固定参数版本 / 包含前后处理、工具和服务的整体 |
| 帧率 | 区分视频播放 FPS、模型生成吞吐 FPS 和用户实际收到视频的速率 |
| 实时 | 在指定硬件、并发和时限内满足响应要求;高平均 FPS 本身不足以证明实时 |
| 开放 | 分别注明论文、代码、权重、数据索引、标注和媒体是否发布 |
| 来源可核查性与能力证据 | 来源用发表入口、预印本、机构展示及 artifact 状态描述;L0–L7 描述实验支持的行为。历史 A–D 仅表示可核查面;WM、VP、IW 是协议字段编号,不是能力排名 |
| L0–L7 | 评测章节的手册内部报告约定,不是社区标准或统一排名 |
章节中的英文论文名、模型名和指标名保留官方拼写。同一符号在不同论文中可能具有不同含义,引用公式时必须连同其定义阅读。
4. 结果与来源的解释¶
- 作者报告: 数字来自论文、技术报告或官方项目,解释范围受原实验设置限制。
- 本仓库复现: 只有提供运行配置、结果文件与可复查记录时使用该表述。资料整理或链接检查不构成模型复现。
- 方法解释: 对已有机制的整理应保留出处;比较或推导应说明假设。
- 建议实验: 给出可执行步骤和失败条件,实际效果仍待实验验证。
引用年份区分预印本初次公开与正式发表。资源可用性、服务状态和许可证按条目注明的日期理解;原资料覆盖日期不等于全部事实最近一次核验日期。使用动态资源前,应查阅该条目链接的官方页面。
5. 配置与结果记录¶
完成一次训练、推理或评测时,至少保存下列信息。此表是记录模板,不要求所有方法具有相同参数。
| 类别 | 必填信息 |
|---|---|
| 任务 | 输入条件、输出尺寸、时长、帧率、内容保持约束 |
| 数据 | 来源与版本、划分单位、预处理、去重、测试集隔离 |
| 模型 | 检查点版本或哈希、代码版本、精度、适配或微调方式 |
| 推理 | 采样器、步数、引导强度、种子、候选数、选择器 |
| 系统 | 硬件、软件版本、批量、并发、冷启动或预热方式 |
| 结果 | 指标实现、统计单位、重复次数、不确定性、失败样本 |
| 成本 | 端到端延迟、吞吐、显存、模型调用数及其他工具费用 |
6. 内容维护¶
新增条目须有可核验的一手来源。先确认对象是否实际存在,再核对名称、任务、机制和实验条件;资源条目另查发布内容。修订记录保存在仓库的 sources/,不作为技术正文或搜索结果的主体。贡献与检查流程见贡献指南。