video-create/.claude/skills/video-from-script/references/manifest-schema.md

# manifest.json 规范

> `pipeline.js init` 创建，Pipeline 执行，Agent 审查。
>
> **禁止 AI 手写 manifest.json**，必须通过 `pipeline.js init` 初始化。脚本从 account.json 自动继承结构字段，AI 只提供创意内容（items 的 shotDesc/script/imagePrompt 等）。

---

## 创建方式

```bash
# Step 2-0：分镜确认后立即初始化（imagePrompt/videoPrompt 后续补充）
node scripts/pipeline.js init --account 军事账号 --mode single \
  --items '[{"shotDesc":"英文画面描述","script":"中文口播文案","duration":5,"directorRef":"tarantino","keyword":"权力"}]'

# 或从文件读取
node scripts/pipeline.js init --account 军事账号 --mode single --items-file ./items.json

# Step 2-C 人工确认
node scripts/pipeline.js confirm --manifest <path> --all
node scripts/pipeline.js confirm --manifest <path> --items 1,3,5

# 校验已有 manifest
node scripts/pipeline.js validate --manifest <path>
```

---

## 顶层字段

| 字段 | 说明 | 来源 | 谁填充 |
|------|------|------|--------|
| `account` | 账号 ID | account.json | **init 自动** |
| `imageModel` | `gemini` / `mj` | account.json | **init 自动** |
| `videoModel` | `veo3-fast-frames` / `grok-video-3` / `kling` 等 | account.json | **init 自动** |
| `format` | 画幅：`9:16` / `16:9` | account.json | **init 自动** |
| `estimatedVideoDuration` | 视频模型固定时长（秒），顶层冗余字段 | videoModel 查表 | **init 自动**，assemble 直接读 |
| `mode` | `single` 单图 / `framePair` 首尾帧 | CLI 参数 | **init 自动** |
| `references` | 参考图数组，从 account.json styles.*.references 搬入 | account.json | **init 自动** |
| `items` | 素材数组（AI 提供创意内容） | CLI --items | **AI → init** |


---

## references 字段

从 account.json 搬入，pipeline 直接使用，不再回读 account.json。

- **Gemini** → 读 `file`（本地路径，图生图用）
- **MJ** → 读 `url`（公网 URL，`--sref` 用）

---

## items[] 字段

### Agent 写入（创建时）

| 字段 | 说明 |
|------|------|
| `status` | 固定写 `"pending"` |
| `shotDesc` | 英文分镜描述（含隐性动势，40-80词） |
| `script` | **该 shot 的语义子句原文**（完整句拆分后的子段，一字不差）|
| `duration` | **TTS 估算秒数（= script字数÷5）**，必须 ≤ 6s |
| `estimatedAudioDuration` | 同 duration，备选别名 |
| `estimatedVideoDuration` | 视频模型固定时长（Kling=6s, VEO=8s, Grok=6s），pipeline init 时自动填入 |
| `imagePrompt` | 英文画面描述（给 Gemini/MJ），Step 2-A 生成 |
| `directorRef` | 导演构图参考（tarantino / kitano / fincher），三层透传 |
| `keyword` | 关键字氛围词（2-6 字），assemble 时以花字效果叠加在画面中央。可选 |
| `confirmed` | 人工确认状态，默认 `false` |

**强制约束：**
- **每个 shot 的 `duration`（TTS估算）必须 ≤ 6s**，否则 pipeline 拒绝执行
- `script` 必须是语义子句，**完整句直接填入多个 shot 是严重错误**
- `estimatedVideoDuration` 在 manifest 初始化时由 `pipeline.js init` 从 videoModel 自动推算：
  - `kling` → `6`
  - `veo3-fast` / `veo3-fast-frames` → `8`
  - `grok-video-3` → `6`
- assemble 阶段通过 `ratio = estimatedVideoDuration / realAudioDuration` 选择适配策略

### Agent 后续回写（Step 3-A 视频提示词）

| 字段 | 说明 | 写入时机 |
|------|------|---------|
| `videoPrompt` | 英文运动描述（给 Grok/VEO/Kling），描述镜头运动而非内容 | Step 3-A 由 Agent 回写 |

### Pipeline 回写（执行后）

| 字段 | 说明 | 写入阶段 |
|------|------|---------|
| `status` | `pending` → `generating` → `done` / `failed` | images |
| `file` | 生成的图片路径（相对 manifest） | images |
| `candidates` | MJ 拆分的 4 张候选图路径（Gemini 无此字段） | images |
| `url` | 图片 OSS 公网 URL | upload |
| `confirmed` | 人工确认后设为 `true` | confirm |
| `video` | 生成的视频路径 | videos |
| `videoDuration` | 视频实测时长（秒），Kling=6, VEO=8, Grok=6 | videos |
| `videoUrl` | 视频 OSS 公网 URL | videos |
| `audio` | TTS 音频路径 | tts |
| `audioDuration` | 音频实测时长（秒） | tts |
| `segments` | 分句音频数组（仅多句时存在），见下方 | tts |

### Agent 审查时可操作

- MJ 换选：`item.file = item.candidates[2]`
- 删除不合格 item：直接从 items 数组移除，重新跑 `--phase images`
- 调整 prompt 重跑：改 `imagePrompt`，status 改回 `pending`
- 人工确认：`node scripts/pipeline.js confirm --manifest <path> --all`

---

## 状态机

### item 生命周期

```
pending → [images] → done → [confirm] → confirmed=true → [upload: url填入] → [videos] → done → [tts] → done
             ↓                                          ↓
          failed                                    failed + error
```

status 一旦进入 `done` 就不再回退。后续阶段通过检查"有前置字段 + 无后置字段"来识别待处理 item，不依赖 status 变化。

### 各阶段拾取条件

Agent **不需要记住这些条件**，pipeline 内部自动匹配。仅供理解原理：

| 阶段 | item 被拾取的条件 |
|------|------------------|
| images | `status=pending` + 有 `imagePrompt` |
| upload | `status=done` + 有 `file` + 无 `url` |
| videos | `status=done` + `confirmed=true` + 有 `url` + 有 `videoPrompt` + 无 `video` |
| tts | `status=done` + 有 `script`（回退 `text`） + 无 `audio` |

### pipeline.phases 整体状态

每个阶段有独立状态：`pending` → `running` → `done` / `partial` / `failed`

- `done` — 全部 item 成功
- `partial` — 部分 item 失败（其他成功）
- `failed` — 阶段整体异常中断

---

## 失败处理

用 `--retry-failed` 一条命令搞定。

### 根据失败阶段选择操作

**图片生成失败**（images 阶段 partial）：

```bash
# 只改 prompt 不改图片风格 → 重试即可
node scripts/pipeline.js run --manifest <path> --phase images --retry-failed

# 需要换 prompt → 先改 item.imagePrompt，再重试
# （改完后跑上面同一条命令）
```

**视频生成失败**（videos 阶段 partial）：

```bash
# API 临时故障、网络超时 → 直接重试
node scripts/pipeline.js run --manifest <path> --phase videos --retry-failed

# 提示词问题 → 先改 item.videoPrompt，再重试
# （改完后跑上面同一条命令）

# 视频模型不可用 → 改 manifest.videoModel 或 account.json，再重试
```

**全阶段重试**：

```bash
node scripts/pipeline.js run --manifest <path> --retry-failed
```

### `--retry-failed` 内部行为

1. 扫描所有 `status=failed` 或 `status=partial` 的 item
2. 根据已有字段自动判断应重置到哪个阶段：
   - 有 `url` + `videoPrompt` + 无 `video` → 重置为可生视频（`status=done`）
   - 无 `url` + 有 `imagePrompt` → 重置为可生图（`status=pending`）
3. 对应 `pipeline.phases` 重置为 `pending`
4. 清除 `error` 字段
5. 正常执行指定阶段

---

## 首尾帧模式

`mode: "framePair"` 时，`imagePrompt` 作为起始帧，每个 item 额外字段：

| 字段 | 说明 | 谁填充 |
|------|------|--------|
| `imagePrompt` | 起始帧画面描述（与 single 模式复用同一字段） | AI |
| `lastFramePrompt` | 结束帧画面描述 | AI |
| `lastFrame` | 结束帧图片路径 | **pipeline images 回写** |
| `lastFrameUrl` | 结束帧 OSS URL | **pipeline upload 回写** |

**首尾帧规则**：同一场景、视角一致、状态对比。VEO 检测到 `lastFrameUrl` 自动启用双图模式。

---

## 目录结构

```
output/{name}_{YYYYMMDD}_{NNN}/
├── manifest.json       # 主清单
├── images/             # scene_{NN}_{slug}.jpeg（首尾帧加 _last，MJ 候选加 _cand{1-4}）
├── videos/             # scene_{NN}_{slug}.mp4
└── audio/              # seg_001.mp3
```

slug 从 `shotDesc` 派生（slugify: 保留中文和字母数字，最多 20 字符）。

---

## segments[] 字段（TTS 分句）

TTS 阶段统一生成，单句时数组仅 1 个元素，多句时 N 个元素。assemble 阶段直接使用各 segment 的实际音频时长对齐字幕。

| 字段 | 说明 |
|------|------|
| `text` | 分句文本（已去除标点） |
| `audio` | 该句音频路径（相对 manifest） |
| `duration` | 该句音频时长（秒） |

`item.audio` 指向 `segments[0].audio`，`item.audioDuration` 为各段累计时长。assemble 阶段遍历 segments 逐一添加音频和字幕，使用实际文件时长（非比例分配），确保音频与字幕精确同步，消除留白。

---

## 成片时间线规则

> **核心原则**：
> - 文案是时间轴唯一锚点
> - TTS 语速固定 1.15x（写死在 qwen-tts.js），音频导入 CapCut 时不可调速
> - **音频时长是主时间线**：每个 shot 的 TTS 估算必须 ≤ 视频模型固定时长
> - **视频必须 ≥ 音频**：audioDur > videoDur 的 shot 在分镜阶段必须拆分，不允许慢放/冻结

### 时间线估算规则

| 字段 | 计算方式 | 来源 |
|------|---------|------|
| TTS 语速 | **固定 1.15x** | qwen-tts.js 参数 `rate: 1.15`，不可修改 |
| 单 shot TTS 估算 | `script.length ÷ 5`（字/秒） | AI 写入 duration 字段 |
| 视频模型固定时长 | Kling=6s, VEO=8s, Grok=6s | `pipeline.js init` 从 videoModel 推算 |
| ratio | `estimatedVideoDuration / estimatedAudioDuration` | 估算值，供分镜阶段检查 |
| ratio（实测） | `videoDuration / audioDuration` | assemble 阶段真实值 |

### 图片模式（images）

图片没有独立时长。TTS 音频时长 = 画面时长。无 TTS 音频的 item 时长为 0（跳过，不显示）。

### 视频模式（videos）

**铁律：视频片段必须 ≥ 音频片段。**

TTS 音频为主轴，视频通过以下策略适配音频实测时长：

| ratio = estimatedVideoDuration / estimatedAudioDuration | 策略 | 说明 |
|---------------------------------------------------|------|------|
| 0.9 ~ 1.1 | none | 接近匹配，无需调整 |
| > 1.1, ≤ 2 | **speed_up**（最优） | 视频加速追上音频，音频速率不变 |
| > 2 | **trim**（次选） | 视频截断至音频时长，损失尾部 |
| < 0.9 | **禁止 / 打回分镜** | audioDur > videoDur 的 shot 在分镜阶段必须拆分，不允许慢放/冻结 |

**禁止的策略（已删除）：**
- `slow_down`：音频时长超过视频时不允许慢放
- `freeze`：不允许冻结帧补齐
- 音频调速：CapCut 导入音频时无 speed 字段，1.15x 速率固定

所有策略失败后兜底：截断到目标时长。