Add repository index and roadmap v0.1.1

CHANGELOG.md

@@ -1,9 +1,14 @@
 # Changelog
 
+## 0.1.1 - 2026-09-16
+
+- 新增统一文件与推进索引 INDEX.md；
+- 说明 JudgerBench30 与 multiscene30 的路径关系；
+- 汇总 benchmark、pipeline、run、标签状态和后续路线。
+
 ## 0.1.0 - 2026-09-16
 
 - 加入 multiscene30 和 reassemble40；
 - 加入 direct-v1、structured-v2 和 session-v1 三次主要运行；
 - 加入来源标签、provenance、冻结成功条件和审计证据；
 - 加入 pipeline 代码、测试、当前进度与协作约定。
-

INDEX.md

@@ -0,0 +1,278 @@
+# R4R Auto Eval 文件与推进索引
+
+更新时间：2026-09-16  
+项目状态：持续开发中  
+当前项目文档版本：0.1.1
+
+本文是仓库的统一导航入口，用于说明每个目录当前保存什么、结果应如何解释，以及后续新增 cases、优化 pipeline 和提交实验时应放在哪里。
+
+## 一、推荐阅读顺序
+
+1. PROJECT_STATUS.md：一分钟了解当前结论和下一里程碑；
+2. INDEX.md：理解仓库目录之间的关系；
+3. reports/WORK_LOG.md：查看完整工作过程；
+4. 对应 run 下的 REPORT.md：查看某次实验的结果和限制；
+5. SOURCES.md：查看数据来源及许可证核查状态。
+
+核心关系：
+
+    Benchmark：固定评测输入和分层标签
+         +
+    Pipeline：固定判定方法和配置
+         ↓
+    Run：某模型在某 benchmark 上使用某版 pipeline 的不可覆盖结果
+
+## 二、根目录文件
+
+| 文件 | 当前内容 | 后续更新方式 |
+|---|---|---|
+| README.md | Hugging Face Dataset Card 和最短项目介绍 | 只保留稳定入口 |
+| INDEX.md | 全仓库目录、状态和推进说明 | 新增顶层目录或工作流变化时更新 |
+| PROJECT_STATUS.md | 当前结论、主要问题和下一里程碑 | 每次阶段性实验后更新 |
+| CHANGELOG.md | 项目文档和发布结构版本变化 | 每个 PR 增加一条 |
+| CONTRIBUTING.md | 协作、命名和不可覆盖规则 | 团队约定变化时更新 |
+| SOURCES.md | 数据来源、引用和再分发核查状态 | 完成许可证核查后补齐 |
+| VERSION | 当前项目文档/发布结构版本 | 数据不变的小更新递增 patch |
+| requirements.txt | Python 基础依赖 | Pipeline 新增依赖时更新 |
+
+## 三、Benchmark 数据
+
+### 1. JudgerBench30/
+
+这是最早上传到组仓库的历史物理路径，逻辑 benchmark ID 为 multiscene30。为避免破坏已有链接和结果，暂时不重命名。
+
+当前包含：
+
+- 30 个多场景机器人操作 case；
+- 15 个来源成功、15 个来源失败；
+- 来源包括 RH20T、REASSEMBLE、Meta-World、FurnitureBench 和 ViFailback；
+- 每例包含 instruction、metadata 和一至三个可用视频视角；
+- metadata.jsonl：HF Viewer 与统一加载入口；
+- ground_truth/labels.jsonl：来源标签；
+- ground_truth/provenance.jsonl：原数据、episode、时间段和原生标签记录；
+- ground_truth/adjudicated_labels.jsonl：独立人工裁决，当前为空；
+- contracts/structured_v2_contracts.json：v2 使用并冻结的成功条件；
+- 历史 manifest、selection lock 和 READY 文件。
+
+用途：
+
+- direct-v1 与 structured-v2 的开发和回归验证；
+- Pipeline 结构、输出 schema 和拒判机制调试；
+- 不可作为新的独立盲测集，因为标签和历史结果已经在开发过程中出现。
+
+### 2. benchmarks/reassemble40/
+
+这是新增的接触密集型校准集，逻辑 benchmark ID 为 reassemble40。
+
+当前包含：
+
+- case_031 至 case_070，共 40 例；
+- 来源成功 20 例、失败 20 例；
+- 三视角同步 MP4；
+- 全部来自 REASSEMBLE 的两个较长源录像；
+- metadata.jsonl：统一 case 索引；
+- annotations/source_labels.jsonl：来源标签；
+- annotations/provenance.jsonl：源 episode/segment 记录；
+- annotations/adjudicated_labels.jsonl：人工裁决层，当前为空。
+
+用途：
+
+- 检查插入、接触、卡住、释放和装配到位等困难状态；
+- 用于 prompt、采样策略和 pipeline 校准；
+- 不能作为 source-independent 最终测试集，因为 40 个片段只来自两个源录像。
+
+当前优先人工复核：
+
+- case_033：round peg 1，部分插入/插入深度歧义；
+- case_045：medium gear，是否充分套入不可确认；
+- case_061：square peg 4，稳定站立不等于插入到位；
+- case_063：round peg 4，同样存在浅插或卡住风险。
+
+## 四、Pipeline
+
+### pipelines/direct_v1/
+
+第一版 baseline：
+
+- 按固定频率从多视角视频采样；
+- 直接要求 Astra 返回 success/failure、完成度、条件和证据；
+- 不支持 uncertain；
+- 用于衡量复杂 pipeline 相对直接调用是否真正带来增益。
+
+### pipelines/structured_v2/
+
+当前主要开发方法：
+
+1. 根据 instruction 编译并冻结成功条件；
+2. 完整轨迹粗扫；
+3. 围绕关键事件细扫；
+4. 逐条件输出 satisfied / violated / not_observable；
+5. 检查掉落、退出、漏步骤、顺序和对象错误；
+6. 使用本地规则聚合 success / failure / uncertain。
+
+当前局限：
+
+- success contract 仍可能过严或过松；
+- 未显式区分任务规范缺失和视频证据不足；
+- ROI 局部补采尚未形成自动闭环；
+- 当前 v2 结果来自同一 Codex 会话，不是独立 API 盲测。
+
+### 下一版 structured_v3
+
+计划增加：
+
+- spec_sufficient：instruction 是否足以定义成功；
+- spec_required：是否必须补充插入深度、时间、稳定性等规则；
+- observable：每条必要条件是否能从当前视频观察；
+- literal-instruction verdict 与 benchmark-contract verdict 分离；
+- 缺证据时自动请求 ROI、原分辨率、侧视或更长末段；
+- 对时间限制、重置和多视角不同步进行确定性检查；
+- 更清晰的置信度和拒判策略。
+
+## 五、已经完成的 Runs
+
+### runs/2026-09-11_astra_direct-v1_multiscene30/
+
+性质：独立 OpenRouter API baseline。
+
+当前结果：
+
+- 30/30 请求完成；
+- 判为成功 11、失败 19；
+- 与来源标签一致 26/30；
+- 成功类 precision 11/11，recall 11/15。
+
+主要文件：
+
+- config.json：模型、提示词版本和采样参数；
+- predictions.jsonl：全部预测；
+- cases/：逐例结构化结果；
+- summary.json：Token、费用和完成情况汇总。
+
+### runs/2026-09-15_astra_structured-v2_multiscene30/
+
+性质：structured-v2 会话内协议试验，不是干净盲测。
+
+当前结果：
+
+- success 11、failure 14、uncertain 5；
+- 全量来源标签一致 24/30；
+- 明确判定覆盖率 25/30；
+- 明确判定中的一致率 24/25。
+
+这里展示的是拒判和逐条件证据的价值，不能证明全量准确率已经提高。
+
+主要文件：
+
+- contracts_frozen.json：30 份冻结成功条件；
+- predictions.json：结构化判定；
+- comparison.json：与来源标签及 direct-v1 的对照；
+- review_notes.json：人工过程笔记；
+- evidence/：该次会话实际查看的抽帧证据；
+- REPORT.md：完整限制和结论。
+
+### runs/2026-09-15_astra_session-v1_reassemble40/
+
+性质：当前 Astra/Codex 会话的三视角抽帧可行性评测。
+
+当前结果：
+
+- success 23、failure 16、uncertain 1；
+- 与来源标签一致 36/40；
+- 明确判定覆盖率 39/40；
+- 明确判定中的一致率 36/39。
+
+这组结果仍受共享会话上下文、抽帧输入和来源标签未独立裁决等限制。
+
+主要文件：
+
+- judgments.json 和 cases/：冻结判定；
+- comparison.json：标签对照；
+- freeze_manifest.json：输入和输出校验记录；
+- evidence/：实际查看的概览图及局部原尺寸图；
+- REPORT.md：完整方法边界。
+
+## 六、代码和工具目录
+
+| 目录 | 当前作用 | 后续方向 |
+|---|---|---|
+| src/r4r_auto_eval/ | structured-v2 核心、会话复核和指标逻辑 | structured-v3 在新模块中实现 |
+| scripts/ | 构建 benchmark、运行判定、冻结结果和发布工具 | 增加统一 add-case、validate 和 run 命令 |
+| tests/ | Pipeline 聚合和 session metrics 测试 | 补充 schema、可观测性和版本兼容测试 |
+| registry/ | benchmark、pipeline、run 机器可读索引 | 每个新 suite/pipeline/run 同步登记 |
+| reports/ | 工作日志、旧 API runbook 和详细实验报告 | 阶段结论追加，不替代 run 自身报告 |
+
+## 七、标签解释
+
+当前必须区分：
+
+    source_label
+        原数据来源提供的成功/失败标签
+
+    adjudicated_label
+        独立人工根据任务定义和视频证据给出的结论
+
+    final_benchmark_label
+        任务规范明确并完成争议裁决后才能建立
+
+adjudicated_labels.jsonl 为空并不是缺文件，而是明确表示尚未完成独立裁决。当前指标必须称为“与来源标签一致率”，不能直接称为经过验证的 accuracy。
+
+## 八、后续推进路线
+
+### P0：Ground truth 整理
+
+1. 明确每个任务的成功定义；
+2. 优先裁决四个 REASSEMBLE 分歧案例；
+3. 将 instruction 不充分、视频不可观测和来源标签疑点分别记录；
+4. 保留来源标签，不做覆盖式修正。
+
+### P1：Pipeline v3
+
+1. 规范充分性检查；
+2. 条件级可观测性判断；
+3. ROI/原分辨率证据补采；
+4. 时序、稳定性、超时和重置检查；
+5. benchmark contract 与字面 instruction 双层判定；
+6. 拒判和人工转交策略。
+
+### P2：新增 cases
+
+1. 不再向 JudgerBench30 或 reassemble40 追加样本；
+2. 新建 source-disjoint benchmark suite；
+3. 按原始 recording/episode 划分，避免相邻片段泄漏；
+4. 覆盖粗粒度移动、精细接触、多步骤、失败 near-miss；
+5. 在预测冻结前不向执行会话暴露标签。
+
+### P3：严格评测和消融
+
+比较以下固定方法：
+
+- direct baseline；
+- 加 success contract；
+- 加 coarse/fine sampling；
+- 加 ROI evidence acquisition；
+- 加 failure audit；
+- 加 abstention。
+
+每次统一报告 balanced accuracy、success precision/recall/F1、coverage、decided-only error、各来源结果和人工复核负担。
+
+## 九、团队新增内容时放在哪里
+
+| 新内容 | 位置 |
+|---|---|
+| 新 benchmark cases | 新建 benchmarks/套件ID/ |
+| 来源标签和 provenance | 对应 benchmark 的 annotations/ 或 ground_truth/ |
+| 人工裁决 | adjudicated_labels.jsonl |
+| 新 pipeline | pipelines/版本ID/ 与 src/ |
+| 新实验 | 新建 runs/run ID/，禁止覆盖 |
+| 阶段总结 | PROJECT_STATUS.md 和 reports/ |
+| 注册记录 | registry/ |
+
+每个 PR 至少说明：
+
+- 改了���个 benchmark、pipeline 或 run；
+- 是否改变标签；
+- 是否新增或替换视频；
+- 是否影响历史结果可复现性；
+- 是否需要更新 PROJECT_STATUS 和 CHANGELOG。
+

README.md

@@ -24,7 +24,8 @@ configs:
 
 持续开发中的多视角机器人任务成功判定 benchmark 与评测 pipeline。
 
-队友请先阅读 [PROJECT_STATUS.md](PROJECT_STATUS.md)，然后按需查看：
+队友请先阅读 [PROJECT_STATUS.md](PROJECT_STATUS.md) 和
+[INDEX.md](INDEX.md)，然后按需查看：
 
 - benchmarks/：固定的视频输入、来源记录和分层标签；
 - pipelines/：判定方法及冻结配置；
@@ -40,4 +41,4 @@ configs:
 - Codex 会话内结果是可行性/协议试验，不等价于独立 API 盲测；
 - 在完成逐来源许可证核查前，本仓库应保持 private。
 
-当前发布版本：0.1.0。
+当前项目文档版本：0.1.1。

VERSION

@@ -1,2 +1 @@
-0.1.0
-
+0.1.1