跳转至

Part 7:Benchmark 初步评测与实验总结(Benchmark Evaluation and Project Summary)


一、本部分学习目标(Learning Objectives)

完成本部分后,你应该能够:

  • 理解 Benchmark 在科研中的作用;
  • 完成第一次模型性能评测;
  • 整理实验数据与实验结果;
  • 编写规范的实验总结;
  • 完成 Experiment 01 全部归档;
  • 独立完成一个完整的科研实验流程。

二、实验任务

本部分需要完成以下任务:

  1. 整理实验数据;
  2. 整理模型输出;
  3. 建立 Benchmark 目录;
  4. 统计实验结果;
  5. 编写实验总结;
  6. 完成项目归档;
  7. 提交 GitHub。

三、整理实验输出(Operations)

进入项目目录:

outputs/

检查以下目录是否存在:

outputs/

├── images/

├── markdown/

├── json/

└── logs/

确认每个目录均包含对应实验结果。

建议命名格式如下:

result_sample01.md

result_sample02.md

result_sample03.md

JSON 文件建议:

result_sample01.json

result_sample02.json

日志建议:

run_20260710.log

四、建立 Benchmark 目录(Operations)

进入:

docs/

创建:

benchmark/

目录如下:

docs/

└── benchmark/

    ├── benchmark_report.md

    ├── benchmark_summary.md

    └── benchmark_statistics.md

五、建立 Benchmark 记录(Operations)

编辑:

benchmark_report.md

填写:

# Benchmark Report

## Experiment

Experiment 01

## Model

Qwen3.5-VL-0.8B

## Dataset

OmniDocBench Sample

## Test Date

YYYY-MM-DD

## Number of Samples

......

## Tester

Your Name

六、统计实验结果(Operations)

编辑:

benchmark_statistics.md

填写:

# Benchmark Statistics

| Item | Result |
|------|--------|
| Number of Images | |
| OCR Completed | |
| Markdown Generated | |
| JSON Generated | |
| Failed Images | |

统计本次实验的数据。

填写完成。


七、建立实验评价(Operations)

编辑:

benchmark_summary.md

填写:

# Benchmark Summary

## Overall Performance

......

## Advantages

......

## Problems

......

## Future Improvements

......

要求:

每一部分不少于三条内容。


八、建立项目总结(Operations)

进入:

docs/

创建:

project_summary.md

填写:

# Project Summary

## Project Name

Qwen3.5-VL First Project

## Objective

......

## Development Process

......

## Experimental Results

......

## Problems

......

## Lessons Learned

......

## Future Work

......

九、更新 README(Operations)

打开:

README.md

更新为:

# Qwen3.5-VL First Project

## Introduction

The first research project of the Multimodal Document AI Laboratory.

## Project Structure

......

## Environment

......

## Dataset

OmniDocBench

## Model

Qwen3.5-VL-0.8B

## Experiments

Experiment 01

## Outputs

Markdown

JSON

Logs

## Author

Your Name

十、整理项目目录(Operations)

最终项目目录建议如下:

qwen3vl-first-project/

├── README.md
├── LICENSE
├── requirements.txt
├── environment.yml
│
├── assets/
│
├── data/
│
├── docs/
│   ├── benchmark/
│   ├── dataset_description.md
│   ├── model_information.md
│   └── project_summary.md
│
├── experiments/
│
├── models/
│
├── notebooks/
│
├── outputs/
│
└── scripts/

确认目录完整。


十一、项目自检(Operations)

请逐项检查。

检查内容 是否完成
README 完成
数据目录完成
模型目录完成
推理完成
Prompt 实验完成
Benchmark 完成
实验总结完成
GitHub 已同步

全部完成后进入下一步。


十二、项目归档(Operations)

进入:

experiments/

确认:

Experiment01/

至少包含:

Experiment01/

├── experiment.md

├── prompts/

├── results/

├── analysis/

所有实验文档均保留。

不得删除。


十三、Git 提交(Operations)

执行:

git status

检查所有新增文件。

执行:

git add .

执行:

git commit -m "docs: complete experiment 01"

执行:

git push

刷新 GitHub 页面。

确认所有文件均已同步。


十四、常见问题(Common Errors)

问题一

README 内容过于简单。

建议:

至少包括:

  • 项目介绍;
  • 环境;
  • 数据集;
  • 模型;
  • 实验;
  • 使用方法。

问题二

实验结果没有保存。

所有输出必须保留。

不得只保留最终结果。


问题三

Benchmark 未记录。

所有实验均必须建立 Benchmark 文档。


问题四

项目目录混乱。

严格按照实验室统一目录管理。

不要自行修改目录结构。


十五、本部分成果(Deliverables)

完成本部分后,应提交:

README.md

project_summary.md

benchmark_report.md

benchmark_statistics.md

benchmark_summary.md

以及:

  • Experiment01 全部实验记录;
  • 全部输出结果;
  • Git Commit 历史。

十六、自我检查列表(Checklist)

检查项 状态
README 完整
项目目录规范
Benchmark 文档完成
Project Summary 完成
实验结果完整
Git Commit 完整
GitHub 已同步

全部完成后,本实验通过验收。


十七、Experiment 01 最终成果

完成本实验后,你已经具备以下能力:

  • 创建标准科研项目;
  • 管理 GitHub 项目;
  • 下载公开数据集;
  • 下载开源模型;
  • 运行官方推理程序;
  • 完成 Prompt Engineering;
  • 整理实验结果;
  • 编写实验报告;
  • 建立 Benchmark 文档;
  • 规范管理科研资料。

十八、Experiment 01 总结

Experiment 01 是实验室所有成员的第一个标准科研实验。

后续所有科研项目都将在此基础上继续开展。

请保留本项目,后续 Experiment 02、Experiment 03 等实验将在此基础上持续扩展。


下一实验

Experiment 02:Qwen3.5-VL Document Benchmark Evaluation

主要内容包括:

  • 完整 OmniDocBench 数据集推理;
  • 官方评测工具使用;
  • OCR 指标分析;
  • Layout 指标分析;
  • Reading Order 指标分析;
  • Markdown 质量分析;
  • Benchmark 可视化;
  • 实验报告撰写;
  • GitHub Release 发布。