Model Train Infer Backtest Report

⚙️ 本技能遵循公共运行环境契约（最高优先级，先于本文其余内容执行）： 详见 _shared/env-contract.md，执行前先读它。

模型训练-推理-回测-报告（全流程）技能

覆盖 QuantMind 量化策略的完整闭环：训练模型 → 推理历史 → 组合回测 → 专业报告。用于验证"改个参数（周期/阈值/风控）收益会不会更好"这类问题，用数据说话而不是猜。

架构总览

Copy code
① 训练模型 (run-training API)
   ├─ 模型类型 (13 种全支持): lightgbm / xgboost / catboost / random_forest /
   |  linear / mlp / gru / lstm / alstm / transformer / tabnet / tcn / nativetft
   ├─ T+N 周期选择 (T+1/T+3/T+5...)
   ├─ 特征 (75~182 个来自 QuantDB)
   ├─ GPU: 训练 GPU 满载; 推理已改 CUDA (train.py _predict_dl/_predict_nativetft, 有算力就用 GPU)
   ├─ 质量门禁: test_rank_icir<0.05 或 test_rank_ic 非正 → status=candidate (产品逻辑, 非失败)
   |  └─ 训练 2023-2025 → 推理 2026
② 推理历史 (批量推理 API)
   ├─ 单日 /models/inference/run
   └─ 批量 range 模式 推理全年逐个交易日
③ 组合回测 (自定义脚本)
   ├─ backtest_l2_top20.py      基本 Top20 每日滚动
   ├─ backtest_l2_year.py       全年严格版 (滑点+T+1+涨跌停+ST剔除)
   └─ backtest_l2_optimized.py  优化版 (分数阈值+大盘MA+止损5%)
④ 专业报告 (report_l2_optimized.py)
   └─ 回测数据 → 研报级 MD → md_to_pdf_report.py → PDF

认证

bashCopy code
BASE=http://localhost:8000
TOKEN=$(curl -s -X POST $BASE/api/v1/auth/login -H "Content-Type: application/json" \
  -d '{"username":"admin","password":"admin123","tenant_id":"default"}' \
  | python3 -c "import sys,json; print(json.load(sys.stdin).get('access_token',''))")
AUTH="Authorization: Bearer $TOKEN"
CT="Content-Type: application/json"

⚠️ token 的 sub 决定模型归属：登录签发的 JWT sub=用户表 user_id（如 admin 登录 → 00000001），训练提交后模型注册到 qm_user_models.user_id = sub。必须用登录接口拿 token，不要手工构造 sub='admin' 之类的 token —— 否则训练模型归属错位，主栏"模型管理"（按登录用户过滤）看不到，只有后台（扫磁盘）能看到。```

① 训练模型（提交 T+N 模型训练）

1.0 支持的模型类型（13 种，端到端已验证）

提交时 model_type 传以上字符串，DL 模型用 dl_params.n_epochs/batch_size（冒烟建议 n_epochs=10、batch_size=8000，GRU18min/LSTM17.5min 跑完）。树模型用 num_boost_round/early_stopping_rounds。

1.1 从现有模型复刻（推荐：保特征，只改周期）

训练参数模型在 admin_training_jobs.request_payload。要训练 T+3 版本对比已有 T+5，复制 T+5 的 payload 只改 target_horizon_days，保证特征/时间/数据完全一致，只变量周期。

已有可复用脚本：scripts/submit_t3_training.py（从 T+5 复制改 T+3）

bashCopy code
docker cp scripts/submit_t3_training.py quantmind:/tmp/
docker exec quantmind python3 /tmp/submit_t3_training.py
# 关键：从 admin_training_jobs 读 T+5 payload → target_horizon_days=3 → POST /models/run-training

核心逻辑（复制 payload）：

pythonCopy code
async def get_t5_features():
    async with get_session() as s:
        r = await s.execute(text(
            "SELECT request_payload FROM admin_training_jobs WHERE id='train_XXXX'"))
        return json.loads(r.fetchone()[0])

t3 = get_t5_features()
t3["target_horizon_days"] = 3
t3["job_name"] = "L2_catboost_2023_2025T3"
t3["display_name"] = "L2 CatBoost T+3 (2023-2025训练)_CN"
# POST /models/run-training

1.2 训练提交后轮询状态

bashCopy code
# runId 从提交响应拿 (train_YYYYMMDDHHMMSS_xxx)
curl -s -H "$AUTH" "$BASE/api/v1/models/training-runs/<runId>" \
  | python3 -c "import json,sys; d=json.load(sys.stdin)['data']; print(d['status'], d['progress'])"
# 训练容器名: qm-train-<runId>
docker ps | grep qm-train
# 训练日志
docker exec quantmind python3 -c "
import asyncio
from backend.shared.database_manager_v2 import get_session
from sqlalchemy import text
async def m():
  async with get_session() as s:
    r = await s.execute(text(\"SELECT logs FROM admin_training_jobs WHERE id='<runId>'\"))
    print(str(r.scalar_one())[-500:])
asyncio.run(m())"

1.3 训练完成 → model 注册

训练完成 status=completed，模型注册为 mdl_cn_train_<runId>：

• 目录：/app/models/users/default/admin/mdl_cn_train_*（metadata.json + model.* + config.yaml + result.json + pred.pkl）
• 数据库：qm_user_models 表，user_id = 提交时 JWT 的 sub，status = ready / candidate（见 1.0 质量门禁）
• 查模型 ID：

bashCopy code
# 最近注册的模型
curl -s -H "$AUTH" "$BASE/api/v1/research/models" | python3 -c "
import json,sys
for m in json.load(sys.stdin)['data']:
    print(m['modelId'], '|', m.get('name'))"

1.4 T+N 周期选择建议（来自实际回测）

② 批量推理历史（全年）

训练完成后，要对历史全年推理出每日分数（回测需要）。

2.1 批量推理 API（mode=range，全年逐日）

bashCopy code
curl -s -X POST -H "$AUTH" -H "$CT" "$BASE/api/v1/models/inference/batch" \
  -d '{
    "model_id": "<T+3_model_id>",
    "mode": "range",
    "start_date": "2026-01-06",
    "end_date": "2026-08-19",
    "top_k": 500,
    "reuse_existing": true
  }'
# 返回 {batch_id, status:"pending", trade_dates, window_meta}

2.2 轮询批量推理进度

bashCopy code
curl -s -H "$AUTH" "$BASE/api/v1/models/inference/batch/<batch_id>" \
  | python3 -c "import json,sys; d=json.load(sys.stdin); print(d.get('status'), d.get('progress_done'), '/', d.get('progress_total'))"

2.3 验证推理结果（分数已写入 engine_signal_scores）

bashCopy code
docker exec quantmind python3 -c "
import asyncio
from backend.shared.database_manager_v2 import get_session
from sqlalchemy import text
async def m():
  async with get_session() as s:
    r = await s.execute(text(\"SELECT MIN(trade_date),MAX(trade_date),COUNT(DISTINCT trade_date) FROM engine_signal_scores e WHERE e.run_id IN (SELECT run_id FROM qm_model_inference_runs WHERE model_id='<model_id>')\"))
    print(r.fetchone())
asyncio.run(m())"
# 预期 (2026-01-06, 2026-08-19, ~151)

注意：批量推理 range 模式耗时较长（每交易日全市场），耐心等待或后台跑。

③ 组合回测（自定义策略脚本）

3.1 脚本家族（scripts/）

3.2 优化版策略规则（实测最有效）

pythonCopy code
BUY_THRESHOLD = 0.015   # 买入门槛：分数 ≥ 0.015（避免垃圾区）
SELL_THRESHOLD = 0.005  # 卖出门槛：分数 < 0.005 卖出
STOP_LOSS = 0.05        # 止损：亏损5%卖出
MA_WINDOW = 20          # 大盘MA20过滤：大盘<MA不新买入
SLIPPAGE = 0.002        # 滑点0.2%

三大风控（把 -40% 扭转到 +32%）：

1. 分数阈值：只买 ≥0.015 高分（胜率 82-92%），<0.005 卖出
2. 大盘 MA 过滤：上证 <MA20 时空仓（躲开系统性下跌，回撤 51%→11%）
3. 止损 5%：单票亏 5% 止损（控制单票风险）

3.3 运行回测（拷贝进容器，数据在 /data）

bashCopy code
docker cp scripts/backtest_l2_optimized.py quantmind:/tmp/
# 临时改模型/时间：
#   MODEL_ID 改为目标模型的 id；START_DATE/END_DATE 设回测区间
# 或用 python -c 注入：
docker exec quantmind python3 -c "
import sys; sys.path.insert(0,'/tmp')
import backtest_l2_optimized as b
b.MODEL_ID = '<target_model_id>'
b.signals = b.load_signals()       # 自动读该模型全部信号
# ...然后 run_backtest + report
"

3.4 解读回测指标

④ 专业报告（MD → PDF）

4.1 报告生成器

bashCopy code
# report_l2_optimized.py 复用回测数据生成研报级 MD
docker cp scripts/report_l2_optimized.py quantmind:/tmp/
docker cp scripts/backtest_l2_optimized.py quantmind:/tmp/
docker exec quantmind python3 -c "
import sys; sys.path.insert(0,'/tmp')
from report_l2_optimized import main; main()
"   # 生成 docs/L2_CatBoost_T5_优化回测报告.md

4.2 MD → PDF（研报级排版）

bashCopy code
# md_to_pdf_report.py：深蓝封面+金色双线+斑马纹表格+红涨绿跌
docker cp "docs/xxx_report.md" quantmind:/tmp/rep.md
docker exec quantmind python3 /app/backend/scripts/md_to_pdf_report.py /tmp/rep.md "/tmp/xxx_report.pdf"
docker cp quantmind:/tmp/xxx_report.pdf "docs/xxx_report.pdf"

4.3 报告结构（9 部分）

1. 核心业绩指标：收益/年化/回撤/夏普/索提诺/止损/空仓天数/资金利用
2. 阶段对比：优化版 vs 基础版 vs 原严格版（体现改进）
3. 净值曲线：逐日净值+日收益
4. 月度收益：各月涨跌
5. 周度收益：各周涨跌 6-7. Top20 盈利/亏损股：个股贡献
6. 交易明细：买卖/价格/盈亏/原因
7. 策略规则说明

5. 完整工作流示例（对比 T+3 vs T+5）

bashCopy code
# 1) 训练 T+3
docker exec quantmind python3 /tmp/submit_t3_training.py   # → runId
# 2) 等完成（轮询 training-runs）
# 3) 推理全年
curl -s -X POST -H "$AUTH" -H "$CT" "$BASE/api/v1/models/inference/batch" \
  -d '{"model_id":"<T+3_id>","mode":"range","start_date":"2026-01-06","end_date":"2026-08-19"}'
# 4) 回测 T+3 和 T+5（同一优化规则，各跑一次 backtest_l2_optimized）
# 5) 对比：哪个收益高、回撤小、月/周表现
# 6) 出报告：report_l2_optimized → md_to_pdf

6. 常见问题排查

7. 相关技能

• [[backtest-center]] — Qlib 单策略回测/专家模式/参数优化（不同的回测层面）
• [[batch-inference-analysis]] — 分析推理结果选股（本技能的重心是验证策略收益）
• [[quantmind-operations]] — 模型训练/模型管理的运营操作
• [[ai-ide-strategy-writing]] — AI 写策略并执行

8. 模型管理（训练完去哪看模型）

• 归档：qm_user_models UPDATE ... SET status='archived'（每用户唯一 is_default 约束：uq_qm_user_models_default_per_user，改默认前先摘旧）
• 训练任务：admin_training_jobs（request_payload 可复刻、logs、result）

9. 相关脚本

• scripts/submit_t3_training.py — 复刻 T+5→T+3 训练提交
• scripts/backtest_l2_optimized.py — 优化版组合回测（分数阈值+MA+止损）
• scripts/backtest_l2_year.py — 全年严格版
• scripts/backtest_l2_top20.py — 基础版
• scripts/report_l2_optimized.py — 研报级 MD 生成
• backend/scripts/md_to_pdf_report.py — MD→PDF 研报排版