对话线程标题
用服务器的 Codex 标题生成器为真实的对话线程形态生成标题,然后把每个新标题和旧标题放在一起做盲评。
运行
sh
cd evals
pnpm thread-titles --model <codex model> --out runs/titles
pnpm thread-titles --model <codex model> --out runs/titles-new --baseline runs/titles/results.json- 它使用你的本地 Codex 登录,和服务器一样。
--initial只根据第一条消息生成标题,和新对话线程一样。- 一次运行会写出
results.json(标题和延迟)、review.json(按随机顺序排列的标题 A 和 B,以及评分标准)和answer-key.json。打开answer-key.json之前先给review.json打分。
添加案例
向 cases.ts 添加一条,包含 id、source、对话线程的 messages、previousTitle,以及说明一个好标题应该点出什么的 rubric。