T3 Code 非官方中文翻译不是官方产品,也不是 T3 Tools 官方文档。源提交 d2c25950b4d9英文原文GitHub 源文件
Skip to content

对话线程标题 ​

用服务器的 Codex 标题生成器为真实的对话线程形态生成标题,然后把每个新标题和旧标题放在一起做盲评。

运行 ​

sh
cd evals
pnpm thread-titles --model <codex model> --out runs/titles
pnpm thread-titles --model <codex model> --out runs/titles-new --baseline runs/titles/results.json
  • 它使用你的本地 Codex 登录,和服务器一样。
  • --initial 只根据第一条消息生成标题,和新对话线程一样。
  • 一次运行会写出 results.json(标题和延迟)、review.json(按随机顺序排列的标题 A 和 B,以及评分标准)和 answer-key.json。打开 answer-key.json 之前先给 review.json 打分。

添加案例 ​

向 cases.ts 添加一条,包含 id、source、对话线程的 messages、previousTitle,以及说明一个好标题应该点出什么的 rubric。

非官方译文 · 源提交 d2c25950b4d9 · 不代表 T3 Tools