这两个参数都用于控制大模型输出的随机性和多样性，是调整模型行为最重要的超参数，但机制不同。简单理解：

• Temperature（温度）：控制概率分布的“陡峭”程度，影响整体随机性。

• Top-p（也称核采样）：限制候选词的累积概率范围，动态过滤掉极不可能的选项

🔥 Temperature（温度）

作用：控制输出分布的"尖锐度"

模型在生成每个 token 时，会先计算所有候选词的概率分布。Temperature 会对这个分布做如下变换：

P'(word) ∝ P(word)^(1/T)

Temperature 值 / 效果 / 适用场景

T = 0（或极低） — 始终选概率最高的词，输出完全确定 · 代码生成、数学计算、需要确定性答案的任务

T = 0.1~0.3 — 高度保守，几乎总是选最优解 · 事实问答、信息抽取、严格格式输出

T = 0.5~0.7 — 平衡随机性，主流默认值 · 通用对话、写作辅助、大多数场景

T = 0.8~1.0 — 明显增加多样性 · 创意写作、头脑风暴、角色扮演

T > 1.0 — 高度随机，可能产生无意义内容 · 艺术创作、探索性实验（不推荐日常使用）

本质： 低温度让分布更"尖锐"，高温度让分布更"平缓"。

🎯 Top_p（Nucleus Sampling / 核采样）

作用：动态截断低概率词

与 Temperature 固定缩放不同，Top_p 按概率从高到低累加，直到累计概率达到 p 值，只保留这些词，从保留的这些词中采样：

例如 top_p=0.9：
选词 A(40%) + B(30%) + C(20%) = 90% → 保留
词 D(10%) 被截断

Top_p 值 / 效果 / 特点

0.1 ~ 0.3 — 极度保守，只选最高概率词 · 类似低 temperature，但更动态

0.7 ~ 0.9 — 主流推荐值 · 在多样性和质量间取得平衡

0.9 ~ 0.95 — 允许更多低概率词 · 创意性更强，偶尔会跑偏

1.0 — 不做截断，等价于关闭 · 不推荐，可能采样到无意义词

优势： 比 Temperature 更"智能"——当模型很确定时自动收窄，不确定时自动放宽。

💡 使用建议

通用原则

• 需要精确、低风险 → 低 temperature（0.1~0.3）+ 低 top-p（0.1~0.5）

• 需要创意、多样性 → 高 temperature（0.8~1.2）+ 高 top-p（0.9~1.0）

• 平衡模式（多数日常对话）→ temperature 0.7~0.8，top-p 0.9

常见场景推荐

通用默认配置

temperature = 0.7
top_p = 0.9

这是大多数 API 的默认值，适合 80% 的场景

⚠️ 注意事项

1. 不要同时设极值：T=0 + top_p=0.1 会导致输出极度单调

2. Temperature 优先调：多数情况下调 T 就够了，Top_p 保持 0.9 不动

3. 需要确定性时用 T=0：此时 Top_p 失效（贪婪解码优先）

4. 不同模型敏感度不同：同样参数在不同模型上效果可能差异较大

5. batch 生成时注意：同一 prompt 多次调用，参数相同也会得到不同结果

🔑 快速记忆

• Temperature → "敢不敢冒险"：越低越保守，越高越大胆

• Top_p → "备选池多大"：越低选择越少，越高越自由

• 两者配合 → T 定基调，Top_p 做微调