标签：采样与随机性

为什么同一个问题问 AI 两遍，答案不一样：它不是在算答案，是在按概率抽一个词

同一句话原封不动问两遍，AI 的措辞不一样、甚至结论不一样。原因不是它心情不好：它每步拿到的不是一个答案，而是「一整排候选加各自的概率」，然后从中抽一个，连抽几百次就是一篇回答。这篇把「温度」讲回它的本义——softmax 公式里那个除号（Hinton 原话「T 是通常设为 1 的温度」「T 越大概率越平」），再给三张你我能自己复算的表：同一排候选，温度 0 抽一千次只出 1 种结果、0.2 出 2 种、2.0 时最冷门的词已占 7.35%；每个词有九成把握一致，写到 50 个词整段逐字一致的概率只剩 0.5%；单次七成答对的模型，抽九次投票变 90.1%（谷歌 Self-Consistency 论文实测 GSM8K +17.9 个百分点）。最关键的一条纠正：温度调到 0 官方也不保证复现——Anthropic 明写它「从未保证输出相同」，微软 Azure 的 seed=42 自家示例第三遍照样变了。还有一个 2026 年的现在时：Kimi 固定 1.0、传其他值报错，Gemini 新模型直接忽略，Claude 新代传非默认值返回 400，大厂正在把这些旋钮拆掉。