Top-p 采样
Top-p (Nucleus Sampling)
另一种控制随机性的参数：只在累计概率前 p 的候选词里挑。
解释
top_p = 0.9 的意思是：把候选词按概率从高到低排，累加到 90% 为止，只从这部分里选。数值越小，选择越保守。
一般只调温度或只调 top_p 其中一个就够了，两个一起改，效果很难预期。
常见误解
✕同时大幅调整温度和 top_p。
top_p = 0.9 的意思是：把候选词按概率从高到低排，累加到 90% 为止，只从这部分里选。数值越小，选择越保守。
一般只调温度或只调 top_p 其中一个就够了，两个一起改，效果很难预期。