P.S. 无意间发现了一个巨牛的人工智能教程，非常通俗易懂，对AI感兴趣的朋友强烈推荐去看看， 传送门https://blog.csdn.net/HHX_01

1 先唠点真实的：调参这事谁没瞎试过

很多人刚接触大模型调用的时候，对着temperature和Top‑K俩参数，纯靠感觉拧。

往左拉，输出四平八稳像个老干部念稿；往右拉，创意是有了，话也开始没边了。

更绝的是有人写代码把温度拉到0.9，跑出来的函数不仅API是自创的，注释里还偷偷写了两句抒情文案。

合着你调的不是生成参数，是模型的人格开关是吧。

1.1 这事真没那么多玄学

说白了，这俩参数背后就是一道纯纯的数学题，跟灵感、悟性半毛钱关系没有。

模型生成每一个字的时候，脑子里都装着几十万备选词，每个词都有个出场概率。

你调的这俩旋钮，本质就是在管这道选择题怎么出、怎么选。

2 Temperature：给概率分布“捏形状”

2.1 它到底干了件什么事

Temperature的逻辑说穿了很简单：在选词之前，先把所有概率重新算一遍。

公式就是每个词的概率取1/T次方，再重新归一化。听着吓人，效果特别好懂。

2.2 温度高低的区别

T小于1的时候，比如常见的0.2，高概率的词概率会被拉得更高，冷门词直接被压得几乎看不见。

概率分布直接“变瘦”，高峰特别尖，模型几乎铁了心选概率最高的那个词。输出特别稳，重复度高。

T大于1的时候，刚好反过来。热门词稍微压一压，冷门词抬一抬，概率分布“变胖”。

本来没机会出场的词，现在也有了露脸的机会。随机性上来了，创意也就跟着来了。

举个最简单的例子，“你好”后面接词，原始概率“吗”占0.6。

温度调到0.2，“吗”的概率直接冲到0.92，闭着眼都知道选啥，正经得像客服自动回复。

温度调到0.8，“吗”降到0.45，连“坏”这种离谱的词都有4%的概率冒头。

当然了，再怎么调温度，概率排序是不变的。第一名永远是第一名，只是第二名到第十名的机会变多了而已。

3 Top‑K：直接给候选池“砍一刀”

3.1 比温度还粗暴的逻辑

如果说Temperature是微调概率，那Top‑K就是纯纯的暴力裁剪。

规则特别简单：只留概率最高的K个词，剩下的几十万词直接淘汰，概率清零。

比如Top‑K设成4，那模型眼里就只有前四个选项，后面的词连出场资格都没有。

这就好比考试划范围，老师说就考前4章，剩下的整本书你都不用看了。

K越小，选择范围越窄，输出越保守。但K太大也没用，长尾的词本来概率就趋近于0，砍不砍没区别。

3.2 它解决了什么痛点

Top‑K存在的核心意义，就是提前把“垃圾词”踢出去。

你就算温度调得再合理，总有一些没意义的低概率词，万一被随机抽中，后面的内容直接就跑偏了。

说白了，很多幻觉就是这么来的：一步选错，步步歪。

Top‑K先把这些不靠谱的候选全筛掉，剩下的再交给温度去发挥，翻车概率直接降一大截。

4 俩参数怎么搭才不踩坑

4.1 先避两个最常见的雷

很多人调参容易走极端，要么都拉满，要么都压到最低，这俩都是错误示范。

第一种：temperature=0.9，Top‑K=50。又要创意又不限制范围，模型在几万词里瞎选，输出能可控就怪了。

第二种：temperature=0.05，Top‑K=2。候选池就俩词，温度又几乎没随机性，输出能无聊到你犯困。

说白了，这俩参数是搭档，不是对手，得反着来才对。

4.2 三个场景直接抄作业

核心逻辑很好记：温度低的时候，K可以大一点；温度高的时候，K就得收一点。

给大家整理了三个最常用的场景，直接套就行。

场景	Temperature	Top‑K	效果
代码生成/合同撰写	0.1–0.3	6–10	确定性拉满，同时保留少量用词弹性，不会太生硬
通用对话/客服场景	0.5–0.7	6–8	表达自然不刻板，也不会满嘴跑火车
文案创作/脑洞内容	0.7–0.9	3–5	创意足够，同时不会跑题跑到姥姥家

再通俗点说：Top‑K管你在多大的池子里抽，Temperature管你在池子里是盯着头名选，还是偶尔翻翻牌。

低温+大K，是严谨里带点灵活；高温+小K，是创意里带个缰绳。

5 实际代码里怎么落地

5.1 两条流水线的思路

实际做业务的时候，最省事的做法就是配两条生成链路。

一条创意线：temperature=0.8，Top‑K=4。放开随机性，但死死框住候选范围，让模型在靠谱的方向里发散。

写文案、写散文用这条，画面感足，还不跑题。

一条严谨线：temperature=0.2，Top‑K=8。压死随机性，同时给稍大的候选池，避免语句太机械。

写代码、审合同用这条，准确度有保障，读着也不生硬。

说白了就是同一个prompt模板，挂两个不同参数的模型实例，最后统一解析输出。

代码写起来也简单，用链式调用串起来就行，传个主题参数进去，对应链路就出对应风格的结果。

6 最后说句实在的：幻觉到底赖谁

很多人骂模型有幻觉，其实本质上就是采样的必然结果。

每生成一个字，都在几十万个词里选，只要抽中一次低概率的“坏词”，后面就容易顺着错下去。

温度拉高，确实会增加幻觉的概率，但你不能全怪它。真要零幻觉，把温度设成0走贪心解码就行，但那样输出跟机器人念经没区别。

真正靠谱的做法，是组合拳：先用Top‑K砍掉垃圾词，再用温度在剩下的好词里调节奏。

理解了这俩参数的逻辑，你就不是在瞎调参了——你是清楚地知道，模型在多大范围内、以多大的确定性在输出。

毕竟用工具这事，心里有数，才用得踏实。

P.S. 无意间发现了一个巨牛的人工智能教程，非常通俗易懂，对AI感兴趣的朋友强烈推荐去看看，传送门https://blog.csdn.net/HHX_01