审核漏报广告与行动号召问题

审核问题：生成文末尾包含明显的产品推广与行动号召，如“LiveReview”、“⭐ Star it on GitHub”、“Auto-Approve: Ship the Safe 50% Without a Human”、“Click below to try LiveReview with your codebase”等，属于广告/订阅引导内容，但审核员A却报告 compliance_issues 为空。

修正说明：该问题成立。素材中确实存在 LiveReview 的产品介绍、GitHub 星标引导、自动批准宣传以及“Click below to try LiveReview with your codebase”的行动号召，这些内容属于产品推广与订阅/试用引导，不应被判定为无合规问题。审核员A报告 compliance_issues 为空属于漏报。

处理建议：应将上述产品推广与行动号召内容标记为广告/订阅引导类合规问题，并在审核结果中记录 compliance_issues，而非留空。修正后的正文应删除或明确隔离这些推广段落，仅保留 logit bias 技术说明部分。

修正后正文（仅保留技术内容，不含产品推广与行动号召）：

有时候你希望某个词在模型输出里多出现几次，有时候你希望它压根别冒出来。提示词是一种办法，但还有另一种更直接的手段：logit bias（对数几率偏置）。它让你在文本生成过程中，调整特定 token 被选中的概率。

要理解它，得先看模型是怎么吐字的。语言模型一次只生成一个 token，一个 token 可能是一个完整的词、词的一部分、标点，甚至是一个空格加一个词。比如让它补全“The cat sat on the ...”，模型会考虑 floor、mat、sofa 等候选，并为每个候选算一个分数。

这个分数叫 logit。logit 高的 token，相对其他候选更受青睐。但 logit 不是概率——logit 是 4.1，不代表概率是 410%，也不代表 4.1%。模型会用一个叫 softmax 的函数，把这些分数换算成加起来等于 100% 的概率分布。

有两个设置会影响这个过程：temperature（温度）和 logit bias。温度控制概率分布的集中或分散程度：温度低，最高分 token 的优势被放大；温度高，分布更平均，低分 token 也有机会。注意，温度改变的是 logit 转概率的方式，logit 本身没动。

logit bias 走的是另一条路：它在概率计算之前，直接修改指定 token 的 logit。正偏置提高 logit，让 token 更容易被选中；负偏置降低 logit，让它更难出现；负偏置足够强，就能有效阻止某个 token 被选中。

可以把 logit bias 想成每个 token 上的一个旋钮。往上拧，这个词更容易出现；往下拧，更难出现；拧到底，基本就出不来了。但调整作用在 logit 上，不是直接作用在最终概率上，所以实际概率变化还取决于其他候选的 logit。正偏置也不保证某个词一定出现，它只改变相对可能性。

OpenAI 的 Chat Completions API 支持 logit_bias 参数，把 token ID 映射到偏置值。Python 里大概长这样：

• 调用 client.chat.completions.create，传入 model 和 messages
• 在 logit_bias 字典里写 {"3797": -100}
• 偏置 -100 会强烈压制指定 token，API 接受的取值范围是 -100 到 100

这里的 "3797" 只是示意用的 token ID，不是某个词的固定 ID。你得为自己选的模型和分词器找到正确的 token ID。用之前还要查文档，确认目标模型支持 logit_bias——不同模型的支持情况可能不一样。

API 不接受直接拿单词当键，它要的是字符串形式的 token ID。找 ID 得用和模型兼容的分词器。对 tiktoken 支持的模型，可以用 Python 检查：enc = tiktoken.encoding_for_model("YOUR_SUPPORTED_MODEL")，然后 enc.encode(" cat")，输出就是对应的 token ID。

别假设所有模型用同一个分词器，也别以为一个模型的 token ID 能拿到另一个模型上用。还要注意编码的文本本身："cat"、" cat"、"Cat"、"cats" 的分词结果可能各不相同。一个词可能由多个 token 组成，大小写或空格不同，token ID 就可能不同。

logit bias 适合在你想要更多词汇控制权的时候用。比如做一个分类器，只该回 positive、negative 或 neutral，可以用提示词要求这些标签，再用 logit bias 压低不想要的选项。但光靠 logit bias 不保证输出合法，需要严格结构化响应时，该用约束输出或结构化输出功能就用。

想禁掉某个 token 也行，强负偏置能压制它。但有个重要限制：压住一个 token，不代表模型不能通过另一种分词方式生成同一个词。同理，模型老爱用 "delve" 或 "tapestry" 这类陈词滥调，你可以对相关 token ID 加负偏置降低概率，这是一种词汇引导，不是完美的词语过滤器。

正偏置也能用来鼓励特定词汇，比如写作助手让某些技术术语更容易出现。但正偏置同样不保证词一定出现，模型还要考虑上下文和其他候选 token。重要需求上，logit bias 得配合清晰的提示词和适当的校验一起用。

最麻烦的一点是：logit bias 作用在 token 上，不是完整的词上。cat 这个词，取决于分词器和上下文，可能和 cat 或 Cat 的表示都不一样，别的词还可能被拆成多个 token。你压住一个 token ID，可能只压住了一种分词变体，模型仍可能用另一串 token 拼出同一个词。反过来，给一个 token 加正偏置，也不保证整个词会出现。

所以 logit bias 提供的是 token 级控制，不是可靠的词级强制。需要执行严格规则时，用专门为此设计的机制，别只靠 logit bias。

偏置值怎么选？API 接受 -100 到 100，但合适的值取决于你的场景和模型行为。实用做法是从小调整开始测试：小数值温和影响 token 选择，大一点的调整施加更强压力，-100 这类极端负值则强烈压制。这些只是一般指引，不是通用阈值，偏置值也不对应固定的百分点概率变化。拿有代表性的提示词测你的设置，看模型是否按预期行事，以及调整有没有带来不想要的副作用。

提示词告诉模型你想要什么，logit bias 则通过调整特定 token 的分数来影响它的选择。它能引导词汇、压低某些 token、让选定输出更可能出现。但因为作用在 token 层面，它没法可靠地强制执行每一条词级或内容级规则。分清这一点，才知道什么时候该用它，什么时候该换更合适的控制手段。