CFG 引导

中文译稿 · 由官方原文机器翻译，尚未逐句校对。对照原文 ↗

页面编写者：kingbri

贡献者：kingbri、Guillaume "Vermeille" Sanchez、AliCat

它是什么？

CFG（无分类器引导）是一种用于帮助使提示词的某些部分变得不那么突出或更加突出的方法。

目前，支持的后端是 oobabooga 的 textgen WebUI、NovelAI 和 TabbyAPI。 NovelAI 有自己的 CFG 的文档.

警告：由于摄取超过 1 提示词，CFG 会增加 VRAM 使用量！如果在启用 CFG 的情况下生成提示词时 GPU 内存耗尽，请考虑减小上下文大小、使用较小参数模型或完全关闭 CFG。

访问 CFG 设置与访问作者注释相同：

CFG 面板如下所示：

CFG 面板中有四个下拉菜单：

注意：如果引导比例设置为 1，则不会发送任何内容，因为此时 CFG 处于“关闭”状态。

在群聊中，CFG比例面板如下所示：

主要变化是删除了角色 CFG 并添加了一个名为 Use Character CFG Scales 存在于聊天 CFG 下拉列表中。这允许使用当前角色的引导比例，而不是聊天 CFG 比例设置的值。

此功能的主要用途是根据每个角色的个人需求更改比例。

此外，检查 Character Negatives 提示词级联中的框将附加独立的角色负提示词以及聊天框（如果启用）。

是和不是。法学硕士的 CFG 的工作方式与稳定扩散中的工作方式不同。基于 LLM 的 CFG 的工作原理是“提示词混合”。 CFG公式取正负提示词，然后混合差异他们之间。从那里，发送组合的提示词并生成响应！

这是一个帮助形象化这个概念的插图。红色代表负值提示词，蓝色代表中性提示词，紫色代表解释的混合结果。所有 3 个提示词中的所有空白都是相同的，因此这些空白不用于 CFG 混合。

如果您想了解有关 CFG 和 LLM 的更多信息，Vermifuge 的原始论文位于此处。我建议读/听：

不！ CFG 提示词完全可选。只需调整上面的指导比例即可 1 还将有助于对响应产生影响，从而可以加强聊天和角色互动。

因此，我们确定 CFG 提示与稳定扩散的负面标签和嵌入不同。我们如何制作提示词？

警告：这假设您已使用 PLists 和 Ali:Chat 创建了角色。如果您还没有，请随意尝试各种提示技巧。

假设我有一个名为“John”的角色。从他的示例对话中，约翰应该一直感到快乐和兴奋。然而，在与约翰聊天时，他有时会感到悲伤和沮丧。

为了消除这个问题，CFG 来救援！就做负数提示词 [John's feelings: sad, depressed] 帮助消除悲伤部分。您可以选择将正极设为提示词 [John's feelings: happy, joyful] 进一步衬托出约翰快乐的部分。

我在上一节中讨论过这个问题，但我想再谈一下这个问题。正提示词用于进一步强调角色的部分。让我们再次以约翰为例。通过积极的提示词让他更快乐 [John's feelings: happy, joyful]，与不包含正面提示词相比，John 应该开始输出带有更快乐感觉的对话。

这些只是 宽松的指导方针 来自一种特定角色格式的经验。您还可以尝试许多其他方法来创建提示词。请随意与其他用户分享您的想法！

这是一个经验法则。指导规模为 1 表示CFG 已禁用。事实上，如果指导比例为 1，SillyTavern 不会向您的后端发送任何内容。指导比例 >1 将给出其他部分不同程度显示的结果。

然而，指导规模 <1 将给出对面因为负提示词在这里用作主要提示词。

让我们再次使用约翰的例子。负的提示词是 [John's feelings: sad, depressed] 正提示词为 [John's feelings: happy, joyful] 指导规模为 0.8.

这反过来又会强调 消极的 提示词更多，您会看到约翰开始表现得比平常更悲伤，而不是更快乐。

TL;DR：使用指导量表 1.5 并根据您的输出从那里上下工作。

否定和肯定可以在 CFG 类型之间级联（类型为每聊天、每角色和全局覆盖）。有关详细信息，请参阅配置标头。

遵循基本规则：提示词中的位置越低，对响应的影响越大。对于聊天，我建议使用默认深度 1 因为它与 SillyTavern 的其他组件非常灵活。

但是，如果您想进行实验，插入深度为 0 是开放的。但是，这些可能会极大地改变您的响应的外观，因此不建议在此处使用提示词级联！