Skip to main content

⚙️ 聊天参数

在 Open WebUI 中,设置系统提示高级参数有三个级别:每个聊天基础、每个模型基础和每个账户基础。这种分层系统允许灵活性,同时保持结构化的管理和控制。

系统提示和高级参数层次结构图表

级别定义修改权限覆盖能力
每个聊天特定聊天实例的系统提示和高级参数用户可以修改,但不能覆盖模型特定设置限制覆盖模型特定设置
每个账户特定用户账户的默认系统提示和高级参数用户可以设置,但可能被模型特定设置覆盖用户设置可能被模型特定设置覆盖
每个模型特定模型的默认系统提示和高级参数管理员可以设置,用户不能修改管理员特定设置优先,可覆盖用户设置

1. 每个聊天基础:

  • 描述:每个聊天基础设置是指为特定聊天实例配置的系统提示和高级参数。这些设置仅适用于当前对话,不会影响未来的聊天。
  • 如何设置:用户可以在 Open WebUI 右侧边栏的聊天控制部分修改特定聊天实例的系统提示和高级参数。
  • 覆盖能力:用户被限制覆盖管理员在每个模型基础上(#2)已设置的系统提示或特定高级参数。这确保了一致性并遵守模型特定设置。
示例用例
每个聊天基础

假设用户想要为特定对话设置自定义系统提示。他们可以通过访问聊天控制部分并修改系统提示字段来实现。这些更改将仅适用于当前聊天会话。

2. 每个账户基础:

  • 描述:每个账户基础设置是指为特定用户账户配置的默认系统提示和高级参数。任何用户特定的更改都可以在未定义较低级别设置的情况下作为后备。
  • 如何设置:用户可以在 Open WebUI 的设置菜单的常规部分为其账户设置自己的系统提示和高级参数。
  • 覆盖能力:用户有能力在其账户上设置自己的系统提示,但他们必须意识到,如果管理员已经为正在使用的特定模型在每个模型基础上设置了系统提示或特定高级参数,此类参数仍然可以被覆盖。
示例用例
每个账户基础

假设用户想要为其账户设置自己的系统提示。他们可以通过访问设置菜单并修改系统提示字段来实现。

3. 每个模型基础:

  • 描述:每个模型基础设置是指为特定模型配置的默认系统提示和高级参数。这些设置适用于使用该模型的所有聊天实例。
  • 如何设置:管理员可以在 Open WebUI 的工作空间模型部分为特定模型设置默认系统提示和高级参数。
  • 覆盖能力用户账户被限制在每个模型基础上(#3)修改系统提示或特定高级参数。此限制防止用户不当地更改默认设置。
  • 上下文长度保护: 当管理员在工作空间部分手动设置模型的系统提示或特定高级参数时,用户账户无法在常规设置或聊天控制部分覆盖或调整所述系统提示或手动设置的高级参数。这确保了一致性并防止用户上下文长度设置更改时过度重新加载模型。
  • 模型优先级: 如果管理员在工作空间部分预设了模型的系统提示或特定高级参数值,用户账户在常规设置或聊天控制部分所做的任何上下文长度更改都将被忽略,保持该模型的预配置值。请注意,管理员账户未触及的参数仍可由用户账户在每个账户或每个聊天基础上手动调整。
示例用例
每个模型基础

假设管理员想要为特定模型设置默认系统提示。他们可以通过访问模型部分并修改相应模型的系统提示字段来实现。使用此模型的任何聊天实例都将自动使用模型的系统提示和高级参数。

优化系统提示设置以获得最大灵活性

奖励提示

此提示适用于管理员和用户账户。为了实现系统提示的最大灵活性,我们建议考虑以下设置:

  • 在您的常规设置系统提示字段中分配您想要使用的主要系统提示(即,给 LLM 一个定义性角色)。这在每个账户级别设置它,并允许它作为所有 LLM 的系统提示工作,而无需从工作空间部分的模型内进行调整。

  • 对于您的次要系统提示(即,给 LLM 一个要执行的任务),选择是否将其放在聊天控制侧边栏的系统提示字段中(在每个聊天基础上)或工作空间部分的模型部分(在每个模型基础上)供管理员使用,允许您直接设置它们。这允许您的账户级系统提示与聊天控制提供的每个聊天级系统提示或模型提供的每个模型级系统提示结合工作。

  • 作为管理员,您应该使用模型部分在每个模型基础上分配您的 LLM 参数以获得最佳灵活性。对于这些次要系统提示,确保以最大化灵活性并最小化跨不同每个账户或每个聊天实例所需调整的方式设置它们。您的管理员账户以及所有用户账户都必须了解聊天控制模型部分内的系统提示将应用于LLM的优先级顺序。