⚙️ 聊天参数
在 Open WebUI 中,设置系统提示词和高级参数有三个级别:聊天级别、模型级别和账户级别。这种层级系统在保持结构化管理和控制的同时提供了灵活性。
系统提示词和高级参数层级图表
级别 | 定义 | 设置权限 | 优先级规则 |
---|---|---|---|
聊天级别 | 单次聊天的系统提示词和高级参数 | 用户可修改,但不能超越模型设置 | 不能覆盖模型级别设置 |
模型级别 | 特定模型的默认系统提示词和高级参数 | 仅管理员可设置 | 优先级最高,可覆盖其他设置 |
账户级别 | 用户账户的默认系统提示词和高级参数 | 用户可设置,但受模型设置限制 | 可能被模型级别设置覆盖 |
1. 聊天级别:
- 描述:聊天级别的设置专门针对单次对话,设置的系统提示词和高级参数仅在当前会话中生效,不会影响其他对话。
- 设置方法:用户可以在 Open WebUI 右侧边栏的 Chat Controls(聊天控制)部分修改当前对话的系统提示词和高级参数。
- 优先级规则:用户无法覆盖管理员在模型级别(#2)设置的系统提示词或高级参数,以确保模型设置的一致性。
使用案例
聊天级别设置:
比如您想在某次对话中使用特定的系统提示词,只需在 Chat Controls 中修改系统提示词即可,这个设置只会影响当前的对话。
2. 模型级别:
- 描述:模型级别的设置适用于特定模型的所有对话,为该模型设置统一的默认系统提示词和高级参数。
- 设置方法:管理员可以在 Workspace(工作区)的 Models(模型)部分为每个模型配置默认设置。
- 优先级规则:普通用户账户不能修改模型级别的设置,这可以防止用户随意更改重要的默认配置。
- 上下文长度管理: 当管理员在工作区中手动设置了模型的系统提示词或高级参数后,普通用户将无法在通用设置或聊天控制中更改这些设置。这样可以确保模型运行的稳定性。
- 模型设置优先: 如果管理员已经预设了模型的参数,用户在通用设置或聊天控制中做的更改将不会生效。但是,管理员未特别设置的参数,用户仍可以在账户或聊天级别上调整。
使用案例
模型级别设置:
假如管理员需要让某个模型始终使用特定的提示词,可以在 Models 部分设置该模型的默认系统提示词,这样所有用户使用这个模型时都会应用这个设置。
3. 账户级别:
- 描述:账户级别的设置是用户的个人默认配置,当没有更高优先级的设置时,这些配置会自动生效。
- 设置方法:用户可以在 Settings(设置)菜单的 General(通用)部分配置自己的默认系统提示词和高级参数。
- 优先级规则:用户可以设置自己的默认配置,但要注意这些设置可能会被模型级别的设置覆盖。
使用案例
账户级别设置:
如果您希望在所有对话中使用统一的个人设置,可以在设置菜单中配置您的默认系统提示词。
如何优化系统提示词设置
实用建议
以下建议适用于所有用户,帮助您更好地管理系统提示词:
-
在通用设置中配置您的主要系统提示词(用于定义大语言模型的基本角色)。这样设置可以作为您的默认配置,适用于所有模型。
-
对于次要系统提示词(用于指定具体任务),您可以选择:
- 在聊天控制中设置(针对单次对话)
- 或者作为管理员,在模型设置中直接配置(针对特定模型) 这样可以让您的基础设置和具体任务设置灵活配合。
-
管理员建议:
- 使用模型级别设置来管理核心参数,这样最容易维护
- 在设置系统提示词时,要平衡灵活性和一致性
- 确保所有用户都了解不同级别设置的优先顺序,这对于有效使用系统至关重要