🤖 模型
Open WebUI 工作区中的模型
部分是一个强大的工具,让您能够创建和管理针对特定用途的定制模型。这里是所有模型配置文件的管理中心,提供编辑、克隆、分享、导出和隐藏模型等 完整功能。
模型配置文件管理
在模型
部分,您可以进行以下操作:
- 编辑:查看和修改模型配置文件的详细信息,包括其特性和行为。
- 克隆:创建模型配置文件的副本,克隆后的
模型 ID
会自动添加-clone
后缀。请注意,基础模型无法直接克隆;您需要先创建一个模型才能进行克隆。 - 分享:通过
分享
按钮将您的模型配置分享到 Open WebUI 社区,点击后将跳转到 https://openwebui.com/models/create。 - 导出:将模型配置以
.json
格式导出到您的计算机。 - 隐藏:在聊天界面的模型选择下拉列表中隐藏特定模型。
模型配置编辑
编辑模型配置时,您可以自定义以下内容:
- 头像图片:上传一张图片作为模型的标识。
- 模型名称:设置模型的显示名称。
- 系统提示词:配置可选的系统级提示词。
- 模型参数:调整模型的运行参数。
- 提示词建议:添加在新建聊天时显示的快捷提示词。
- 知识库文档:添加模型可访问的文档(采用 RAG [检索增强生成] 技术)。
- 功能设置:选择模型可以使用的工具、过滤器和操作。
- 图像识别功能:为多模态模型启用图像处理能力。
- 标签管理:添加标签,这些标签会在模型选择器中显示。
模型获取与管理
模型
部分还提供了以下功能:
- 导入模型:从 .json 文件或其他来源导入现有的模型配置。
- 导出模型:将所有模型配置导出为单个 .json 文件。
获取新模型有两种方式:
- 通过连接标签中的 Ollama 设置下载
- 在模型选择下拉框中直接输入命令:
ollama run hf.co/[创建者]/[模型名称]
,系统会生成"拉取[模型名称]"按钮供您下载
模型切换指南
实例:在复杂任务中灵活使用 Mistral、LLaVA 和 GPT-3.5
-
应用场景:一个多阶段对话可能包含不同类型的任务,比如先回答基础问题,然后分析图片,最后生成创意内容。
-
切换原因:不同模型各有所长:
- Mistral:适合处理一般性问题,运行快速且成本低
- LLaVA:专长于图像分析和理解
- GPT-3.5:善于生成高质量的文字内容
-
使用流程:根据具体任务需求选择最合适的模型,以提高效率和质量
具体操作:
- 选择模型:在聊天界面的模型选择器中选择需要的模型。您可以同时选择两个模型进行对比,使用箭头按钮切换查看不同模型的回复。
- 上下文继承:切换模型时,Open WebUI 会保持对话上下文的连续性,确保交流顺畅。