Skip to main content

🤖 模型

Open WebUI 工作区中的模型部分是一个强大的工具,让您能够创建和管理针对特定用途的定制模型。这里是所有模型配置文件的管理中心,提供编辑、克隆、分享、导出和隐藏模型等完整功能。

模型配置文件管理

模型部分,您可以进行以下操作:

  • 编辑:查看和修改模型配置文件的详细信息,包括其特性和行为。
  • 克隆:创建模型配置文件的副本,克隆后的模型 ID会自动添加-clone后缀。请注意,基础模型无法直接克隆;您需要先创建一个模型才能进行克隆。
  • 分享:通过分享按钮将您的模型配置分享到 Open WebUI 社区,点击后将跳转到 https://openwebui.com/models/create
  • 导出:将模型配置以.json格式导出到您的计算机。
  • 隐藏:在聊天界面的模型选择下拉列表中隐藏特定模型。

模型配置编辑

编辑模型配置时,您可以自定义以下内容:

  • 头像图片:上传一张图片作为模型的标识。
  • 模型名称:设置模型的显示名称。
  • 系统提示词:配置可选的系统级提示词。
  • 模型参数:调整模型的运行参数。
  • 提示词建议:添加在新建聊天时显示的快捷提示词。
  • 知识库文档:添加模型可访问的文档(采用 RAG [检索增强生成] 技术)。
  • 功能设置:选择模型可以使用的工具、过滤器和操作。
  • 图像识别功能:为多模态模型启用图像处理能力。
  • 标签管理:添加标签,这些标签会在模型选择器中显示。

模型获取与管理

模型部分还提供了以下功能:

  • 导入模型:从 .json 文件或其他来源导入现有的模型配置。
  • 导出模型:将所有模型配置导出为单个 .json 文件。

获取新模型有两种方式:

  1. 通过连接标签中的 Ollama 设置下载
  2. 在模型选择下拉框中直接输入命令:ollama run hf.co/[创建者]/[模型名称],系统会生成"拉取[模型名称]"按钮供您下载

模型切换指南

实例:在复杂任务中灵活使用 MistralLLaVAGPT-3.5

  • 应用场景:一个多阶段对话可能包含不同类型的任务,比如先回答基础问题,然后分析图片,最后生成创意内容。

  • 切换原因:不同模型各有所长:

    • Mistral:适合处理一般性问题,运行快速且成本低
    • LLaVA:专长于图像分析和理解
    • GPT-3.5:善于生成高质量的文字内容
  • 使用流程:根据具体任务需求选择最合适的模型,以提高效率和质量

    具体操作

    1. 选择模型:在聊天界面的模型选择器中选择需要的模型。您可以同时选择两个模型进行对比,使用箭头按钮切换查看不同模型的回复。
    2. 上下文继承:切换模型时,Open WebUI 会保持对话上下文的连续性,确保交流顺畅。