Skip to main content

🤖 模型

Open WebUI 中 工作空间模型 部分是一个强大的工具,允许您创建和管理针对特定目的定制的自定义模型。该部分作为所有模型文件的中央枢纽,提供一系列功能来编辑、克隆、共享、导出和隐藏您的模型。

模型文件管理

模型 部分,您可以对模型文件执行以下操作:

  • 编辑:深入了解模型文件的详细信息并对其特性等进行更改。
  • 克隆:创建模型文件的副本,将在克隆的 模型 ID 后附加 -clone。请注意,您不能克隆基础模型;您必须先创建模型然后才能克隆它。
  • 共享:通过点击 共享 按钮与 Open WebUI 社区共享您的模型文件,这将重定向您到 https://openwebui.com/models/create
  • 导出:将模型文件的 .json 导出文件下载到您的计算机。
  • 隐藏:在聊天中的模型选择器下拉菜单中隐藏模型文件。

模型文件编辑

编辑模型文件时,您可以自定义以下设置:

  • 头像照片:上传头像照片来代表您的模型文件。
  • 模型名称:更改模型文件的名称。
  • 系统提示:为您的模型文件提供可选的系统提示。
  • 模型参数:调整模型文件的参数。
  • 提示建议:添加将在全新聊天页面上显示的提示。
  • 文档:向模型文件添加文档(始终为 RAG [检索增强生成])。
  • 工具、过滤器和操作:选择模型文件可用的工具、过滤器和操作。
  • 视觉:切换以启用多模态的 视觉 功能。
  • 标签:向模型文件添加标签,这些标签将在模型选择器下拉菜单中显示在模型名称旁边。

模型发现和导入/导出

模型 部分还包括导入和导出模型的功能:

  • 导入模型:使用此按钮从 .json 文件或其他来源导入模型。
  • 导出模型:使用此按钮在单个 .json 文件中导出所有模型文件。

要下载模型,请导航到连接选项卡中的 Ollama 设置。 或者,您也可以通过在模型选择下拉菜单中输入诸如 ollama run hf.co/[model creator]/[model name] 之类的命令直接下载模型。 此操作将创建标记为"Pull [模型名称]"的下载按钮。

模型切换

示例:在多阶段任务中在 MistralLLaVAGPT-3.5 之间切换

  • 场景:多阶段对话涉及不同的任务类型,例如从简单的 FAQ 开始,解释图像,然后生成创意响应。

  • 切换原因:用户可以为每个阶段利用每个模型的特定优势:

    • Mistral 用于一般问题以减少计算时间和成本。
    • LLaVA 用于视觉任务以从基于图像的数据获得洞察。
    • GPT-3.5 用于生成更复杂和细致的语言输出。
  • 过程:用户根据任务类型在模型之间切换,以最大化效率和响应质量。

    操作方法

    1. 选择模型:在聊天界面中,从模型切换器下拉菜单中选择所需的模型。您可以同时选择最多两个模型,两个响应都将生成。然后您可以使用前后箭头在它们之间导航。
    2. 上下文保持:Open WebUI 在模型切换过程中保持对话上下文,允许平滑过渡。