管道
管道是独立的函数,用于处理输入并生成响应,可能通过调用一个或多个 LLM 或外部服务,然后将结果返回给用户。管道可以执行的潜在操作示例包括检索增强生成(RAG)、向非 OpenAI LLM 提供商(如 Anthropic、Azure OpenAI 或 Google)发送请求,或直接在您的 Web UI 中执行函数。管道可以作为函数托管或在 Pipelines 服务器上托管。示例列表在 Pipelines 仓库 中维护。一般工作流程可在下图中看到。
在您的 WebUI 中定义的管道会显示为新模型,并附有"外部"标识。下面可以看到两个管道模型的示例,Database RAG Pipeline
和 DOOM
,它们位于两个自托管模型旁边: