Ollama
在本地运行大型语言模型，支持 Llama、Mistral 等主流开源模型
推荐 GPU：RTX 4090 或 A100
查看模板About this template
模板概览
Open WebUI（原 Ollama WebUI）是一个功能强大、可扩展的 Web 界面，用于与大型语言模型交互。它提供了类似 ChatGPT 的用户体验，支持 Ollama、OpenAI API 等多种后端，内置聊天历史、提示词管理、文档上传等功能。
现代化的聊天界面
支持 Ollama、OpenAI 等多种后端
内置 RAG（检索增强生成）
提示词模板管理
支持文档上传和解析
多用户和权限管理
Model parameters
模型参数
以下是该模板推荐的默认配置，可以根据实例规格和应用场景继续调整。
上下文长度
8K – 128K
PRESET 01
后端模型
Ollama / OpenAI
PRESET 02
RAG
内置支持
PRESET 03
权限管理
多用户
PRESET 04
流式输出
支持
PRESET 05
默认端口
3000
PRESET 06
Supported functionality
能力支持
不同类型的模型拥有各自专用的输入输出方式，部署后可通过统一的服务地址进行访问。
输入能力
文本文档图片
输出能力
文本
部署包含：GPU 加速流式响应健康检查日志监控
API usage
快速开始
部署完成后，可使用默认端口调用 Open WebUI 服务。
快速开始
curlcurl http://localhost:3000/api/models \
-H "Authorization: Bearer <API_KEY>"部署完成后的本地服务地址
http://localhost:3000Runtime configuration
运行配置
镜像中的软件版本、端口和硬件建议会随模板一起提供，减少首次部署的准备工作。
软件版本
open-webui0.1.105
node20
资源与网络
推荐 GPU
RTX 3090 或更高
服务端口
3000
部署类型
GPU 云实例
More templates