← 返回首页

Open WebUI 评测:本地 LLM 聊天界面的终极形态

> 在 4GB 内存的 VPS 上跑 Ollama + Open WebUI,中文对话流畅不卡。

部署

``bash

Ollama

curl -fsSL https://ollama.com/install.sh | sh ollama pull llama3:8b

Open WebUI

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway ghcr.io/open-webui/open-webui:main
``

5 分钟跑起来,界面比 Ollama 官方 Web UI 好看太多。

核心功能

多模型支持

同时接入 Ollama(本地)、OpenAI API(远程)、Anthropic API。切换模型像切频道一样简单。

对话管理

支持多会话、文件夹分类、对话导出(Markdown/JSON/Pdf)。比 ChatGPT 免费版功能更全。

RAG 能力

上传文档后自动向量化,支持混合检索。对中文 PDF 的解析质量比预期好。

插件生态

支持 Web 搜索(DuckDuckGo/Google/Puppeteer)、代码解释器、图片生成(DALL-E/Stable Diffusion)。

性能实测

场景配置响应速度
本地 Llama3 8B4C8G12-18 tok/s
远程 GPT-4oAPI2-4s
RAG 检索Qdrant + 100页文档+0.8s

对比其他本地 UI

工具优势劣势
Open WebUI功能全、更新快、社区大Docker 占用资源多
LibreChat轻量、多平台功能较少
Lobe Chat美观、中文好插件少
FastGPT专注知识库通用聊天弱

适合谁?

  • 想跑本地 LLM 但讨厌命令行的人
  • 需要多模型对比测试的开发者
  • 小团队内部 AI 助手
  • 一句话

    Open WebUI 是本地 LLM 的"微信"——普通人也能用的聊天界面,背后是强大的 Ollama。