Google|本地部署 Gemma 4 模型:Ollama + Open WebUI

随着开源大语言模型(LLM)能力的不断提升,在本地设备运行专属 AI 模型已变得非常简单。相比依赖云端 API,本地部署不仅能保障数据绝对隐私,还能实现零延迟、离线可用。

本文将讲解在 macOS 环境下,使用 Ollama 快速拉取并运行 Google 推出的 Gemma 4 模型,并搭配 Open WebUI 搭建一个媲美 ChatGPT 的可视化聊天界面。

一、为什么选择 Ollama + Gemma 4?

Google Gemma 4:Google 开源的轻量级、高性能大语言模型,在逻辑推理、代码编写与多语言理解上表现优异。

Ollama 引擎:目前 Mac 上体验最顺滑的 LLM 本地运行工具,自动适配 Apple Silicon(M系列芯片)硬件加速。

Open WebUI:轻量且功能强大的图形化界面,支持历史对话保存、提示词模板及多模型切换。

二、使用 Ollama 运行 Gemma 4

Step 1:下载并安装 Ollama

  1. 访问 Ollama 官方下载页面 下载 macOS 版本。
  2. 下载完成后,将 Ollama.app 拖入 Applications(应用程序)文件夹并启动。
  3. 启动后,Mac 顶部菜单栏会出现 Ollama 的图标,表示背景服务已成功运行。

Step 2:确认模型版本

前往 Ollama Gemma 4 模型库 查看最新的模型标签与说明。

Step 3:终端拉取并运行模型

打开 Mac 的 Terminal(终端),执行以下命令:

ollama run gemma4:e4b

提示:首次运行会先自动下载模型文件(约 10GB,请确保网络畅通及磁盘空间充足)。

下载完成后即可直接在命令行中与模型对话:

>>> 你好,请简单介绍一下你自己。

退出终端对话界面请输入:

/bye

💡 常用 Ollama 命令备忘

命令功能说明
ollama list查看本地已下载的所有模型列表
ollama pull gemma4:e4b仅下载/更新模型,不立即进入交互
ollama rm gemma4:e4b删除本地模型以释放存储空间
ollama serve手动启动后台 API 服务(默认端口为 11434)

三、进阶配置 Open WebUI 图形界面

纯命令行交互不够直观,通过 Docker 部署 Open WebUI 可以获得类似 ChatGPT 的标准 Web 界面。

Step 1:安装 Docker Desktop

  1. 前往 Docker Desktop 官网 下载适配 Mac(Apple Silicon / Intel)的版本。
  2. 安装并启动 Docker Desktop,菜单栏出现小鲸鱼图标即代表运行成功。
  3. 打开终端验证安装:
docker --version
# 输出示例:Docker version 29.3.1, build c2be9cc

Step 2:启动 Open WebUI 容器

在终端中粘贴并运行以下指令,将 Open WebUI 与本地的 Ollama 服务进行关联:

docker run -d -p 3000:8080 \
  -e OLLAMA_BASE_URL=http://host.docker.internal:11434 \
  -v open-webui:/app/backend/data \
  --name open-webui \
  --restart always \
  ghcr.io/open-webui/open-webui:main

参数说明:

  • -p 3000:8080:将本地 3000 端口映射到容器内部服务。
  • OLLAMA_BASE_URL:通过容器内部网络接口连通本地运行的 Ollama 服务。
  • -v open-webui:...:持久化存储对话历史记录。

Step 3:登录与体验

  1. 打开浏览器访问:http://localhost:3000。
  2. 首次进入需注册一个管理员账号(所有数据保存在你的 Mac 本地,无需担心隐私泄漏)。
  3. 登录后,在顶部模型选择下拉菜单中选中 gemma4:e4b,即可体验流畅的本地 AI 图形交互界面!

四、常见问题与注意事项 (FAQ)

  1. Mac 硬件配置要求高吗?
    • 建议使用 M1/M2/M3/M4 系列芯片且统一内存为 16GB 及以上的 Mac 设备,能获得更流畅的推理生成速度。
  2. 连接 Open WebUI 时显示无法获取模型?
    • 请确认 Ollama 后台服务正在运行(菜单栏有图标),且 Docker 启动命令中的 OLLAMA_BASE_URL 配置无误。