H

Hou Mengwei

DIGITAL SPACE

Google|使用Ollama在Mac本地运行Gemma 4

第一步:安装Ollama

官网下载Mac版:
下载后拖入Applications文件夹,启动即可。菜单栏会出现Ollama图标。

第二步:确认可用模型名
Gemma 4是新模型,先确认Ollama是否已收录:

第三步:下载并运行
打开Terminal,运行:

ollama run gemma4:e4b

首次运行会自动下载模型(约几GB)

完成后直接进入对话界面
直接输入:
>>> 你好,介绍一下自己

退出的话,输入:

/bye

常用命令:

ollama list # 查看已下载的模型
ollama rm gemma4:e4b # 删除模型
ollama pull gemma4:e4b # 只下载不运行
ollama serve # 启动API服务(默认端口11434)

进阶:安装Open WebUI

第一步:安装Docker Desktop
去官网下载Mac版:

https://www.docker.com/products/docker-desktop/

安装后启动,菜单栏会出现鲸鱼图标。

第二步:确认Docker正常运行
打开Terminal:

docker –version

看到版本号就说明安装成功。
例:Docker version 29.3.1, build c2be9cc

在Terminal运行安装指令:

docker run -d -p 3000:8080 \
-e OLLAMA_BASE_URL=http://host.docker.internal:11434 \
-v open-webui:/app/backend/data \
–name open-webui \
ghcr.io/open-webui/open-webui:main

第一次运行会自动拉取镜像,需要等几分钟。

完成后,浏览器打开:

http://localhost:3000

第一次进入需要注册一个本地账号(数据只存在本地电脑,不联网)。

gemma4

安装完成。