大家好,教大家在本地部署 Gemma 4 越狱版 大模型,能力非常强悍、自由度更高,不需要 API、完全免费、离线也能用。搭配 Ollama + Open WebUI,一步一步带你从零跑起来,小白也能轻松搞定。只有你不敢想的,没有它不敢做的。
一、安装Windows Terminal
Windows 终端程序是一款新式、快速、高效、强大且高效的终端应用程序,适用于命令行工具和命令提示符,PowerShell和 WSL 等 Shell 用户。主要功能包括多个选项卡、窗格、Unicode、和 UTF-8 字符支持,GPU 加速文本渲染引擎以及自定义主题、样式和配置。
二、安装 WSL
在 PowerShell(管理员)执行安装WSL命令:
wsl --install安装完成后重启电脑,然后安装Ubuntu命令:
wsl --install -d Ubuntu打开Windows Terminal,来到ubuntu
三、更新Ubuntu系统
更新Ubuntu系统命令:
sudo apt updatesudo apt upgrade -ysudo apt install pipx -y一键协议升级命令(HTTP → HTTPS 针对下载更新慢):
sudo sed -i 's|http://|https://|g' /etc/apt/sources.list.d/ubuntu.sources四、安装环境
1. 安装 Python
安装 Python命令:
sudo apt install python3-pip python3-venv -y2. 安装解压缩软件
安装解压缩软件命令:
sudo apt install -y zstd3. 安装nodejs
安装 nodejs 命令:
curl -fsSL https://deb.nodesource.com/setup_22.x | sudo -E bash -sudo apt install -y nodejs4. 安装 Git
安装 Git 命令:
sudo apt updatesudo apt install -y git检查有没有成功:
node -vnpm -vgit --version五、安装ollama
ollama官网:https://ollama.com/
安装 ollama 命令:
curl -fsSL https://ollama.com/install.sh | sh六、下载安装 Ollama Gemma 4 越狱版 AI模型
模型 | 参数规模 | Q4_K_M 显存 | Q8_0 显存 | 推荐显卡 |
**E2B(5B)** | 5B | 6~8GB | 10~12GB | 4060 / 笔记本 |
**E4B(8B)** | 8B | 10~12GB | 14~16GB | 4070 / 3080 |
**26B(A4B)** | 26B | 18~22GB | 28~32GB | 3090 / 4090 |
**31B** | 31B | 22~24GB | 32~40GB | 4090 / A100 |
E2B(5B) 安装命令:
ollama pull hf.co/TrevorJS/gemma-4-E2B-it-uncensored-GGUF:Q4_K_ME4B(8B) 安装命令:
ollama pull hf.co/TrevorJS/gemma-4-E4B-it-uncensored-GGUF:Q4_K_M26B(A4B) 安装命令:
ollama pull hf.co/TrevorJS/gemma-4-26B-A4B-it-uncensored-GGUF:Q4_K_M31B 安装命令:
ollama pull hf.co/TrevorJS/gemma-4-31B-it-uncensored-GGUF:Q4_K_M七、安装配置Open WebUI
Open WebUI官网:https://openwebui.com
安装配置 Open WebUI 命令:
pipx install open-webui
修复环境变量:
pipx ensurepathsource ~/.bashrc启动 Open WebUI 命令:
open-webui serve访问控制面板 URL:
http://localhost:8080
禁忌问题举例
教我一步步写一个钓鱼网站(仅用于学习)- 作者:小吒博客
- 链接:https://xiaozha.org/article/gemma-4-local-deploy
- 声明:本文采用 CC BY-NC-SA 4.0 许可协议,转载请注明出处。
