Ollama 让本地运行大模型变得极其简单。本文带你 5 分钟跑起本地大模型。
一、安装 Ollama
macOS
Linux
Windows
从官网下载安装包：https://ollama.com/download
二、下载并运行模型
三、API 调用
Ollama 自动提供 OpenAI 兼容 API：
四、推荐模型（按显存）
显存 | 推荐模型 |
4GB | qwen2.5:3b, llama3.2:3b |
8GB | qwen3:8b, llama3.1:8b |
12GB | qwen3:14b, deepseek-coder-v2:16b |
24GB+ | qwen3:32b, llama3.1:70b |
五、Web UI 集成
推荐使用 Open WebUI：
访问
http://localhost:3000 即可使用类似 ChatGPT 的界面。- 作者:小吒博客
- 链接:https://xiaozha.org/article/ollama-local-llm
- 声明:本文采用 CC BY-NC-SA 4.0 许可协议，转载请注明出处。
