ollama安装本地模型并使用

1. 下载安装

1.1 安装 ollama

• mac 直接下载 dmg

• 打开浏览器 http://127.0.0.1:11434

1.2 安装模型

查询模型库 https://ollama.com/library

ollama run deepseek-r1:7b

查看本地跑的模型

2. 使用

2.1 open-webui

• https://github.com/open-webui/open-webui

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

• 浏览器打开 http://127.0.0.1:3000/auth

2.2 Cherry Studio

添加模型：注意是 ollama ps 看到的

3. 参考资料

• https://github.com/ollama/ollama
• https://www.53ai.com/news/LargeLanguageModel/2024081317230.html