Ollama + AnythingLLM 安装配置指南

第一步:安装 Ollama

1. 下载安装
前往 ollama.com 下载对应系统版本(Mac/Windows/Linux)

2. 拉取中文友好模型
安装后打开终端,运行:

# 推荐用于中文神学内容(选一个)
ollama pull qwen2.5:7b # 阿里通义千问,中文最强
ollama pull llama3.2:3b # 轻量快速,英文为主
ollama pull gemma3:12b # 综合能力强(需要较好显卡)

3. 验证运行

ollama run qwen2.5:7b
# 出现对话框即成功

第二步:安装 AnythingLLM

1. 下载桌面版
前往 anythingllm.com 下载 Desktop 版本

2. 首次启动配置

• 打开应用 → 进入 Settings
• LLM Provider 选择 Ollama
• Ollama Base URL 填入:http://localhost:11434
• Model 选择刚才拉取的模型(如 qwen2.5:7b)

3. 配置 Embedding 模型

• Settings → Embedding Provider → 选择 Ollama
• 拉取专用 embedding 模型:

ollama pull nomic-embed-text

• Model 选择 nomic-embed-text

第三步:导入 Ministry 文献

1. 新建 Workspace

• 点击 + New Workspace,命名如 Ministry RAG

2. 上传文档

• 点击工作区旁的📎图标
• 支持格式:PDF、Word、TXT、MD
• 把 Morning Revival、conference outlines 等文件拖入

3. 嵌入文档

• 上传后点击 → Move to Workspace
• 系统自动向量化,完成后即可问答

使用效果

你问:什么是神圣经纶?
AI答:(基于你上传的文献回答,完全离线)

硬件建议

|配置 |推荐模型 |
|———|————|
|8GB RAM |qwen2.5:3b |
|16GB RAM |qwen2.5:7b ✅|
|32GB+ RAM|qwen2.5:14b |

你用的是 Mac 还是 Windows?显存/内存多少?我可以帮你选最合适的模型。