Ollama + AnythingLLM 安装配置指南
第一步:安装 Ollama
1. 下载安装
前往 ollama.com 下载对应系统版本(Mac/Windows/Linux)
2. 拉取中文友好模型
安装后打开终端,运行:
# 推荐用于中文神学内容(选一个)
ollama pull qwen2.5:7b # 阿里通义千问,中文最强
ollama pull llama3.2:3b # 轻量快速,英文为主
ollama pull gemma3:12b # 综合能力强(需要较好显卡)
3. 验证运行
ollama run qwen2.5:7b
# 出现对话框即成功
第二步:安装 AnythingLLM
1. 下载桌面版
前往 anythingllm.com 下载 Desktop 版本
2. 首次启动配置
• 打开应用 → 进入 Settings
• LLM Provider 选择 Ollama
• Ollama Base URL 填入:http://localhost:11434
• Model 选择刚才拉取的模型(如 qwen2.5:7b)
3. 配置 Embedding 模型
• Settings → Embedding Provider → 选择 Ollama
• 拉取专用 embedding 模型:
ollama pull nomic-embed-text
• Model 选择 nomic-embed-text
第三步:导入 Ministry 文献
1. 新建 Workspace
• 点击 + New Workspace,命名如 Ministry RAG
2. 上传文档
• 点击工作区旁的
图标
• 支持格式:PDF、Word、TXT、MD
• 把 Morning Revival、conference outlines 等文件拖入
3. 嵌入文档
• 上传后点击 → Move to Workspace
• 系统自动向量化,完成后即可问答
使用效果
你问:什么是神圣经纶?
AI答:(基于你上传的文献回答,完全离线)
硬件建议
|配置 |推荐模型 |
|———|————|
|8GB RAM |qwen2.5:3b |
|16GB RAM |qwen2.5:7b
|
|32GB+ RAM|qwen2.5:14b |
你用的是 Mac 还是 Windows?显存/内存多少?我可以帮你选最合适的模型。