AI 问答指南
本文介绍如何用 DocMind 的 AI 问答得到高质量答案,包括模型档位选择、提问技巧、引用源解读和性能调优。
模型档位选择
| 档位 | 大小 | 速度 | 问答质量 | 适合谁 |
|---|---|---|---|---|
| 0.6B | ~600 MB | 极快 | 基础 | 4-8GB 内存的老设备 |
| 1.7B(推荐) | ~1.3 GB | 快 | 中等 | 大多数用户(8-16GB 内存) |
| 4B | ~2.5 GB | 慢 | 高 | 16GB+ 内存,追求质量 |
苹果 M2 / M3 上,1.7B 模型生成速度通常 30+ tokens/s,4B 模型 10-15 tokens/s。Windows 走 CPU,速度约为 macOS 的 1/3。
怎么提问效果好
具体 vs 模糊
- ❌ "这个项目的情况"
- ✅ "X 项目 Q3 的进度延期原因有哪些"
提供关键词锚点
AI 通过你的关键词去检索文档,所以问题里包含 独特的关键词 比 泛泛的描述 命中率高得多。
- ❌ "讲一下产品规划"
- ✅ "DocMind 0.3 版本规划包含哪些核心功能"
分阶段提问
复杂问题先拆解。AI 在小范围回答比让它"列一份完整方案"更准确。
连续对话 vs 单次问答
顶部的「连续对话」开关:
- 开启:AI 会记住之前几轮内容,适合追问("那这个项目的预算呢?")
- 关闭:每个问题独立检索,适合主题切换
如果发现 AI"自由发挥"或开始混淆话题,关闭连续对话能让回答更聚焦。
参考来源解读
每个 AI 回答下方都有"参考来源(N)"展开按钮。AI 是基于这些片段回答的,如果答案有疑虑,点击可直接打开原文件验证。
如果 AI 给出的答案 没有任何来源 或来源与问题不相关 — 说明 RAG 没找到相关上下文,AI 在"猜",这种情况下答案可信度低。
批量摘要(Pro)
- 在搜索结果中点击右上角批量模式图标
- 勾选最多 10 篇文档
- 点击「生成摘要」
- AI 会一次性读完这些文档,在问答面板输出统一摘要
典型场景:同主题合同对比、多份会议纪要月度汇总、研究文献综述。
性能调优
- 如果生成卡顿,试试切换到 0.6B 模型
- 如果答案太短或被截断,关闭连续对话减少 prompt 长度
- 如果模型加载失败 / 应用崩溃,可能是内存不足 — 关闭其他程序,或换更小的模型
API 模式(高级)
如果你不想用本地 LLM,而想接入云端 OpenAI 兼容接口(如 DeepSeek API、自部署的 vLLM 等),可在「设置 → API LLM」开启。
注意:启用 API 模式后,你的查询会发送到你配置的端点,不再是本地推理 — 请确认你信任该端点。这是用户主动选择,DocMind 默认不启用。