deepseek-ai/DeepSeek-R1
1
0
Fork 0
mirror of https://github.com/deepseek-ai/DeepSeek-R1.git synced 2026-11-05 00:47:42 +00:00
Code Issues 45 Projects Packages Wiki Activity

[GH-ISSUE #328] 关于RAG自建知识库检索问题 #255

New issue
Closed
opened 2026-10-26 21:17:56 +00:00 by bsakaguchi · 13 comments
bsakaguchi commented 2026-10-26 21:17:56 +00:00
Owner
Copy link

Originally created by @457775987 on GitHub (Feb 8, 2025).
Original GitHub issue: https://github.com/deepseek-ai/DeepSeek-R1/issues/328

我本地部署了deepseek-r1:32b，用的开源模型bge-m3把pdf导入到知识库，发现问出打答案很不准确，明明文档中有明确的问题答案，回答的对不上号，是哪里的问题？

Originally created by @457775987 on GitHub (Feb 8, 2025). Original GitHub issue: https://github.com/deepseek-ai/DeepSeek-R1/issues/328 我本地部署了deepseek-r1:32b，用的开源模型bge-m3把pdf导入到知识库，发现问出打答案很不准确，明明文档中有明确的问题答案，回答的对不上号，是哪里的问题？
bsakaguchi 2026-10-26 21:17:56 +00:00
bsakaguchi commented 2026-10-26 21:17:58 +00:00
Author
Owner
Copy link

@michaelhan1208 commented on GitHub (Feb 8, 2025):

我本地用的14b，+bge-m3，同你有差不多的疑问

<!-- gh-comment-id:2644540107 --> @michaelhan1208 commented on GitHub (Feb 8, 2025): 我本地用的14b，+bge-m3，同你有差不多的疑问
bsakaguchi commented 2026-10-26 21:17:58 +00:00
Author
Owner
Copy link

@deepsicker commented on GitHub (Feb 8, 2025):

看看你的代码

<!-- gh-comment-id:2644558594 --> @deepsicker commented on GitHub (Feb 8, 2025): 看看你的代码
bsakaguchi commented 2026-10-26 21:17:58 +00:00
Author
Owner
Copy link

@deepsicker commented on GitHub (Feb 8, 2025):

你的知识库是用什么数据库存的， chroma-db es 还是milvus？ 结果不准确有很多中可能

1. 你的数据库并没有正确的结果

2. 你的提示词并不准确

3. 你的知识库 查询本来就不准确

<!-- gh-comment-id:2644565047 --> @deepsicker commented on GitHub (Feb 8, 2025): 你的知识库是用什么数据库存的， chroma-db es 还是milvus？ 结果不准确有很多中可能 #### 1. 你的数据库并没有正确的结果 #### 2. 你的提示词并不准确 #### 3. 你的知识库 查询本来就不准确
bsakaguchi commented 2026-10-26 21:17:59 +00:00
Author
Owner
Copy link

@457775987 commented on GitHub (Feb 8, 2025):

你的知识库是用什么数据库存的， chroma-db es 还是milvus？ 结果不准确有很多中可能

1. 你的数据库并没有正确的结果（我用的AnythingLLM 自带的向量数据库LanceDB，整个操作也都在AnythingLLM上面）

2. 你的提示词并不准确

3. 你的知识库 查询本来就不准确

知识库的内容我是从一大段文本里面摘了一小部分，核心内容如下：
国家医疗保障疾病诊断相关分组（CHS-DRG）分组方案
一、主要诊断大类（MDC）目录
CHS-DRG 共分为 26 个主要诊断大类（MDC），如表 1-1 所示。
表 1-1 CHS-DRG 主要诊断大类（MDC）
序号 MDC 编码 MDC 名称
MDCA 先期分组疾病及相关操作
MDCB 神经系统疾病及功能障碍
MDCC 眼疾病及功能障碍
MDCD 头颈、耳、鼻、口、咽疾病及功能障碍
MDCE 呼吸系统疾病及功能障碍
MDCF 循环系统疾病及功能障碍
MDCG 消化系统疾病及功能障碍
MDCH 肝、胆、胰疾病及功能障碍
MDCI 肌肉、骨骼疾病及功能障碍
MDCJ 皮肤、皮下组织及乳腺疾病及功能障碍
...
共计26个大类，提示词为：CHS-DRG 共分为 几个主要诊断大类？分别是什么？

deepseek出来的结果是：

Image

<!-- gh-comment-id:2644728971 --> @457775987 commented on GitHub (Feb 8, 2025): > 你的知识库是用什么数据库存的， chroma-db es 还是milvus？ 结果不准确有很多中可能 > #### 1. 你的数据库并没有正确的结果（我用的AnythingLLM 自带的向量数据库LanceDB，整个操作也都在AnythingLLM上面） > #### 2. 你的提示词并不准确 > #### 3. 你的知识库 查询本来就不准确 知识库的内容我是从一大段文本里面摘了一小部分，核心内容如下： 国家医疗保障疾病诊断相关分组（CHS-DRG）分组方案 一、主要诊断大类（MDC）目录 CHS-DRG 共分为 26 个主要诊断大类（MDC），如表 1-1 所示。 表 1-1 CHS-DRG 主要诊断大类（MDC） 序号 MDC 编码 MDC 名称 MDCA 先期分组疾病及相关操作 MDCB 神经系统疾病及功能障碍 MDCC 眼疾病及功能障碍 MDCD 头颈、耳、鼻、口、咽疾病及功能障碍 MDCE 呼吸系统疾病及功能障碍 MDCF 循环系统疾病及功能障碍 MDCG 消化系统疾病及功能障碍 MDCH 肝、胆、胰疾病及功能障碍 MDCI 肌肉、骨骼疾病及功能障碍 MDCJ 皮肤、皮下组织及乳腺疾病及功能障碍 ... 共计26个大类，提示词为：CHS-DRG 共分为 几个主要诊断大类？分别是什么？ deepseek出来的结果是： ![Image](https://github.com/user-attachments/assets/c41b63bd-b6c9-42db-b736-51c1a1be48c5)
bsakaguchi commented 2026-10-26 21:17:59 +00:00
Author
Owner
Copy link

@StickPromise commented on GitHub (Feb 9, 2025):

deepseek如果用原来的那些模型的RAG提示词就是会有这样的问题，该怎么办？

<!-- gh-comment-id:2646358589 --> @StickPromise commented on GitHub (Feb 9, 2025): deepseek如果用原来的那些模型的RAG提示词就是会有这样的问题，该怎么办？
bsakaguchi commented 2026-10-26 21:17:59 +00:00
Author
Owner
Copy link

@deepsicker commented on GitHub (Feb 10, 2025):

一、主要诊断大类（MDC）目录
CHS-DRG 共分为 26 个主要诊断大类（MDC），如表 1-1 所示。
表 1-1 CHS-DRG 主要诊断大类（MDC）
序号 MDC 编码 MDC 名称
MDCA 先期分组疾病及相关操作
MDCB 神经系统疾病及功能障碍
MDCC 眼疾病及功能障碍
MDCD 头颈、耳、鼻、口、咽疾病及功能障碍
MDCE 呼吸系统疾病及功能障碍
MDCF 循环系统疾病及功能障碍
MDCG 消化系统疾病及功能障碍
MDCH 肝、胆、胰疾病及功能障碍
MDCI 肌肉、骨骼疾病及功能障碍
MDCJ 皮肤、皮下组织及乳腺疾病及功能障碍

模型并没有去查你的数据库 这个结果是大模型自己生成的。rag没有生效哦

<!-- gh-comment-id:2646936829 --> @deepsicker commented on GitHub (Feb 10, 2025): > 一、主要诊断大类（MDC）目录 > CHS-DRG 共分为 26 个主要诊断大类（MDC），如表 1-1 所示。 > 表 1-1 CHS-DRG 主要诊断大类（MDC） > 序号 MDC 编码 MDC 名称 > MDCA 先期分组疾病及相关操作 > MDCB 神经系统疾病及功能障碍 > MDCC 眼疾病及功能障碍 > MDCD 头颈、耳、鼻、口、咽疾病及功能障碍 > MDCE 呼吸系统疾病及功能障碍 > MDCF 循环系统疾病及功能障碍 > MDCG 消化系统疾病及功能障碍 > MDCH 肝、胆、胰疾病及功能障碍 > MDCI 肌肉、骨骼疾病及功能障碍 > MDCJ 皮肤、皮下组织及乳腺疾病及功能障碍 模型并没有去查你的数据库 这个结果是大模型自己生成的。rag没有生效哦
bsakaguchi commented 2026-10-26 21:17:59 +00:00
Author
Owner
Copy link

@icejean commented on GitHub (Feb 15, 2025):

如果仅仅是用向量嵌入，大量相似的分类名称集中在一小段文本，切分在同一个文本块中，计算向量时都参与了计算，然后你用其中一个分类来提问，计算它的向量自然与各大类混在一起计算的向量难以匹配。你这种情况比较适合建立知识图谱，用GraphRAG来增强RAG，DeepSeek R1非常适合用于从文本中提取实体关系建立知识图谱。
具体可以参阅我的知乎系列文章，从《GraphRAG课题研究总结》这篇文章出发可以找到各篇文章。

<!-- gh-comment-id:2660576528 --> @icejean commented on GitHub (Feb 15, 2025): 如果仅仅是用向量嵌入，大量相似的分类名称集中在一小段文本，切分在同一个文本块中，计算向量时都参与了计算，然后你用其中一个分类来提问，计算它的向量自然与各大类混在一起计算的向量难以匹配。你这种情况比较适合建立知识图谱，用GraphRAG来增强RAG，DeepSeek R1非常适合用于从文本中提取实体关系建立知识图谱。 具体可以参阅我的知乎系列文章，从[《GraphRAG课题研究总结》](https://zhuanlan.zhihu.com/p/721146276)这篇文章出发可以找到各篇文章。
bsakaguchi commented 2026-10-26 21:18:00 +00:00
Author
Owner
Copy link

@davansy commented on GitHub (Feb 23, 2025):

我本地部署了deepseek-r1:32b，用的开源模型bge-m3把pdf导入到知识库，发现问出打答案很不准确，明明文档中有明确的问题答案，回答的对不上号，是哪里的问题？

这里是不是应该用deepseek 自己的embedding ？

<!-- gh-comment-id:2676904368 --> @davansy commented on GitHub (Feb 23, 2025): > 我本地部署了deepseek-r1:32b，用的开源模型bge-m3把pdf导入到知识库，发现问出打答案很不准确，明明文档中有明确的问题答案，回答的对不上号，是哪里的问题？ 这里是不是应该用deepseek 自己的embedding ？
bsakaguchi commented 2026-10-26 21:18:00 +00:00
Author
Owner
Copy link

@457775987 commented on GitHub (Feb 24, 2025):

我本地部署了deepseek-r1:32b，用的开源模型bge-m3把pdf导入到知识库，发现问出打答案很不准确，明明文档中有明确的问题答案，回答的对不上号，是哪里的问题？

这里是不是应该用deepseek 自己的embedding ？

deepseek没有开放自己的embedding吧，我在ollama上没看到

<!-- gh-comment-id:2677239606 --> @457775987 commented on GitHub (Feb 24, 2025): > > 我本地部署了deepseek-r1:32b，用的开源模型bge-m3把pdf导入到知识库，发现问出打答案很不准确，明明文档中有明确的问题答案，回答的对不上号，是哪里的问题？ > > 这里是不是应该用deepseek 自己的embedding ？ deepseek没有开放自己的embedding吧，我在ollama上没看到
bsakaguchi commented 2026-10-26 21:18:00 +00:00
Author
Owner
Copy link

@457775987 commented on GitHub (Feb 24, 2025):

如果仅仅是用向量嵌入，大量相似的分类名称集中在一小段文本，切分在同一个文本块中，计算向量时都参与了计算，然后你用其中一个分类来提问，计算它的向量自然与各大类混在一起计算的向量难以匹配。你这种情况比较适合建立知识图谱，用GraphRAG来增强RAG，DeepSeek R1非常适合用于从文本中提取实体关系建立知识图谱。 具体可以参阅我的知乎系列文章，从《GraphRAG课题研究总结》这篇文章出发可以找到各篇文章。

多谢还以为要放弃了，我再研究一下你这个，我是医疗行业从业人员，很多大型医院和医保机构都希望本地化部署，主要是数据敏感，又想本地化训练一些最新的医保规则和规范文件。

<!-- gh-comment-id:2677240005 --> @457775987 commented on GitHub (Feb 24, 2025): > 如果仅仅是用向量嵌入，大量相似的分类名称集中在一小段文本，切分在同一个文本块中，计算向量时都参与了计算，然后你用其中一个分类来提问，计算它的向量自然与各大类混在一起计算的向量难以匹配。你这种情况比较适合建立知识图谱，用GraphRAG来增强RAG，DeepSeek R1非常适合用于从文本中提取实体关系建立知识图谱。 具体可以参阅我的知乎系列文章，从[《GraphRAG课题研究总结》](https://zhuanlan.zhihu.com/p/721146276)这篇文章出发可以找到各篇文章。 多谢还以为要放弃了，我再研究一下你这个，我是医疗行业从业人员，很多大型医院和医保机构都希望本地化部署，主要是数据敏感，又想本地化训练一些最新的医保规则和规范文件。
bsakaguchi commented 2026-10-26 21:18:00 +00:00
Author
Owner
Copy link

@icejean commented on GitHub (Feb 24, 2025):

如果仅仅是用向量嵌入，大量相似的分类名称集中在一小段文本，切分在同一个文本块中，计算向量时都参与了计算，然后你用其中一个分类来提问，计算它的向量自然与各大类混在一起计算的向量难以匹配。你这种情况比较适合建立知识图谱，用GraphRAG来增强RAG，DeepSeek R1非常适合用于从文本中提取实体关系建立知识图谱。 具体可以参阅我的知乎系列文章，从《GraphRAG课题研究总结》这篇文章出发可以找到各篇文章。

多谢还以为要放弃了，我再研究一下你这个，我是医疗行业从业人员，很多大型医院和医保机构都希望本地化部署，主要是数据敏感，又想本地化训练一些最新的医保规则和规范文件。

本地部署现在有很多厂商提供了DeepSeek一体机，医疗用途建议还是用满血版（150~200万RMB，清华团队的Ktransformer方案可以去到7万部署满血量化版），70B、32B可能能力还是不够，研发阶段可以调API。

<!-- gh-comment-id:2677603796 --> @icejean commented on GitHub (Feb 24, 2025): > > 如果仅仅是用向量嵌入，大量相似的分类名称集中在一小段文本，切分在同一个文本块中，计算向量时都参与了计算，然后你用其中一个分类来提问，计算它的向量自然与各大类混在一起计算的向量难以匹配。你这种情况比较适合建立知识图谱，用GraphRAG来增强RAG，DeepSeek R1非常适合用于从文本中提取实体关系建立知识图谱。 具体可以参阅我的知乎系列文章，从[《GraphRAG课题研究总结》](https://zhuanlan.zhihu.com/p/721146276)这篇文章出发可以找到各篇文章。 > > 多谢还以为要放弃了，我再研究一下你这个，我是医疗行业从业人员，很多大型医院和医保机构都希望本地化部署，主要是数据敏感，又想本地化训练一些最新的医保规则和规范文件。 本地部署现在有很多厂商提供了DeepSeek一体机，医疗用途建议还是用满血版（150~200万RMB，清华团队的Ktransformer方案可以去到7万部署满血量化版），70B、32B可能能力还是不够，研发阶段可以调API。
bsakaguchi commented 2026-10-26 21:18:01 +00:00
Author
Owner
Copy link

@github-actions[bot] commented on GitHub (Mar 27, 2025):

This issue has been automatically marked as stale because it has not had recent activity. It will be closed if no further activity occurs. If you believe this issue is still relevant, please leave a comment to keep it open. Thank you for your contributions!

<!-- gh-comment-id:2756038423 --> @github-actions[bot] commented on GitHub (Mar 27, 2025): This issue has been automatically marked as stale because it has not had recent activity. It will be closed if no further activity occurs. If you believe this issue is still relevant, please leave a comment to keep it open. Thank you for your contributions!
bsakaguchi commented 2026-10-26 21:18:01 +00:00
Author
Owner
Copy link

@github-actions[bot] commented on GitHub (May 2, 2025):

false

<!-- gh-comment-id:2846037360 --> @github-actions[bot] commented on GitHub (May 2, 2025): false
Sign in to join this conversation.
No Branch/Tag specified
Branches Tags
main
v1.0.0
Labels
Clear labels   
bug

   
closed-as-stale

   
closed-as-stale

   
enhancement

   
pull-request
Mirrored from GitHub Pull Request

  
stale

   
stale
No labels
bug
closed-as-stale
closed-as-stale
enhancement
pull-request
stale
stale
Milestone
Clear milestone
No items
No milestone
Projects
Clear projects
No items
No project
Assignees
Clear assignees
No assignees
1 participant
Notifications
Due date
The due date is invalid or out of range. Please use the format "yyyy-mm-dd".

No due date set.

Dependencies

No dependencies set.

Reference
deepseek-ai/DeepSeek-R1#255
No description provided.