关于效果比较好的RAG开源工具咨询 #475

New Issue

lizhao_8202 · 2025-01-14T19:30:55+08:00

lizhao_8202 commented

2025-01-14 19:30:55 +08:00

    因最近在公司搭建RAG，当前采用的是ollama+qwen2:7B+chatchat3，发现回答准确率不高。求各位大佬推荐一款准确率较高的RAG开源产品（PDF，WORD，TXT文档等各种文档都支持，最好是国内开源的这样方便交流）
    另咨询各位有没RAG开源工具的测评网站，为RAG工具选择提供参考

因最近在公司搭建RAG，当前采用的是ollama+qwen2:7B+chatchat3，发现回答准确率不高。求各位大佬推荐一款准确率较高的RAG开源产品（PDF，WORD，TXT文档等各种文档都支持，最好是国内开源的这样方便交流）另咨询各位有没RAG开源工具的测评网站，为RAG工具选择提供参考

lizhao_8202 commented

2025-01-14 19:33:16 +08:00

当前效果不好的体现：1是长文本回答不全面，2是不能很好的理解提供的知识导致灵活性不足（变换一个说法就不知道）

linhui commented

2025-01-15 13:08:51 +08:00

推荐的RAG

FastGPT:https://fastgpt.cn/zh
Dify: https://dify.ai/zh
长文本回答不全面主要是检索不充分、大语言模型能力限制、上下文处理长度限制这几个问题，
检索不充分如果你已经选用了比较好的检索模型那么可以调整检索范围，让检索的更大，可以检索更多的知识
大语言模型能力限制：可以使用更好的大语言模型，比较推荐Qwen2.5 32B及以上的模型
上下文处理长度限制：这个也就是要使用更强的大语言模型，比如第二点中推荐的Qwen2.5 32B及以上
RAG开源工具的评测网站这个目前没有，这里提供一个rag的评测工具，可以自己去评测：官网：https://docs.ragas.io/en/latest/，使用教程：https://blog.csdn.net/weixin_42608414/article/details/135355723

推荐的RAG 1. FastGPT:https://fastgpt.cn/zh 2. Dify: https://dify.ai/zh 长文本回答不全面主要是检索不充分、大语言模型能力限制、上下文处理长度限制这几个问题， 1. 检索不充分如果你已经选用了比较好的检索模型那么可以调整检索范围，让检索的更大，可以检索更多的知识 2. 大语言模型能力限制：可以使用更好的大语言模型，比较推荐Qwen2.5 32B及以上的模型 3. 上下文处理长度限制：这个也就是要使用更强的大语言模型，比如第二点中推荐的Qwen2.5 32B及以上 RAG开源工具的评测网站这个目前没有，这里提供一个rag的评测工具，可以自己去评测：官网：https://docs.ragas.io/en/latest/，使用教程：https://blog.csdn.net/weixin_42608414/article/details/135355723

lizhao_8202 commented

2025-01-15 15:06:27 +08:00

好的，感谢老师

lizhao_8202 closed this issue

2025-01-15 15:06:29 +08:00

Sign in to join this conversation.