FASTGPT 的结果重排一直不生效 #383

New Issue

18601692689 · 2024-11-18T15:42:58+08:00

18601692689 commented

2024-11-18 15:42:58 +08:00

用的版本 image: ghcr.io/labring/fastgpt:v4.8.11
配置文件
"model": "bge-reranker-v2-m3",
"name": "bge-reranker-v2-m3",
"charsPointsPrice": 0,
"requestUrl": "192.168.201.156:6009/v1/rerank",
"requestAuth": "ACCESS_TOKEN"

使用脚本去测试对应的接口，可以正常使用，但是在fastgpt 里面重排一直显示不成功，一直显示false ，是否对版本有要求？

用的版本 image: ghcr.io/labring/fastgpt:v4.8.11 配置文件 "model": "bge-reranker-v2-m3", "name": "bge-reranker-v2-m3", "charsPointsPrice": 0, "requestUrl": "192.168.201.156:6009/v1/rerank", "requestAuth": "ACCESS_TOKEN" 使用脚本去测试对应的接口，可以正常使用，但是在fastgpt 里面重排一直显示不成功，一直显示false ，是否对版本有要求？

12019701659cs commented

2024-11-18 20:44:59 +08:00

是哪节课程的问题？2. 脚本是什么？ 3. 也提供下问题截图。

1. 是哪节课程的问题？2. 脚本是什么？ 3. 也提供下问题截图。

18601692689 commented

2024-11-19 14:23:38 +08:00

【AGI大模型今日vip上课通知】—AGI2403期
课题：提示词工程实战：DCU多机多卡微调FastGPT部署
上课老师：林希老师
上课时间：2024年11月10日晚19:30-21:30
上课地址：https://u.shkt.online/?ds_id=397593
上课内容：
1.开发环境准备
2.调用国内外大模型测试
3.微调训练
4.微调后模型下载并接入FastGPT

这节课
部署fastgpt 里面有一个 rerank 模型，就是做结果重排的，林希老师
rerank 模型的配置
"reRankModels": [
{
"model": "bge-reranker-v2-m3",
"name": "bge-reranker-v2-m3",
"charsPointsPrice": 0,
"requestUrl": "192.168.201.156:6009/v1/rerank",
"requestAuth": "ACCESS_TOKEN"
}
]
配置了rerank 后，在测试知识库的时候，rerank模型一直没有反应

【AGI大模型今日vip上课通知】—AGI2403期课题：提示词工程实战：DCU多机多卡微调FastGPT部署上课老师：林希老师上课时间：2024年11月10日晚19:30-21:30 上课地址：https://u.shkt.online/?ds_id=397593 上课内容： 1.开发环境准备 2.调用国内外大模型测试 3.微调训练 4.微调后模型下载并接入FastGPT 这节课部署fastgpt 里面有一个 rerank 模型，就是做结果重排的，林希老师 rerank 模型的配置 "reRankModels": [ { "model": "bge-reranker-v2-m3", "name": "bge-reranker-v2-m3", "charsPointsPrice": 0, "requestUrl": "192.168.201.156:6009/v1/rerank", "requestAuth": "ACCESS_TOKEN" } ] 配置了rerank 后，在测试知识库的时候，rerank模型一直没有反应

18601692689 commented

2024-11-19 14:26:43 +08:00

![image](/attachments/d9688b04-7299-40e4-8d85-adb14e260b19)

image.png

90 KiB

12019701659cs commented

2024-11-19 16:41:03 +08:00

那节课应该不涉及这个内容，这个问题可以参考下：https://github.com/labring/FastGPT/issues/2881

那节课应该不涉及这个内容，这个问题可以参考下：https://github.com/labring/FastGPT/issues/2881 <img width="1010" alt="image" src="/attachments/cca048fa-76c7-4470-b730-290095fc778f">

image.png

159 KiB

Sign in to join this conversation.