求助帖/32-25.3.25-实时网页信息爬取+RAG的舆情分析系统-林辉老师-- qwen2.5报错 #654

New Issue

wangjo · 2025-03-28T00:14:35+08:00

wangjo commented

2025-03-28 00:14:35 +08:00

xinference里布署的qwen2.5，无论是32B还是14B，通过FastGPT调用都会报错，如图。但是通过xinference页面测试是正常。
麻烦老师看一下怎么回事。

xinference里布署的qwen2.5，无论是32B还是14B，通过FastGPT调用都会报错，如图。但是通过xinference页面测试是正常。麻烦老师看一下怎么回事。

qwen2.5-instruct02.png

437 KiB

qwen2.5-instruct01.png

85 KiB

qwen2.5-instruct.png

77 KiB

linhui commented

2025-03-28 13:27:09 +08:00

这个可能在oneapi中配置有问题，方便给下oneapi的配置界面吗

wangjo commented

2025-03-28 15:58:34 +08:00

好的，看一下这个是oneAPI配置哦。渠道是可以通的，有转发过去。不然autodl上的xinference也不会报错。

微信图片_20250328155619.png

187 KiB

微信图片_20250328155523.png

206 KiB

微信图片_20250328155543.png

154 KiB

微信图片_20250328155606.png

115 KiB

linhui commented

2025-03-28 16:11:42 +08:00

应该是你fastgpt的config.yaml文件中配置的问题，看一下这个文件

wangjo commented

2025-03-28 16:36:56 +08:00

上传了，老师再看一下

config.json

9.0 KiB

Sign in to join this conversation.

No Label

No Milestone

No project

No Assignees

2 Participants

Notifications

Due Date

The due date is invalid or out of range. Please use the format 'yyyy-mm-dd'.

No due date set.

Dependencies

No dependencies set.

Reference: HswOAuth/llm_course#654