【求助贴】oneapi测试通过了,fastapi选择百度千帆的模型报错LLM respose empty,选择 qwen-2时候报错:undifined当前分组.... #426

Open
opened 2024-12-17 21:22:52 +08:00 by liuyulai · 1 comment

请问如何解决,到底是哪里出了问题

请问如何解决,到底是哪里出了问题
  1. 关于LLM respose empty报错,确认一下是否将回复上线调整到4096以下,操作文档中有说明:
    截屏2024-12-18 18.30.30.png
  2. undifined当前分组报错:如果oneapi添加qwen-2并测试成功,确认config.json文件中配置的qwen-2是否与oneapi中添加的名字一致
1. 关于LLM respose empty报错,确认一下是否将回复上线调整到4096以下,操作文档中有说明: ![截屏2024-12-18 18.30.30.png](/attachments/3b5bb757-a3d4-4ee8-8e43-13f7c9c881bd) 2. undifined当前分组报错:如果oneapi添加qwen-2并测试成功,确认config.json文件中配置的qwen-2是否与oneapi中添加的名字一致
Sign in to join this conversation.
No Milestone
No project
No Assignees
2 Participants
Notifications
Due Date
The due date is invalid or out of range. Please use the format 'yyyy-mm-dd'.

No due date set.

Dependencies

No dependencies set.

Reference: HswOAuth/llm_course#426
No description provided.