AutoDL服务器LLM仿OpenAI API接口,隧道打通后，oneAPI测试成功，但nextChat无法问答 #244

New Issue

12717839409cs · 2024-10-20T23:56:09+08:00

12717839409cs commented

2024-10-20 23:56:09 +08:00

租用的AutoDL服务器，然后在本地的Ubuntu上打的隧道，oneAPI地址是Ubuntu的。如题，在租用的服务器上命令测试都能成功，但Chatnext无法实现问答，上节课也是同样的问题。

nextchat设置.png

91 KiB

双隧道打通成功.png

499 KiB

打GPU和CPU隧道后，oneAPI测试成功.png

129 KiB

GPU19328.png

498 KiB

CPU 19329.png

487 KiB

HswOAuth commented

2024-10-22 10:36:06 +08:00

nextchat上的地址，需要填写你oneapi的地址

Chanson commented

2024-10-22 13:40:30 +08:00

nextchat上的地址，需要填写你oneapi的地址

我在本地的Ubuntu系统上打的隧道，Ubuntu的地址是172.20.65.232，nextchat上写的就是oneAPI地址：172.20.65.232:3030

> nextchat上的地址，需要填写你oneapi的地址我在本地的Ubuntu系统上打的隧道，Ubuntu的地址是172.20.65.232，nextchat上写的就是oneAPI地址：172.20.65.232:3030

Chanson commented

2024-10-22 15:26:53 +08:00

已解决，同241#。本次实验复现成功

复现成功，CPU在回答.png

719 KiB

oneapi复现成功.png

455 KiB

1.png

148 KiB

Sign in to join this conversation.

No Label

No Milestone

No project

No Assignees

3 Participants

Notifications

Due Date

The due date is invalid or out of range. Please use the format 'yyyy-mm-dd'.

No due date set.

Dependencies

No dependencies set.

Reference: HswOAuth/llm_course#244