【求助帖】2024/10/16,Chinese LLaMA Alpaca系列模型 -NextChat连接不上我的服务器 #224

Open
opened 2024-10-18 08:59:22 +08:00 by BanGuihua · 1 comment

我通过校外VPN的方式登录校园网,在校园网的学校超算上部署了自己的大语言模型并成功启动,但是NextChat连接不上模型。我是通过密匙连接学校超算的。是不是因为我登录超算的vpn设置了密匙,其他方式没有设置密匙,所以没办法通过NextChat直接访问超算上的模型?请问老师有什么解决办法,我的模型是不是不能部署到有密匙的超算上?

我通过校外VPN的方式登录校园网,在校园网的学校超算上部署了自己的大语言模型并成功启动,但是NextChat连接不上模型。我是通过密匙连接学校超算的。是不是因为我登录超算的vpn设置了密匙,其他方式没有设置密匙,所以没办法通过NextChat直接访问超算上的模型?请问老师有什么解决办法,我的模型是不是不能部署到有密匙的超算上?

确实存在外部服务器(如超算)需要设置密钥导致连接不上调用不了模型的情况,这里如果需要回答得更清楚或者帮助你解决后续问题的话可能需要你提供更多的你使用的超算的相关信息和操作截图。

1.我看到这个图片:

image
自定义模型名后需要在模型处做对应修改喔。

2.

同样是这张图片:
image
这个地方的ip地址和服务器端口号隔得有点远,你是在中间使用了中文的:(冒号)或者是多余的空格吗?是否可以删掉空格或者使用英文冒号试试?

确实存在外部服务器(如超算)需要设置密钥导致连接不上调用不了模型的情况,这里如果需要回答得更清楚或者帮助你解决后续问题的话可能需要你提供更多的你使用的超算的相关信息和操作截图。 ## 1.我看到这个图片: ![image](/attachments/642f2c8f-79ea-4fbd-a5b5-7c060aad9006) 自定义模型名后需要在模型处做对应修改喔。 ## 2. 同样是这张图片: ![image](/attachments/0249dda4-0d57-45ae-9dd1-bbd29fba2980) 这个地方的ip地址和服务器端口号隔得有点远,你是在中间使用了中文的:(冒号)或者是多余的空格吗?是否可以删掉空格或者使用英文冒号试试?
Sign in to join this conversation.
No Milestone
No project
No Assignees
2 Participants
Notifications
Due Date
The due date is invalid or out of range. Please use the format 'yyyy-mm-dd'.

No due date set.

Dependencies

No dependencies set.

Reference: HswOAuth/llm_course#224
No description provided.