• Joined on 2024-10-17
qiuzhen commented on issue HswOAuth/llm_course#380 2024-11-18 16:35:57 +08:00
【求助帖】prompt微调-xinference部署时报错

你可以进入xinference镜像看下/home目录下面有没有code-llama-sql模型,没有就手动把模型目录放到xinference镜像的/home下面,xinference镜像的/home是本地的根…

qiuzhen commented on issue HswOAuth/llm_course#380 2024-11-18 16:23:58 +08:00
【求助帖】prompt微调-xinference部署时报错

你可以进入xinference镜像看下/home目录下面有没有code-llama-sql模型,没有就手动把模型目录放到xinference镜像的/home下面,xinference镜像的/home是本地的根…

qiuzhen commented on issue HswOAuth/llm_course#380 2024-11-18 13:46:20 +08:00
【求助帖】prompt微调-xinference部署时报错

可能是没有成功建立共享目录,可以手动把模型目录放到xinference镜像的/home下面

我的模型就是在xinference下,像图二中所显示的结构,/mnt/xinference/…

qiuzhen commented on issue HswOAuth/llm_course#285 2024-10-25 13:52:13 +08:00
【求助帖】llama factory微调后,大模型乱回复

请将LLaMA-Factory放置在/root/目录下,也就是:/root/LLaMA-Factory,然后再重复做一次实验

image

我的LLaMA-Fa…

qiuzhen opened issue HswOAuth/llm_course#285 2024-10-25 09:22:13 +08:00
【求助帖】llama factory微调后,大模型乱回复
qiuzhen commented on issue HswOAuth/llm_course#262 2024-10-22 10:54:30 +08:00
【求助帖】llama部署-打隧道打不通

你是用的这条命令吗ssh -CNgv -L 7860:127.0.0.1:7860 root@connect.cqa1.seetacloud.com -p [AutoDL 端口],远程服务器是root用户

重新搭了一遍,还是有这个消息,但…

qiuzhen commented on issue HswOAuth/llm_course#262 2024-10-22 10:39:22 +08:00
【求助帖】llama部署-打隧道打不通

你是用的这条命令吗ssh -CNgv -L 7860:127.0.0.1:7860 root@connect.cqa1.seetacloud.com -p [AutoDL 端口],远程服务器是root用户

是的

qiuzhen commented on issue HswOAuth/llm_course#262 2024-10-22 10:08:05 +08:00
【求助帖】llama部署-打隧道打不通

检查一下本地服务器有没有/home/llm/.ssh文件夹?

有,如图

qiuzhen opened issue HswOAuth/llm_course#262 2024-10-22 09:37:12 +08:00
【求助帖】llama部署-打隧道打不通
qiuzhen opened issue HswOAuth/llm_course#250 2024-10-21 14:55:54 +08:00
【求助帖】llama3,CPU版本启动服务时Killed
qiuzhen reopened issue HswOAuth/llm_course#228 2024-10-18 17:55:53 +08:00
【求助】NextChat模型回复过慢
qiuzhen closed issue HswOAuth/llm_course#228 2024-10-18 17:55:48 +08:00
【求助】NextChat模型回复过慢
qiuzhen opened issue HswOAuth/llm_course#228 2024-10-18 17:55:41 +08:00
【求助】NextChat模型回复过慢