hsw_ray rayhsw
  • Joined on 2024-07-17
rayhsw commented on issue HswOAuth/llm_course#534 2025-02-14 16:27:46 +08:00
【求助贴】2406-课程18-Ray老师,oneapi docker compose无法成功启动(gpu,cpu服务运行均成功)

oneapi不是在autodl启动,需要在自己的服务器上(不需要显卡)安装了docker和docker compose后启动。

rayhsw commented on issue HswOAuth/llm_course#532 2025-02-14 16:26:47 +08:00
【求助帖】怎么用SSH和汇视威的镜像服务器创建通道?

如题,目前不知道从哪里获取汇视威的镜像服务器的域名 求助,谢谢 image

上课的内容是使用autodl而…

rayhsw commented on issue HswOAuth/llm_course#507 2025-02-14 16:24:05 +08:00
【求助帖】 24.10 ,7-Chinese LLaMA Alpaca系列模型OpenAI API调用实现。模型启动后访问失败。

你的requirements.txt和老师上课时候提供的内容似乎不一样。 image

rayhsw commented on issue HswOAuth/llm_course#526 2025-02-12 23:05:44 +08:00
中文llama3仿openai api实战--关于Chinese-LLaMA-Alpaca-3-3.0.tar.gz的作用

这个是应用项目开发代码,和模型没关系的。

那它的作用是什么,如不下载,通过模型拉下来的大模型文件可以正常启动吗

模型是不能脱…

rayhsw commented on issue HswOAuth/llm_course#520 2025-02-11 18:27:16 +08:00
中文llama3仿openai api实战

我在autodl上已经安装好了程序,启动后怎么在本地调用? image

我打隧道也没…

rayhsw commented on issue HswOAuth/llm_course#515 2025-02-11 12:19:02 +08:00
2406课程19节Ray老师课程,llama-factory模型微调报错

autodl,llama-factory使用 机器如图5配置,使用图2参数,模型微调报错,如图3,后来把批处理大小改为1,还是报这个错, 后来把 镜像修改为 PyTorch …

rayhsw commented on issue HswOAuth/llm_course#515 2025-02-11 12:17:31 +08:00
2406课程19节Ray老师课程,llama-factory模型微调报错

我可以等我的实例有空闲gpu了,再使用吗?可以等到吗?

可以

rayhsw commented on issue HswOAuth/llm_course#514 2025-02-11 12:16:19 +08:00
2406课程18节Ray老师AutodDL服务器登录后无法查到ip地址

AutodDL服务器登录后无法查到ip地址。ifconfig, ip addr等命令均显示command not find. NextChat在配置时需要这个ip地址

请仔细查看课件,似乎没有步骤是需…

rayhsw commented on issue HswOAuth/llm_course#513 2025-02-11 12:15:19 +08:00
无法复制其他地方的内容到audtoDL的终端

图片 从其他地方不能复制命令到audtoDL的终端,很不方便

可以复制的,应该是你的浏览器禁止了,你可以…

rayhsw commented on issue HswOAuth/llm_course#512 2025-02-11 12:11:29 +08:00
基于LLaMA-Factory的模型微调训练 创建隧道报错

图片 我创建隧道报错 ssh -CNgv -L 7860:127.0.0.1:7860 root@connect.nmb1.seetacloud.com -p 31855

ebug1: client_input_hostkey…

rayhsw commented on issue HswOAuth/llm_course#511 2025-02-11 12:08:36 +08:00
ray老师课程-6期课程-第17,18次课程-安装遇到的问题2

暂时看不出问题,可以把整个过程录屏一下么?方便排查

rayhsw commented on issue HswOAuth/llm_course#511 2025-02-11 12:06:06 +08:00
ray老师课程-6期课程-第17,18次课程-安装遇到的问题2

还有,修改代码,能直接载autodl服务上修改代码吗?

可以的

rayhsw commented on issue HswOAuth/llm_course#517 2025-02-11 12:04:30 +08:00
第18次课-私有化LLM仿OpenAI API接口的高可用工程实践

在autodl部署了模型后,需要在wsl里面输入隧道命令,是否有输入?

rayhsw commented on issue HswOAuth/llm_course#507 2025-02-11 12:03:00 +08:00
【求助帖】 24.10 ,7-Chinese LLaMA Alpaca系列模型OpenAI API调用实现。模型启动后访问失败。

今天,我按照教程 重新操作了一遍。 主要指令如下: 图片

requirements.txt是否使用…

rayhsw commented on issue HswOAuth/llm_course#508 2025-02-07 23:23:55 +08:00
第18次课-私有化LLM仿OpenAI API接口的高可用工程实践

在autoDL上开启模型服务,win11通过WLS打隧道部署oneapi,nextchat客户端验证失败!

麻烦把oneapi的渠道配置界面截图看看,或者录屏也可以。

rayhsw commented on issue HswOAuth/llm_course#507 2025-02-07 23:20:39 +08:00
【求助帖】 24.10 ,7-Chinese LLaMA Alpaca系列模型OpenAI API调用实现。模型启动后访问失败。

使用WLS 子系统的IP 依然不行。图片

是http而不是https

rayhsw commented on issue HswOAuth/llm_course#505 2025-02-07 19:28:29 +08:00
ray老师课程-6期课程-第17,18次课程-安装遇到的问题1
  1. 直接使用root即可;
  2. 只是警告,不是报错;
  3. 资源不足可以使用克隆功能,如下图所示: <img width="620" alt="image" src="/attachments/7a7cd48e-12e8-4995-9525…
rayhsw commented on issue HswOAuth/llm_course#499 2025-02-07 19:25:04 +08:00
【求助帖】Chinese LLaMA Alpaca系列模型OpenAI API调用实现 curl使用的问题

在汇视威训练平台的jupyter里面输入命令。

rayhsw commented on issue HswOAuth/llm_course#486 2025-02-06 17:59:34 +08:00
【求助帖】25.1.21,Chinese LLaMA Alpaca系列模型OpenAI API调用实现 云平台链接问题

在notebook命令行,可以试试下面命令(在课件文档里面有):

curl http://127.0.0.1:19327/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H…