hsw_ray rayhsw
1 Followers · 0 Following
  • Joined on 2024-07-17
Repositories
1
 Projects Packages Public Activity Starred Repositories
rayhsw commented on issue HswOAuth/llm_course#609 2025-03-14 22:19:52 +08:00
【求助帖】20250207，大模型初探- 基于LLaMA-Factory的模型微调

看看点击“卸载”模型后，显存有没有下降？

rayhsw commented on issue HswOAuth/llm_course#615 2025-03-12 22:23:23 +08:00
2024-9-3 Chinese LLaMA Apaca系列模型 OpenAI API 调用实现：nextchat 显示failed to fetch，终端里的模型已经显示启动成功了

请录屏整个操作，或者截图nextchat到配置，方便排查问题。

rayhsw commented on issue HswOAuth/llm_course#614 2025-03-12 22:22:03 +08:00
汇视威平台如何查看当前机器的ssh指令的一些参数和端口

汇视威平台不支持ssh

rayhsw commented on issue HswOAuth/llm_course#613 2025-03-12 22:21:30 +08:00
汇视威平台如何构建自己的算法和镜像

第二张图，镜像来源选择“远程镜像”，或者本地把镜像打包成zip也可以（上传不能太大，几GB可以，如果很大，建议使用远程镜像） <img width="727"…

rayhsw commented on issue HswOAuth/llm_course#609 2025-03-12 22:18:09 +08:00
【求助帖】20250207，大模型初探- 基于LLaMA-Factory的模型微调

可以在命令行，输入nvidia-smi查看是否还有其他进程占用显存

rayhsw commented on issue HswOAuth/llm_course#582 2025-02-26 18:07:33 +08:00
【求助帖】2024年9月24号基于lamafactory 的模型微调训练

请参考教案安装命令行工具，不要使用windows自带的CMD工具。https://www.yuque.com/hkutangyu/di80sc/ui2g14g7tc6qww2x?singleDoc# 《中文llama3仿openai api实战》 密码：kbvc…

rayhsw commented on issue HswOAuth/llm_course#572 2025-02-24 15:05:44 +08:00
【求助帖】17-Chinese LLaMA Alpaca系列模型OpenAI API调用实现-25.1.21

我们一个问题一个问题解决，首先您需要有一台Linux主机，分两种情况：

  1. 你有linux物理机并且带有3090显卡（wsl显卡直通也行），那么可以跟…
rayhsw commented on issue HswOAuth/llm_course#574 2025-02-24 14:59:38 +08:00
【求助帖】我在微调大模型的时候，经常报错，导致微调训练报错，需要怎么处理哇
image
rayhsw commented on issue HswOAuth/llm_share#79 2025-02-24 14:37:23 +08:00
【基础认知问题】汇视威AI训练平台-算法管理
  1. 算法管理里的“公共算法”背后实质是一个容器镜像，封装了不通算法的镜像；
  2. 其他平台的使用方法也很类似；
  3. 是的，你的理解是对的；
rayhsw commented on issue HswOAuth/llm_course#574 2025-02-21 18:18:05 +08:00
【求助帖】我在微调大模型的时候，经常报错，导致微调训练报错，需要怎么处理哇

GPU的显存没有释放。是不是其他应用占用，或者llama-factory的chat模块没有释放。

rayhsw commented on issue HswOAuth/llm_course#573 2025-02-21 18:17:10 +08:00
远程镜像怎么用？

是的，但是镜像要确保不是私有的。

rayhsw commented on issue HswOAuth/llm_course#572 2025-02-21 18:15:29 +08:00
【求助帖】17-Chinese LLaMA Alpaca系列模型OpenAI API调用实现-25.1.21

我们一个问题一个问题解决，首先您需要有一台Linux主机，分两种情况：

  1. 你有linux物理机并且带有3090显卡（wsl显卡直通也行），那么可以跟随老师…
rayhsw commented on issue HswOAuth/llm_course#565 2025-02-21 18:10:22 +08:00
关于华为昇腾多卡部署deepseek的问题咨询

可以参考这个链接：https://mp.weixin.qq.com/s/4-C17F--IbdLTbv_7yEk8w

rayhsw commented on issue HswOAuth/llm_course#543 2025-02-18 15:45:07 +08:00
问题贴--llm-factory课，重新启动后输入版本查看命令提示如下错误

似乎是没有激活虚拟换，我看到你的命令行开头是（base）环境，不是llama-factory的环境。是否使用conda activate 激活了虚拟环境？

rayhsw commented on issue HswOAuth/llm_course#534 2025-02-17 18:25:59 +08:00
【求助贴】2406-课程18-Ray老师,oneapi docker compose无法成功启动(gpu,cpu服务运行均成功）

oneapi不是在autodl启动，需要在自己的服务器上（不需要显卡）安装了docker和docker compose后启动。

谢谢老师。明白了，不过我没有自己的服务器…

rayhsw commented on issue HswOAuth/llm_course#555 2025-02-17 18:24:47 +08:00
deepseek-r1部署问题

可以参考下面的图： image

rayhsw commented on issue HswOAuth/llm_course#538 2025-02-14 16:47:54 +08:00
【求助贴】提示词工程-多机多卡微调课程，根据课程步骤创建NoteBook，一直处在等待中，求助，另有问题求解

根据课程步骤做实验，就卡死在了第一步，一直等待中，不能变成运行中

相关问题：模型训练和训练管理有什么关系，又是怎么关联起来的，…

rayhsw commented on issue HswOAuth/llm_course#546 2025-02-14 16:41:56 +08:00
【求助帖】25.1.21-17-Chinese LLaMA Alpaca系列模型OpenAI API调用实现

可以将conda删除后重装，然后在下面的步骤中，选择yes。 image

rayhsw commented on issue HswOAuth/llm_course#544 2025-02-14 16:40:26 +08:00
【求助帖】基于LLaMA-Factory的模型微调训练 训练一次后就出错

应该是没有释放模型。

rayhsw commented on issue HswOAuth/llm_course#543 2025-02-14 16:39:56 +08:00
问题贴--llm-factory课，重新启动后输入版本查看命令提示如下错误

是否有按课件一步一步创建虚拟环境，安装依赖。看起来是依赖包未正确安装，可以考虑将整个操作过程录屏，供老师参考排查。