hsw_ray rayhsw
  • Joined on 2024-07-17
rayhsw commented on issue HswOAuth/llm_course#683 2025-04-09 23:36:19 +08:00
Chinese LLaMA Alpaca系列模型OpenAI API调用实现--------Ray老师

不确定您是否正确复制了autodl容器的ssh命令,为了能更好的帮助你解决问题,方便将整个操作过程录屏么?

rayhsw commented on issue HswOAuth/llm_course#672 2025-04-03 18:27:20 +08:00
汇视威平台上的DCU训练微调⼿册

huggingface-cache:V1数据集由于占用空间太大,已经清理。我们正在构建v2版本的huggingface-cache数据集,待构建好以后,在论坛通知。

rayhsw commented on issue HswOAuth/llm_course#609 2025-04-02 22:21:13 +08:00
【求助帖】20250207,大模型初探- 基于LLaMA-Factory的模型微调

麻烦全程录屏,我这边可以把你仔细检查操作流程。

rayhsw commented on issue HswOAuth/llm_course#672 2025-04-01 16:26:52 +08:00
汇视威平台上的DCU训练微调⼿册

是不是文件夹名字拼错了?datasets

rayhsw commented on issue HswOAuth/llm_course#649 2025-03-27 18:15:04 +08:00
2025年1月21日 Chinese LLaMA Alpaca 系列模型 Openai API调用实现

应该是下载完毕了,你的ls命令带有换行符,有误。你试试这个命令,ls -alhrt ls -alhrt ~/.cache/modelscope/hub/ChineseAlpacaGroup/llama-3-chinese-8b-instruct-v3

rayhsw commented on issue HswOAuth/llm_course#647 2025-03-25 23:08:52 +08:00
【求助帖】2406期-林希老师-课程27(多机多卡微调),微调合并后code_llama_sql.tar文件下载到本地困难

已设置最大文件限额30GB,最长下载超时时间30分钟,请再试试看。

rayhsw commented on issue HswOAuth/llm_course#647 2025-03-25 16:33:51 +08:00
【求助帖】2406期-林希老师-课程27(多机多卡微调),微调合并后code_llama_sql.tar文件下载到本地困难

我们这边内部测试复现下问题,找到解决方案后,发到论坛上。

rayhsw commented on issue HswOAuth/llm_course#626 2025-03-25 16:01:05 +08:00
2405期 LLaMA-Factory 8 bit 量化微调 报错,尝试多个方案没有结果,使用的参考文档如附件。

这个依赖项是从哪里获取的,麻烦解释一下,以便后续自己遇到问题可以自行先解决

该依赖项是老师经过测试可行的版本。

rayhsw commented on issue HswOAuth/llm_course#646 2025-03-25 15:56:59 +08:00
18-25.1.24-私有化LLM仿OpenAI API接口的高可用工程实践-Ray老师 ——oneAPI配置报错。

请问oneapi是部署在虚拟机内么?

rayhsw commented on issue HswOAuth/llm_course#626 2025-03-21 16:34:06 +08:00
2405期 LLaMA-Factory 8 bit 量化微调 报错,尝试多个方案没有结果,使用的参考文档如附件。

是否安装了特定依赖?如下图所示: image

使用pip install -r requirements_llm.txt命令安装,…

rayhsw commented on issue HswOAuth/llm_course#609 2025-03-18 12:05:50 +08:00
【求助帖】20250207,大模型初探- 基于LLaMA-Factory的模型微调

建议换一台机器试试看。怀疑是显卡的问题。

rayhsw commented on issue HswOAuth/llm_course#626 2025-03-18 12:01:38 +08:00
2405期 LLaMA-Factory 8 bit 量化微调 报错,尝试多个方案没有结果,使用的参考文档如附件。

是否严格按照教案里面的pip requirements.txt安装包,因为换了版本可能存在不兼容。

rayhsw commented on issue HswOAuth/llm_course#625 2025-03-18 11:59:48 +08:00
超算平台上能支持llamafactory微调吗?安装llamafactory环境的时候总是会报错

llamafactory的课程是基于英伟达的哦。后期应该会出基于DCU的lamafactory微调教程,不过时间不确定。

rayhsw commented on issue HswOAuth/llm_course#623 2025-03-18 11:58:27 +08:00
【求助帖】超算平台上上传模型文件总是失败怎么办

请问模型大概有多大,现在平台不支持http的方式上传太大的文件,1G一下应该可以。如果大于1G,建议在notebook里面使用wget或者scp访问从外部传入到集…

rayhsw commented on issue HswOAuth/llm_course#618 2025-03-14 22:22:31 +08:00
【求助帖】2406期-林希老师-课程27(多机多卡微调),微调合并后code_llama_sql.tar文件下载到本地困难

平台没有对下载做限制。可以把下载地址提供下,我们这边复现下问题。

rayhsw commented on issue HswOAuth/llm_course#617 2025-03-14 22:20:39 +08:00
超算平台上训练的模型能够把模型文件下载下来吗?

可以的,右键点击模型文件,应该有下载按钮。

rayhsw commented on issue HswOAuth/llm_course#609 2025-03-14 22:19:52 +08:00
【求助帖】20250207,大模型初探- 基于LLaMA-Factory的模型微调

看看点击“卸载”模型后,显存有没有下降?

rayhsw commented on issue HswOAuth/llm_course#615 2025-03-12 22:23:23 +08:00
2024-9-3 Chinese LLaMA Apaca系列模型 OpenAI API 调用实现:nextchat 显示failed to fetch,终端里的模型已经显示启动成功了

请录屏整个操作,或者截图nextchat到配置,方便排查问题。

rayhsw commented on issue HswOAuth/llm_course#614 2025-03-12 22:22:03 +08:00
汇视威平台如何查看当前机器的ssh指令的一些参数和端口

汇视威平台不支持ssh

rayhsw commented on issue HswOAuth/llm_course#613 2025-03-12 22:21:30 +08:00
汇视威平台如何构建自己的算法和镜像

第二张图,镜像来源选择“远程镜像”,或者本地把镜像打包成zip也可以(上传不能太大,几GB可以,如果很大,建议使用远程镜像) <img width="727"…