hsw_ray rayhsw
1 Followers · 0 Following
  • Joined on 2024-07-17
Repositories
1
 Projects Packages Public Activity Starred Repositories
rayhsw commented on issue HswOAuth/llm_course#684 2025-04-10 18:08:58 +08:00
Chinese LLaMA Alpaca系列模型OpenAI API调用实现（2）--------Ray老师

请参考该文档打隧道的流程：https://www.yuque.com/hkutangyu/di80sc/zu3llhkvco622me4?singleDoc# 《私有化LLM仿OpenAI API接口的高可用工程实践》 密码：qrt3

rayhsw commented on issue HswOAuth/llm_course#684 2025-04-10 18:07:55 +08:00
Chinese LLaMA Alpaca系列模型OpenAI API调用实现（2）--------Ray老师
image
rayhsw commented on issue HswOAuth/llm_course#684 2025-04-10 18:07:48 +08:00
Chinese LLaMA Alpaca系列模型OpenAI API调用实现（2）--------Ray老师

课程中没有说要用“自定义服务”。请按照课程回放的步骤操作。 课程中也没有涉及AutoDL-SSH-Tools的使用。请用git bash打隧道即可。

rayhsw commented on issue HswOAuth/llm_course#683 2025-04-09 23:37:56 +08:00
Chinese LLaMA Alpaca系列模型OpenAI API调用实现--------Ray老师

因为每一个容器实例的ssh地址不一样，你看到的文档的ssh地址有可能和你容器实例的地址不一样。你也可以仔细看课程的回放，看看老师当时是怎么…

rayhsw commented on issue HswOAuth/llm_course#683 2025-04-09 23:36:19 +08:00
Chinese LLaMA Alpaca系列模型OpenAI API调用实现--------Ray老师

不确定您是否正确复制了autodl容器的ssh命令，为了能更好的帮助你解决问题，方便将整个操作过程录屏么？

rayhsw commented on issue HswOAuth/llm_course#672 2025-04-03 18:27:20 +08:00
汇视威平台上的DCU训练微调⼿册

huggingface-cache:V1数据集由于占用空间太大，已经清理。我们正在构建v2版本的huggingface-cache数据集，待构建好以后，在论坛通知。

rayhsw commented on issue HswOAuth/llm_course#609 2025-04-02 22:21:13 +08:00
【求助帖】20250207，大模型初探- 基于LLaMA-Factory的模型微调

麻烦全程录屏，我这边可以把你仔细检查操作流程。

rayhsw commented on issue HswOAuth/llm_course#672 2025-04-01 16:26:52 +08:00
汇视威平台上的DCU训练微调⼿册

是不是文件夹名字拼错了？datasets

rayhsw commented on issue HswOAuth/llm_course#649 2025-03-27 18:15:04 +08:00
2025年1月21日 Chinese LLaMA Alpaca 系列模型 Openai API调用实现

应该是下载完毕了，你的ls命令带有换行符，有误。你试试这个命令，ls -alhrt ls -alhrt ~/.cache/modelscope/hub/ChineseAlpacaGroup/llama-3-chinese-8b-instruct-v3

rayhsw commented on issue HswOAuth/llm_course#647 2025-03-25 23:08:52 +08:00
【求助帖】2406期-林希老师-课程27(多机多卡微调),微调合并后code_llama_sql.tar文件下载到本地困难

已设置最大文件限额30GB，最长下载超时时间30分钟，请再试试看。

rayhsw commented on issue HswOAuth/llm_course#647 2025-03-25 16:33:51 +08:00
【求助帖】2406期-林希老师-课程27(多机多卡微调),微调合并后code_llama_sql.tar文件下载到本地困难

我们这边内部测试复现下问题，找到解决方案后，发到论坛上。

rayhsw commented on issue HswOAuth/llm_course#626 2025-03-25 16:01:05 +08:00
2405期 LLaMA-Factory 8 bit 量化微调 报错，尝试多个方案没有结果，使用的参考文档如附件。

这个依赖项是从哪里获取的，麻烦解释一下，以便后续自己遇到问题可以自行先解决

该依赖项是老师经过测试可行的版本。

rayhsw commented on issue HswOAuth/llm_course#646 2025-03-25 15:56:59 +08:00
18-25.1.24-私有化LLM仿OpenAI API接口的高可用工程实践-Ray老师 ——oneAPI配置报错。

请问oneapi是部署在虚拟机内么？

rayhsw commented on issue HswOAuth/llm_course#626 2025-03-21 16:34:06 +08:00
2405期 LLaMA-Factory 8 bit 量化微调 报错，尝试多个方案没有结果，使用的参考文档如附件。

是否安装了特定依赖？如下图所示： image

使用pip install -r requirements_llm.txt命令安装，…

rayhsw commented on issue HswOAuth/llm_course#609 2025-03-18 12:05:50 +08:00
【求助帖】20250207，大模型初探- 基于LLaMA-Factory的模型微调

建议换一台机器试试看。怀疑是显卡的问题。

rayhsw commented on issue HswOAuth/llm_course#626 2025-03-18 12:01:38 +08:00
2405期 LLaMA-Factory 8 bit 量化微调 报错，尝试多个方案没有结果，使用的参考文档如附件。

是否严格按照教案里面的pip requirements.txt安装包，因为换了版本可能存在不兼容。

rayhsw commented on issue HswOAuth/llm_course#625 2025-03-18 11:59:48 +08:00
超算平台上能支持llamafactory微调吗？安装llamafactory环境的时候总是会报错

llamafactory的课程是基于英伟达的哦。后期应该会出基于DCU的lamafactory微调教程，不过时间不确定。

rayhsw commented on issue HswOAuth/llm_course#623 2025-03-18 11:58:27 +08:00
【求助帖】超算平台上上传模型文件总是失败怎么办

请问模型大概有多大，现在平台不支持http的方式上传太大的文件，1G一下应该可以。如果大于1G，建议在notebook里面使用wget或者scp访问从外部传入到集…

rayhsw commented on issue HswOAuth/llm_course#618 2025-03-14 22:22:31 +08:00
【求助帖】2406期-林希老师-课程27(多机多卡微调),微调合并后code_llama_sql.tar文件下载到本地困难

平台没有对下载做限制。可以把下载地址提供下，我们这边复现下问题。

rayhsw commented on issue HswOAuth/llm_course#617 2025-03-14 22:20:39 +08:00
超算平台上训练的模型能够把模型文件下载下来吗？

可以的，右键点击模型文件，应该有下载按钮。