hsw_ray rayhsw
  • Joined on 2024-07-17
rayhsw commented on issue HswOAuth/llm_course#741 2025-05-29 18:16:56 +08:00
复现20250304作业遇到问题

您启动notebook,一直在等待中,说明平台暂时没有计算资源。这和您创建notebook时,“自动停止”哪里设置多少没有关系。

rayhsw commented on issue HswOAuth/llm_course#727 2025-05-19 17:57:39 +08:00
大语言模型训练篇:多机多卡微调+fastgpt入门--数据集dataset为空

请问是参照哪个文档?

rayhsw commented on issue HswOAuth/llm_course#725 2025-05-13 17:48:20 +08:00
汇视威-SCNet 在平台去下载模型,运行代码找不到模型

./ViT-B-32xxxxxx换成/ViT-B-32xxxx试试?

rayhsw commented on issue HswOAuth/llm_course#720 2025-04-30 15:19:57 +08:00
关于面试的一些问题

可以关注一些RAG(检索增强生成)问答助手方便的项目,展示从数据清洗(如处理TB级日志)、特征工程到模型训练(如微调BERT、GPT)的全流程,强…

rayhsw commented on issue HswOAuth/llm_course#703 2025-04-24 18:17:50 +08:00
llama-factory训练出错

请参考上课时,my_demo.json的格式:

[
  {
    "instruction": "你好",
    "input": "",
    "output": "您好我是 信息中心AI助手一个由 信息中心
rayhsw commented on issue HswOAuth/llm_course#609 2025-04-23 16:25:10 +08:00
【求助帖】20250207,大模型初探- 基于LLaMA-Factory的模型微调

麻烦运行下面的命令:pip freeze > requirements_output.txt,然后把requirements_output.txt发到论坛上,我这边怀疑是您的pytorch版本或者其他依赖包版本和老师的…

rayhsw commented on issue HswOAuth/llm_course#692 2025-04-15 11:48:14 +08:00
【求助帖】2025-3-4 AGI2406期 大语言模型训练篇:多机多卡微调+fastgpt入门

如果您时间上不紧急,也可以把您要用的那个数据集名称发给我,我去临时构建一个数据集给您使用。

rayhsw commented on issue HswOAuth/llm_course#692 2025-04-15 11:47:24 +08:00
【求助帖】2025-3-4 AGI2406期 大语言模型训练篇:多机多卡微调+fastgpt入门

公共数据集正在重新构建,待构建好后,会在论坛进行通知。在此期间,您可以将您要用的数据集通过自己的方式,构建后上传。

rayhsw commented on issue HswOAuth/llm_course#690 2025-04-14 11:34:03 +08:00
【求助帖】关于汇视威超算平台的服务器使用远程终端工具连接的问题

您好,超算平台的服务器出于安全考虑,不支持外部ssh链接。

rayhsw commented on issue HswOAuth/llm_course#684 2025-04-11 15:56:25 +08:00
Chinese LLaMA Alpaca系列模型OpenAI API调用实现(2)--------Ray老师

当您仔细查看了上面的帖子后,详细学习了到底什么是ssh隧道,弄清楚了原理后,您应该知道,打隧道的命令是?请不要看我下面的答案,自己琢磨…

rayhsw commented on issue HswOAuth/llm_course#684 2025-04-11 15:50:40 +08:00
Chinese LLaMA Alpaca系列模型OpenAI API调用实现(2)--------Ray老师

也可以参考这个帖子:HswOAuth/llm_course#308

可以参考这个隧道命令:ssh -CNgv -L 7861:127.0.0.1:7861 root@connect.beijinga.seetacloud.com…

rayhsw commented on issue HswOAuth/llm_course#684 2025-04-11 15:48:42 +08:00
Chinese LLaMA Alpaca系列模型OpenAI API调用实现(2)--------Ray老师

另外,请使用你windows的git bash工具打隧道,保持和上课时候的操作一样,关于打隧道的详细解释,建议仔细阅读这里:https://hsw-git.huishiwei.cn/HswOAuth/llm

rayhsw commented on issue HswOAuth/llm_course#688 2025-04-11 15:43:43 +08:00
Chinese LLaMA Alpaca系列模型OpenAI API调用实现(3)--------Ray老师

我看您开了很多个帖子,麻烦在同一个地方提问:HswOAuth/llm_course#684

rayhsw commented on issue HswOAuth/llm_course#684 2025-04-11 15:42:43 +08:00
Chinese LLaMA Alpaca系列模型OpenAI API调用实现(2)--------Ray老师

你好:老师 我修正了端口错误后, 在autodl上启动 GPU服务后, 本地端口19328 还是无法访问! 请看我的操作视频

视频中,没有看到您打隧道…

rayhsw commented on issue HswOAuth/llm_course#684 2025-04-10 18:08:58 +08:00
Chinese LLaMA Alpaca系列模型OpenAI API调用实现(2)--------Ray老师

请参考该文档打隧道的流程:https://www.yuque.com/hkutangyu/di80sc/zu3llhkvco622me4?singleDoc# 《私有化LLM仿OpenAI API接口的高可用工程实践》 密码:qrt3

rayhsw commented on issue HswOAuth/llm_course#684 2025-04-10 18:07:48 +08:00
Chinese LLaMA Alpaca系列模型OpenAI API调用实现(2)--------Ray老师

课程中没有说要用“自定义服务”。请按照课程回放的步骤操作。 课程中也没有涉及AutoDL-SSH-Tools的使用。请用git bash打隧道即可。

rayhsw commented on issue HswOAuth/llm_course#683 2025-04-09 23:37:56 +08:00
Chinese LLaMA Alpaca系列模型OpenAI API调用实现--------Ray老师

因为每一个容器实例的ssh地址不一样,你看到的文档的ssh地址有可能和你容器实例的地址不一样。你也可以仔细看课程的回放,看看老师当时是怎么…