HswOAuth
18 Followers · 0 Following
  • Joined on 2024-05-26
Repositories
4
 Projects Packages Public Activity Starred Repositories
HswOAuth commented on issue HswOAuth/llm_course#333 2024-11-05 11:12:14 +08:00
10.16课件：中文llama3仿openai api实战

请看一下

我看您的源代码有问题，这是我们上课时候的源码文件，可以替换下你的源码，看看能不能运行。另外也可以自行查看下两个文件的区…

HswOAuth commented on issue HswOAuth/llm_course#333 2024-11-04 21:44:44 +08:00
10.16课件：中文llama3仿openai api实战

老师，帮我看看哪里有bug？

你好，麻烦将修改后的文件，通过附件形式上传，我们这边拿到你修改后的源文件后，方便排查问题

HswOAuth commented on issue HswOAuth/llm_course#308 2024-11-03 15:21:21 +08:00
【求助贴】隧道创建成功后，无法访问127.0.0.1:7860

另外，你的容器可能还存在一个问题，就是你使用命令启动llama-factory的时候，通常情况下，应该是监听7860端口，但是你给我的视频看起来非常奇怪，…

HswOAuth commented on issue HswOAuth/llm_course#308 2024-11-03 15:11:04 +08:00
【求助贴】隧道创建成功后，无法访问127.0.0.1:7860

另外，我们融汇贯通一下，比如，我想在本机windows通过http://127.0.0.1:7860访问到服务端到7862端口，那么隧道命令怎么打？ ssh -CNgv -L 7860:127.0.0.1:7862…

HswOAuth commented on issue HswOAuth/llm_course#308 2024-11-03 15:05:28 +08:00
【求助贴】隧道创建成功后，无法访问127.0.0.1:7860

仍无法打开

image 可以参考这个隧道命令：ssh -CNgv -L 7861:127.0.0.1:7861 root@connect.beijinga.s…
HswOAuth commented on issue HswOAuth/llm_course#299 2024-10-28 11:45:11 +08:00
求助贴 L2-第一课13-24.9.3-Chinese LLaMA Alpaca系列模型OpenAI API调用实现-Ray老师

刚跑起来了，但是客户端提示还是有问题，我看NEXTCHAT 配置也是正确的。请问是什么原因

<img width="415" alt="image" src="/attachments/d661931b-32c4-4051-b728…

HswOAuth commented on issue HswOAuth/llm_course#273 2024-10-26 03:07:26 +08:00
【求助帖】2024-10-20 基于LLaMA-Factory的模型微调训练过程中报错，查看控制台日志发现有一处有问题

glm的问题，可以参考最新的课件https://www.yuque.com/hkutangyu/di80sc/oy84gbs16y1ubzdd?singleDoc# 《基于LLaMA-Factory的模型微调训练》 密码：amos，是因为依赖包版本…

HswOAuth commented on issue HswOAuth/llm_course#285 2024-10-26 03:06:02 +08:00
【求助帖】llama factory微调后，大模型乱回复

找到问题了，已经更新了课件，请按最新课件操作流程来：https://www.yuque.com/hkutangyu/di80sc/oy84gbs16y1ubzdd?singleDoc# 《基于LLaMA-Factory的模型微调训练》…

HswOAuth commented on issue HswOAuth/llm_course#261 2024-10-26 02:35:55 +08:00
微调时，没有曲线，检查点选中后，大模型开始胡言乱语

并使用fp16试试image

HswOAuth commented on issue HswOAuth/llm_course#261 2024-10-25 20:54:55 +08:00
微调时，没有曲线，检查点选中后，大模型开始胡言乱语

请将LLaMA-Factory放置在/root/目录下，也就是：/root/LLaMA-Factory，然后再重复做一次实验 <img width="1040" alt="image" src="/attachments/9d6e2945-6b25-40dc-9986-25e41…

HswOAuth commented on issue HswOAuth/llm_course#261 2024-10-25 11:03:01 +08:00
微调时，没有曲线，检查点选中后，大模型开始胡言乱语

请将LLaMA-Factory放置在/root/目录下，也就是：/root/LLaMA-Factory，然后再重复做一次实验 image

HswOAuth commented on issue HswOAuth/llm_course#273 2024-10-23 20:33:45 +08:00
【求助帖】2024-10-20 基于LLaMA-Factory的模型微调训练过程中报错，查看控制台日志发现有一处有问题

麻烦截下图，看看启动容器镜像时，选择的镜像版本是多少？

HswOAuth commented on issue HswOAuth/llm_course#269 2024-10-22 21:15:50 +08:00
AutoDL的jupyter网页端，创建新用户后在左边目录查找不到

课程不涉及新用户创建哦

HswOAuth commented on issue HswOAuth/llm_course#270 2024-10-22 21:15:20 +08:00
【求助帖】10.16 llama3 仿openAPI实战，本地部署启动问题

应该是内存太小，可以使用watch free -h观察内存消耗

HswOAuth commented on issue HswOAuth/llm_course#242 2024-10-22 21:14:11 +08:00
【求助帖】10/20 大模型初探-基于LLaMA-Factory的模型微调训练

是否是按上课时一幕一样操作？所使用的环境能否告知一下？比如说autodl租用，还是自己私有化服务器？

HswOAuth commented on issue HswOAuth/llm_course#243 2024-10-22 21:12:52 +08:00
【求助】基于LLaMA-Factory的模型微调训练train_loss为1985太大

请保持所有参数与上课时一致，再次尝试微调，观察下loss

HswOAuth commented on issue HswOAuth/llm_course#229 2024-10-22 21:11:25 +08:00
【求助】LLaMA-Factory对 GLM-4-9B-Chat 进行模型微调loss直接为0

可以尝试将模型删除，然后重新下载基座模型试试，另外请保持与上课时参数一模一样，再尝试看能否可以微调

HswOAuth commented on issue HswOAuth/llm_course#258 2024-10-22 21:08:31 +08:00
模型的微调出错

请录屏整个屏幕操作流程，或者截图时候截取完整网页界面，便于后续问题排查

HswOAuth commented on issue HswOAuth/llm_course#261 2024-10-22 21:06:48 +08:00
微调时，没有曲线，检查点选中后，大模型开始胡言乱语

请截完整的ui界面，便于排查模型问题，确保使用了GLM-4-9b-chat，如果条件允许，请录屏，然后上传操作视频，方便排查问题，谢谢。

HswOAuth commented on issue HswOAuth/llm_course#260 2024-10-22 17:30:12 +08:00
[求助工单]2024/10/16老师我ssh也成功建立了隧道了，但好像还是无法连接服务器。

请将https改成http