guowenlong
  • Joined on 2024-10-21
guowenlong commented on issue HswOAuth/llm_course#291 2024-10-25 16:57:28 +08:00
作业:如何使用量化技术训练,上课日期:24-10-20

关联我之前实验发生问题的issue #273

guowenlong opened issue HswOAuth/llm_course#291 2024-10-25 16:56:41 +08:00
作业:如何使用量化技术训练,上课日期:24-10-20
guowenlong commented on issue HswOAuth/llm_course#273 2024-10-25 16:49:42 +08:00
【求助帖】2024-10-20 基于LLaMA-Factory的模型微调训练过程中报错,查看控制台日志发现有一处有问题

使用Qwen-7B-Chat 进行实验,已经顺利完成: 1.基座模型加载和问答 2.指令微调后的模型加载和问答,回答符合预期。 3.量化后微调的加载和问答,回…

guowenlong commented on issue HswOAuth/llm_course#273 2024-10-25 16:43:10 +08:00
【求助帖】2024-10-20 基于LLaMA-Factory的模型微调训练过程中报错,查看控制台日志发现有一处有问题

请将LLaMA-Factory放置在/root/目录下,也就是:/root/LLaMA-Factory,然后再重复做一次实验

image

之前的实…

guowenlong commented on issue HswOAuth/llm_course#273 2024-10-24 10:32:38 +08:00
【求助帖】2024-10-20 基于LLaMA-Factory的模型微调训练过程中报错,查看控制台日志发现有一处有问题

你好,老师,已经录屏,微调后还是乱回答。我关注了#279 ,解决了Could not load library libnvrtc.so.12. Error问题。 命令为: export LD_LIBRARY_PATH=/root/miniconda3/…

guowenlong commented on issue HswOAuth/llm_course#273 2024-10-23 21:46:47 +08:00
【求助帖】2024-10-20 基于LLaMA-Factory的模型微调训练过程中报错,查看控制台日志发现有一处有问题

两台实例都截图了 image image

我的环境依赖: ![image](/attachments/24…

guowenlong commented on issue HswOAuth/llm_course#273 2024-10-23 16:23:20 +08:00
【求助帖】2024-10-20 基于LLaMA-Factory的模型微调训练过程中报错,查看控制台日志发现有一处有问题

运行基座模型进行问答没有问题,是在微调过程中出现的该问题。我看了issue #261 ,应该跟他的情况一样,也看到了微调过程中报:Could not load library…

guowenlong commented on issue HswOAuth/llm_course#273 2024-10-23 12:19:05 +08:00
【求助帖】2024-10-20 基于LLaMA-Factory的模型微调训练过程中报错,查看控制台日志发现有一处有问题

补充:尝试了2台autodl实例都报上述错误:Could not load library libnvrtc.so.12. Error: libnvrtc.so.12: cannot open shared object file: No such file or directory,

guowenlong opened issue HswOAuth/llm_course#273 2024-10-23 12:08:32 +08:00
【求助帖】2024-10-20 基于LLaMA-Factory的模型微调训练过程中报错,查看控制台日志发现有一处有问题
guowenlong opened issue HswOAuth/llm_course#266 2024-10-22 15:40:28 +08:00
【求助帖】2024-10-20 百度网盘课件分享语雀链接有问题
guowenlong closed issue HswOAuth/llm_course#248 2024-10-22 15:36:42 +08:00
【求助帖】2024/10/18 在autodl的实例无卡启动后安装docker环境失败
guowenlong commented on issue HswOAuth/llm_course#248 2024-10-22 15:36:40 +08:00
【求助帖】2024/10/18 在autodl的实例无卡启动后安装docker环境失败

好的,我看到有类似的回答了,实际我是想用docker在autodl上部署one-api

guowenlong opened issue HswOAuth/llm_course#248 2024-10-21 13:58:33 +08:00
【求助帖】2024/10/18 在autodl的实例无卡启动后安装docker环境失败