【求助帖】大模型微调后回复乱码 #364

New Issue

137_512 · 2024-11-08T11:46:42+08:00

137_512 commented

2024-11-08 11:46:42 +08:00

大模型微调后回复的时乱码

微调后胡言乱语.mp4

15 MiB

21547230244cs commented

2024-11-08 14:58:08 +08:00

由于之前也有一些同学出现了类似的问题，已经解决问题并更新了新的操作手册：

https://www.yuque.com/hkutangyu/di80sc/oy84gbs16y1ubzdd?singleDoc# 《基于LLaMA-Factory的模型微调训练》密码：amos

麻烦确认以下是否按照新的流程来的，同时也可以参考下其他同学发的相关的求助帖~

由于之前也有一些同学出现了类似的问题，已经解决问题并更新了新的操作手册： https://www.yuque.com/hkutangyu/di80sc/oy84gbs16y1ubzdd?singleDoc# 《基于LLaMA-Factory的模型微调训练》密码：amos 麻烦确认以下是否按照新的流程来的，同时也可以参考下其他同学发的相关的求助帖~

137_512 commented

2024-11-08 16:31:28 +08:00

这里没看懂，requirements_llm.txt这个文件在哪里创建（写字板还是 jupyterlab），保存在哪里？
我在jupyterlab创建的，保存在LLaMA-Factory目录下，

运行安装时显示出错，找不到文件

这里没看懂，requirements_llm.txt这个文件在哪里创建（写字板还是 jupyterlab），保存在哪里？我在jupyterlab创建的，保存在LLaMA-Factory目录下， <img width="284" alt="image" src="/attachments/c7d33fee-bb30-4acf-a655-034a6d97d2fb"> 运行安装时显示出错，找不到文件<img width="938" alt="image" src="/attachments/82252fb2-d6d0-4da2-a802-14bea1fb1216">

image.png

40 KiB

image.png

13 KiB

21547230244cs commented

2024-11-08 17:13:36 +08:00

放在LLaMA-Factory底下是正确的；您的操作没有错。

打开requirements_llm.txt文件，将第一行与最后一行删掉。

我录了操作视频，您可以看看。

放在LLaMA-Factory底下是正确的；您的操作没有错。打开requirements_llm.txt文件，将第一行与最后一行删掉。我录了操作视频，您可以看看。

20241108_170809.mp4

25 MiB