微调后，模型回复乱语 #309

New Issue

137_512 · 2024-10-27T22:58:48+08:00

137_512 commented

2024-10-27 22:58:48 +08:00

按照最新课件https://www.yuque.com/hkutangyu/di80sc/oy84gbs16y1ubzdd?singleDoc# 《基于LLaMA-Factory的模型微调训练》密码：amos 做完微调，模型回复的是乱语
训练界面为
预览数据集是正确的

按照最新课件https://www.yuque.com/hkutangyu/di80sc/oy84gbs16y1ubzdd?singleDoc# 《基于LLaMA-Factory的模型微调训练》密码：amos 做完微调，模型回复的是乱语<img width="1140" alt="image" src="/attachments/17d944e8-9208-4cd4-baa9-dedfb429eb63"> 训练界面为<img width="1138" alt="image" src="/attachments/e60b4777-d45c-4962-931a-826ac28d0a5f"> 预览数据集是正确的<img width="949" alt="image" src="/attachments/ca6a8222-7db8-4ea9-b082-c1bacbc16ea6">

image.png

151 KiB

image.png

68 KiB

image.png

62 KiB

12390900721cs commented

2024-10-28 11:20:59 +08:00

请问你在基座模型选择、基座模型加载、对话能力测试的部分实验结果是正确的吗？
如果是正确的话，请上传完整的后续微调实验内容，包括模型选择、数据集选择、微调后LOSS变化图，以及后续加载模型时的模型和检查点选择以及推理引擎选择等内容，再看看模型输出。你也可以直接上传视频方便纠错。

请问你在基座模型选择、基座模型加载、对话能力测试的部分实验结果是正确的吗？如果是正确的话，请上传完整的后续微调实验内容，包括模型选择、数据集选择、微调后LOSS变化图，以及后续加载模型时的模型和检查点选择以及推理引擎选择等内容，再看看模型输出。你也可以直接上传视频方便纠错。

kengdy commented

2024-10-28 15:46:06 +08:00

一样的问题,求助

kengdy commented

2024-10-28 16:06:55 +08:00

解决了,就是按照前面同学的解决方案,更新conda
的环境依赖版本 requrement.txt

解决了,就是按照前面同学的解决方案,更新conda 的环境依赖版本 requrement.txt

👍 1

BanGuihua commented

2024-10-28 22:20:49 +08:00

解决了,就是按照前面同学的解决方案,更新conda
的环境依赖版本 requrement.txt

请问是怎么解决的呀？我也遇到这个问题，我按requirments.txt安装了工具包都还是一样的问题。我在微调的时候主要报错代码是找不到什么文件

> 解决了,就是按照前面同学的解决方案,更新conda > 的环境依赖版本 requrement.txt 请问是怎么解决的呀？我也遇到这个问题，我按requirments.txt安装了工具包都还是一样的问题。我在微调的时候主要报错代码是找不到什么文件

image.png

132 KiB

8bb6d7d4225bc3be57db90ccce5ca87.png

102 KiB

bc49a7363117adecb02f061bd998f77.png

104 KiB

12390900721cs commented

2024-10-29 11:15:38 +08:00

解决了,就是按照前面同学的解决方案,更新conda
的环境依赖版本 requrement.txt

请问是怎么解决的呀？我也遇到这个问题，我按requirments.txt安装了工具包都还是一样的问题。我在微调的时候主要报错代码是找不到什么文件

可以看一下你的命令是在哪个目录下运行的吗~ 想看看你的LLaMA-Factory是在哪个目录启动的？

> > 解决了,就是按照前面同学的解决方案,更新conda > > 的环境依赖版本 requrement.txt > > 请问是怎么解决的呀？我也遇到这个问题，我按requirments.txt安装了工具包都还是一样的问题。我在微调的时候主要报错代码是找不到什么文件可以看一下你的命令是在哪个目录下运行的吗~ 想看看你的LLaMA-Factory是在哪个目录启动的？

Sign in to join this conversation.