求助贴---大模型04期Function Call实践作业问题 #394

New Issue

11252177484cs · 2024-11-23T15:00:51+08:00

11252177484cs commented

2024-11-23 15:00:51 +08:00

作业是【进阶】使用function call数据测试微调大模型，提升大模型functioncall能力。详见附图1.
问题：
数据集下载完成，使用notebook： xtuner train /code/llama3_8b_instruct_qlora_alpaca_e3_copy.py --work-dir /userhome/llama3-8b-ft/function-calling --deepspeed deepspeed_zero3_offload 可正常运行到如下步骤。
11/23 14:51:20 - mmengine - INFO - Iter(train) [ 10/4329] lr: 1.4064e-05 eta: 1 day, 18:51:31 time: 35.7239 data_time: 0.0177 memory: 6909 loss: 0.8403

但是用训练管理任务进行微调训练，会报错，比较奇怪。训练任务如附图2.

一共采用了4台主机进行多机多卡训练，详见附件文件。

附图1：

附图2：

附上报错文件，共4个文件

作业是【进阶】使用function call数据测试微调大模型，提升大模型functioncall能力。详见附图1. 问题：数据集下载完成，使用notebook： xtuner train /code/llama3_8b_instruct_qlora_alpaca_e3_copy.py --work-dir /userhome/llama3-8b-ft/function-calling --deepspeed deepspeed_zero3_offload 可正常运行到如下步骤。 11/23 14:51:20 - mmengine - INFO - Iter(train) [ 10/4329] lr: 1.4064e-05 eta: 1 day, 18:51:31 time: 35.7239 data_time: 0.0177 memory: 6909 loss: 0.8403 但是用训练管理任务进行微调训练，会报错，比较奇怪。训练任务如附图2. 一共采用了4台主机进行多机多卡训练，详见附件文件。附图1： <img width="412" alt="image" src="/attachments/5f6b7e88-0064-4193-b425-5ac434518a9b"> 附图2： <img width="408" alt="image" src="/attachments/7ddb5f78-965b-41bc-b768-7b48d784bcb5"> 附上报错文件，共4个文件

image.png

964 KiB

image.png

902 KiB

第一台日志3.docx

22 KiB

第2台日志3.docx

16 KiB

第3日志3.docx

16 KiB

第4台志3.docx

16 KiB