HswOAuth/llm_course
19
16
Fork 0
Code Issues 633 Pull Requests Actions Packages Projects Releases Wiki Activity

【求助帖】11提示词工程实践-llama7b模型微调报错 #157

New Issue
Open
opened 2024-10-06 23:03:16 +08:00 by wofociba · 5 comments
wofociba commented 2024-10-06 23:03:16 +08:00
Copy Link

如题，在根据教程在【03】步骤时报错

如题，在根据教程在【03】步骤时报错
01.png
436 KiB
02.png
617 KiB
03.png
171 KiB
01.png 02.png 03.png
wofociba changed title from 11\提示词工程实践-llama7b模型微调报错 to 【求助帖】11提示词工程实践-llama7b模型微调报错 2024-10-06 23:10:12 +08:00
wofociba commented 2024-10-06 23:50:55 +08:00
Author
Copy Link

对照视频进行第二次运行，报错

对照视频进行第二次运行，报错
新报错.png
516 KiB
新报错.png
GANGUAGUA commented 2024-10-08 17:06:05 +08:00
Copy Link

可以尝试把当前算法删除，重新复制算法创建一个新的算法试试

可以尝试把当前算法删除，重新复制算法创建一个新的算法试试
👍 1
12390900721cs commented 2024-10-08 17:10:09 +08:00
Copy Link

删除并重建算法：
eacb5608e802510377f561ebc1deb0a.png
d0aa143298a58f2d930fa10135d491e.png
如果能解决这个问题那么可能是之前在该算法中进行的一些操作导致环境或一些代码出现了修改。重新下一次这个算法再跑一次就能成功。

删除并重建算法： ![eacb5608e802510377f561ebc1deb0a.png](/attachments/6b170096-3c0f-4e85-9aa8-c29256b10d7b) ![d0aa143298a58f2d930fa10135d491e.png](/attachments/232ded3a-a7f3-440d-9c8a-88696d2513dd) 如果能解决这个问题那么可能是之前在该算法中进行的一些操作导致环境或一些代码出现了修改。重新下一次这个算法再跑一次就能成功。
eacb5608e802510377f561ebc1deb0a.png
80 KiB
d0aa143298a58f2d930fa10135d491e.png
104 KiB
👍 1
wofociba commented 2024-10-09 18:38:32 +08:00
Author
Copy Link

重新新建算法，在输入微调指令启动后是这个结果，跟课件里的不一致，是哪一步有问题嘛

重新新建算法，在输入微调指令启动后是这个结果，跟课件里的不一致，是哪一步有问题嘛
img_v3_02fg_20169de1-d1b9-468b-9bdf-d66cecebcbbg.png
543 KiB
img_v3_02fg_2396976a-1744-4e45-b605-07a5392aa22g.png
519 KiB
img_v3_02fg_20169de1-d1b9-468b-9bdf-d66cecebcbbg.png img_v3_02fg_2396976a-1744-4e45-b605-07a5392aa22g.png
21547230244cs commented 2024-10-10 18:28:01 +08:00
Copy Link

重新新建算法，在输入微调指令启动后是这个结果，跟课件里的不一致，是哪一步有问题嘛

这里应该是环境没有设置好，需要安装NCCL库。安装NCCL库的话在所有机器也就是notebook里输入：
export NCCL_DEBUG=INFO
export NCCL_IB_DISABLE=0
export NCCL_IB_HCA=mlx5
export NCCL_SOCKET_IFNAME=eth0
export NCCL_SOCKET_IFNAME=eth0

安装完毕后再尝试能否训练模型。

> 重新新建算法，在输入微调指令启动后是这个结果，跟课件里的不一致，是哪一步有问题嘛 这里应该是环境没有设置好，需要安装NCCL库。安装NCCL库的话在所有机器也就是notebook里输入： export NCCL_DEBUG=INFO export NCCL_IB_DISABLE=0 export NCCL_IB_HCA=mlx5 export NCCL_SOCKET_IFNAME=eth0 export NCCL_SOCKET_IFNAME=eth0 安装完毕后再尝试能否训练模型。
Sign in to join this conversation.
No Branch/Tag Specified
Branches Tags
Labels
Clear labels   
bug

Something is not working

  
duplicate

This issue or pull request already exists

  
enhancement

New feature

  
help wanted

Need some help

  
invalid

Something is wrong

  
question

More information is needed

  
wontfix

This won't be fixed

No Label
bug
duplicate
enhancement
help wanted
invalid
question
wontfix
Milestone
Clear milestone
No items
No Milestone
Projects
Clear projects
No project
Assignees
Clear assignees
No Assignees
4 Participants
Notifications
Due Date
The due date is invalid or out of range. Please use the format 'yyyy-mm-dd'.

No due date set.

Dependencies

No dependencies set.

Reference: HswOAuth/llm_course#157
No description provided.
Delete Branch "%!s()"

Deleting a branch is permanent. Although the deleted branch may continue to exist for a short time before it actually gets removed, it CANNOT be undone in most cases. Continue?