HswOAuth/llm_course
19
16
Fork 0
Code Issues 608 Pull Requests Actions Packages Projects Releases Wiki Activity

模型的加载/微调/保存相关问题 #257

New Issue
Closed
opened 2024-10-21 20:12:11 +08:00 by elysia · 1 comment
elysia commented 2024-10-21 20:12:11 +08:00
Copy Link

实际项目开发过程中，是用什么来加载基座模型进行训练和微调呢？
LLaMA-Factory工具吗，如果编码的方式，是用什么来控制的？
还有微调完成之后，基座和训练完的checkpoints怎么用后台服务的方式给启动

实际项目开发过程中，是用什么来加载基座模型进行训练和微调呢？ LLaMA-Factory工具吗，如果编码的方式，是用什么来控制的？ 还有微调完成之后，基座和训练完的checkpoints怎么用后台服务的方式给启动
best_newnew commented 2024-10-22 16:53:28 +08:00
Copy Link

我们是可以通过LLaMA-Factory工具进行基座模型的训练微调的喔~
要自己在终端启动训练完的checkpoints的话，可以使用模型自带的部署启动命令来启动微调后的模型服务。具体来说，这通常涉及到将微调后的模型checkpoints加载到服务中，并确保服务可以接收和处理请求。例如，如果是使用LLaMA-Factory工具进行微调，可以参考其官方教程进行模型的部署启动 。

我们是可以通过LLaMA-Factory工具进行基座模型的训练微调的喔~ 要自己在终端启动训练完的checkpoints的话，可以使用模型自带的部署启动命令来启动微调后的模型服务。具体来说，这通常涉及到将微调后的模型checkpoints加载到服务中，并确保服务可以接收和处理请求。例如，如果是使用LLaMA-Factory工具进行微调，可以参考其官方教程进行模型的部署启动 。
Sign in to join this conversation.
No Branch/Tag Specified
Branches Tags
Labels
Clear labels   
bug

Something is not working

  
duplicate

This issue or pull request already exists

  
enhancement

New feature

  
help wanted

Need some help

  
invalid

Something is wrong

  
question

More information is needed

  
wontfix

This won't be fixed

No Label
bug
duplicate
enhancement
help wanted
invalid
question
wontfix
Milestone
Clear milestone
No items
No Milestone
Projects
Clear projects
No project
Assignees
Clear assignees
No Assignees
2 Participants
Notifications
Due Date
The due date is invalid or out of range. Please use the format 'yyyy-mm-dd'.

No due date set.

Dependencies

No dependencies set.

Reference: HswOAuth/llm_course#257
No description provided.
Delete Branch "%!s()"

Deleting a branch is permanent. Although the deleted branch may continue to exist for a short time before it actually gets removed, it CANNOT be undone in most cases. Continue?