12717839409cs
0 Followers · 0 Following
  • Joined on 2024-09-25
Repositories Projects Packages Public Activity Starred Repositories
12717839409cs commented on issue HswOAuth/llm_course#326 2024-10-30 13:54:07 +08:00
提示词微调-代码报错

请确认下task0和task1是否有设置环境变量

export HF_HOME=/code/huggingface-cache/ export HF_ENDPOINT=https://hf-mirror.com export http_proxy=http://10.10.9.50:3000 …

12717839409cs commented on issue HswOAuth/llm_share#34 2024-10-30 01:51:14 +08:00
多机多卡微调入门及fastgpt复现

通过本地win10的ubuntu 虚拟机配合本地浏览Ubuntu文件夹实现了fastgpt搭建聊天应用

12717839409cs opened issue HswOAuth/llm_share#34 2024-10-30 01:48:48 +08:00
多机多卡微调入门及fastgpt复现
12717839409cs commented on issue HswOAuth/llm_course#306 2024-10-30 01:46:32 +08:00
单机单卡、单机多卡、多机多卡微调入门复现

厉害，同学，复现的帖子阔以发到复现的论坛哦：llm_share，这个，会有赠送的机时~~~

好的

12717839409cs opened issue HswOAuth/llm_course#326 2024-10-29 20:19:55 +08:00
提示词微调-代码报错
12717839409cs opened issue HswOAuth/llm_course#306 2024-10-27 19:33:44 +08:00
单机单卡、单机多卡、多机多卡微调入门复现
12717839409cs commented on issue HswOAuth/llm_course#261 2024-10-26 23:41:37 +08:00
微调时，没有曲线，检查点选中后，大模型开始胡言乱语

nextchat接入微调后的模型，回答正常

12717839409cs commented on issue HswOAuth/llm_course#261 2024-10-26 23:40:58 +08:00
微调时，没有曲线，检查点选中后，大模型开始胡言乱语

4bit量化训练后，结果正常

12717839409cs commented on issue HswOAuth/llm_course#261 2024-10-26 23:40:24 +08:00
微调时，没有曲线，检查点选中后，大模型开始胡言乱语

实验复现完成 8bit 量化后，结果正常

12717839409cs commented on issue HswOAuth/llm_course#261 2024-10-26 23:06:57 +08:00
微调时，没有曲线，检查点选中后，大模型开始胡言乱语

并使用fp16试试image

更新CUDA前，使用fp16出现曲线如下图1-2；执行在线课件中的安装特…

12717839409cs commented on issue HswOAuth/llm_course#261 2024-10-26 20:54:43 +08:00
微调时，没有曲线，检查点选中后，大模型开始胡言乱语

请将LLaMA-Factory放置在/root/目录下，也就是：/root/LLaMA-Factory，然后再重复做一次实验 <img width="1040" alt="image" src="/attachments/9d6e2945-6b25-40dc-9986-2…

12717839409cs opened issue HswOAuth/llm_course#244 2024-10-20 23:56:09 +08:00
AutoDL服务器LLM仿OpenAI API接口,隧道打通后，oneAPI测试成功，但nextChat无法问答