kyo 12390900721cs
3 Followers · 2 Following
  • Joined on 2024-09-10
Repositories
1
 Projects Packages Public Activity Starred Repositories
12390900721cs commented on issue HswOAuth/llm_course#282 2024-10-24 18:14:08 +08:00
【求助帖】10.20 llama_factory，加载模型时killed怎么解决（如图）

这个错误可能是由于系统资源限制（如内存不足）导致的，或者是因为脚本中的某个命令需要更多的权限来执行。 如果是权限不足，以更高权限（如…

12390900721cs commented on issue HswOAuth/llm_course#280 2024-10-24 18:10:24 +08:00
【求助】算力云上运行Image Captioning 任务与模型执⾏VQA任务报错

这个错误通常发生在网络连接不稳定、服务器不可达或请求超时的情况下。解决这个问题可能需要检查网络连接、服务器状态或调整请求的超时设置…

12390900721cs commented on issue HswOAuth/llm_course#279 2024-10-24 18:01:03 +08:00
【求助帖】autoDL基于LLaMA-Factory微调glm4-9b后，模型乱回复

不少同学都出现了这个问题，麻烦同学在这个帖子后面进行一下跟进，后续如果有解决方案会在这里更新HswOAuth/llm_course#273…

12390900721cs commented on issue HswOAuth/llm_course#276 2024-10-24 17:58:20 +08:00
经历了医疗数据的有监督SFT微调、奖励模型RM微调、PPO训练再到vllm部署，想知道如何证明最终微调结果回答的问题是否符合客观事实？太专业了看不懂医疗信息

这种判断医学结果是否符合客观事实的问题其实本质上还是判断大模型输出的结果是否正确的问题，针对这种回答内容是否正确进行评估和微调也是…

12390900721cs commented on issue HswOAuth/llm_course#278 2024-10-24 17:53:29 +08:00
10.16日课程，下载LLAMA

tangyu@192.168.5.19是老师自己远程连接的服务器和账户喔，你可以在自己本地的电脑上做或者是租用外部服务器。老师这里就是远程连接的外部服务器。

12390900721cs commented on issue HswOAuth/llm_course#276 2024-10-24 17:51:15 +08:00
经历了医疗数据的有监督SFT微调、奖励模型RM微调、PPO训练再到vllm部署，想知道如何证明最终微调结果回答的问题是否符合客观事实？太专业了看不懂医疗信息

是否符合客观事实可能需要专业的人员去判断喔

12390900721cs opened issue HswOAuth/llm_course#281 2024-10-24 14:30:24 +08:00
在AutoDL上共享镜像
12390900721cs opened issue HswOAuth/llm_kb#10 2024-10-23 20:13:43 +08:00
BLIP
12390900721cs commented on issue HswOAuth/llm_course#273 2024-10-23 15:21:19 +08:00
【求助帖】2024-10-20 基于LLaMA-Factory的模型微调训练过程中报错，查看控制台日志发现有一处有问题

这个问题很多同学都出现过；如果可以的话最好是上传一下操作视频方便排查喔。

12390900721cs opened issue HswOAuth/llm_share#27 2024-10-23 12:53:14 +08:00
11 多模态案例实操
12390900721cs commented on issue HswOAuth/llm_course#266 2024-10-22 16:10:25 +08:00
【求助帖】2024-10-20 百度网盘课件分享语雀链接有问题

https://www.yuque.com/hkutangyu/di80sc/oy84gbs16y1ubzdd 你试试这个可以进去吗

12390900721cs commented on issue HswOAuth/llm_course#252 2024-10-21 18:44:16 +08:00
llama模型私有化部署问题

可以的，可以使用LLama-Factory或者Ollama都是可以的

12390900721cs commented on issue HswOAuth/llm_course#243 2024-10-21 18:30:26 +08:00
【求助】基于LLaMA-Factory的模型微调训练train_loss为1985太大

可以尝试对学习率进行调整？学习率过高或过低都可能导致训练损失过高。

12390900721cs commented on issue HswOAuth/llm_course#240 2024-10-21 18:18:30 +08:00
【求助】模型启动成功后测试无法正常回答问题

你这里显示的报错是ValueError: temperature (0.0)has to be a strictly positive float, otherwise your next token scores will be invalid. 可以试试将temperature参数设置为其他的正…

12390900721cs commented on issue HswOAuth/llm_course#236 2024-10-21 18:13:20 +08:00
没有ernie-speed-128k和ernie-speed-128k模型

请问你这是在哪个实验呀？可能需要提供更多信息来帮助解答喔

12390900721cs commented on issue HswOAuth/llm_course#202 2024-10-21 14:32:30 +08:00
求助贴（关于nextchat的问题）

vLLM可以在训练平台使用喔~ HswOAuth/llm_share#25 (comment) 这里有在训练平台使用已经安装好的环境的教程

12390900721cs opened issue HswOAuth/llm_share#17 2024-10-20 21:45:27 +08:00
10 基于vLLM本地模型部署【课程复现】
12390900721cs opened issue HswOAuth/llm_share#16 2024-10-20 21:45:02 +08:00
9 基于FastGPT搭建RAG问答系统
12390900721cs opened issue HswOAuth/llm_share#15 2024-10-20 21:44:42 +08:00
8 基于LLaMA-Factory的模型微调训练
12390900721cs opened issue HswOAuth/llm_share#14 2024-10-20 21:44:26 +08:00
7 使用xtuner微调开源大模型课程回顾