best_newnew
  • Joined on 2024-10-09
best_newnew commented on issue HswOAuth/llm_course#253 2024-10-22 17:26:58 +08:00
微调大模型的时候,训练集损失函数没有下降趋势,但是验证集损失函数一直下降,这种情况应该还不算是过拟合现象吧?

这应该不算是过拟合。不过这个现象好奇怪,我认为这种情况已经算是收敛了,虽然这里面验证集损失在下降,但是真的下降的太少了,这都不能算…

best_newnew commented on issue HswOAuth/llm_course#255 2024-10-22 17:14:43 +08:00
netchat连接不上

同学你好,从这张图我看你应该是在本地电脑上做的吧?image 如果是在本地做的话,需要将此处的接口地址…

best_newnew commented on issue HswOAuth/llm_course#257 2024-10-22 16:53:28 +08:00
模型的加载/微调/保存相关问题

我们是可以通过LLaMA-Factory工具进行基座模型的训练微调的喔~ 要自己在终端启动训练完的checkpoints的话,可以使用模型自带的部署启动命令来启动微…

best_newnew commented on issue HswOAuth/llm_course#259 2024-10-22 16:37:49 +08:00
模型微调问题

有很多平台是可以做模型微调的呀,比如:

  1. 星火认知大模型V1.5、Chinese-LLaMA-Alpaca2等,有定制的训练平台,并且还支持零代码微调和在线Notebook编码…
best_newnew commented on issue HswOAuth/llm_course#218 2024-10-18 17:53:24 +08:00
我的wsl设置遇到困难,寻求老师或同学帮助

可以尝试一下如下解决方案:

出现提示找不到WSL的镜像和提示WSL不支持localhost代理的情况,通常是由于WSL的网络配置与Windows系统的代理设置不兼容…

best_newnew commented on issue HswOAuth/llm_course#223 2024-10-18 17:41:32 +08:00
连接不上服务器

这里是老师使用服务器的代码喔,使用服务器需要: 1.需要有服务器上的一个账户以及相应的密码,或者使用SSH密钥对进行认证。 2.你的计算机和服…

best_newnew commented on issue HswOAuth/llm_course#224 2024-10-18 17:30:06 +08:00
【求助帖】2024/10/16,Chinese LLaMA Alpaca系列模型 -NextChat连接不上我的服务器

确实存在外部服务器(如超算)需要设置密钥导致连接不上调用不了模型的情况,这里如果需要回答得更清楚或者帮助你解决后续问题的话可能需要…

best_newnew commented on issue HswOAuth/llm_course#225 2024-10-18 17:17:59 +08:00
@ray 老师,10.16课程LLM模型部署,问题:chatnext 和 LLM server互动Issue

hi,同学你好呀,我想知道你的实验是在服务器上做的还是在本地做的呢? 从这张图片上看应该是在远程服务器上做的吧? ![image](/attachments/8dceea92-7…

best_newnew commented on issue HswOAuth/llm_course#226 2024-10-18 17:09:18 +08:00
【求助帖】 2024/10/16 安装miniconda后创建虚拟环境报错

同学你好喔,我看你的报错信息显示为: bash:/c/Users/Administrator/miniconda3/conda: cannot execute binary file: Exec format error 说明你执行的Conda二进制文件格式不…

best_newnew commented on issue HswOAuth/llm_course#202 2024-10-17 14:49:09 +08:00
求助贴(关于nextchat的问题)

我是在Linux系统上部署的,在用代码“python openai_api_server.py --gpus 0 --base_model /llama-3-chinese-8b-instruct-v3”启动大模型服务后一般会出现类似这样的输出:…

best_newnew commented on issue HswOAuth/llm_course#206 2024-10-17 14:39:43 +08:00
Chinese-LLaMA-Alpaca-3本地构建API可调用,但NextChat无法正常调用

本地构建API可调用是什么意思呀? 我看你图上的操作都很对欸,API接口设置,包括在后面的LLAMA-CHINESE模型选择 可以提供更多的信息吗,我想看看你…

best_newnew commented on issue HswOAuth/llm_course#208 2024-10-17 14:29:35 +08:00
像截图中微调大模型任务,微调不到10%损失函数就下降那么低了之后就收敛了,我还有必要继续训练还是直接中断进行部署?

我觉得确实是可以考虑直接中断的,如果训练得过多甚至可能会出现过拟合。 但是要小心喔,提前结束训练需要先确定你的模型会在适当的检查点进…

best_newnew commented on issue HswOAuth/llm_course#197 2024-10-16 15:50:12 +08:00
林希老师是需要我们提供autodl的id吗

autodl的镜像只保留了数据盘的数据,应该就只有运行环境了 f6f66b35a78570e509cad83406413c2 意…

best_newnew commented on issue HswOAuth/llm_course#197 2024-10-16 14:21:41 +08:00
林希老师是需要我们提供autodl的id吗

你是要老师跑完了的模型镜像,还是要一个新的环境呀? 如果需要新的环境的话可以自己在AutoDL中创建与老师完全相同的,然后按照老师的步骤一步…

best_newnew commented on issue HswOAuth/llm_course#197 2024-10-16 14:17:25 +08:00
林希老师是需要我们提供autodl的id吗

可能需要具体说明一下是哪个模型的镜像,我看老师上课的时候使用的几个模型是分开的。

best_newnew opened issue HswOAuth/llm_course#194 2024-10-15 18:39:43 +08:00
【求助帖】Function Call课后作业【进阶】
best_newnew commented on issue HswOAuth/llm_course#169 2024-10-09 15:35:12 +08:00
【求助帖】fastGPT+OneAPI实验遇到的问题

遇到这个问题,先sudo docker compose down 掉,然后把那些新生成的文件都删掉,只保留文档里面说的那两个文件,然后重新跑一遍实验即可,这样子密…

best_newnew opened issue HswOAuth/llm_course#169 2024-10-09 15:33:37 +08:00
【求助帖】fastGPT+OneAPI实验遇到的问题