kyo 12390900721cs
3 Followers · 2 Following
  • Joined on 2024-09-10
Repositories
1
 Projects Packages Public Activity Starred Repositories
12390900721cs commented on issue HswOAuth/llm_course#309 2024-10-29 11:15:38 +08:00
微调后，模型回复乱语

解决了,就是按照前面同学的解决方案,更新conda 的环境依赖版本 requrement.txt

请问是怎么解决的呀？我也遇到这个问题，我按requirments.txt安…

12390900721cs commented on issue HswOAuth/llm_course#313 2024-10-29 11:02:53 +08:00
多机多卡训练实验报错

应该是路径问题，你试试在 NPROC_PER_NODE=4 NNODES=2 PORT=22222 ADDR=10.244.209.56 NODE_RANK=0 xtuner train llama2_7b_chat_lora_lawyer_e3_copy.py --work-dir /userhome/xtuner-workdir3 --…

12390900721cs commented on issue HswOAuth/llm_course#310 2024-10-28 17:28:53 +08:00
【求助帖】10.23多模态理论案例

带卡开机是什么意思？ 试试用pip install可不可以解决? 如果还是报错，就先更新pip install，再进行包的安装

12390900721cs commented on issue HswOAuth/llm_course#299 2024-10-28 11:39:54 +08:00
求助贴 L2-第一课13-24.9.3-Chinese LLaMA Alpaca系列模型OpenAI API调用实现-Ray老师

跑起来了客户端显示是什么样？客户端提示有问题具体是什么问题？可以提供更清晰的截图吗

12390900721cs commented on issue HswOAuth/llm_course#308 2024-10-28 11:26:12 +08:00
【求助贴】隧道创建成功后，无法访问127.0.0.1:7860

你的隧道是将服务转发到了7080端口吗？你是用的本地机器做的还是用的远程服务器做的实验？如果是远程服务器的话应该使用服务器IP+端口进入ui喔…

12390900721cs commented on issue HswOAuth/llm_course#309 2024-10-28 11:20:59 +08:00
微调后，模型回复乱语

请问你在基座模型选择、基座模型加载、对话能力测试的部分实验结果是正确的吗？ 如果是正确的话，请上传完整的后续微调实验内容，包括模型选…

12390900721cs commented on issue HswOAuth/llm_share#15 2024-10-28 11:00:22 +08:00
8 基于LLaMA-Factory的模型微调训练

但要关闭Git Bash时又显示正在运行image 这个应该怎么解决呀？

看我上面的实验过…

12390900721cs commented on issue HswOAuth/llm_course#280 2024-10-27 10:52:45 +08:00
【求助】算力云上运行Image Captioning 任务与模型执⾏VQA任务报错

使用pip install下载这个没有的包试试

不行呀显示 ERROR: Could not find a version that satisfies the requirement torch.distributed.fsdp (from versions: none) ERROR:…

12390900721cs commented on issue HswOAuth/llm_share#15 2024-10-27 10:43:14 +08:00
8 基于LLaMA-Factory的模型微调训练

远程连接autodl服务器时，出现如下问题7e4b4b7d5bd6dec27ff9e8d9d2a4639<img width="520" alt="39c0c6ff60e…

12390900721cs commented on issue HswOAuth/llm_course#281 2024-10-27 10:37:07 +08:00
在AutoDL上共享镜像

我的AutoDL的ID：33af6281-5f7d-4bbd-bb03-090f3cbc7baf，需要被共享，谢谢伙伴们！！！

共享给你了喔~

12390900721cs commented on issue HswOAuth/llm_course#293 2024-10-25 18:09:25 +08:00
大模型下载后找不到了，怎么办

这边建议你使用modelscope download --model ChineseAlpacaGroup/llama-3-chinese-8b --output /path/to/your/directory/来指定你下载的文件的路径。 请将 /path/to/your/directory/…

12390900721cs commented on issue HswOAuth/llm_course#294 2024-10-25 18:08:43 +08:00
大模型下载以后找不到了，怎么办2

这边建议你使用modelscope download --model ChineseAlpacaGroup/llama-3-chinese-8b --output /path/to/your/directory/来指定你下载的文件的路径。 请将 /path/to/your/directory/…

12390900721cs commented on issue HswOAuth/llm_course#280 2024-10-25 18:03:28 +08:00
【求助】算力云上运行Image Captioning 任务与模型执⾏VQA任务报错

使用pip install下载这个没有的包试试

12390900721cs commented on issue HswOAuth/llm_course#287 2024-10-25 15:28:13 +08:00
【求助帖】20241024课程 多模态的BLIP Image Caption中第一个程序报错

这个报错信息表明在执行CUDA操作时遇到了非法内存访问的问题。CUDA error: an illegal memory access was encountered: 这表明在CUDA操作中尝试访问了不允许的内存…

12390900721cs commented on issue HswOAuth/llm_course#288 2024-10-25 15:26:19 +08:00
打开终端出现这个信息

字面意思呀，你没有这个文件夹。请问你在前面有什么其他操作吗？还是一进去终端就有这个显示？ 如果没有影响到你后续操作的话建议直接忽略喔

12390900721cs commented on issue HswOAuth/llm_course#283 2024-10-25 12:57:08 +08:00
[求助帖]如果把llama3换成qwen2-7b，中文 llama3 仿openai api 实战中的改源码是否一样？

一样

12390900721cs commented on issue HswOAuth/llm_course#280 2024-10-25 12:49:34 +08:00
【求助】算力云上运行Image Captioning 任务与模型执⾏VQA任务报错

感觉是没有下载好bert-based-uncased模型啊，你试试把下面的代码再跑一遍，是不是之前忽略了报错？ image 如…

12390900721cs commented on issue HswOAuth/llm_share#15 2024-10-25 12:17:53 +08:00
8 基于LLaMA-Factory的模型微调训练

隧道设置问题解决

注意到许多同学在设置隧道这一步出了问题，这里再详细地说明一下。

端口获取

有的同学在这一步是直接复制了老师…

12390900721cs commented on issue HswOAuth/llm_course#243 2024-10-24 18:21:01 +08:00
【求助】基于LLaMA-Factory的模型微调训练train_loss为1985太大

我的参数和上课设置一样的，步骤也一样的，但微调结束后没有画出损失曲线，测试效果时，胡言乱语。

可以在这个后面跟进一下喔，这个问…

12390900721cs commented on issue HswOAuth/llm_course#280 2024-10-24 18:18:46 +08:00
【求助】算力云上运行Image Captioning 任务与模型执⾏VQA任务报错

如果有后续的话在后面回我一下喔，我会跟进的~