Block a user
第九节课按课件训练出模型后执行llamafactory-cli api --model_name_or_path部署出错
你似乎把数字1和字母l搞混了,你左侧打开的是autodl-tmp,但是你命令行进入的是autod1-tmp(autod1<-你这个是数字1,不是字母l)。
【求助帖】课程日期2024.10.20:llama factory大模型微调。内容:llama-factory微调模型后,然后在本地打隧道,并发送请求不成功;使用NextChat配置,不成功。
windows上不使用命令行,使用nextchat试试看是否成功
我在使用命令下载模型的时候:modelscope download --model ChineseAlpacaGroup/llama-3-chinese-8b-instruct-v3,由于模型太大导致我虚拟机的容量不够了,我就在vm的虚拟机设置里扩展了硬盘,从20G扩到了32G,但是无法打开虚拟机了,然后我查了一下资料,我在进入虚拟机的阶段进入BIOS,然后将Boot下的CD_ROM Drive 切换到第一个,然后能进入到虚拟机了,但是好像是要我再装一个,我现在解决不了了,老师能约个时间远程操作一下么,
建议直接重装一下虚拟机,给虚拟机分配至少128GB硬盘,64GB以上内存,因为如果您使用cpu版本大模型的话,大模型全部将加载到内存中,会占用非常…
【求助帖】将微调模型仿OpenAI兼容接口出错
视频最后,发送信息以后,可以麻烦看一下jupyter里面的命令行报什么错么?看看nextchat的api密钥随便设置一个,还有就是聊天之前,模型是否选择对…
【求助】微调训练出错,报错信息和截屏如下
请问是否按照教程,更新了dataset_info.json文件?另外请将数据集命名为my_demo.json,确保和老师上课时所有操作一致。您可以上传dataset_info.json给我,我…
【求助帖】将微调模型仿OpenAI兼容接口出错
注意,上述命令llamafactory-cli api --model_name_or_path /root/autodl-tmp/modelscope/hub/ZhipuAI/glm-4-9b-chat --template glm4 --adapter_name_or_path saves/GLM-4-9B-Chat/lora/train_2024-08-31…
汇视威计算平台搭建的GLM3-6B模型网页版如何访问?
需要打隧道,在您的本机输入类似下面的命令: ssh -CNgv -L 8501:127.0.0.1:8501 root@connect.beijinga.seetacloud.com -p 35596
关于打隧道的原理,请参考帖子:https…