rebibabo
  • Joined on 2024-10-20
rebibabo commented on issue HswOAuth/llm_course#329 2024-10-30 22:13:51 +08:00
【求助帖】多模态课程video-llava安装flash-attn出错

尝试运行下面命令,看是否能够连接上github,因为搭建轮子过程中有这一步:

wget https://eithub,comDao Allab/flash attention releases/downloadv2. 6. 3/flash…
rebibabo commented on issue HswOAuth/llm_course#329 2024-10-30 20:23:55 +08:00
【求助帖】多模态课程video-llava安装flash-attn出错

我的要等5分钟才加载上模型

rebibabo commented on issue HswOAuth/llm_course#329 2024-10-30 19:32:01 +08:00
【求助帖】多模态课程video-llava安装flash-attn出错

试着运行下面命令,wget加上那串网址,wget https://github.com//xxx, 如果一直卡着就是访问不了github,建议换个镜像,运行一下wget是否能够下载再进行环境…

rebibabo commented on issue HswOAuth/llm_course#329 2024-10-30 17:33:50 +08:00
【求助帖】多模态课程video-llava安装flash-attn出错

这就是访问不了github的错误,我也是遇到的这个,按照上面发的试试吧,这个比较玄学,如果还是不行,建议新换一个容器,先测试一下git clone能不…

rebibabo commented on issue HswOAuth/llm_course#329 2024-10-30 17:11:51 +08:00
【求助帖】多模态课程video-llava安装flash-attn出错

我看build过程中有执行git clone

rebibabo commented on issue HswOAuth/llm_course#329 2024-10-30 16:53:12 +08:00
【求助帖】多模态课程video-llava安装flash-attn出错

尝试运行下面命令: git clone --filter=blob:none https://github.com/facebookresearch/pytorchvideo.git /tmp/pip-req-build-297kkx9r 如果发现一直停,说明服务器访问github受…

rebibabo commented on issue HswOAuth/llm_course#307 2024-10-29 17:26:57 +08:00
【求助贴】fastgpt涉及到的docker-compose.yml和config.json两个文件

可以分享出来吗,🙇

rebibabo commented on issue HswOAuth/llm_course#298 2024-10-28 21:46:51 +08:00
【求助帖】多模态课程启动 Video-LLaVA 报错

运行到这里卡了,tokenizer可以加载,到模型就卡住了 image

rebibabo commented on issue HswOAuth/llm_course#281 2024-10-28 20:12:18 +08:00
在AutoDL上共享镜像

我也需要被共享,ID为510b91e2-28e1-4406-b8fe-bddc84197d8b,谢谢伙伴们!!!

rebibabo commented on issue HswOAuth/llm_course#264 2024-10-25 11:34:28 +08:00
【求助帖】 点击停止按钮,生成并没有结束

好的,下面是代码

import argparse
import os
from fastapi import FastAPI
from fastapi.middleware.cors import CORSMiddleware
import uvicorn
from threading import Thread
from
rebibabo commented on issue HswOAuth/llm_course#242 2024-10-25 11:28:59 +08:00
【求助帖】10/20 大模型初探-基于LLaMA-Factory的模型微调训练

是autodl租用的,操作都是按照老师的一步一步来

rebibabo commented on issue HswOAuth/llm_course#284 2024-10-25 10:40:11 +08:00
AutoDL上运行Image Captioning 任务,beam search报错,nucleus sampling可以运行

解决方案:https://github.com/salesforce/BLIP/issues/165 原因是不要将输入的第0维复制beam_size次 image ![image](/attachment…

rebibabo opened issue HswOAuth/llm_course#264 2024-10-22 10:29:06 +08:00
【求助帖】 点击停止按钮,生成并没有结束
rebibabo commented on issue HswOAuth/llm_course#262 2024-10-22 10:23:50 +08:00
【求助帖】llama部署-打隧道打不通

你是用的这条命令吗ssh -CNgv -L 7860:127.0.0.1:7860 root@connect.cqa1.seetacloud.com -p [AutoDL 端口],远程服务器是root用户

rebibabo commented on issue HswOAuth/llm_course#262 2024-10-22 09:39:12 +08:00
【求助帖】llama部署-打隧道打不通

检查一下本地服务器有没有/home/llm/.ssh文件夹?

rebibabo commented on issue HswOAuth/llm_course#241 2024-10-22 09:35:43 +08:00
LLama3仿OpenAI实验,命令行测试成功,但是NextChat不行

你看看AutoDL那边报什么错误,你是可以连接上服务器,并且返回响应的,只是在模型生成过程当中遇到了错误,所以才响应为空,可以检查一下是不…

rebibabo opened issue HswOAuth/llm_course#242 2024-10-20 22:21:59 +08:00
【求助帖】10/20 大模型初探-基于LLaMA-Factory的模型微调训练