HswOAuth/llm_course
19
16
Fork 0
Code Issues 633 Pull Requests Actions Packages Projects Releases Wiki Activity

【求助帖】多模态课程video-llava安装flash-attn出错 #329

New Issue
Open
opened 2024-10-30 14:54:57 +08:00 by sunnyday · 16 comments
sunnyday commented 2024-10-30 14:54:57 +08:00
Copy Link

image
一直停在这里，不能继续下去

![image](/attachments/25ccf89e-10b2-4d8f-a056-285caf97a2c2) 一直停在这里，不能继续下去
image.png
97 KiB
rebibabo commented 2024-10-30 16:53:11 +08:00
Copy Link

尝试运行下面命令：
git clone --filter=blob:none https://github.com/facebookresearch/pytorchvideo.git /tmp/pip-req-build-297kkx9r
如果发现一直停，说明服务器访问github受限
如果访问不了gitub，可以过一会重试，或者参考下面的解决方法：
告别无法访问的github（附解决方案）-阿里云开发者社区
不行再尝试：
image

尝试运行下面命令： git clone --filter=blob:none https://github.com/facebookresearch/pytorchvideo.git /tmp/pip-req-build-297kkx9r 如果发现一直停，说明服务器访问github受限 如果访问不了gitub，可以过一会重试，或者参考下面的解决方法： 告别无法访问的github（附解决方案）-阿里云开发者社区 不行再尝试： ![image](/attachments/9f97425a-9819-4c29-baab-1fc303b5dbc5)
image.png
93 KiB
sunnyday commented 2024-10-30 17:10:34 +08:00
Author
Copy Link

不是clone github，是pip install flash-attn --no-build-isolation
下载成功了，在build中出错。

不是clone github，是pip install flash-attn --no-build-isolation 下载成功了，在build中出错。
rebibabo commented 2024-10-30 17:11:51 +08:00
Copy Link

我看build过程中有执行git clone
我之前也是卡在这里了，发现是连不上github

我看build过程中有执行git clone 我之前也是卡在这里了，发现是连不上github
sunnyday commented 2024-10-30 17:19:05 +08:00
Author
Copy Link

image
image
不是这个原因，可以下github

![image](/attachments/b9d75cd4-49c0-4923-b511-57018b7f2e6c) ![image](/attachments/5cb24f30-f1dc-429c-a64d-96303d48f168) 不是这个原因，可以下github
image.png
43 KiB
image.png
96 KiB
sunnyday commented 2024-10-30 17:21:50 +08:00
Author
Copy Link

image
出现这个报错

![image](/attachments/cb371489-d699-4e0a-a296-f3623918d575) 出现这个报错
image.png
42 KiB
rebibabo commented 2024-10-30 17:33:49 +08:00
Copy Link

这就是访问不了github的错误，我也是遇到的这个，按照上面发的试试吧，这个比较玄学，如果还是不行，建议新换一个容器，先测试一下git clone能不能访问Github

image

这就是访问不了github的错误，我也是遇到的这个，按照上面发的试试吧，这个比较玄学，如果还是不行，建议新换一个容器，先测试一下git clone能不能访问Github ![image](/attachments/3ff74e95-7dc4-4dcc-9a14-019032bd7dcc)
image.png
206 KiB
sunnyday commented 2024-10-30 17:36:45 +08:00
Author
Copy Link

好的，谢谢，我去试试，需要重启容器吗，我加了image，还是这样
image

好的，谢谢，我去试试，需要重启容器吗，我加了![image](/attachments/92f8814d-0f22-4b39-b71c-e3f7b62426e2)，还是这样 ![image](/attachments/31e0b0a7-166e-46fc-a0d4-a0e0f4e36b5d)
image.png
6.5 KiB
image.png
98 KiB
12390900721cs commented 2024-10-30 19:10:19 +08:00
Copy Link

板凳，解决了踢我一脚

板凳，解决了踢我一脚
rebibabo commented 2024-10-30 19:32:01 +08:00
Copy Link

试着运行下面命令，wget加上那串网址，wget https://github.com//xxx, 如果一直卡着就是访问不了github，建议换个镜像，运行一下wget是否能够下载再进行环境安装吧~，有的分区服务器就是访问不了github，就很离谱
image

试着运行下面命令，wget加上那串网址，wget https://github.com//xxx, 如果一直卡着就是访问不了github，建议换个镜像，运行一下wget是否能够下载再进行环境安装吧~，有的分区服务器就是访问不了github，就很离谱 ![image](/attachments/53c5f037-dfd7-4158-81da-c7b810eb6cc0)
image.png
63 KiB
sunnyday commented 2024-10-30 19:52:39 +08:00
Author
Copy Link

好的，已经成功安装了

好的，已经成功安装了
sunnyday commented 2024-10-30 20:15:38 +08:00
Author
Copy Link

image
部署的时候一直在这里

![image](/attachments/e3959ed1-7d82-4e32-b945-0324838175f6) 部署的时候一直在这里
image.png
36 KiB
12019701659cs commented 2024-10-30 20:19:55 +08:00
Copy Link

可能问题：gradio是huggingface支持的，在运行前，替换下huggingface的国内镜像：
export HF_HOME=/root/autodl-tmp/huggingface-cache/
export HF_ENDPOINT=https://hf-mirror.com

可能问题：gradio是huggingface支持的，在运行前，替换下huggingface的国内镜像： `export HF_HOME=/root/autodl-tmp/huggingface-cache/` `export HF_ENDPOINT=https://hf-mirror.com`
rebibabo commented 2024-10-30 20:23:55 +08:00
Copy Link

我的要等5分钟才加载上模型

我的要等5分钟才加载上模型
sunnyday commented 2024-10-30 21:21:32 +08:00
Author
Copy Link

image
这个还是不行
image
用wheel安装的部署会出错。
不知道怎么办了

![image](/attachments/0f55e4ba-1d72-4930-9e23-22d577848637) 这个还是不行 ![image](/attachments/c3404b00-61f7-4f7a-9773-ea72aa0aa1b2) 用wheel安装的部署会出错。 不知道怎么办了
image.png
74 KiB
image.png
99 KiB
sunnyday commented 2024-10-30 21:35:29 +08:00
Author
Copy Link

@rebibabo 你是怎么解决的

@rebibabo 你是怎么解决的
rebibabo commented 2024-10-30 22:13:51 +08:00
Copy Link

尝试运行下面命令，看是否能够连接上github，因为搭建轮子过程中有这一步：

wget https://github.com/Dao-AILab/flash-attention/releases/download/v2.6.3/flash_attn-2.6.3+cu118torch2.0cxx11abiFALSE-cp310-cp310-linux_x86_64.whl

如果一直卡着，显示resolve..，就尝试下面一些方法（不一定管用）

我的报错信息：
image-20241025105758945

  1. 参考告别无法访问的github（附解决方案）-阿里云开发者社区
    尝试将github的解析地址写道/etc/hosts中
    编辑/etc/hosts，将下面内容添加进去
140.82.114.25                 alive.github.com
140.82.112.25                 live.github.com
185.199.108.154               github.githubassets.com
140.82.112.22                 central.github.com
185.199.108.133               desktop.githubusercontent.com
185.199.108.153               assets-cdn.github.com
185.199.108.133               camo.githubusercontent.com
185.199.108.133               github.map.fastly.net
199.232.69.194                github.global.ssl.fastly.net
140.82.112.4                  gist.github.com
185.199.108.153               github.io
140.82.114.4                  github.com
192.0.66.2                    github.blog
140.82.112.6                  api.github.com
185.199.108.133               raw.githubusercontent.com
185.199.108.133               user-images.githubusercontent.com
185.199.108.133               favicons.githubusercontent.com
185.199.108.133               avatars5.githubusercontent.com
185.199.108.133               avatars4.githubusercontent.com
185.199.108.133               avatars3.githubusercontent.com
185.199.108.133               avatars2.githubusercontent.com
185.199.108.133               avatars1.githubusercontent.com
185.199.108.133               avatars0.githubusercontent.com
185.199.108.133               avatars.githubusercontent.com
140.82.112.10                 codeload.github.com
52.217.223.17                 github-cloud.s3.amazonaws.com
52.217.199.41                 github-com.s3.amazonaws.com
52.217.93.164                 github-production-release-asset-2e65be.s3.amazonaws.com
52.217.174.129                github-production-user-asset-6210df.s3.amazonaws.com
52.217.129.153                github-production-repository-file-5c1aeb.s3.amazonaws.com
185.199.108.153               githubstatus.com
64.71.144.202                 github.community
23.100.27.125                 github.dev
185.199.108.133               media.githubusercontent.com

然后重启服务

apt update
apt install nscd
service restart nscd

还是不行，尝试先运行下面的命令，把--quiet参数去掉

git clone --filter=blob:none https://github.com/facebookresearch/pytorchvideo.git /tmp/pip-req-build-297kkx9r

image-20241028195537160

发现一直卡在Resolving deltas: 100% (630/630), done，解决方案如下

  1. 参考https://blog.csdn.net/qq_45934285/article/details/130559069
    运行下面命令
git config --global http.proxy
git config --global https.proxy
git config --global --unset http.proxy
git config --global --unset https.proxy

  1. 参考解决git clone 卡在Resolving deltas: 100%_git resolving deltas-CSDN博客
    编辑/etc/hosts，新增一条IP，名称为root@xxx中的xxx
    image-20241028195749113

  2. 有一次我本来安装不了flash_attn，什么也没做，过一会再运行就好了

  3. 实在不行就再开一个容器，先尝试运行下面命令看可不可以，如果不行，果断放弃这个容器

git clone --filter=blob:none https://github.com/facebookresearch/pytorchvideo.git /tmp/pip-req-build-297kkx9r 
wget https://github.com/Dao-AILab/flash-attention/releases/download/v2.6.3/flash_attn-2.6.3+cu118torch2.0cxx11abiFALSE-cp310-cp310-linux_x86_64.whl
尝试运行下面命令，看是否能够连接上github，因为搭建轮子过程中有这一步： ``` wget https://github.com/Dao-AILab/flash-attention/releases/download/v2.6.3/flash_attn-2.6.3+cu118torch2.0cxx11abiFALSE-cp310-cp310-linux_x86_64.whl ``` 如果一直卡着，显示resolve..，就尝试下面一些方法（不一定管用） 我的报错信息： ![image-20241025105758945](/attachments/3259a797-75c7-44b3-8edf-f8d40cfee54c) 1. 参考[告别无法访问的github（附解决方案）-阿里云开发者社区](https://developer.aliyun.com/article/813040) 尝试将github的解析地址写道/etc/hosts中 编辑/etc/hosts，将下面内容添加进去 ``` 140.82.114.25 alive.github.com 140.82.112.25 live.github.com 185.199.108.154 github.githubassets.com 140.82.112.22 central.github.com 185.199.108.133 desktop.githubusercontent.com 185.199.108.153 assets-cdn.github.com 185.199.108.133 camo.githubusercontent.com 185.199.108.133 github.map.fastly.net 199.232.69.194 github.global.ssl.fastly.net 140.82.112.4 gist.github.com 185.199.108.153 github.io 140.82.114.4 github.com 192.0.66.2 github.blog 140.82.112.6 api.github.com 185.199.108.133 raw.githubusercontent.com 185.199.108.133 user-images.githubusercontent.com 185.199.108.133 favicons.githubusercontent.com 185.199.108.133 avatars5.githubusercontent.com 185.199.108.133 avatars4.githubusercontent.com 185.199.108.133 avatars3.githubusercontent.com 185.199.108.133 avatars2.githubusercontent.com 185.199.108.133 avatars1.githubusercontent.com 185.199.108.133 avatars0.githubusercontent.com 185.199.108.133 avatars.githubusercontent.com 140.82.112.10 codeload.github.com 52.217.223.17 github-cloud.s3.amazonaws.com 52.217.199.41 github-com.s3.amazonaws.com 52.217.93.164 github-production-release-asset-2e65be.s3.amazonaws.com 52.217.174.129 github-production-user-asset-6210df.s3.amazonaws.com 52.217.129.153 github-production-repository-file-5c1aeb.s3.amazonaws.com 185.199.108.153 githubstatus.com 64.71.144.202 github.community 23.100.27.125 github.dev 185.199.108.133 media.githubusercontent.com ``` 然后重启服务 ``` apt update apt install nscd service restart nscd ``` 还是不行，尝试先运行下面的命令，把--quiet参数去掉 ``` git clone --filter=blob:none https://github.com/facebookresearch/pytorchvideo.git /tmp/pip-req-build-297kkx9r ``` ![image-20241028195537160](/attachments/265fa7a3-acad-4b79-9385-2065698cc0a8) 发现一直卡在Resolving deltas: 100% (630/630), done，解决方案如下 2. 参考https://blog.csdn.net/qq_45934285/article/details/130559069 运行下面命令 ``` git config --global http.proxy git config --global https.proxy git config --global --unset http.proxy git config --global --unset https.proxy ``` 3. 参考[解决git clone 卡在Resolving deltas: 100%_git resolving deltas-CSDN博客](https://blog.csdn.net/l2931050/article/details/131380786) 编辑/etc/hosts，新增一条IP，名称为root@xxx中的xxx ![image-20241028195749113](/attachments/e15397b0-9bd2-49fc-8225-73cce98d4e50) 4. 有一次我本来安装不了flash_attn，什么也没做，过一会再运行就好了 5. 实在不行就再开一个容器，先尝试运行下面命令看可不可以，如果不行，果断放弃这个容器 ``` git clone --filter=blob:none https://github.com/facebookresearch/pytorchvideo.git /tmp/pip-req-build-297kkx9r wget https://github.com/Dao-AILab/flash-attention/releases/download/v2.6.3/flash_attn-2.6.3+cu118torch2.0cxx11abiFALSE-cp310-cp310-linux_x86_64.whl ```
image-20241028195749113.png
11 KiB
image-20241025105758945.png
98 KiB
image-20241028195537160.png
82 KiB
Sign in to join this conversation.
No Branch/Tag Specified
Branches Tags
Labels
Clear labels   
bug

Something is not working

  
duplicate

This issue or pull request already exists

  
enhancement

New feature

  
help wanted

Need some help

  
invalid

Something is wrong

  
question

More information is needed

  
wontfix

This won't be fixed

No Label
bug
duplicate
enhancement
help wanted
invalid
question
wontfix
Milestone
Clear milestone
No items
No Milestone
Projects
Clear projects
No project
Assignees
Clear assignees
No Assignees
4 Participants
Notifications
Due Date
The due date is invalid or out of range. Please use the format 'yyyy-mm-dd'.

No due date set.

Dependencies

No dependencies set.

Reference: HswOAuth/llm_course#329
No description provided.
Delete Branch "%!s()"

Deleting a branch is permanent. Although the deleted branch may continue to exist for a short time before it actually gets removed, it CANNOT be undone in most cases. Continue?