[求助贴] 0929基于FastGpt+Rag搭建知识问答系统 作业求助 #200
Labels
No Label
bug
duplicate
enhancement
help wanted
invalid
question
wontfix
No Milestone
No project
No Assignees
2 Participants
Notifications
Due Date
No due date set.
Dependencies
No dependencies set.
Reference: HswOAuth/llm_course#200
Loading…
Reference in New Issue
Block a user
No description provided.
Delete Branch "%!s()"
Deleting a branch is permanent. Although the deleted branch may continue to exist for a short time before it actually gets removed, it CANNOT be undone in most cases. Continue?
这是讲义地址:https://docs.qq.com/doc/p/0555f97a90b6f2f9f039bd0c9251f5d7d1e7a506
我按照讲义步骤先安装docker和docker compose之后,想启动docker时,发现 docker服务没有启动,我尝试手动启动,执行 dockerd ,然后发现
可能是因为我租赁的是autoDL的服务器,它每个服务器都是一个docker容器,而这个容器并没有网络权限,所以我无法在内部再启动docker服务,请老师帮帮忙,看看有没有什么办法。
是的,autoDL里不支持docker in docker。
建议将模型部署在autodl上,fastgpt和oneapi部署在自己的机器上(不需要GPU)。
autodl上的模型可以通过ssh将端口映射出来再注册到oneAPI上。
端口映射命令可以参考这个命令,以xinference部署模型为例: (9997是xinference端口)
ssh -p 30524 root@connect.nma1.seetacloud.com -L 0.0.0.0:9997:0.0.0.0:9997 -N
映射之后可以通过本地127.0.0.1:9997进行访问