[求助帖]在Autodl平台，如何启动fsatgpt #320

New Issue

11653386060cs · 2024-10-29T12:30:28+08:00

11653386060cs commented

2024-10-29 12:30:28 +08:00

![image](/attachments/a3073e6f-0761-4527-af77-334b0af1de0c)![image](/attachments/46c175a7-36c1-497f-b7fe-f002d58f5b36)

image.png

206 KiB

image.png

39 KiB

11248284577cs commented

2024-10-29 12:49:03 +08:00

Autodl平台，不能运行docker

12390900721cs commented

2024-10-29 14:39:45 +08:00

建议使用本地的机器使用Docker部署FastGPT

21970855250cs commented

2024-10-29 20:31:16 +08:00

fastgpt 和 oneapi 不需要GPU，建议在自己机器上部署，使用docker部署坑比较少
模型可以使用xinference在autodl上部署
然后使用ssh隧道建立连接，命令如下
ssh -p 30921 root@connect.nma1.seetacloud.com -L 0.0.0.0:9997:0.0.0.0:9997 -N

注意是在自己机器上执行
ssh -p 30921 root@connect.nma1.seetacloud.com 这部分是autodl上的ssh连接命令，注意替换成自己的，需要输入密码也是autodl提供的
执行完上面的命令后，在自己的机器上打开浏览器，输入127.0.0.1:9997就可以访问autodl上的xinference了

fastgpt 和 oneapi 不需要GPU，建议在自己机器上部署，使用docker部署坑比较少模型可以使用xinference在autodl上部署然后使用ssh隧道建立连接，命令如下 `ssh -p 30921 root@connect.nma1.seetacloud.com -L 0.0.0.0:9997:0.0.0.0:9997 -N` - 注意是在自己机器上执行 - `ssh -p 30921 root@connect.nma1.seetacloud.com` 这部分是autodl上的ssh连接命令，注意替换成自己的，需要输入密码也是autodl提供的执行完上面的命令后，在自己的机器上打开浏览器，输入`127.0.0.1:9997`就可以访问autodl上的xinference了

Sign in to join this conversation.