中文 llama3 仿 openai api 实战 ---使用云服务创建大模型，指定GPU，但是实际只用了CPU #343

New Issue

11252177484cs · 2024-11-03T15:42:34+08:00

11252177484cs commented

2024-11-03 15:42:34 +08:00

使用云服务创建大模型，指定GPU，但是实际只用了CPU, 响应速度很慢

用 rocm-smi 命令查看，有DCU

使用云服务创建大模型，指定GPU，但是实际只用了CPU, 响应速度很慢 ![image](/attachments/fc627eb7-4dea-4e60-a160-d4fcaad91c8e) 用 rocm-smi 命令查看，有DCU ![image](/attachments/ae23be29-03ef-4e84-b7a4-cccaafcbaf40)

image.png

295 KiB

image.png

309 KiB

11252177484cs commented

2024-11-03 15:48:43 +08:00

这是notebook 情况

不知道是什么原因，都是按照培训材料操作的。

![image](/attachments/211a5831-45af-43ef-a524-bee46a55766e) 这是notebook 情况不知道是什么原因，都是按照培训材料操作的。

image.png

50 KiB

21547230244cs commented

2024-11-04 15:23:11 +08:00

本次实验不能使用云服务器噢~ 可以远程连接Linux服务器来做本次实验

11252177484cs commented

2024-11-04 22:01:34 +08:00

为啥不能用？是显卡问题吗？
可以远程连接Linux服务器来做本次实验 --- 这个怎么操作？

为啥不能用？是显卡问题吗？可以远程连接Linux服务器来做本次实验 --- 这个怎么操作？

21547230244cs commented

2024-11-05 18:17:59 +08:00

因为某些限制平台无法使用

这里首先需要自行准备一台Linux服务器。

因为某些限制平台无法使用这里首先需要自行准备一台Linux服务器。

11252177484cs commented

2024-11-12 17:00:06 +08:00

如果租用的云服务器没有用英伟达 GPU芯片，可以吗

21547230244cs commented

2024-11-13 15:22:28 +08:00

如果租用的云服务器没有用英伟达 GPU芯片，可以吗

可以使用autodl来租带GPU的服务器

> 如果租用的云服务器没有用英伟达 GPU芯片，可以吗可以使用autodl来租带GPU的服务器

Sign in to join this conversation.

No Label

No Milestone

No project

No Assignees

2 Participants

Notifications

Due Date

The due date is invalid or out of range. Please use the format 'yyyy-mm-dd'.

No due date set.

Dependencies

No dependencies set.

Reference: HswOAuth/llm_course#343