关于《中文llama3仿openai api实战》 《私有化LLM仿OpenAI API接口的高可用工程实践 》中autodl主机空闲GPU不足的问题 #525

Closed
opened 2025-02-11 21:06:07 +08:00 by xfleven · 0 comments

之前租用的机器使用gpu启动没问题,但由于主机空闲GPU不足的问题选择克隆实例,使用新机器。在新机器指定--gpus 0启动不生效,还是cpu启动

之前租用的机器使用gpu启动没问题,但由于主机空闲GPU不足的问题选择克隆实例,使用新机器。在新机器指定--gpus 0启动不生效,还是cpu启动
Sign in to join this conversation.
No Milestone
No project
No Assignees
1 Participants
Notifications
Due Date
The due date is invalid or out of range. Please use the format 'yyyy-mm-dd'.

No due date set.

Dependencies

No dependencies set.

Reference: HswOAuth/llm_course#525
No description provided.