@ray 老师：昨天课程问题LLM的本地部署Issue #212

New Issue

11976971417cs · 2024-10-17T18:08:30+08:00

11976971417cs commented

2024-10-17 18:08:30 +08:00

hi，ray老师，按昨天讲义，执行到红框处（下图）即启动服务中的：python openai_api_server.py --gpus 0 --base_model 命令，服务器报错，如图： --error: argument --base_model: expected one argument ，貌似：--base_model 参数需要一个参数值，但你在命令行中没有提供。--base_model 选项后面应该跟一个基础模型的路径或名称。（我试了python openai_api_server.py --gpus 0 --base_model /home/ubuntu/Chinese-LLaMA-Alpaca-3-3.0 ，还是不行），请问怎么办？

hi，ray老师，按昨天讲义，执行到红框处（下图）![image](/attachments/93fe762d-d26a-4090-b1e6-2a7a476168ba) 即启动服务中的：python openai_api_server.py --gpus 0 --base_model 命令，服务器报错，如图：![image](/attachments/13e5c1bb-8dbe-4130-8d8c-22fa437feadd) --error: argument --base_model: expected one argument ，貌似：--base_model 参数需要一个参数值，但你在命令行中没有提供。--base_model 选项后面应该跟一个基础模型的路径或名称。（我试了python openai_api_server.py --gpus 0 --base_model /home/ubuntu/Chinese-LLaMA-Alpaca-3-3.0 ，还是不行），请问怎么办？

image.png

293 KiB

image.png

1.2 MiB

11976971417cs commented

2024-10-17 18:10:02 +08:00

第一个图贴错了，重贴，以此为准

![image](/attachments/0a5f2f67-910e-42e8-b2a5-a44b321b7581) 第一个图贴错了，重贴，以此为准

image.png

38 KiB

12390900721cs commented

2024-10-17 18:14:52 +08:00

在这张图片中，你用红框标出来的命令行和下面的/home/llm_course/.cache/......是一起的喔，下面这行模型路径就是base_model的参数值。这里应该是因为ppt的格式问题，把它分开写啦

![image](/attachments/f621ba0a-aba8-4d37-899e-a92d66226d16) 在这张图片中，你用红框标出来的命令行和下面的/home/llm_course/.cache/......是一起的喔，下面这行模型路径就是base_model的参数值。这里应该是因为ppt的格式问题，把它分开写啦

image.png

38 KiB

11976971417cs closed this issue

2024-10-18 11:20:20 +08:00

Sign in to join this conversation.