【作业贴】2025-01-21，17-Chinese LLaMA Alpaca系列模型OpenAI API调用实现 #527

New Issue

xiaodunh · 2025-02-12T08:30:24+08:00

xiaodunh commented

2025-02-12 08:30:24 +08:00

具体实现步骤及结果：
1、下载开源项目
cd ~/ && wget https://file.huishiwei.top/Chinese-LLaMA-Alpaca-3-3.0.tar.gz
tar -xvf Chinese-LLaMA-Alpaca-3-3.0.tar.gz
2、下载依赖库
pip install -r requirements.txt -i https://mirrors.aliyun.com/pypi/simple

3、下载大模型

4、启动项目
python openai_api_server.py --gpus 0 --base_model /root/.cache/modelscope/hub/ChineseAlpacaGroup/llama-3-chinese-8b-instruct-v3

5、开启远程隧道

6、客户端配置

7、客户端访问

8、修改源码BUG

9、验证修改后的效果：

具体实现步骤及结果： 1、下载开源项目 cd ~/ && wget https://file.huishiwei.top/Chinese-LLaMA-Alpaca-3-3.0.tar.gz tar -xvf Chinese-LLaMA-Alpaca-3-3.0.tar.gz 2、下载依赖库 pip install -r requirements.txt -i https://mirrors.aliyun.com/pypi/simple <img width="461" alt="image" src="/attachments/f0573fd4-d3fb-4810-822f-2dc5caee234d"> 3、下载大模型 <img width="466" alt="image" src="/attachments/51ad2286-d710-4f56-8d68-fae7479fe3de"> 4、启动项目 python openai_api_server.py --gpus 0 --base_model /root/.cache/modelscope/hub/ChineseAlpacaGroup/llama-3-chinese-8b-instruct-v3 <img width="469" alt="image" src="/attachments/683ee61a-8078-4286-aef6-c8d79f09e71e"> 5、开启远程隧道 <img width="416" alt="image" src="/attachments/a65c7d37-d174-4484-964e-7da784c864a6"> 6、客户端配置 <img width="416" alt="image" src="/attachments/1b54cd15-1429-4b2a-8264-8bc314d2b644"> 7、客户端访问 <img width="416" alt="image" src="/attachments/fafdb27e-a7d0-45ad-a4db-c740c9a1e17e"> 8、修改源码BUG <img width="416" alt="image" src="/attachments/13b21c9f-7cd9-4e6d-994c-ce87831cbf6e"> 9、验证修改后的效果： <img width="416" alt="image" src="/attachments/1ba02fd9-3817-4a3b-a486-901a4080eb51">

image.png

940 KiB

image.png

960 KiB

image.png

971 KiB

image.png

119 KiB

image.png

787 KiB

image.png

787 KiB