【作业贴】2025-01-21，17-Chinese LLaMA Alpaca系列模型OpenAI API调用实现 #66

New Issue

Open

opened 2025-02-12 11:20:03 +08:00 by xiaodunh · 0 comments

xiaodunh commented 2025-02-12 11:20:03 +08:00

Copy Link

具体实现步骤及结果：
1、下载开源项目
cd ~/ && wget https://file.huishiwei.top/Chinese-LLaMA-Alpaca-3-3.0.tar.gz
tar -xvf Chinese-LLaMA-Alpaca-3-3.0.tar.gz
2、下载依赖库
pip install -r requirements.txt -i https://mirrors.aliyun.com/pypi/simple

3、下载大模型

4、启动项目
python openai_api_server.py --gpus 0 --base_model /root/.cache/modelscope/hub/ChineseAlpacaGroup/llama-3-chinese-8b-instruct-v3

5、开启远程隧道

6、客户端配置

7、客户端访问

8、修改源码BUG

9、验证修改后的效果：

具体实现步骤及结果： 1、下载开源项目 cd ~/ && wget https://file.huishiwei.top/Chinese-LLaMA-Alpaca-3-3.0.tar.gz tar -xvf Chinese-LLaMA-Alpaca-3-3.0.tar.gz 2、下载依赖库 pip install -r requirements.txt -i https://mirrors.aliyun.com/pypi/simple  3、下载大模型  4、启动项目 python openai_api_server.py --gpus 0 --base_model /root/.cache/modelscope/hub/ChineseAlpacaGroup/llama-3-chinese-8b-instruct-v3  5、开启远程隧道  6、客户端配置  7、客户端访问  8、修改源码BUG  9、验证修改后的效果： 

image.png

246 KiB

image.png

170 KiB

image.png

224 KiB

image.png

32 KiB

image.png

48 KiB

image.png

59 KiB

image.png

67 KiB

image.png

51 KiB

Sign in to join this conversation.

No Branch/Tag Specified

Branches Tags

main

No results found.

Labels

Clear labels

No items

No Label

Milestone

Clear milestone

No items

No Milestone

Projects

Clear projects

No project

Assignees

Clear assignees

No Assignees

1 Participants

Notifications

Subscribe

Due Date

The due date is invalid or out of range. Please use the format 'yyyy-mm-dd'.

No due date set.

Dependencies

No dependencies set.

Reference: HswOAuth/llm_share#66

No description provided.