【求助帖】25.1.21,Chinese LLaMA Alpaca系列模型OpenAI API调用实现云平台链接问题 #486

New Issue

CharlieXie · 2025-01-22T20:15:56+08:00

CharlieXie commented

2025-01-22 20:15:56 +08:00

我购买了一个汇视威云平台并配置了 LLaMA，如何配置ChatGPTNextWeb链接到云平台？

我购买了一个汇视威云平台并配置了 LLaMA，如何配置ChatGPTNextWeb链接到云平台？<img width="1246" alt="image" src="/attachments/17e881dd-aae6-4477-adfc-98362505f606"> <img width="710" alt="image" src="/attachments/b8fa4602-1365-485e-83e2-2ab4fea2c26f">

image.png

34 KiB

image.png

51 KiB

CharlieXie changed title from ~~【求助帖】25.1.21,Chinese LLaMA Alpaca系列模型OpenAI API调用实现~~ to 【求助帖】25.1.21,Chinese LLaMA Alpaca系列模型OpenAI API调用实现云平台链接问题

2025-01-22 20:17:58 +08:00

rayhsw commented

2025-01-23 20:29:11 +08:00

我购买了一个汇视威云平台并配置了 LLaMA，如何查看云服务的IP地址并通过本地git bash和ChatGPTNextWeb链接到云平台？

你好，汇视威的容器不提供公网ssh访问，您可以使用命令行curl的方式，测试模型效果。

> 我购买了一个汇视威云平台并配置了 LLaMA，如何查看云服务的IP地址并通过本地git bash和ChatGPTNextWeb链接到云平台？<img width="1246" alt="image" src="/attachments/17e881dd-aae6-4477-adfc-98362505f606"> 你好，汇视威的容器不提供公网ssh访问，您可以使用命令行curl的方式，测试模型效果。

CharlieXie commented

2025-01-23 21:43:31 +08:00

我购买了一个汇视威云平台并配置了 LLaMA，如何查看云服务的IP地址并通过本地git bash和ChatGPTNextWeb链接到云平台？

你好，汇视威的容器不提供公网ssh访问，您可以使用命令行curl的方式，测试模型效果。

您好，可以给出curl询问大模型的示例吗，先已经成功通过gitbash链接云平台

> > 我购买了一个汇视威云平台并配置了 LLaMA，如何查看云服务的IP地址并通过本地git bash和ChatGPTNextWeb链接到云平台？<img width="1246" alt="image" src="/attachments/17e881dd-aae6-4477-adfc-98362505f606"> > > 你好，汇视威的容器不提供公网ssh访问，您可以使用命令行curl的方式，测试模型效果。您好，可以给出curl询问大模型的示例吗，先已经成功通过gitbash链接云平台

rayhsw commented

2025-02-06 17:59:34 +08:00

在notebook命令行，可以试试下面命令（在课件文档里面有）：

curl http://127.0.0.1:19327/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer x" \
  -d '{
    "model": "llama-3-chinese",
    "messages": [
      {
        "role": "user",
        "content": "1+1等于几？"
      }
    ],
    "max_tokens": 4096
  }'

在notebook命令行，可以试试下面命令（在课件文档里面有）： ``` bash curl http://127.0.0.1:19327/v1/chat/completions \ -H "Content-Type: application/json" \ -H "Authorization: Bearer x" \ -d '{ "model": "llama-3-chinese", "messages": [ { "role": "user", "content": "1+1等于几？" } ], "max_tokens": 4096 }' ```

CharlieXie closed this issue

2025-02-24 20:10:51 +08:00

Sign in to join this conversation.