oneapi中配置ollama模型，报错如图 #533

New Issue

liulu · 2025-02-12T13:20:06+08:00

liulu commented

2025-02-12 13:20:06 +08:00

oneapi中配置ollama模型，在终端中可以使用ollama启动模型，但是在oneapi中就会报错，如下图

image.png

185 KiB

12019701659cs commented

2025-02-12 14:43:07 +08:00

先尝试使用curl命令发送请求测试ollama是否可以访问
类似这种：
curl http://localhost:11434/api/generate -d '{
"model": "llama3.2",
"prompt": "What color is the sky at different times of the day? Respond using JSON",
"format": "json",
"stream": false
}'

先尝试使用curl命令发送请求测试ollama是否可以访问类似这种： `curl http://localhost:11434/api/generate -d '{` `"model": "llama3.2",` `"prompt": "What color is the sky at different times of the day? Respond using JSON",` `"format": "json",` `"stream": false` `}'`

liulu commented

2025-02-12 15:02:40 +08:00

测试正常的

![image](/attachments/011261ac-bb8e-47f2-bd28-c2603d9f4fbd) 测试正常的

image.png

127 KiB

liulu commented

2025-02-12 18:25:17 +08:00

我现在是在自己的服务器上使用ollama部署了模型，使用xinference启动了模型；我在本地使用curl ...测试了都是通的。但是在oneapi中就拒绝连接。
下图是xinference启动的模型在oneapi中的配置，这应该怎样处理呢

我现在是在自己的服务器上使用ollama部署了模型，使用xinference启动了模型；我在本地使用curl ...测试了都是通的。但是在oneapi中就拒绝连接。下图是xinference启动的模型在oneapi中的配置，这应该怎样处理呢 ![image](/attachments/33a764ce-2943-4f45-a469-a14544a3c273)

image.png

147 KiB

12019701659cs commented

2025-02-12 21:51:57 +08:00

可以看下oneapi镜像里面的错误信息，看下什么问题

liulu commented

2025-02-12 22:04:09 +08:00

先查看oneapi日志，打印如下
渠道中测试，报错，查看oneapi日志如下

运行界面如下：

渠道配置如下:

终端curl测试如下

老师您看看

1. 先查看oneapi日志，打印如下 ![image](/attachments/4bdb946e-0ebd-42e2-ad38-b4a44ca109c1) 2. 渠道中测试，报错，查看oneapi日志如下 ![image](/attachments/dedc3a0b-54ae-4e6a-96b1-291a40702a4c) 运行界面如下： ![image](/attachments/e539871a-9cf4-449f-a7fe-e044fc7753dc) 渠道配置如下: ![image](/attachments/a6dbc2bf-8077-45fd-bfc4-a15dfc79f8ef) 终端curl测试如下 ![image](/attachments/56a9e52d-1e16-41e3-a344-b0070a6a3f36) 老师您看看

image.png

40 KiB

image.png

61 KiB

image.png

92 KiB

image.png

45 KiB

image.png

170 KiB

12019701659cs commented

2025-02-13 17:52:26 +08:00