• Joined on 2024-10-20
Chanson commented on issue HswOAuth/llm_course#694 2025-04-17 19:56:59 +08:00
【求助帖】公司做AI智能客服,前端怎么搞能实现自动发消息和回复

可以参考: 本地LLM和知识库:基于用户输入查询知识库并生成自然语言回复。 后端服务:处理前端请求,调用本地LLM,管理知识库查询,并通…

Chanson opened issue HswOAuth/llm_course#694 2025-04-16 18:05:06 +08:00
【问】公司做AI智能客服,前端怎么搞能实现自动发消息和回复
Chanson commented on issue HswOAuth/llm_course#449 2025-01-01 22:54:17 +08:00
[实时网页信息爬取+RAG的舆情分析系统] RAG索引不到

谢谢老师,已解决,oneapi渠道中模型范围,没有填入m3e-base

Chanson opened issue HswOAuth/llm_course#449 2024-12-29 00:12:38 +08:00
[实时网页信息爬取+RAG的舆情分析系统] RAG索引不到
Chanson commented on issue HswOAuth/llm_course#421 2024-12-18 22:55:22 +08:00
[求助]rag问答系统搭建:docker创建数据库时,无法拉取hsw镜像
  1. 这个镜像保存在腾讯云的容器镜像服务中,腾讯云对镜像做了限制,可以直接使用fastgpt的mysql镜像平替。
  2. 从日志上看容器是启动成功了,…
Chanson opened issue HswOAuth/llm_course#421 2024-12-17 00:12:43 +08:00
rag问答系统搭建:docker创建数据库时,无法拉取hsw镜像
Chanson commented on issue HswOAuth/llm_course#409 2024-12-03 21:29:19 +08:00
求助20241130视频生成模型部署过程中部署示例(TokenFlow)运行示例报错

我也有类似的问题;我遇到的是1文件不存在 (av.error.FileNotFoundError): 程序找不到指定的文件 woman-running.mp4。确保视频文件在正确的位置,并且路径名拼…

Chanson commented on issue HswOAuth/llm_course#261 2024-10-25 15:30:00 +08:00
微调时,没有曲线,检查点选中后,大模型开始胡言乱语

请将LLaMA-Factory放置在/root/目录下,也就是:/root/LLaMA-Factory,然后再重复做一次实验 <img width="1040" alt="image" src="/attachments/9d6e2945-6b25-40dc-9986-25e415419…

Chanson commented on issue HswOAuth/llm_course#261 2024-10-25 15:28:52 +08:00
微调时,没有曲线,检查点选中后,大模型开始胡言乱语

请问解决了吗

没有呢

Chanson commented on issue HswOAuth/llm_course#261 2024-10-23 21:05:40 +08:00
微调时,没有曲线,检查点选中后,大模型开始胡言乱语

在视频中看到有将数据路径从data改成了LLaMAFactory/data,可以保持原来的data,试试这样行不行

image

我…

Chanson commented on issue HswOAuth/llm_course#261 2024-10-22 21:26:15 +08:00
微调时,没有曲线,检查点选中后,大模型开始胡言乱语

请截完整的ui界面,便于排查模型问题,确保使用了GLM-4-9b-chat,如果条件允许,请录屏,然后上传操作视频,方便排查问题,谢谢。

已上传

Chanson commented on issue HswOAuth/llm_course#261 2024-10-22 17:05:23 +08:00
微调时,没有曲线,检查点选中后,大模型开始胡言乱语

可以提供更多信息嘛?比如模型名称等。

然后在加载模型前先确保已经卸载了之前的模型。

GLM-4-9b-chat

卸载过的,不然服务器端无…

Chanson commented on issue HswOAuth/llm_course#261 2024-10-22 17:04:47 +08:00
微调时,没有曲线,检查点选中后,大模型开始胡言乱语

可以提供更多信息嘛?比如模型名称等。

然后在加载模型前先确保已经卸载了之前的模型。

GLM-4-9b-chat

Chanson commented on issue HswOAuth/llm_course#244 2024-10-22 15:26:54 +08:00
AutoDL服务器LLM仿OpenAI API接口,隧道打通后,oneAPI测试成功,但nextChat无法问答

已解决,同241#。本次实验复现成功

Chanson commented on issue HswOAuth/llm_course#241 2024-10-22 15:05:23 +08:00
LLama3仿OpenAI实验,命令行测试成功,但是NextChat不行

解决了,问题出在 定义 StopOnEvent 的时候最后一行代码,return false与上面的return true并列了,使得程序报错。应该去掉前面的空格

Chanson commented on issue HswOAuth/llm_course#241 2024-10-22 14:53:33 +08:00
LLama3仿OpenAI实验,命令行测试成功,但是NextChat不行

打了隧道以后,nextchat里面的ip要填写为http://127.0.0.1:19327 是不是隧道没打成功,powershell关于ssh的设置有问题呢,模型还是不回答

进行问答时…

Chanson commented on issue HswOAuth/llm_course#241 2024-10-22 14:18:47 +08:00
LLama3仿OpenAI实验,命令行测试成功,但是NextChat不行

打了隧道以后,nextchat里面的ip要填写为http://127.0.0.1:19327 是不是隧道没打成功,powershell关于ssh的设置有问题呢,模型还是不回答

Chanson commented on issue HswOAuth/llm_course#244 2024-10-22 13:40:30 +08:00
AutoDL服务器LLM仿OpenAI API接口,隧道打通后,oneAPI测试成功,但nextChat无法问答

nextchat上的地址,需要填写你oneapi的地址

我在本地的Ubuntu系统上打的隧道,Ubuntu的地址是172.20.65.232,nextchat上写的就是oneAPI地址:172.20.65.232:3030