lx 12019701659cs
  • Joined on 2024-09-05
12019701659cs commented on issue HswOAuth/llm_course#638 2025-03-24 10:50:53 +08:00
使用Xinference部署FastGPT

使用Xinference部署FastGPT,意思就是将 FastGPT 模型放到 Xinference 平台上,让它在服务器或者云环境中运行 是这个意思吗? 对 假如我部署成功了,知识库是…

12019701659cs commented on issue HswOAuth/llm_course#631 2025-03-21 20:59:46 +08:00
2404期LLaMA-factory 微调医疗数据集,FastGPT 部署模型应用(上)-林希老师

对,最新版没有oneapi了,使用ai proxy代替。下一次我会重新介绍下新版。 可以参考这些文档: https://doc.tryfastgpt.ai/docs/development/docker/ https://doc.tryfast

12019701659cs commented on issue HswOAuth/llm_course#630 2025-03-21 20:39:44 +08:00
28-25.3.11-function call多机多卡(上)-部署疑问

既可以放在一个机器,也可以放在不同的机器,关键是这三个之间的通信打通就行,类似api连接/信道通信。详细可以看下fastchat的代码。

12019701659cs commented on issue HswOAuth/llm_course#632 2025-03-21 20:36:36 +08:00
funcion call多级多卡微调下

你得把所有报错都展示出来,才能知道。

12019701659cs commented on issue HswOAuth/llm_course#628 2025-03-19 22:14:19 +08:00
【求助帖】26-25.3.4-大语言模型训练篇:多机多卡微调+fastgpt入门 pg和OneApi启动失败

有可能端口已经有占用,先尝试下使用其他端口。如果还有问题,最好直接在fastgpt issue上提问,看是不是官方bug:https://github.com/labring/FastGPT/issues

12019701659cs commented on issue HswOAuth/llm_course#622 2025-03-18 17:22:33 +08:00
表情识别求助
12019701659cs commented on issue HswOAuth/llm_course#616 2025-03-14 19:23:41 +08:00
AGI2404期 基于AutoGen实现多智能体对话机器人----林希老师

问题1:某个请求没请求上,会重新请求 问题2:参考: Autogen 强调多智能体之间的对话和协作。它的目标是让多个具有不同角色和能力的智能体(age…

12019701659cs commented on issue HswOAuth/llm_course#620 2025-03-14 19:18:05 +08:00
docker启动失败

网络问题,可能需要科学上网,或者多试几次

12019701659cs commented on issue HswOAuth/llm_course#612 2025-03-12 18:19:21 +08:00
自然语言转sql训练遇到的问题

是你的大模型的api key欠费了

12019701659cs commented on issue HswOAuth/llm_course#610 2025-03-11 16:20:12 +08:00
基于Fast GPT搭建一个聊天应用

检查下渠道的配置信息,渠道名建议英文,令牌看下需要有。

12019701659cs commented on issue HswOAuth/llm_course#608 2025-03-11 16:12:56 +08:00
多机多卡微调--day_27--20250307--大语言模型训练篇--提示词工程--多机多卡微调及fastgpt模型部署--林希老师

通信问题,多机多卡随着机器的数量,发生通信问题的概率越大,多重新启动几次就行。

12019701659cs commented on issue HswOAuth/llm_course#611 2025-03-11 15:49:16 +08:00
【求助帖】20250218,eepseek理论介绍(下)-林希老师

可以测试下相同的ip postman和oneapi的调用情况,或者用curl测试下

12019701659cs commented on issue HswOAuth/llm_course#606 2025-03-10 13:06:38 +08:00
26-25.3.4-大语言模型训练篇:多机多卡微调 - 林希老师-执行报错

试下这里的复制 cd /code/ NPROC_PER_NODE=1 xtuner train qwen1_5_0_5b_chat_full_alpaca_e3_copy.py --work-dir /userhome/xtuner-workdir1 --deepspeed deepspeed_zero3_offload

12019701659cs commented on issue HswOAuth/llm_course#605 2025-03-10 13:03:51 +08:00
求助帖:26-25.3.4-大语言模型训练篇:多机多卡微调 - 林希老师——训练过程疑惑

训练管理和模型调试里面各自发布的任务,是占用各自的显卡对么?对 那训练管理发布的训练任务,怎么查看他内存占用情况?可以在代码中执行命…

12019701659cs commented on issue HswOAuth/llm_course#603 2025-03-10 13:00:57 +08:00
【求助帖】如何实现更精准的知识库经验请教
  1. 实现业务文档的精准向量化 (1)语义分割和分块: 不要简单地使用固定大小的分块方法,而是对文档进行语义分割。将文档分解成有意义的单元,…
12019701659cs commented on issue HswOAuth/llm_course#596 2025-03-06 11:16:51 +08:00
求助帖:autodl算力服务器实例使用ssh隧道后,本地配置oneapi渠道后测试报错

image 你可以先测试下命令行的教程,映射到6006看看。