lx 12019701659cs
  • Joined on 2024-09-05
12019701659cs commented on issue HswOAuth/llm_course#728 2025-05-17 14:42:16 +08:00
多模态医疗模型前沿介绍 加载BiomedCLIP模型报错,找不到模型

huggingface需要设置镜像;model_name = "biomedclip_local"是我在当前环境下下载的模型修改的目录名,实际目录名需要和自己下载的biomedclip目录一致

12019701659cs commented on issue HswOAuth/llm_course#726 2025-05-17 14:38:45 +08:00
请问老师,基于我的需求,如何微调,微调后的模型,如何部署 ollama呢?

如果是用于对话的微调,需要先把文件转换为对话格式的数据,可以参考llamafactory的sft教程、rl教程;一般sft就行。 部署ollama:需要转换为gguf格式的…

12019701659cs commented on issue HswOAuth/llm_course#723 2025-05-07 21:41:18 +08:00
第41节课无人直播没有声音

声音的api是国外的api,需要科学方法;接入后,用窗口方式,就可以了。

12019701659cs commented on issue HswOAuth/llm_course#709 2025-05-03 18:26:59 +08:00
TTS模型,加载模型报错,说是pytorch版本导致

模型代码可能有条件分支,例如: if torch.__version__ >= "1.11": from torch.distributed.fsdp import FullyShardedDataParallel else: ` # 回退到其他并行策略(…

12019701659cs commented on issue HswOAuth/llm_course#706 2025-05-03 18:25:47 +08:00
我做了一个项目(工作流+知识库),现在出现模型幻觉和速度比较慢,看怎么解决

可以参考

在 Dify 中构建多阶段工作流:

  1. 预处理:对用户输入进行意图识别,提取关键实体和关键词。
  2. 检索增强
  3. 推理生成:将排序后的上…
12019701659cs commented on issue HswOAuth/llm_course#708 2025-05-03 18:23:42 +08:00
ai模拟面试机器人实战练习 fastapi 请求参数失败

需要先部署一个8030的服务,才能进行测试

12019701659cs commented on issue HswOAuth/llm_course#718 2025-05-03 18:07:58 +08:00
第40节课-多智能体协同代码生成-在autogen中利用RAG下载报错

再执行下这个命令试试:pip install pyrust-stemmers

12019701659cs commented on issue HswOAuth/llm_course#719 2025-05-03 18:04:37 +08:00
第36节课-LLaMA-factory 微调医疗数据集,FastGPT 部署模型应用下

因为报错是:JSONDecodeError: Extra data,表明 JSON 文件中包含了多余的数据或格式不正确,导致解析失败。 可以测试下面代码:

示例 JSON 文件内容(…

12019701659cs commented on issue HswOAuth/llm_course#722 2025-05-03 17:54:17 +08:00
第41节课-无人直播数字机器人-VirtualWife 镜像拉不下来

是网络的问题,可能需要你用些方法获取。

12019701659cs commented on issue HswOAuth/llm_course#711 2025-04-29 19:38:28 +08:00
微调后模型没有按指定知识回答

如果要完全按要求,你需要多调整参数,包括模型训练轮次,数据量,学习率之类的。

12019701659cs commented on issue HswOAuth/llm_course#713 2025-04-29 19:36:26 +08:00
AI模拟面试机器人实战练习(上) llm 安装下载报错

PyTorch 版本可能不对,你需要检查下重新安装

12019701659cs commented on issue HswOAuth/llm_course#715 2025-04-29 19:30:54 +08:00
AI模拟面试机器人实战练习(下 ) requirement.txt 安装报错

可以对照录像检查下问题

12019701659cs commented on issue HswOAuth/llm_course#716 2025-04-29 19:30:06 +08:00
30.31-FastGPT 部署模型应用(上1+上2)-24.12.30,25.1.3-林希老师

你可以询问班主任要下最新的课程录像,里面我有演示最新的用法

12019701659cs commented on issue HswOAuth/llm_course#717 2025-04-29 19:28:15 +08:00
第40节课-多智能体协同代码生成

这跟模型本身有关系,你可以多修改prompt尝试下。

12019701659cs commented on issue HswOAuth/llm_course#718 2025-04-29 19:26:45 +08:00
第40节课-多智能体协同代码生成-在autogen中利用RAG下载报错
image 报错里面说你没有安装rust,你需要安装rust
12019701659cs commented on issue HswOAuth/llm_course#719 2025-04-29 19:24:23 +08:00
第36节课-LLaMA-factory 微调医疗数据集,FastGPT 部署模型应用下

你需要检查下你的数据集构建,配置到data_info.json中的信息,可能没有配对。

12019701659cs commented on issue HswOAuth/llm_course#704 2025-04-24 21:49:23 +08:00
模型切换使用问题

可以看下dify的工具流,使用两种模型依次执行。

12019701659cs commented on issue HswOAuth/llm_course#696 2025-04-22 14:23:44 +08:00
AI模拟机器人面试实战学习-37j节课
image 这是用的镜像和配置环境,可以参考下
12019701659cs commented on issue HswOAuth/llm_course#699 2025-04-22 14:16:42 +08:00
AGI2406期 AI模拟面试机器人实战练习(上)

应该是没有找到模型,可以试下用模型的绝对路径