lx 12019701659cs
  • Joined on 2024-09-05
12019701659cs commented on issue HswOAuth/llm_course#748 2025-06-10 11:00:43 +08:00
汇视威平台 镜像环境中的数据集和模型没有了,是什么情况????

模型和数据迁移到了/bigDataDown/目录

12019701659cs commented on issue HswOAuth/llm_course#746 2025-06-10 10:57:55 +08:00
如何下载Llama-2-7b-chat-hf,需要申请吗

通过huggingface cli或者modelscope下载

12019701659cs commented on issue HswOAuth/llm_course#743 2025-06-04 17:57:43 +08:00
怎么不能从大模型api中获取DASHSCOPE_API_KEY

这是jupyter notebook的问题,在py文件中可以这么操作,在jupyter上建议显示使用

12019701659cs commented on issue HswOAuth/llm_course#744 2025-06-04 17:56:15 +08:00
UNSTRUCTURED key因为注册,但是注册,需要邮箱,试了很多邮箱都不行

可能需要询问下这个平台的服务商

12019701659cs commented on issue HswOAuth/llm_course#745 2025-06-04 17:54:18 +08:00
LLaMA-factory 微调医疗数据集-lora参数注入问题--林希老师

核心训练逻辑并不集中在 train.py,而是分布在以下模块中: src/llama_factory/trainers:训练主流程。 src/llama_factory/peft:与 LoRA/QLoRA 有关的 PEFT 模块封装…

12019701659cs commented on issue HswOAuth/llm_course#740 2025-06-04 17:21:17 +08:00
大模型文档助手+医疗命名实体识别 layout-parser-paper.pdf下载不了

image 你可能需要检查下网络问题。

12019701659cs commented on issue HswOAuth/llm_course#739 2025-05-28 22:39:10 +08:00
dify 数据报表智能体实现思路的请教

优化提示词与任务分配:明确区分“查询数据”、“生成图表”和“导出Excel”请求,增加更多用户请求示例。确保模型能够准确识别并分配任务。 …

12019701659cs commented on issue HswOAuth/llm_course#738 2025-05-28 22:36:49 +08:00
AGI-2404期-智能审稿机器人--多模态数据处理?-林希老师

如果是高频次处理这类复杂PDF文件的需求,可以考虑使用一些商业API

Docparser:一个基于云的API,能够提取PDF中的数据表格、文本、图表等内容。

12019701659cs commented on issue HswOAuth/llm_course#737 2025-05-28 22:35:26 +08:00
关于本地局域部署算力

可参考:

  1. 硬件环境准备 服务器和机架设计:确保你的服务器机箱可以容纳这些显卡,或者需要配置专用的GPU服务器。一般来说,至少需要一个支…
12019701659cs commented on issue HswOAuth/llm_course#734 2025-05-28 22:32:13 +08:00
【求助帖】我目前想要做个UI自动化的工具,需要识别页面上面所有可能按钮,并且获取到这些按钮的坐标,有哪些开源模型比较适合?要怎么微调?

OpenCV + Tesseract 可以考虑结合OpenCV和Tesseract进行按钮识别: 利用OpenCV的模板匹配或者轮廓检测等方法,结合Tesseract OCR对按钮文本进行识别。

12019701659cs commented on issue HswOAuth/llm_course#733 2025-05-28 22:30:46 +08:00
第42节课-基于vllm的本地模型部署-报错

这个可能跟autodl平台有关系,建议去询问下他们的客服

12019701659cs commented on issue HswOAuth/llm_course#729 2025-05-17 14:46:42 +08:00
不能进入one API渠道设置

新版fastgpt没有one api,使用的新分发方式,可以参考fastgpt最新文档;如果要用oneapi,可以下载旧版fastgpt;fastgpt默认应该是root,12345;ollama创建命令需…

12019701659cs commented on issue HswOAuth/llm_course#728 2025-05-17 14:42:16 +08:00
多模态医疗模型前沿介绍 加载BiomedCLIP模型报错,找不到模型

huggingface需要设置镜像;model_name = "biomedclip_local"是我在当前环境下下载的模型修改的目录名,实际目录名需要和自己下载的biomedclip目录一致

12019701659cs commented on issue HswOAuth/llm_course#726 2025-05-17 14:38:45 +08:00
请问老师,基于我的需求,如何微调,微调后的模型,如何部署 ollama呢?

如果是用于对话的微调,需要先把文件转换为对话格式的数据,可以参考llamafactory的sft教程、rl教程;一般sft就行。 部署ollama:需要转换为gguf格式的…

12019701659cs commented on issue HswOAuth/llm_course#723 2025-05-07 21:41:18 +08:00
第41节课无人直播没有声音

声音的api是国外的api,需要科学方法;接入后,用窗口方式,就可以了。

12019701659cs commented on issue HswOAuth/llm_course#709 2025-05-03 18:26:59 +08:00
TTS模型,加载模型报错,说是pytorch版本导致

模型代码可能有条件分支,例如: if torch.__version__ >= "1.11": from torch.distributed.fsdp import FullyShardedDataParallel else: ` # 回退到其他并行策略(…

12019701659cs commented on issue HswOAuth/llm_course#706 2025-05-03 18:25:47 +08:00
我做了一个项目(工作流+知识库),现在出现模型幻觉和速度比较慢,看怎么解决

可以参考

在 Dify 中构建多阶段工作流:

  1. 预处理:对用户输入进行意图识别,提取关键实体和关键词。
  2. 检索增强
  3. 推理生成:将排序后的上…
12019701659cs commented on issue HswOAuth/llm_course#708 2025-05-03 18:23:42 +08:00
ai模拟面试机器人实战练习 fastapi 请求参数失败

需要先部署一个8030的服务,才能进行测试