lx 12019701659cs
  • Joined on 2024-09-05
12019701659cs commented on issue HswOAuth/llm_course#380 2024-11-17 19:43:00 +08:00
【求助帖】prompt微调-xinference部署时报错

可能是没有成功建立共享目录,可以手动把模型目录放到xinference镜像的/home下面

12019701659cs commented on issue HswOAuth/llm_course#377 2024-11-15 14:40:56 +08:00
【求助帖】2024.10.11,L4 38无人直播数字机器人

语音模块用的是国外的服务,需要科学上网。

12019701659cs commented on issue HswOAuth/llm_course#362 2024-11-12 21:45:02 +08:00
求助帖:想结合RAG和LLM做虚假新闻识别的任务

仅供参考

  1. 图谱集成:将知识图谱与RAG模型集成,使模型能够直接从图谱中检索信息。
  2. 联合训练:训练RAG模型,使其在生成响应时能够同时利用…
12019701659cs commented on issue HswOAuth/llm_course#371 2024-11-12 21:40:51 +08:00
RAG-含有图片的文档读取

或者只处理文本,去掉图片。

12019701659cs commented on issue HswOAuth/llm_course#371 2024-11-12 21:40:17 +08:00
RAG-含有图片的文档读取
  1. 使用多模态嵌入模型来嵌入图像和文本以进行答案合成。
  2. 使用多模态LLM从图像生成文本摘要,然后嵌入和检索文本,将文本块传递给LLM以进行答…
12019701659cs commented on issue HswOAuth/llm_course#354 2024-11-07 14:59:33 +08:00
[求助帖]LLM-多模态理论+案例讲解-24.10.23-林希老师,做MINIGPT实验报错,如图。请老师帮助解决
  1. cuda和pytorch的版本不一致,需要重新配置cuda和pytorch。

Cuda 11.8 pytorch==2.0.0

  1. 检查pytorch是否可以调用GPU
import torch

# 检查是否有可用…
12019701659cs commented on issue HswOAuth/llm_course#337 2024-11-05 00:28:54 +08:00
【求助帖】多模态课程启动 Video-LLaVA 报错
image gradio_web_server.py改回原来的,然后让运行 `export HF_HOME=/root/autodl-tmp/huggingface-cache/` `…
12019701659cs commented on issue HswOAuth/llm_course#337 2024-11-04 10:33:57 +08:00
【求助帖】多模态课程启动 Video-LLaVA 报错
image 应该还是模型的问题,检查模型目录的完整性,看下model.safetensors.index.json,是否有…
12019701659cs commented on issue HswOAuth/llm_course#337 2024-11-02 18:12:31 +08:00
【求助帖】多模态课程启动 Video-LLaVA 报错

模型的下载是否完整:使用transformers库加载模型,尝试使用transformers库加载下载的模型,如果模型文件损坏或不完整,加载过程中通常会报错,这可…

12019701659cs commented on issue HswOAuth/llm_course#337 2024-11-02 18:09:11 +08:00
【求助帖】多模态课程启动 Video-LLaVA 报错

截下完整的运行情况,从命令开始到报错

12019701659cs commented on issue HswOAuth/llm_course#337 2024-11-01 17:37:16 +08:00
【求助帖】多模态课程启动 Video-LLaVA 报错

以及检查下:(1)模型的下载是否完整(2)gradio_web_server.py的模型路径是否正确

12019701659cs commented on issue HswOAuth/llm_course#337 2024-11-01 17:32:22 +08:00
【求助帖】多模态课程启动 Video-LLaVA 报错

提供一下完整的运行命令和截图,以及前因后果。

12019701659cs commented on issue HswOAuth/llm_course#280 2024-10-30 20:48:01 +08:00
【求助】算力云上运行Image Captioning 任务与模型执⾏VQA任务报错

提供的镜像里面,blip使用的环境是名为blip的conda环境,所以:

  1. 在命令行执行环境时,需要先使用conda activate blip进入blip的conda的环境。
  2. 在jypter…
12019701659cs commented on issue HswOAuth/llm_course#329 2024-10-30 20:19:55 +08:00
【求助帖】多模态课程video-llava安装flash-attn出错

可能问题:gradio是huggingface支持的,在运行前,替换下huggingface的国内镜像: export HF_HOME=/root/autodl-tmp/huggingface-cache/ export HF_ENDPOINT=https://hf-mirror.com

12019701659cs commented on issue HswOAuth/llm_course#298 2024-10-28 14:05:30 +08:00
【求助帖】多模态课程启动 Video-LLaVA 报错
  1. 遇到waring可以不用管,warning是建议,不会影响运行。
  2. 没有到gradio运行阶段,检查下gradio的配置,包括:临时设置huggingface镜像,gradio公网share的…
12019701659cs commented on issue HswOAuth/llm_course#290 2024-10-25 20:10:43 +08:00
【求助帖】多模态课程启动minigptv报错
  1. 可能模型文件损坏或缺失,检查文件大小是否和官网一致;否则重新下载模型。 https://www.modelscope.cn/models/shakechen/Llama-2-7b-chat-hf/files <img width="959"…
12019701659cs opened issue HswOAuth/llm_course#85 2024-09-13 19:15:41 +08:00
LLaVA-Med: Training a Large Language-and-Vision Assistant for Biomedicine in One Day
12019701659cs opened issue HswOAuth/llm_course#84 2024-09-13 19:00:33 +08:00
中文 llama3 仿 openai api 实战
12019701659cs opened issue HswOAuth/llm_course#75 2024-09-12 18:10:14 +08:00
在训练管理中基于function call进行多机多卡微调Llama3-8B-Instruct模型
12019701659cs opened issue HswOAuth/llm_course#74 2024-09-12 18:07:56 +08:00
在训练管理中基于function call测试多机多卡微调Llama3-8B-Instruct模型