lx 12019701659cs
  • Joined on 2024-09-05
12019701659cs commented on issue HswOAuth/llm_course#404 2024-11-28 18:44:11 +08:00
求助大模型在数据分类分级场景中如何实现智能分类分级?或者有什么好的实现思路吗?

可以考虑下这两个:

  1. 文本分类与分级:使用BERT等预训练模型对文本进行微调,首先进行粗略分类(如健康、科技、娱乐),然后针对每个类别进…
12019701659cs commented on issue HswOAuth/llm_course#400 2024-11-27 23:47:33 +08:00
FastGPT使用

都需要考虑下隐私问题、数据保密问题。 前期(使用 FastGPT 等外部 API)

  1. 可能需要考虑如何保障业务连续性,比如说网络延迟及服务稳定性问题。…
12019701659cs commented on issue HswOAuth/llm_course#383 2024-11-19 16:41:03 +08:00
FASTGPT 的 结果重排一直不生效

那节课应该不涉及这个内容,这个问题可以参考下:https://github.com/labring/FastGPT/issues/2881 <img width="1010" alt="image" src="/attachments/cca048fa-76c7-4470-b730-290095fc…

12019701659cs commented on issue HswOAuth/llm_course#383 2024-11-18 20:45:00 +08:00
FASTGPT 的 结果重排一直不生效
  1. 是哪节课程的问题?2. 脚本是什么? 3. 也提供下问题截图。
12019701659cs commented on issue HswOAuth/llm_course#380 2024-11-18 14:14:03 +08:00
【求助帖】prompt微调-xinference部署时报错

你可以进入xinference镜像看下/home目录下面有没有code-llama-sql模型,没有就手动把模型目录放到xinference镜像的/home下面,xinference镜像的/home是本地的根目录

12019701659cs commented on issue HswOAuth/llm_course#380 2024-11-17 19:43:00 +08:00
【求助帖】prompt微调-xinference部署时报错

可能是没有成功建立共享目录,可以手动把模型目录放到xinference镜像的/home下面

12019701659cs commented on issue HswOAuth/llm_course#377 2024-11-15 14:40:56 +08:00
【求助帖】2024.10.11,L4 38无人直播数字机器人

语音模块用的是国外的服务,需要科学上网。

12019701659cs commented on issue HswOAuth/llm_course#362 2024-11-12 21:45:02 +08:00
求助帖:想结合RAG和LLM做虚假新闻识别的任务

仅供参考

  1. 图谱集成:将知识图谱与RAG模型集成,使模型能够直接从图谱中检索信息。
  2. 联合训练:训练RAG模型,使其在生成响应时能够同时利用…
12019701659cs commented on issue HswOAuth/llm_course#371 2024-11-12 21:40:51 +08:00
RAG-含有图片的文档读取

或者只处理文本,去掉图片。

12019701659cs commented on issue HswOAuth/llm_course#371 2024-11-12 21:40:17 +08:00
RAG-含有图片的文档读取
  1. 使用多模态嵌入模型来嵌入图像和文本以进行答案合成。
  2. 使用多模态LLM从图像生成文本摘要,然后嵌入和检索文本,将文本块传递给LLM以进行答…
12019701659cs commented on issue HswOAuth/llm_course#354 2024-11-07 14:59:33 +08:00
[求助帖]LLM-多模态理论+案例讲解-24.10.23-林希老师,做MINIGPT实验报错,如图。请老师帮助解决
  1. cuda和pytorch的版本不一致,需要重新配置cuda和pytorch。

Cuda 11.8 pytorch==2.0.0

  1. 检查pytorch是否可以调用GPU
import torch

# 检查是否有可用…
12019701659cs commented on issue HswOAuth/llm_course#337 2024-11-05 00:28:54 +08:00
【求助帖】多模态课程启动 Video-LLaVA 报错
image gradio_web_server.py改回原来的,然后让运行 `export HF_HOME=/root/autodl-tmp/huggingface-cache/` `…
12019701659cs commented on issue HswOAuth/llm_course#337 2024-11-04 10:33:57 +08:00
【求助帖】多模态课程启动 Video-LLaVA 报错
image 应该还是模型的问题,检查模型目录的完整性,看下model.safetensors.index.json,是否有…
12019701659cs commented on issue HswOAuth/llm_course#337 2024-11-02 18:12:31 +08:00
【求助帖】多模态课程启动 Video-LLaVA 报错

模型的下载是否完整:使用transformers库加载模型,尝试使用transformers库加载下载的模型,如果模型文件损坏或不完整,加载过程中通常会报错,这可…

12019701659cs commented on issue HswOAuth/llm_course#337 2024-11-02 18:09:11 +08:00
【求助帖】多模态课程启动 Video-LLaVA 报错

截下完整的运行情况,从命令开始到报错

12019701659cs commented on issue HswOAuth/llm_course#337 2024-11-01 17:37:16 +08:00
【求助帖】多模态课程启动 Video-LLaVA 报错

以及检查下:(1)模型的下载是否完整(2)gradio_web_server.py的模型路径是否正确

12019701659cs commented on issue HswOAuth/llm_course#337 2024-11-01 17:32:22 +08:00
【求助帖】多模态课程启动 Video-LLaVA 报错

提供一下完整的运行命令和截图,以及前因后果。

12019701659cs commented on issue HswOAuth/llm_course#280 2024-10-30 20:48:01 +08:00
【求助】算力云上运行Image Captioning 任务与模型执⾏VQA任务报错

提供的镜像里面,blip使用的环境是名为blip的conda环境,所以:

  1. 在命令行执行环境时,需要先使用conda activate blip进入blip的conda的环境。
  2. 在jypter…
12019701659cs commented on issue HswOAuth/llm_course#329 2024-10-30 20:19:55 +08:00
【求助帖】多模态课程video-llava安装flash-attn出错

可能问题:gradio是huggingface支持的,在运行前,替换下huggingface的国内镜像: export HF_HOME=/root/autodl-tmp/huggingface-cache/ export HF_ENDPOINT=https://hf-mirror.com