lx 12019701659cs
  • Joined on 2024-09-05
12019701659cs commented on issue HswOAuth/llm_course#484 2025-01-21 20:36:13 +08:00
如何把第9节课的大模型微调里面的问答数据和第5节课的funcation结合起来?

可以参考第五节课使用的数据集的格式,修改问答数据的格式来训练。

12019701659cs commented on issue HswOAuth/llm_course#483 2025-01-20 17:06:58 +08:00
docker内存清理不掉

可能还在使用的镜像和删除的镜像共用的是同一个layer,所以实际上没有删除多少东西。如果是缓存问题,可以参考https://blog.csdn.net/qq_38924779/article/det

12019701659cs commented on issue HswOAuth/llm_course#482 2025-01-20 17:02:51 +08:00
dify如何加载本地下载的大模型

可以部署到xinference里面,在dify中调用xinference的模型

12019701659cs commented on issue HswOAuth/llm_course#476 2025-01-17 15:10:30 +08:00
ubuntu服务器上ollama拉取镜像失败

部分模型可能存储在不同的服务器或 CDN 上,某些服务器可能由于网络问题无法访问。无法访问的模型可能需要科学上网。

12019701659cs commented on issue HswOAuth/llm_course#477 2025-01-17 15:08:44 +08:00
24.8.11Langchain实战项目:智能论文审稿机器人下-此莫 基德老师- 报错

第一个问题:可以在每次 API 调用之间增加延迟(例如 time.sleep()),以减少请求频率;登录智谱 AI 的控制台,检查当前 API 的调用配额和速率限制。 …

12019701659cs commented on issue HswOAuth/llm_course#468 2025-01-13 15:16:57 +08:00
本地服务器用gpu创建ollama容器报错

这个需要你自己八仙过海各显神通了

12019701659cs commented on issue HswOAuth/llm_course#471 2025-01-13 15:15:27 +08:00
2024.11.2842-医疗大语言模型实战提问

你可以找下源码,一般在LLaMA-Factory/src/llamafactory/data目录和LLaMA-Factory/src/llamafactory/train目录下

12019701659cs commented on issue HswOAuth/llm_course#471 2025-01-11 21:43:55 +08:00
2024.11.2842-医疗大语言模型实战提问

max_samples 控制从数据集中加载的样本数量。 num_examples 是实际用于训练的样本数量,可能与 max_samples 不同,具体跟数据加载器、重复采样、数据预处…

12019701659cs commented on issue HswOAuth/llm_course#464 2025-01-09 15:04:32 +08:00
【课程求助】多模态助手复现:dify本地安装报错

你可以看下dify的issue:https://github.com/langgenius/dify/issues?q=failed+to+create+shim+task

再解释下:问题是尝试将本地文件 /run/desktop/mnt/host/wsl/docker-desktop-bind-m…

12019701659cs commented on issue HswOAuth/llm_course#469 2025-01-09 14:52:33 +08:00
在ollama容器中拉模型时报错

ollama拉取容器现在应该需要科学上网,你需要自行配置下科学上网。

12019701659cs commented on issue HswOAuth/llm_course#464 2025-01-08 17:37:12 +08:00
【课程求助】多模态助手复现:dify本地安装报错

错误提示表明在尝试将宿主机上的一个路径挂载到容器中的文件时出现了问题。

可能的解决方案:1. 检查挂载路径类型:确保宿主机上的路径是一…

12019701659cs commented on issue HswOAuth/llm_course#466 2025-01-08 17:33:00 +08:00
按照操作pull下的pytorch nvidiadocker镜像在安装fastchat时候显示typer版本不对,是不是镜像版本有问题

请提供更具体的信息,1. 哪节课程。2.什么操作 3. pull的镜像命令。 4. 安装fastchat的流程

12019701659cs commented on issue HswOAuth/llm_course#460 2025-01-03 19:29:22 +08:00
提取全部文本

如果这个代码可以提取的话,就一页一页提取,然后放到一个向量数据库里面就行

12019701659cs commented on issue HswOAuth/llm_course#458 2025-01-03 15:57:30 +08:00
AGI2404_LLaMA-factory 微调医疗数据集(上) _docker问题_ 林希老师
  1. 本地下载;随便新建一个目录放进去。
  2. docker-compose.yml跟config.json放一起。
  3. 使用时在cmd里面,先到这个目录下,然后执行命令