• Joined on 2024-10-19
txg0612 opened issue HswOAuth/llm_course#476 2025-01-15 19:34:56 +08:00
ubuntu服务器上ollama拉取镜像失败
txg0612 opened issue HswOAuth/llm_course#474 2025-01-13 12:57:21 +08:00
医疗大语言模型项目中如何获得share_id和out_link_uid
txg0612 commented on issue HswOAuth/llm_course#468 2025-01-09 21:34:08 +08:00
本地服务器用gpu创建ollama容器报错

还真是这个原因,谢谢老师!现在需要解决ollama容器中不能拉取模型的问题。因为这是一台安装ubuntu22.04的服务器,怎么给它配置科学上网呢?

txg0612 commented on issue HswOAuth/llm_course#469 2025-01-09 20:48:26 +08:00
在ollama容器中拉模型时报错

ubuntu命令行界面的系统能配置科学上网吗?

txg0612 opened issue HswOAuth/llm_course#469 2025-01-09 13:39:41 +08:00
在ollama容器中拉模型时报错
txg0612 commented on issue HswOAuth/llm_course#468 2025-01-09 12:59:15 +08:00
本地服务器用gpu创建ollama容器报错

补充:我创建了一个conda环境,作了如下测试,不知能否给老师排错提供帮助 image

txg0612 opened issue HswOAuth/llm_course#468 2025-01-09 12:49:01 +08:00
本地服务器用gpu创建ollama容器报错
txg0612 commented on issue HswOAuth/llm_course#459 2025-01-04 21:34:36 +08:00
关于环境问题的疑问

pip install -e ".[torch,metrics]" 执行该命令后就会安装好pytorch和cuda相关依赖吗?

txg0612 commented on issue HswOAuth/llm_course#459 2025-01-04 20:18:19 +08:00
关于环境问题的疑问

是不是就算安装系统后,安装了pytorch(比如2.4.0)和CUDA(比如12.2),在创建的虚拟环境中也是使用不到这个pytorch和CUDA的对吧?

txg0612 opened issue HswOAuth/llm_course#459 2025-01-03 16:10:58 +08:00
关于环境问题的疑问
txg0612 commented on issue HswOAuth/llm_course#447 2024-12-26 08:36:25 +08:00
如何理解这个微调命令

老师,也就是我们这个模型微调只是让模型能够从可选function的list中输出最符合我们要求的function的名称和对应函数输入,到这里就结束了,没涉及到…

txg0612 opened issue HswOAuth/llm_course#447 2024-12-25 16:07:02 +08:00
如何理解这个微调命令
txg0612 commented on issue HswOAuth/llm_course#444 2024-12-25 16:05:05 +08:00
程序运行时报缺少模块cv2_rolling_ball

收到,谢谢老师!

txg0612 opened issue HswOAuth/llm_course#323 2024-10-29 16:41:24 +08:00
【求助帖】autodl中如何安装xinterfernce并部署本地模型
txg0612 commented on issue HswOAuth/llm_course#243 2024-10-25 10:25:33 +08:00
【求助】基于LLaMA-Factory的模型微调训练train_loss为1985太大

我也是,做了几次了,都一样的效果,没损失曲线,改成6次,学习率改成10^-4次方都试过

txg0612 commented on issue HswOAuth/llm_course#285 2024-10-25 10:22:37 +08:00
【求助帖】llama factory微调后,大模型乱回复

我也是同样的问题,步骤都和文档一样的做,体现为这里的损失曲线没有,且纵坐标特别大,我看老师视频中是1.x,还有就是加载微调后的模型,回…

txg0612 commented on issue HswOAuth/llm_course#243 2024-10-23 16:16:24 +08:00
【求助】基于LLaMA-Factory的模型微调训练train_loss为1985太大

我的参数和上课设置一样的,步骤也一样的,但微调结束后没有画出损失曲线,测试效果时,胡言乱语。

txg0612 commented on issue HswOAuth/llm_course#258 2024-10-23 16:09:17 +08:00
模型的微调出错

我也是同样的问题,哪位兄台解决了没?

txg0612 commented on issue HswOAuth/llm_course#235 2024-10-20 08:35:56 +08:00
私有化LLM仿OpenAI API接口的高可用工程实践报告【详见下面笔记地址】

如何连接到VMware

你是问哪个要连接到VMware?

txg0612 opened issue HswOAuth/llm_course#235 2024-10-19 16:27:33 +08:00
私有化LLM仿OpenAI API接口的高可用工程实践报告【详见下面笔记地址】