11252177484cs
  • Joined on 2024-08-26
11252177484cs opened issue HswOAuth/llm_course#342 2024-11-03 13:33:33 +08:00
求助贴:L2-第一课新的教材地址分享下
11252177484cs opened issue HswOAuth/llm_course#336 2024-11-01 16:09:10 +08:00
求助帖: nextchat 无法使用大模型
11252177484cs commented on issue HswOAuth/llm_course#299 2024-10-29 18:03:17 +08:00
求助贴 L2-第一课13-24.9.3-Chinese LLaMA Alpaca系列模型OpenAI API调用实现-Ray老师

还有个问题,CPU 版本 可以支持量化吗?

11252177484cs opened issue HswOAuth/llm_course#315 2024-10-28 18:33:19 +08:00
L2第一课作业-中文 llama3 仿 openai api 实战
11252177484cs commented on issue HswOAuth/llm_course#299 2024-10-28 18:15:24 +08:00
求助贴 L2-第一课13-24.9.3-Chinese LLaMA Alpaca系列模型OpenAI API调用实现-Ray老师

可以尝试用华为笔记本电脑的GPU来跑。

但需要注意实验环境都是Linux系统,所以需要准备Linux系统的电脑或者服务器。 -------------------------------------…

11252177484cs commented on issue HswOAuth/llm_course#299 2024-10-28 17:42:32 +08:00
求助贴 L2-第一课13-24.9.3-Chinese LLaMA Alpaca系列模型OpenAI API调用实现-Ray老师

改成(http://127.0.0.1:19327) 是可以了。但是确实CPU性能不够,回答一个简单的问题,要10分钟。我本机的GPU能用吗,如何配置

11252177484cs commented on issue HswOAuth/llm_course#299 2024-10-28 11:34:42 +08:00
求助贴 L2-第一课13-24.9.3-Chinese LLaMA Alpaca系列模型OpenAI API调用实现-Ray老师

刚跑起来了,但是客户端提示还是有问题,我看NEXTCHAT 配置也是正确的。请问是什么原因

<img width="415" alt="image" src="/attachments/d661931b-32c4-4051-b728-6145e…

11252177484cs commented on issue HswOAuth/llm_course#299 2024-10-28 11:25:27 +08:00
求助贴 L2-第一课13-24.9.3-Chinese LLaMA Alpaca系列模型OpenAI API调用实现-Ray老师

已经尝试用GPU来跑,但是结果用的还是CPU,是否要修改requriments.txt文件。我看之前配置都是NVVID的显卡,我电脑上的显卡要怎么配置? nvidia-cublas-cu12=…

11252177484cs opened issue HswOAuth/llm_course#299 2024-10-26 14:49:22 +08:00
求助贴 L2-第一课13-24.9.3-Chinese LLaMA Alpaca系列模型OpenAI API调用实现-Ray老师
11252177484cs opened issue HswOAuth/llm_course#263 2024-10-22 09:42:36 +08:00
求助贴-中文 llama3 仿 openai api 实战 ,本机只有16G 能做实验吗?
11252177484cs commented on issue HswOAuth/llm_course#215 2024-10-21 19:00:07 +08:00
求助贴

/bin/sh: 1: /opt/dtk/bin/nvcc: not found /bin/sh: 1: /bin/sh: 1: /bin/sh: 1: /opt/dtk/bin/nvcc: not found/opt/dtk/bin/nvcc: not found/opt/dtk/bin/nvcc: not found
还有这个错误

11252177484cs commented on issue HswOAuth/llm_course#215 2024-10-21 18:52:07 +08:00
求助贴

请详细看下,从task1 日志来看,好像时报缺了一个什么文件:FileNotFoundErrorFileNotFoundError: : FileNotFoundErrorFileNotFoundError[Errno 2] Failed to open local file…

11252177484cs commented on issue HswOAuth/llm_course#215 2024-10-21 18:50:01 +08:00
求助贴

task1 日志: root@odc6af99c5f9401ba2d75273ca4c97bf-task1-0:/code# NPROC_PER_NODE=4 NNODES=2 PORT=12345 ADDR=10.244.111.231 NODE_RANK=1 xtuner train llama2_7b_chat_qlora_sql_e3_copy.py…

11252177484cs commented on issue HswOAuth/llm_course#215 2024-10-21 18:49:13 +08:00
求助贴

主机日志: root@odc6af99c5f9401ba2d75273ca4c97bf-task0-0:/code# NPROC_PER_NODE=4 NNODES=2 PORT=12345 ADDR=10.244.111.231 NODE_RANK=0 xtuner train llama2_7b_chat_qlora_sql_e3_copy.py…

11252177484cs commented on issue HswOAuth/llm_course#215 2024-10-21 18:40:16 +08:00
求助贴

1\ 我是微调失败,不是训练失败。微调应该也不需要设置环境变量 2、都是在code 目录下面的,从日志截图可以看到

11252177484cs opened issue HswOAuth/llm_course#215 2024-10-17 19:25:47 +08:00
求助贴
11252177484cs commented on issue HswOAuth/llm_course#119 2024-09-24 11:10:48 +08:00
使用xtuner微调开源大模型作业(基础版)

yi_6b_qlora_alpaca_enzh_e3_copy.py 这个可以从哪里下载吗,我的CODE 目录下没有。 还有,微调配置文件,老师好像没进行操作,啥时需要自己进行配置?

11252177484cs commented on issue HswOAuth/llm_course#120 2024-09-24 11:07:26 +08:00
平台的“模型调试”和“训练管理”有什么相同和不同的地方?

我理解,模型调试是要自己打开notebook(相当于物理机),然后每台物理机输入一个个命令,完成训练。而训练管理,就相当于做了脚本,只要输入一…