11986968304cs

11986968304cs commented on issue HswOAuth/llm_course#308

2024-11-02 13:49:49 +08:00

【求助贴】隧道创建成功后，无法访问127.0.0.1:7860

如果你启动llama-factory的时候，不是监听7860，说明你容器的7860端口已经被其他进程占用了，也就是说，非常有可能，你已经在其他命令行重复启动了ll…

11986968304cs commented on issue HswOAuth/llm_course#308

2024-11-02 13:46:49 +08:00

【求助贴】隧道创建成功后，无法访问127.0.0.1:7860

我看到你的服务监听的是7862，那么你应该用下面这个命令打隧道：ssh -CNgv -L 7862:127.0.0.1:7862 root@connect.beijinga.seetacloud.com -p 50281

然后访问：http://127.0…

11986968304cs commented on issue HswOAuth/llm_course#308

2024-11-02 13:44:24 +08:00

【求助贴】隧道创建成功后，无法访问127.0.0.1:7860

麻烦严格按照教案来，比如教案是用7860端口

11986968304cs commented on issue HswOAuth/llm_course#336

2024-11-01 19:35:44 +08:00

求助帖： nextchat 无法使用大模型

可尝试升级nextchat到最新版本试试？

11986968304cs commented on issue HswOAuth/llm_course#306

2024-10-29 23:22:55 +08:00

单机单卡、单机多卡、多机多卡微调入门复现

厉害，同学，复现的帖子阔以发到复现的论坛哦：llm_share，这个，会有赠送的机时~~~

11986968304cs commented on issue HswOAuth/llm_share#33

2024-10-25 10:55:10 +08:00

我的conda 中找不到下载的大模型，无法激活大模型，这个问题怎样处理，具体情况下如下图

这边是作业区，请在答疑区留言~

11986968304cs commented on issue HswOAuth/llm_share#32

2024-10-25 10:55:03 +08:00

老师好，我在修复大模型BUG时，使用nano编辑器编辑完成以后，保存文件时，出现没有保存权限的问题，请看截图，这种情况怎样处理

这边是作业区，请在答疑区留言~

11986968304cs commented on issue HswOAuth/llm_course#265

2024-10-23 22:07:40 +08:00

公司购买服务器，咨询GPU配置

可以参考这个配置，根据训练的不同需求，对应不同的消耗显存，一台4卡的A100（40G显存）初步能满足要求，但我们一般训练的话（4K上下文），一般…

11986968304cs commented on issue HswOAuth/llm_course#221

2024-10-18 17:46:59 +08:00

0929 基于FastGPT+Rag搭建知识库问答系统作业

阔以阔以

11986968304cs commented on issue HswOAuth/llm_course#209

2024-10-17 18:27:31 +08:00

请问如何控制大模型自主提问?

我说一句，然后大模型说了六句话，包含了三句提问

11986968304cs commented on issue HswOAuth/llm_course#209

2024-10-17 18:19:39 +08:00

请问如何控制大模型自主提问?

https://live.bilibili.com/1931430121，要不你先逗逗这个数字人，我们刚切成今天刚发布的Nemotron-70B模型，简直就是个话痨，不仅会主动提问，还会各种调皮

11986968304cs commented on issue HswOAuth/llm_course#211

2024-10-17 18:17:02 +08:00

Chinese-LLaMA-Alpaca-3本地构建交作业，NextChat正常调用

先恭喜这位同学复现出实验。其次是这几节课是引入，从本地到消费级服务器到超算平台，是个渐进的过程，主打一个算力感受，一开始就在高速上…

11986968304cs commented on issue HswOAuth/llm_course#33

2024-09-07 22:45:18 +08:00

使用14台机器56张显卡训练大模型

木问题，机时跟上~

11986968304cs commented on issue HswOAuth/llm_course#21

2024-09-06 22:30:37 +08:00

请老师解答一下，关于pip下载xtuner和fastchat版本的问题

版本应该和python版本相关，一般源不会限制最新版本。

11986968304cs commented on issue HswOAuth/llm_course#27

2024-09-06 22:24:58 +08:00

0829 提示词工程部署课程作业

当时CodeLlama-7b微调训练的时候，为了节约时间，数据集选了部分几千条，原数据集有8w条，作业里的数据集是一个中文小数据集。可以把模型改成中…

11986968304cs commented on issue rayhsw/llm_course#1

2024-07-21 15:14:40 +08:00

Star平台使用手册

讲解很详细