kyo 12390900721cs
  • Joined on 2024-09-10
12390900721cs opened issue HswOAuth/llm_share#13 2024-10-20 21:43:54 +08:00
6.3 Function Call实践(三)——微调Llama3-8B-Instruct模型
12390900721cs opened issue HswOAuth/llm_share#12 2024-10-20 21:43:42 +08:00
6.2 Function Call实践(二)——本地开源模型部署部署使用
12390900721cs opened issue HswOAuth/llm_share#11 2024-10-20 21:43:13 +08:00
6.1 Function Call实践(一)——调用国内大模型测试
12390900721cs opened issue HswOAuth/llm_share#10 2024-10-20 21:42:37 +08:00
5 llm接口高可用工程实践(本地服务器)
12390900721cs opened issue HswOAuth/llm_share#9 2024-10-20 21:41:58 +08:00
5 llm接口高可用工程实践(RTX4050)
12390900721cs opened issue HswOAuth/llm_share#8 2024-10-20 21:41:43 +08:00
4 中文llama3仿openai AutoDL服务器
12390900721cs opened issue HswOAuth/llm_share#7 2024-10-20 21:41:31 +08:00
4 llama3仿openai api实验 本地服务器
12390900721cs opened issue HswOAuth/llm_share#6 2024-10-20 21:41:18 +08:00
3.3 提示词工程实践(三)——NOTEBOOK微调训练
12390900721cs opened issue HswOAuth/llm_share#5 2024-10-20 21:41:05 +08:00
3.2 提示词工程实践(二)——本地开源模型部署.md
12390900721cs opened issue HswOAuth/llm_share#4 2024-10-20 21:40:47 +08:00
3.1提示词工程实践(一)——通过API调用大模型进行测试
12390900721cs opened issue HswOAuth/llm_share#3 2024-10-20 21:40:19 +08:00
2.31.3训练管理模块创建训练任务(三)
12390900721cs opened issue HswOAuth/llm_share#2 2024-10-20 21:40:04 +08:00
2.2训练平台多机多卡实验(二)
12390900721cs opened issue HswOAuth/llm_share#1 2024-10-20 21:39:38 +08:00
2.1大模型本地开发环境搭建(一)
12390900721cs commented on issue HswOAuth/llm_course#228 2024-10-18 18:01:59 +08:00
【求助】NextChat模型回复过慢

是正常的喔

12390900721cs commented on issue HswOAuth/llm_course#206 2024-10-17 18:30:45 +08:00
Chinese-LLaMA-Alpaca-3本地构建API可调用,但NextChat无法正常调用

1. 这里很明显你的端口号是19327,这个是没问题哒~

但是请问一下你的实验是在本地电脑做的还是用的服务器呢?如果是远程服务器的话您的API接口…

12390900721cs commented on issue HswOAuth/llm_course#211 2024-10-17 18:19:29 +08:00
Chinese-LLaMA-Alpaca-3本地构建交作业,NextChat正常调用

后面的课都会很少用到自己主机的喔~这两次课确实稍微用得多一些。 不过如果自己的笔记本配置跟不上,有条件的话可以试着用远程的服务器来做…

12390900721cs commented on issue HswOAuth/llm_course#212 2024-10-17 18:14:52 +08:00
@ray 老师:昨天课程问题LLM的本地部署Issue

image 在这张图片中,你用红框标出来的命令行和下面的/home/llm_course/.cache/......是一起的喔,下面这行模型路…

12390900721cs opened issue HswOAuth/llm_course#213 2024-10-17 18:09:06 +08:00
基于vLLM本地模型部署课程复现
12390900721cs commented on issue HswOAuth/llm_course#207 2024-10-17 14:20:37 +08:00
【求助帖】NextChat里面没有llama3模型可供选择

这个需要预先在设置中对自定义模型名进行设置喔,比如:

  1. 我这里设置自定义模型名为“Cool” image 在…
12390900721cs commented on issue HswOAuth/llm_course#193 2024-10-15 17:20:08 +08:00
function call作业基础版

可以将其中的两个ipynb上传到训练管理模块相关算法下,对照glm4调用function call方法查看来理解