hsw_ray rayhsw
  • Joined on 2024-07-17
rayhsw commented on issue HswOAuth/llm_course#370 2024-11-13 18:23:26 +08:00
中文 llama3 仿 openai api 实战

image 直接kill掉,是我硬件配置问题吗?

大概率是,请问您的机器内存是多大的?空闲大于40GB内存比较…

rayhsw commented on issue HswOAuth/llm_course#375 2024-11-13 18:21:57 +08:00
【求助帖】汇视威超算平台上传数据失败

数据量超过1GB的,建议在容器内通过curl或者wget从第三方url下载数据。因为直接从浏览器上传过大的数据容易产生超时,同时也给超算互联网有限的上…

rayhsw commented on issue HswOAuth/llm_course#366 2024-11-11 16:13:26 +08:00
【求助帖】将微调模型仿OpenAI兼容接口出错

也许是启动接口的时候,出了问题,方便对启动llama-factory 接口的时候录屏么?我这边方便判断,接口是否启动成功

rayhsw closed issue HswOAuth/llm_course#369 2024-11-09 17:13:53 +08:00
test info
rayhsw opened issue HswOAuth/llm_course#369 2024-11-09 17:09:10 +08:00
test info
rayhsw closed issue HswOAuth/llm_course#368 2024-11-09 17:08:29 +08:00
测试通知工单
rayhsw opened issue HswOAuth/llm_course#368 2024-11-09 17:04:01 +08:00
测试通知工单
rayhsw commented on issue HswOAuth/llm_course#367 2024-11-09 16:52:32 +08:00
OpenAI

OpenAI官方账号,需要美国或者其他国家的信用卡(不能用国内的),并且需要使用非大陆和中国香港的ip注册,另外需要使用美国的手机号码,你如果…

rayhsw commented on issue HswOAuth/llm_course#351 2024-11-08 20:59:17 +08:00
超算平台网卡infiniband功能不可用

如何理解“不会直接提供ibdevice设备能力给pod直接使用”,在我的机器里看不到ib设备么?看不到的话,怎么调用?7.27云平台基于IB的多机多卡训练…

rayhsw commented on issue HswOAuth/llm_course#351 2024-11-08 20:51:02 +08:00
超算平台网卡infiniband功能不可用

如何理解“不会直接提供ibdevice设备能力给pod直接使用”,在我的机器里看不到ib设备么?看不到的话,怎么调用?7.27云平台基于IB的多机多卡训练…

rayhsw commented on issue HswOAuth/llm_course#299 2024-10-29 19:21:18 +08:00
求助贴 L2-第一课13-24.9.3-Chinese LLaMA Alpaca系列模型OpenAI API调用实现-Ray老师

还有个问题,CPU 版本 可以支持量化吗?

CPU的版本不支持量化的

rayhsw opened issue rayhsw/llm_course#1 2024-07-17 00:44:11 +08:00
Star平台使用手册
rayhsw created repository rayhsw/llm_course 2024-07-17 00:40:48 +08:00