HswOAuth/llm_course
19
16
Fork 0
Code Issues 633 Pull Requests Actions Packages Projects Releases Wiki Activity

求助贴-中文 llama3 仿 openai api 实战 ，本机只有16G 能做实验吗？ #263

New Issue
Open
opened 2024-10-22 09:42:36 +08:00 by 11252177484cs · 1 comment
11252177484cs commented 2024-10-22 09:42:36 +08:00
Copy Link

中文 llama3 仿 openai api 实战 ，本机只有16G 能做实验吗？
另外，如果做实现的话，本机是windows的，需要装个虚拟机吧，这个有教程吗

中文 llama3 仿 openai api 实战 ，本机只有16G 能做实验吗？ 另外，如果做实现的话，本机是windows的，需要装个虚拟机吧，这个有教程吗
flys_zhb commented 2024-10-22 09:47:58 +08:00
Copy Link

可以，无需虚拟机，但是需要注意大模型下载到本地，磁盘空间尤其是C盘是否够用，并且大模型启动后内存基本占满，只能勉强用nextchat来测试，其他都运行不了，教材上的命令基本可以无缝移植过来使用。

可以，无需虚拟机，但是需要注意大模型下载到本地，磁盘空间尤其是C盘是否够用，并且大模型启动后内存基本占满，只能勉强用nextchat来测试，其他都运行不了，教材上的命令基本可以无缝移植过来使用。
Sign in to join this conversation.
No Branch/Tag Specified
Branches Tags
Labels
Clear labels   
bug

Something is not working

  
duplicate

This issue or pull request already exists

  
enhancement

New feature

  
help wanted

Need some help

  
invalid

Something is wrong

  
question

More information is needed

  
wontfix

This won't be fixed

No Label
bug
duplicate
enhancement
help wanted
invalid
question
wontfix
Milestone
Clear milestone
No items
No Milestone
Projects
Clear projects
No project
Assignees
Clear assignees
No Assignees
2 Participants
Notifications
Due Date
The due date is invalid or out of range. Please use the format 'yyyy-mm-dd'.

No due date set.

Dependencies

No dependencies set.

Reference: HswOAuth/llm_course#263
No description provided.
Delete Branch "%!s()"

Deleting a branch is permanent. Although the deleted branch may continue to exist for a short time before it actually gets removed, it CANNOT be undone in most cases. Continue?