我在使用命令下载模型的时候:modelscope download --model ChineseAlpacaGroup/llama-3-chinese-8b-instruct-v3,由于模型太大导致我虚拟机的容量不够了,我就在vm的虚拟机设置里扩展了硬盘,从20G扩到了32G,但是无法打开虚拟机了,然后我查了一下资料,我在进入虚拟机的阶段进入BIOS,然后将Boot下的CD_ROM Drive 切换到第一个,然后能进入到虚拟机了,但是好像是要我再装一个,我现在解决不了了,老师能约个时间远程操作一下么, #397

Open
opened 2024-11-26 01:23:20 +08:00 by 13390382233 · 3 comments

图片

![图片](/attachments/f1cf3d27-337b-4894-9aae-88766f8fe63b)
117 KiB
13390382233 changed title from 我在使用命令下载模型的时候:modelscope download --model ChineseAlpacaGroup/llama-3-chinese-8b-instruct-v3,由于模型太大导致我虚拟机的容量不够了,我就在vm的虚拟机设置里扩展了硬盘,从20G扩到了32G,但是无法打开虚拟机了,然后我查了一下资料,我在进入虚拟机的阶段进入BIOS,然后将Boot下的CD_ROM Drive to 我在使用命令下载模型的时候:modelscope download --model ChineseAlpacaGroup/llama-3-chinese-8b-instruct-v3,由于模型太大导致我虚拟机的容量不够了,我就在vm的虚拟机设置里扩展了硬盘,从20G扩到了32G,但是无法打开虚拟机了,然后我查了一下资料,我在进入虚拟机的阶段进入BIOS,然后将Boot下的CD_ROM Drive 切换到第一个,然后能进入到虚拟机了,但是好像是要我再装一个,我现在解决不了了,老师能约个实现远程操作一下么, 2024-11-26 01:24:54 +08:00
13390382233 changed title from 我在使用命令下载模型的时候:modelscope download --model ChineseAlpacaGroup/llama-3-chinese-8b-instruct-v3,由于模型太大导致我虚拟机的容量不够了,我就在vm的虚拟机设置里扩展了硬盘,从20G扩到了32G,但是无法打开虚拟机了,然后我查了一下资料,我在进入虚拟机的阶段进入BIOS,然后将Boot下的CD_ROM Drive 切换到第一个,然后能进入到虚拟机了,但是好像是要我再装一个,我现在解决不了了,老师能约个实现远程操作一下么, to 我在使用命令下载模型的时候:modelscope download --model ChineseAlpacaGroup/llama-3-chinese-8b-instruct-v3,由于模型太大导致我虚拟机的容量不够了,我就在vm的虚拟机设置里扩展了硬盘,从20G扩到了32G,但是无法打开虚拟机了,然后我查了一下资料,我在进入虚拟机的阶段进入BIOS,然后将Boot下的CD_ROM Drive 切换到第一个,然后能进入到虚拟机了,但是好像是要我再装一个,我现在解决不了了,老师能约个时间远程操作一下么, 2024-11-26 01:25:14 +08:00
Author

图片

![图片](/attachments/c6b4636f-a65d-4786-a8ab-254687c07cc2)
397 KiB
Author

图片

![图片](/attachments/dbbbf4e6-9ae0-4e3d-b40b-fb24c82faa65)
110 KiB

建议直接重装一下虚拟机,给虚拟机分配至少128GB硬盘,64GB以上内存,因为如果您使用cpu版本大模型的话,大模型全部将加载到内存中,会占用非常大的内存。cpu版本模型不支持量化,只能全量加载。

建议直接重装一下虚拟机,给虚拟机分配至少128GB硬盘,64GB以上内存,因为如果您使用cpu版本大模型的话,大模型全部将加载到内存中,会占用非常大的内存。cpu版本模型不支持量化,只能全量加载。
Sign in to join this conversation.
No Milestone
No project
No Assignees
2 Participants
Notifications
Due Date
The due date is invalid or out of range. Please use the format 'yyyy-mm-dd'.

No due date set.

Dependencies

No dependencies set.

Reference: HswOAuth/llm_course#397
No description provided.