linhui
0 Followers · 0 Following
  • Joined on 2024-10-16
Repositories Projects Packages Public Activity Starred Repositories
linhui commented on issue HswOAuth/llm_course#687 2025-04-11 11:05:34 +08:00
06班级-舆情系统-第32节课-林辉老师

9997端口有可能被其它程序占用了，或者你重启电脑之后再试试9997端口

linhui commented on issue HswOAuth/llm_course#687 2025-04-11 10:10:28 +08:00
06班级-舆情系统-第32节课-林辉老师

这个命令是可以的

linhui commented on issue HswOAuth/llm_course#687 2025-04-11 10:08:52 +08:00
06班级-舆情系统-第32节课-林辉老师

image是的，这里说你需要充足的GPU资源，你的GPU带不起来32B 的模型，你可以先用14B、7B这些小模型做练习

linhui commented on issue HswOAuth/llm_course#687 2025-04-10 22:05:30 +08:00
06班级-舆情系统-第32节课-林辉老师

把命令中的127.0.0.1改成0.0.0.0 然后再使用127.0.0.1:9997试试

linhui commented on issue HswOAuth/llm_course#680 2025-04-07 23:10:33 +08:00
关于《医疗大语言模型实践》项目背景的咨询-林希老师
  1. 这个项目的主要目的式提供了学员们一个新的思路去使用大模型来处理多模态数据，因为对于任何多模态大模型对于绝大部分医疗数据是无法直接…
linhui commented on issue HswOAuth/llm_course#674 2025-04-07 17:45:36 +08:00
xinference安装报错

这几种方式都可以，但是大模型的运行需要消耗比较大的资源，可以先租个性能好的服务器做练习

linhui commented on issue HswOAuth/llm_course#674 2025-04-07 17:17:19 +08:00
xinference安装报错

这个是xinference的容器的问题，应该是没有完全适配好windows，就是还可以直接通过pip install安装xinference，pip install "xinference[transformers]"

linhui commented on issue HswOAuth/llm_course#676 2025-04-07 16:36:01 +08:00
第30次课查询优化问题-大模型查询返回数据不完全

有两种方式

  1. 使用参数量更大的模型，比如qwen2.5的70B版本
  2. 参考老师在舆情分析那节课上的工作流，自己构造一个工作流，将数据保存到数据库中…
linhui commented on issue HswOAuth/llm_course#674 2025-04-04 18:53:39 +08:00
xinference安装报错

registry.cn-hangzhou.aliyuncs.com/xprobe_xinference/xinference:latest-cpu使用这个镜像

linhui commented on issue HswOAuth/llm_course#674 2025-04-04 15:57:03 +08:00
xinference安装报错

启动成功了，这串数字就是xinference的容器ID，可以访问127.0.0.1:9997进入xinference

linhui commented on issue HswOAuth/llm_course#674 2025-04-04 15:49:38 +08:00
xinference安装报错

docker run -d -e XINFERENCE_MODEL_SRC=modelscope -v d:/software/AItool/xinference:/root/.xinference -v d:/software/AItool/xinference/.cache/huggingface:/root/.cache/huggingface -v d:/software/AItoo…

linhui commented on issue HswOAuth/llm_course#674 2025-04-04 15:34:34 +08:00
xinference安装报错

docker run -d -e XINFERENCE_MODEL_SRC=modelscope -v /d/software/AItool/xinference:/root/.xinference -v $PWD/.cache/huggingface:/root/.cache/huggingface -v $PWD/.cache/modelscope:/root/.cache/models…

linhui commented on issue HswOAuth/llm_course#674 2025-04-04 14:47:15 +08:00
xinference安装报错

/cache/huggingface 改成./cache/huggingface

linhui commented on issue HswOAuth/llm_course#674 2025-04-04 14:26:02 +08:00
xinference安装报错

行，把.去掉吧

linhui commented on issue HswOAuth/llm_course#674 2025-04-04 14:14:02 +08:00
xinference安装报错

你的电脑有gpu且安装了wsl2用这个：docker run -d -e XINFERENCE_MODEL_SRC=modelscope -v ./.xinference:/root/.xinference -v ./.cache/huggingface:/root/.cache/huggingface -v ./.cache/models…

linhui commented on issue HswOAuth/llm_course#675 2025-04-04 13:20:59 +08:00
31节课-代码运行特别慢

是的是的，你可以先从paddleocr官网下载模型文件，然后在ocr.py中加载这些模型文件，会快些

linhui commented on issue HswOAuth/llm_course#671 2025-04-01 17:01:47 +08:00
第30次课-爬虫失败

因为天眼查对反爬有比较严格的限制，可以考虑两种方式

  1. 每爬一条数据的时候让程序sleep的时间更久一些，如下图所示，可以改成30秒爬取一次![ima…
linhui commented on issue HswOAuth/llm_course#671 2025-04-01 16:12:22 +08:00
第30次课-爬虫失败

这个应该是天眼查的cookie未设置正确，导致爬取的数据为空

linhui commented on issue HswOAuth/llm_course#669 2025-04-01 16:11:43 +08:00
实时网页信息爬取+RAG的实时简报编写-第31节课-问题1

已经让班主任老师同步缺失的文件

linhui commented on issue HswOAuth/llm_course#667 2025-04-01 13:54:53 +08:00
实时网页信息爬取Rag问答系统-30节课-问题5
  1. 可以换一个大模型厂商，目前这个版本的oneapi应该还不支持百度文心千帆，你可以参考下这个：https://qianfan.cloud.baidu.com/qianfandev/topic/685681 2.…