AnythingLLM + Ollama Louis #94

New Issue

louisunec · 2024-09-16T08:59:15+08:00

louisunec commented

2024-09-16 08:59:15 +08:00

这次的作业有几个领悟：

AnythingLLM的下载
一开始我想要下载安装Self-hosted 的 local docker版本，安装好了后把Ollama下载下来后在Anything界面上选择Ollama model。可是当要测试发信息的时候却出现报错。可能的原因的是AnyhingLLM和Ollama并没有正确连接。
Ollama的下载
Ollama的下载也遇到了一个问题就是不能除了Llama2能下载外，其他的模型下载不了。具体原因不清楚。
直接下载AnythingLLM的桌面版本
这个桌面版本相对于Local docker版本来说，操作简单很多，与llama2的连接也很顺畅，只是当测试提问的时候，电脑却卡得很厉害，这应该是大模型的本地运行还是需要高配置一些的电脑。

这次的作业有几个领悟： 1. AnythingLLM的下载一开始我想要下载安装Self-hosted 的 local docker版本，安装好了后把Ollama下载下来后在Anything界面上选择Ollama model。可是当要测试发信息的时候却出现报错。可能的原因的是AnyhingLLM和Ollama并没有正确连接。 2. Ollama的下载 Ollama的下载也遇到了一个问题就是不能除了Llama2能下载外，其他的模型下载不了。具体原因不清楚。 3. 直接下载AnythingLLM的桌面版本这个桌面版本相对于Local docker版本来说，操作简单很多，与llama2的连接也很顺畅，只是当测试提问的时候，电脑却卡得很厉害，这应该是大模型的本地运行还是需要高配置一些的电脑。

Screenshot 2024-09-16 at 10.27.33 am.png

466 KiB