Docker布署OpenWebUI

agithub-open-webui打开网址步入OpenWebUI在github的主页:

dockerrun-d-p3000:8080--add-host=host.docker.internal:host-gateway-vopen-webui:/app/backend/data--nameopen-webui--restartalwaysghcr.io/open-webui/open-webui:main

复制然后在命令行执行,下载镜像过程中不要点击窗口,可能会停止。

安装过程比较漫长,有三个多G,耐心等待。

以上表示安装完成,而且启动了容器,接出来我们可以命令查看,也可以图形化界面(DockerDesktop)查看:

拉取的open-webui镜像:

通过以上镜像启动的容器,映射端口是3000,我们可以通过该端口来访问open-webui

在浏览器地址栏输入::3000

docker webui_docker webui_docker webui

安装Ollama

官网下载安装包

docker webui_docker webui_docker webui

docker webui_docker webui_docker webui

docker webui_docker webui_docker webui

查看以后发觉早已在后台启动:

docker webui_docker webui_docker webui

ollama窃听的端口是11434

通过:11434可以查看到运行状态

在官网查询模型:

docker webui_docker webui_docker webui

我们以qwen模型为例,选择一个体积较小的模型,空间时间充足的可以选择一个更有学问的模型

docker webui_docker webui_docker webui

docker webui_docker webui_docker webui

docker webui_docker webui_docker webui

下载模型完成以后docker webui,可以提问了,这个模型比较弱,可以下载其他模型试试哦。

OpenWebUI使用Ollama中的模型

查看OpenWebUI,可以看见ollama中的模型:

docker webui_docker webui_docker webui

Ollama模型下载路径更改

windows的安装默认不支持更改程序安装目录,

默认安装后的目录:C:UsersusernameAppDataLocalProgramsOllama

docker webui_docker webui_docker webui

默认安装的模型目录:C:Usersusername.ollama

默认的配置文件目录:C:UsersusernameAppDataLocalOllama

ollama默认下载模型的路径在C盘linux运维招聘,最好更改一下,不然随意下载一下,C盘空间就很危险,其实没有分盘的就无所谓了。

docker webui_docker webui_docker webui

可以将C:UsersLenovo.ollamamodels中的内容粘贴到D:OllamaModelsdocker webui,这样,之前下载的模型就不须要再度下载。

更改完成以后,要重启下ollama,先从任务管理栏找到图标右键退出,再重新启动即可

docker webui_docker webui_docker webui

docker webui_docker webui_docker webui

更改Docker的wsl路径

docker webui_docker webui_docker webui

起初在C:UsersLenovoAppDataLocalDockerwsllinux虚拟主机,占空间比较大,更换到其他路径,将C盘的内容复制过去。

docker webui_docker webui_docker webui

更换完成以后Apple&restart,C盘之前的就可以删掉了。

Ollama使用其他模型

下载gemma模型

docker webui_docker webui_docker webui

在OpenWebUI测试:

Tagged:
Author

这篇优质的内容由TA贡献而来

刘遄

《Linux就该这么学》书籍作者,RHCA认证架构师,教育学(计算机专业硕士)。

发表回复