Debian 13通过docker安装ollama配置gpt-oss和open-webui教程

#通过shell登陆Debian

ssh kaixinit@192.168.1.111

#新建docker.sh脚本,nano命令:ctrl+o保存,enter回车确认,ctrl+X退出,crtl+k删除行

sudo nano docker.sh

#写入内容到docker.sh脚本

#!/bin/sh
# This script installs Ollama on Linux.
# It detects the current operating system architecture and installs the appropriate version of Ollama.

#Debian更新软件包升级
sudo apt update
sudo apt update -y

#Docker安装依赖
sudo apt-get update
sudo apt-get install ca-certificates curl gnupg

#Docker的GPG公钥并添加仓库:
sudo install -m 0755 -d /etc/apt/keyrings
curl -fsSL https://download.docker.com/linux/debian/gpg | sudo gpg --dearmor -o /etc/apt/keyrings/docker.gpg
sudo chmod a+r /etc/apt/keyrings/docker.gpg
echo \
  "deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/docker.gpg] https://mirrors.cernet.edu.cn/docker-ce/linux/debian \
  "$(. /etc/os-release && echo "$VERSION_CODENAME")" stable" | \
  sudo tee /etc/apt/sources.list.d/docker.list > /dev/null

#Docker的安装
sudo apt-get update
sudo apt-get install docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin

#运行docker.sh脚本

sudo sh docker.sh

#编辑daemon.json文件,由于国内原因,原镜像地址为 ghcr.io/open-webui/open-webui:main无法下载,需要添加镜像地址,

sudo nano /etc/docker/daemon.json

#写入内容到daemon.json文件

{
  "registry-mirrors": [
    "https://ghcr.nju.edu.cn"
  ]
}

#重启docker

sudo systemctl restart docker

#安装open-webui镜像,docker集成ollama安装open-webui地址:https://github.com/open-webui/open-webui

sudo docker pull ghcr.nju.edu.cn/open-webui/open-webui:ollama

#构建open-webui容器,大约等待几分钟加载模型,然后ip:3000访问

sudo docker run -d -p 3000:8080 -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always ghcr.nju.edu.cn/open-webui/open-webui:ollama

#open-webui通过ip:3000访问登陆面板后,管理员面板→设置→模型选择gpt-oss:latest,进行拉取https://ollama.com/library

gpt-oss:latest
#二选一模型
gpt-oss:20b

#以下为docker常用命令

#删除镜像IMAGE ID
#查看镜像
sudo docker image ls
#删除镜像
sudo  docker rmi -f b9176f6860bf

#删除容器CONTAINER ID
#查看运行的容器
sudo docker  ps -a
#停止运行的容器
sudo docker  stop ecb2b709ad8a
#删除容器
sudo docker  rm ecb2b709ad8a

#进入容器
sudo docker exec -it ecb2b709ad8a bash
#查看容器日志
sudo docker logs ecb2b709ad8a

原创文章,作者:开心电脑网,如若转载,请注明出处。

(0)
上一篇 2025年8月24日
下一篇 2025年10月20日

相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注