Debian 13安装ollama配置gpt-oss和pip安装open-webui教程

#通过shell登陆Debian

ssh kaixinit@192.168.1.111

#创建ollama目录,方便临时文件

mkdir -p /home/kaixinit/ollama

#cd到ollama目录备用

cd /home/kaixinit/ollama

#新建shell窗口,复制D盘ollama文件夹到Debian的ollama目录,将其关闭

scp -r D:/ollama/* kaixinit@192.168.1.111:~/ollama

#新建install.sh脚本,cd到ollama目录下,nano命令:ctrl+o保存,enter回车确认,ctrl+X退出,crtl+k删除行

sudo nano install.sh

#写入内容到install.sh脚本

内容较多,单独下载,install.sh脚本txt文本地址: 点我下载/点我预览

#运行install.sh脚本

sudo sh install.sh

#gpt-oss开始拉取下载,ollama安装完成开始拉取,大约13g左右的文件,支持断点续传。如果拉取比较慢取消Ctrl+C,在重新拉取

ollama pull gpt-oss

#gpt-oss拉取完成后,shell下运行ai模型

ollama run gpt-oss

#安装Anaconda3,open-webui运行的python 版本不能高于12.0a
#新建pip.sh脚本,nano命令:ctrl+o保存,enter回车确认,ctrl+X退出,crtl+k删除行

sudo nano pip.sh

#写入内容到pip.sh脚本

#!/bin/bash

# Function to list files in /etc/nginx/conf.d directory

wget https://mirror.nyist.edu.cn/anaconda/archive/Anaconda3-2025.06-1-Linux-x86_64.sh
sh Anaconda*.sh -b
rm -rf Anaconda*.sh
cat <<'EOF' > ~/.condarc
channels:
  - defaults
show_channel_urls: true
default_channels:
  - https://mirror.nyist.edu.cn/anaconda/pkgs/main
  - https://mirror.nyist.edu.cn/anaconda/pkgs/r
  - https://mirror.nyist.edu.cn/anaconda/pkgs/msys2
custom_channels:
  conda-forge: https://mirror.nyist.edu.cn/anaconda/cloud
  pytorch: https://mirror.nyist.edu.cn/anaconda/cloud
EOF
anaconda3/bin/conda update --all -y
anaconda3/bin/pip config set global.index-url https://mirrors.tuna.tsinghua.edu.cn/pypi/web/simple
anaconda3/bin/pip install --upgrade pip

#运行pip.sh脚本

sudo sh pip.sh

#python3.11开始安装

anaconda3/bin/conda create -n py311 python=3.11

#python3.11安装完成后,shell退出重新登录Debian,pip安装open-webui

#source以下使其生效
source ~/.bashrc
#进入虚拟环境
conda activate py311
#pip安装open-webui
pip install open-webui

#安装完成,启动open-webui命令如下,然后ip:8080访问,因为加载模型,大约要十几分钟等待,有绿色的命令说明启动完成

open-webui serve

#如果停止运行open-webui,Ctrl+C终止即可

原创文章,作者:开心电脑网,如若转载,请注明出处。

(0)
上一篇 2025年3月6日
下一篇 2025年8月24日

相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注