Windows 11安装docker和WSL配置AI模型ollama教程

1.docker下载:https://desktop.docker.com/win/main/amd64/Docker%20Desktop%20Installer.exe
Windows 11安装docker和WSL配置AI模型ollama教程
2.控制面板:开启hyper-v、windows 虚拟机监控程序平台、虚拟机平台
Windows 11安装docker和WSL配置AI模型ollama教程
3.ollama下载:https://ollama.com/download/OllamaSetup.exe
4.cmd下运行Windows系统开启Linux子系统,安装linux子系统:

wsl --update

Windows 11安装docker和WSL配置AI模型ollama教程
Windows 11安装docker和WSL配置AI模型ollama教程
如果docker运行提示docker engine stopped错误,检查:
检查CPU是否开启虚拟化;
输入net start com.docker.service以启动Docker Desktop Service服务
输入wsl –update,即可开始安装wsl或者更新版本
最后重启一下应该可以解决。
5.cmd下运行

docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data 1panel/maxkb

Windows 11安装docker和WSL配置AI模型ollama教程
6.拉取完运行:ollama serve
Windows 11安装docker和WSL配置AI模型ollama教程
7.IP+8080访问
用户名: admin
密码: MaxKB@123..
8.进入后台后,选择添加ollama模型
模型名称:qwen
模型类型:大语言模型
基础模型:qwen
API域名:http://192.168.1.XXX:11434
API KEY:随便输入长点的数字或英文
添加,开始下载成功即可配置
备注:如果提示API域名无效,先试下127.0.0.1:11434能否正常访问,如果正常访问,设置环境变量Windows 11安装docker和WSL配置AI模型ollama教程
环境变量:系统变量→新建 OLLAMA_HOST 变量值0.0.0.0
Windows 11安装docker和WSL配置AI模型ollama教程

也可以运行ollama run qwen拉取模型文件备用
Windows 11安装docker和WSL配置AI模型ollama教程

9.退出docker和ollama,在重新打开即可。
10.nvidia-smi,检测cuda是否安装正确
Windows 11安装docker和WSL配置AI模型ollama教程
11.备注:如果添加
模型名称:llama3
模型类型:大语言模型
基础模型:llama3
Windows 11安装docker和WSL配置AI模型ollama教程
也可以安装
maxbk 不喜欢可以用

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

重启后,用docker命令启动容器

docker ps -a
sudo docker  start 容器id

原创文章,作者:开心电脑网,如若转载,请注明出处。

(1)
上一篇 2023年4月8日
下一篇 2024年5月14日

相关推荐

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注