涉及软件版本信息
服务器配置:
注:deepseek-r1:1.5b 需要最低2核8G
主机名
IP
CPU
内存
架构
OS
用途
node1
192.168.85.131
2
4
x86_64
Ubuntu24.04.1
slaver+worker
node2
192.168.85.132
2
4
x86_64
Ubuntu24.04.1
slaver+worker
node3
192.168.85.133
4
16
x86_64
Ubuntu24.04.1
DeepSeek节点+slaver+worker
链接
下载k3s相关软件
上传至服务器 chmod +x k3s
将k3s二进制文件和镜像放到对应目录
代码语言:javascript代码运行次数:0运行 复制获取install.sh
代码语言:javascript代码运行次数:0运行 复制安装docker(若需要以Docker运行)
代码语言:javascript代码运行次数:0运行 复制导入镜像
代码语言:javascript代码运行次数:0运行 复制安装k3s
修改主机名
代码语言:javascript代码运行次数:0运行 复制使用嵌入式etcd作为数据存储
在 node1,IP:131 上安装
代码语言:javascript代码运行次数:0运行 复制代码语言:javascript代码运行次数:0运行 复制node2和node3 增加server节点
cat /var/lib/rancher/k3s/server/node-token 查看上一个server的token值,替换下面的K3S_TOKEN中的值
代码语言:javascript代码运行次数:0运行 复制下载Core Helm Chart
代码语言:javascript代码运行次数:0运行 复制访问 或 KubeSphere GitHub 仓库查看最新 chart 版本。
安装ks
代码语言:javascript代码运行次数:0运行 复制等待大概2分钟
代码语言:javascript代码运行次数:0运行 复制进入扩展市场
点击右上角扩展市场
安装 NVIDIA GPU Operator(可选)
由于笔者电脑显卡为亮屏卡,这里就不安装了
安装DeepSeek
在搜索中输入deepseek后回车
点击管理后点击安装
点击下一步安装后,到后台查看pod,可以看到多了一个ns:extension-deepseek
由于墙的原因,导致镜像拉取失败,这时候我们需要先科学上网将镜像下载后再导入到服务器。
具体用到的镜像有:
代码语言:javascript代码运行次数:0运行 复制若访问docker受限,可直接使用这里已经下载好的:
将上述两个镜像上传到服务器,并且load加载
此时可以看到ollama正在下载 deepseek-r1:1.5b 模型
点击日志,查看下载过程
等待100%,此时模型已下载完毕,并且已运行起来。
开启chat外部访问
可以看到nodePort端口为31648
访问 DeepSeek Chat
浏览器访问,这里是:
本文演示了离线K3s的部署和在线部署kubesphere。部署DeepSeek大模型时,需要ollama和chatgpt-next-eweb镜像,这两个镜像需要准备好。而deepseek-r1模型,ollama会自动在线下载无需魔法黑科技。通过本文学习你不单拥有了本地部署ds的能力,更拥有了云原生和ds上云的能力。
【Deepseek资料合集】链接:
本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。原始发表:2025-02-28,如有侵权请联系 cloudcommunity@tencent 删除集群镜像模型DeepSeek部署涉及软件版本信息
服务器配置:
注:deepseek-r1:1.5b 需要最低2核8G
主机名
IP
CPU
内存
架构
OS
用途
node1
192.168.85.131
2
4
x86_64
Ubuntu24.04.1
slaver+worker
node2
192.168.85.132
2
4
x86_64
Ubuntu24.04.1
slaver+worker
node3
192.168.85.133
4
16
x86_64
Ubuntu24.04.1
DeepSeek节点+slaver+worker
链接
下载k3s相关软件
上传至服务器 chmod +x k3s
将k3s二进制文件和镜像放到对应目录
代码语言:javascript代码运行次数:0运行 复制获取install.sh
代码语言:javascript代码运行次数:0运行 复制安装docker(若需要以Docker运行)
代码语言:javascript代码运行次数:0运行 复制导入镜像
代码语言:javascript代码运行次数:0运行 复制安装k3s
修改主机名
代码语言:javascript代码运行次数:0运行 复制使用嵌入式etcd作为数据存储
在 node1,IP:131 上安装
代码语言:javascript代码运行次数:0运行 复制代码语言:javascript代码运行次数:0运行 复制node2和node3 增加server节点
cat /var/lib/rancher/k3s/server/node-token 查看上一个server的token值,替换下面的K3S_TOKEN中的值
代码语言:javascript代码运行次数:0运行 复制下载Core Helm Chart
代码语言:javascript代码运行次数:0运行 复制访问 或 KubeSphere GitHub 仓库查看最新 chart 版本。
安装ks
代码语言:javascript代码运行次数:0运行 复制等待大概2分钟
代码语言:javascript代码运行次数:0运行 复制进入扩展市场
点击右上角扩展市场
安装 NVIDIA GPU Operator(可选)
由于笔者电脑显卡为亮屏卡,这里就不安装了
安装DeepSeek
在搜索中输入deepseek后回车
点击管理后点击安装
点击下一步安装后,到后台查看pod,可以看到多了一个ns:extension-deepseek
由于墙的原因,导致镜像拉取失败,这时候我们需要先科学上网将镜像下载后再导入到服务器。
具体用到的镜像有:
代码语言:javascript代码运行次数:0运行 复制若访问docker受限,可直接使用这里已经下载好的:
将上述两个镜像上传到服务器,并且load加载
此时可以看到ollama正在下载 deepseek-r1:1.5b 模型
点击日志,查看下载过程
等待100%,此时模型已下载完毕,并且已运行起来。
开启chat外部访问
可以看到nodePort端口为31648
访问 DeepSeek Chat
浏览器访问,这里是:
本文演示了离线K3s的部署和在线部署kubesphere。部署DeepSeek大模型时,需要ollama和chatgpt-next-eweb镜像,这两个镜像需要准备好。而deepseek-r1模型,ollama会自动在线下载无需魔法黑科技。通过本文学习你不单拥有了本地部署ds的能力,更拥有了云原生和ds上云的能力。
【Deepseek资料合集】链接:
本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。原始发表:2025-02-28,如有侵权请联系 cloudcommunity@tencent 删除集群镜像模型DeepSeek部署
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容,请联系我们,一经查实,本站将立刻删除。
如需转载请保留出处:https://51itzy.com/kjqy/234388.html