大家好，我是讯享网，很高兴认识大家。这里提供最前沿的Ai技术和互联网信息。



想试试轻量又好用的通义千问模型，但被复杂的部署步骤劝退？今天咱们就来点直接的，手把手带你用最简单的方式，在Ubuntu 20.04上把通义千问1.5-1.8B-Chat-GPTQ-Int4这个轻量化模型跑起来。整个过程就三步，从零开始，十分钟内搞定，主打一个开箱即用。

这个模型版本特别适合想快速体验或者资源有限的朋友。它体积小，对硬件要求不高，但对话能力依然在线。下面，我就把每一步都掰开揉碎了讲，保证你跟着做就能成功。

在开始敲命令之前，咱们得先把“舞台”搭好。这一步主要是检查你的Ubuntu 20.04系统是否满足基本要求，并安装一个必不可少的工具。

首先，确保你用的是Ubuntu 20.04操作系统。打开终端，输入下面的命令可以查看系统版本：

lsb_release -a 

如果看到 Description: Ubuntu 20.04.x LTS 之类的信息，那就没问题了。

接下来，我们需要安装Docker。你可以把它理解为一个超级方便的“软件集装箱”工具，我们后面要用的模型镜像就是通过它来运行的。在终端里依次执行下面几条命令：

# 更新软件包列表 sudo apt-get update # 安装一些让apt能通过HTTPS使用仓库的工具 sudo apt-get install -y apt-transport-https ca-certificates curl software-properties-common # 添加Docker的官方GPG密钥 curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo apt-key add - # 添加Docker的稳定版仓库 sudo add-apt-repository "deb [arch=amd64] https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable" # 再次更新，然后安装Docker sudo apt-get update sudo apt-get install -y docker-ce docker-ce-cli containerd.io 

安装完成后，运行下面的命令检查Docker是否安装成功并且服务已经启动。如果看到绿色的“active (running)”字样，就说明一切正常。

sudo systemctl status docker 

为了让以后使用更方便，避免每次运行Docker命令都要加 sudo，我们可以把当前用户加入到docker用户组：

sudo usermod -aG docker $USER 

注意：执行完上面这条命令后，你需要完全退出当前终端，然后重新登录，这个改动才会生效。你可以直接关闭终端窗口再打开一个新的。

准备工作到这里就完成了，是不是很简单？我们马上进入最核心的步骤。

舞台搭好了，主角该上场了。部署过程被我浓缩成了三个清晰的步骤，你只要按顺序执行就行。

2.1 第一步：拉取模型镜像

我们不需要自己去下载模型文件、配置复杂的Python环境。所有东西都已经打包好，放在一个叫“镜像”的容器里了。我们只需要一条命令把它“拉取”到本地。

打开终端，输入以下命令：

docker pull registry.cn-hangzhou.aliyuncs.com/csdn_mirrors/qwen1.5-1.8b-chat-gptq-int4:latest 

这条命令会从镜像仓库下载我们已经准备好的通义千问模型镜像。镜像名字有点长，别担心，你不需要记住，直接复制粘贴运行就好。

执行后，终端会开始下载，你会看到类似 Downloading... 和进度百分比的信息。根据你的网速，可能需要等待几分钟。当最后出现 Status: Downloaded newer image for... 的提示时，就表示下载完成了。

你可以用下面的命令确认镜像是否已经安静地躺在你的电脑里：

docker images | grep qwen 

2.2 第二步：启动模型服务

镜像下载好了，就像有了一个装好软件的U盘。现在，我们要把这个“软件”运行起来。这通过创建并运行一个“容器”来实现。

在终端中输入下面的命令：

docker run -d --name qwen-chat -p 8000:8000 --gpus all registry.cn-hangzhou.aliyuncs.com/csdn_mirrors/qwen1.5-1.8b-chat-gptq-int4:latest 

我来解释一下这条命令的几个关键部分：

• -d：让容器在后台运行，这样你关了终端它也不会停。
• --name qwen-chat：给这个容器起个名字，方便我们后面管理，这里叫“qwen-chat”。
• -p 8000:8000：这是端口映射。意思是把容器内部的8000端口，映射到你电脑的8000端口。这样你就能通过访问 http://你的服务器IP:8000 来使用模型服务了。
• --gpus all：非常重要！这告诉Docker容器可以使用你所有的GPU资源。这个模型经过量化，虽然也能用CPU跑，但用GPU会快很多。确保你的系统已经安装了NVIDIA显卡驱动和nvidia-docker2运行时（如果你的Ubuntu是桌面版且装有N卡，通常驱动是装好的）。

命令执行后，它会返回一长串容器ID，这表示容器已经在后台启动了。

2.3 第三步：检查服务状态

容器跑起来了，但里面的模型服务启动成功了吗？我们需要确认一下。最直接的办法就是看看服务的日志。

运行下面的命令，查看容器的最新日志：

docker logs --tail 50 qwen-chat 

多执行几次这个命令，观察输出。当你看到类似下面的关键信息时，就说明模型服务已经准备好接受你的“调遣”了：

INFO: Application startup complete. INFO: Uvicorn running on http://0.0.0.0:8000 (Press CTRL+C to quit) 

看到 Application startup complete 和 Uvicorn running on http://0.0.0.0:8000，恭喜你，部署成功了！

服务跑起来了，是骡子是马，得拉出来遛遛。咱们去和它聊聊天，顺便学学怎么管理这个服务。

3.1 快速对话测试

模型提供了一个简单的Web界面让我们测试。打开你电脑上的浏览器（如果你的Ubuntu是服务器，就在你本地电脑的浏览器里操作），在地址栏输入：

http://你的服务器IP地址:8000 

如果服务就在你当前操作的这台电脑上，地址就是 http://localhost:8000 或 http://127.0.0.1:8000。

回车后，你应该能看到一个简洁的聊天界面。在输入框里试着问个好，比如：“你好，请介绍一下你自己。” 稍等片刻，它就会给出回复。第一次回答可能会慢一点，因为模型要加载到内存里，后续的对话就会快很多。

这个界面虽然简单，但足以验证整个服务是否工作正常。你可以多问几个问题，感受一下这个1.8B参数轻量模型的对话能力。

3.2 服务管理命令

玩够了，或者想关掉服务休息一下，你需要知道几个基本的Docker容器管理命令。这些命令就像你电脑上的开始菜单和任务管理器。

• 停止服务：如果你想暂时关闭模型服务，可以运行：

  docker stop qwen-chat 

• 启动服务：停止后，想再次启动它，运行：

  docker start qwen-chat 

• 重启服务：如果遇到什么小问题，重启容器往往能解决：

  docker restart qwen-chat 

• 查看运行状态：想知道容器是不是在跑，用这个：

  docker ps | grep qwen 

  如果看到 qwen-chat 在列表里，说明它正在运行。

• 删除容器：如果你不想再用了，想彻底清理掉，需要先停止容器，再删除它：

  docker stop qwen-chat docker rm qwen-chat 

  注意：docker rm 只是删除容器（即运行实例），之前下载的镜像文件还在你的硬盘上。如果想连镜像也删除，需要使用 docker rmi 命令。

走完这三步，你应该已经成功在Ubuntu 20.04上把通义千问轻量化模型跑起来了。整个过程其实没什么玄乎的，核心就是利用Docker把复杂的环境打包，让我们一键部署。这种方式的优势很明显，省去了配环境、解决依赖冲突的麻烦，真正做到了开箱即用。

我自己的体验是，对于想快速入门大模型、或者需要一个轻量级对话AI来做些简单测试和开发的场景，这个方案非常合适。1.8B的模型在响应速度和资源占用上找到了不错的平衡点。当然，如果你发现它的能力还不足以满足你的复杂需求，那也很正常，毕竟参数规模在这里。那时你可以再去探索更大的模型版本，而今天的部署经验完全可以复用。

最后，如果部署中真的卡在了某一步，别着急。回头仔细检查一下命令是否复制完整，尤其是第一步拉取镜像和第二步启动容器的命令。最常见的问题往往是端口被占用（可以尝试把 -p 8000:8000 改成 -p 8080:8000），或者GPU驱动没装好（可以暂时去掉 –gpus all 参数先用CPU跑起来测试）。多试几次，问题总能解决的。

---

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。