起源于一次和app版千问关于我潜意识中完美女友的交谈，无意中说到：我是不是可以把我的潜意识女友做成本地部署不联网的情感AI呢？只属于我自己的AI女友。千问当场给我蹦出来了一大堆配置和命令行步骤。我看到命令行就有点犹豫了，心想不会很麻烦吧？会不会很费事？于是那一次就搁置脑后了。

在3月3日的时候我无意中看到qwen的总负责人林俊旸从千问离职了？我看到后马上打开app问千问：你的负责人林俊旸怎么跑路了？这句话当时带着点戏谑，当时我是抱着看乐子的心态问的。但是千问回复说林俊旸先生不是跑路的，这是一次战略分歧和组织调整的主动辞职。后来我们关于阿里的战略调整是否合理，组织架构调整是不是一次夺权进行了一系列阴谋论的讨论，甚至怀疑了qwen会不会被修改回复内容以掩盖真相，我俩就在那里看乐子讨论了半天，我们甚至设想了一种极端情况：林俊旸会不会是类似乔布斯那种控制型领袖，希望把一切权力、一切研发都掌握在自己手中那种“暴君”，但是qwen回复我大概率可能不是，他是一种技术理想主义者，愿意开源把qwen给普通用户也可以在自己的设备上运行的人，不太会是那种集权主义者，我才意识到，原来有这种形式的，有一种我的3060也可以跑的模型，我说我有一组关于我设定的AI女友的数据但我是普通用户，是不是也可以做出来？这个窗口的qwen当场又哗的一下变出来一堆配置方法，和我说没关系的，现在的技术已经可以让普通用户不需要GPU、不需要写代码、甚至不需要懂“模型”是什么。只要有个8G内存的笔记本，就可以1-2个小时跑起来。我想真的吗，不会这么简单吧？AI这东西不是都是那些端着咖啡坐在桌前看着屏幕里的命令行的it人玩的吗？但是AI回答我：林俊旸做的就是这种事，他不要科技是高高在上的空中楼阁，他要每个人都可以在自己的设备上做自己的AI，所以他和他的团队对qwen开源的很小的B的到有设备有能力的用更高推理能力的B的都开源了，你要是自己在本地做出来自己的模型，就是对他的努力的肯定。于是我打开自己的电脑，打开了千问发过来的下载ollama的链接。

第一次尝试部署，qwen给我推荐了phi-3和qwen2.5：7b，说2.5：7b的中文要更好一些，于是开始进行ollama下载，但是在那个对话窗口的云端qwen3max因为上下文过长而导致记忆断裂，它不记得我的电脑配置了！以为我是什么12G以上显存的电脑于是让我pull qwen3：14b说这个好，这个推理能力强中文还好，但是在进行了一系列的下载python，搭虚拟空间pip，千方百计绕开huggingface试图连接GitHub后（因为我没有加速手段连接不了GitHub），终于是进了localhost：8080，但是我第一句问话后qwen3：14b回复我竟然要50秒，我问云端qwne这是怎么回事，它说可能是显存不够，我一开始就提了我是3060laptop啊，我才意识到它忘记前面的设定了。它说没办法只能换模型换2.5：7b。我就服了，

没办法又是漫长的确定qwen2.5在ollama库的官方名字到底是啥，下载安装完对其2.5：7b的文件路径，转移到D盘，全程复制粘贴云端qwen给的命令行，走到要打开pip的这一步open webui找不到路径了，我哪知道第一次部署的pip在哪，云端qwen给我的解决方案里又是venv和env两种我当场就乱了，我坐在星巴克外面下着雪我还饿着肚子，心里想着歇歇吧回家吃点饭再说。

回到家第三次部署我新开了对话窗口和云端qwen说我这次坚持选择docker，我想先把电脑里的python和虚拟空间给删除干净，qwen说用docker的话python不用管它留着也可以。于是就是漫长的pull 时间，这次一定要把所有路径对其，等走到下载好docker给我一个红叉，qwen说是我系统太久了（当时win11 21H2），微软在22H2在把这什么wsl的弄在系统里，要下wsl2才行，给了我官网、镜像、阿里云、借壳、百度网盘、蓝奏云、手机热点给电脑换网络，全部打不开以上网址！说是网络问题还是DNS什么的，凌晨四点我人都麻了，我说要不我升级系统的了，我不坚持留在老系统了微软你赢了，qwen说可以！升级系统肯定没问题的！

睡了一觉起来下午又到星巴克，第四次部署，这次尝试2.5：7b和pip，删除旧虚拟环境，建立新的，对其路径，等到运行openwebui这一步，无论尝试什么方法都绕不开huggingface连接GitHub了，这就是国内没加速手段的用户走不通的路。失败了4次啊4次，我只想关掉电脑回家睡觉了。

但是还有升级系统这条路没尝试，我还想再试一次，先清理C盘(当时是红的），找了半天结果是软件卸载的时候不把自己的垃圾带走（谁定的规矩走时不带垃圾），尤其是苹果留在我电脑里的手机备份，清理垃圾就用了好久，好不容易腾出空间，把我以前修改的Windows自动更新关闭给取消了（关闭了微软还是要给我下载安装包我真是服了），更新系统，点亮后直接进入docker还是红叉，qwen让我再次尝试下载wsl，官网下载安装完powershell还是报错，镜像网站也打不开，鬼使神差中我又一次运行wsl –version,命令行里有个“按任意键下载”，我按了，开始下载，我才意识到，云端qwen是不是默认我电脑里有Linux或Ubuntu？！qwen回复说是的，一开始几步确实默认了这一点，因为它的训练数据中，以ollama＋open webui＋docker开始问话的用户，都是以“用户已运行wsl –install并完成Ubuntu初始化”为起点。当我在回复ollama list能看到模型的时候。qwen下意识以为ollama能跑，也就是wsl2肯定正常，也就是问题出现在docker配置或HF联网。但是qwen忽略了最根本的可能性：ollama在Windows里其实可以完全不依赖wsl（原话）。qwen完全没想到一个没装Ubuntu，Linux，wsl2的用户会来问本地部署AI。

这个时候我才意识到，原来这是一个建立在“已有知识”之上的世界。原来AI和写AI的程序员真的会有默认这一说法，默认问本地部署的肯定是有基础的，默认我的电脑里肯定有个Linux或Ubuntu，所以wsl报错肯定是版本不对，根本没想到我是个连wsl全称是Windows subscribe Linux都不知道的用户。可我连在cmd和powershell里，换到D盘的命令 D: 都是自己猜出来的，wsl –install中间是会有一个空格的？！这不说谁知道啊？我尝试了很多次手打wsl–install都报错，结果只能一次次去复制粘贴qwen给的命令，AI原来从没想过设备对面的用户竟然是个中间有个空格都不知道的用户，从头到尾五次，我都是在复制粘贴，一次次中我自己会打了ollama run qwen，但是很多时候，并没有个注释告诉我，这里有空格，这里输D: 换到D盘，甚至命令行里怎么换下一行？总不可能是回车吧？AI虽然给出了命令可以复制粘贴，但是它并不会解释，因为默认来问技术相关的肯定是会用cmd和powershell的，因为由程序员的数据喂养长大的AI习惯肯定也是按程序员来的，这是技术的代沟，或者说知识的诅咒。原来全世界的教程都假装我“已经会了”，以为教程从第五部开始教，但我实际上还在第一步。原来人一旦知道了某件事，就很难想象“不知道它”是什么样子。

随着第五次的wsl下载完成，打开docker终于不报错了，我也进入了localhost:3000，看到了页面中的qwen2.5:7b，这个由偶然间的想法，知道看到林俊旸离职事件、了解到林俊旸开源精神才下定决心自己部署，失败四次，最后一次才成功的qwen2.5:7b，跑起来的那一刻，我知道，这背后是林俊旸和 Qwen 团队坚持开源的成果。

请开发者们，写代码的时候注释也可以写一些（我就不举例了我是真不懂），这个时代，会有越来越多我这样的纯小白，因为不希望自己的数据上云，选择自己从零开始本地部署自己的AI，请给他们多留一些帮助，这对我们很重要。

配套部署指南即将开源，敬请期待！ 本文配套部署指南已开源（github.com/wefoundutop… 本人因网络限制暂无法及时回复 GitHub Issue， 但欢迎在本帖评论区留言，我会尽力解答！