2026年基于fastGpt + m3e模型打造企业／个人私有化知识库(本地部署教程)

大家好，我是讯享网，很高兴认识大家。这里提供最前沿的Ai技术和互联网信息。

本文较长，建议点赞收藏，以免遗失。更多AI大模型开发 学习视频/籽料/面试题 都在这>>Github<<

在数字化时代，构建个人知识库已成为技术爱好者的新趋势。为此，我专门编写了一篇简单易懂的教程，旨在帮助您使用FastGPT和Docker Compose搭建自己的本地知识库。这篇“保姆级”教程将引导您轻松完成这一任务。

FastGPT 是一个基于 LLM 大语言模型的知识库问答系统，提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排，从而实现复杂的问答场景！本文就以FastGpt来搭建一个属于自己的

FastGpt前置基础知识

5大模型类别

LLMModule(大型语言模型)
: 大型语言模型（LLM）是设计用来处理和理解人类语言的AI模型。它们通常在大量的文本数据上进行训练，能够执行语言翻译、文本摘要、问答以及文本生成等任务。
- qwen-tubo(初代的通义千问文本模型,我们日常聊天的文本模型), chat-3.5-turbo(ChatGPT3.5)
vectorModels(向量模型) :向量模型用于将数据（通常是文本或图像）表示为高维空间中的向量。这些模型在机器学习和AI中是基础性的，用于执行相似性搜索、聚类和分类等任务LLM的模型训练就是基于向量模型.
reRankModels(重排模型): 重排模型通常用于在初步排序或筛选后，对结果进行进一步的精细排序,这类模型的作用的是对于结果进行重新排列,提高回答的准确率.
- 例如，在搜索引擎中，重排模型可能会根据用户的点击行为或反馈来调整搜索结果的顺序。
audioSpeechModels(音频语音模型) : 音频语音模型专注于处理和分析音频数据，尤其是语音。这些模型可以用于语音识别、语音合成、情感分析等任务。
whisperModel(音频处理模型) : 用于执行如语音识别、音频分类或语音到文本的转换等任务。

M3E#

Moka Massive Mixed Embedding 的缩写

Docker部署

FastGpt的部署,极大的进行依赖Docker环境,所以需要在你的本地或者需要部署的服务器进行安装Docker环境

Linux系统

安装依赖包

设置阿里云docker-ce镜像源

安装Docker

启动docker并设置开机自启

配置国内镜像源

因为docker服务在国外，会导致下载慢或者无法下载。需要配置国内镜像，以阿里云为例：

您可以通过修改daemon配置文件/etc/docker/daemon.json来使用加速器

Windows系统#

我们建议将源代码和其他数据绑定到 Linux 容器中时，将其存储在 Linux 文件系统中，而不是 Windows 文件系统中。

可以选择直接使用 WSL 2 后端在 Windows 中安装 Docker Desktop。

也可以直接在 WSL 2 中安装命令行版本的 Docker。

MacOs系统#

推荐直接使用 Orbstack。可直接通过 Homebrew 来安装：

架构图

FastGpt部署

新建文件夹

本地创建一个名为【fastgpt】的文件夹并进去

windows：右键-》新建

linux：

mkdir fastgpt

cd fastgpt

下载配置文件

下载不下来可以直接本地新建相应文件，然后将文件中的内容放进去

启动容器

以管理员身份运行cmd,并进入FastGPT目录

Mongo数据库初始化

首次使用时，需要连接数据库，已经默认配置了数据库信息，但是第一次连接需要进行初始化，不然无法登陆。

1、终端中执行下面命令，创建mongo密钥：
2、修改 docker-compose.yml，挂载密钥

这一步检查即可，一般都是默认
3、重启服务
4、进入容器执行副本集合初始化

访问FastGPT#

目前可以通过直接访问(注意防火墙)。登录用户名为，密码为环境变量里设置的。

如果需要域名访问，请自行安装并配置 Nginx。

首次运行，会自动初始化 root 用户，密码为（与环境变量中的一致），日志里会提示一次可忽略。

OneApi部署

关于OneApi

OneApi的作用就是把这些API的调用进行了整合到了一起,使我们进行使用的时候完全的按照OneAPI的一套规范就能够进行调用和使用其他的大模型,无疑OneApi极大的进行提高了我们进行学习AI的效率,不用在不同的模型接口之间进行切换,也使得FastApi可以直接的通过这套规范进行训练

项目地址：github.com/songquanpen…

部署OneApi

命令详解

访问OneApi#

可以通过访问OneAPI，默认账号为密码为。本地访问: http://localhost:13000

请注意：到了这一步后暂时还不能训练模型，还需要结合m3e，本教程先部署所有需要的环境后，再教学配置以及使用，请继续往后看。

M3E嵌入模型部署

关于m3e嵌入模型

是的缩写，是一个由训练并开源的文本嵌入模型。适合使用场景主要是中文，少量英文的情况，其在文本分类和文本检索任务上表现出色，据称在某些任务上超越了。

此工具是我们实现本地化个人模型的必备，当然，也不是非m3e不可，但是本文以m3e为教程演示，其他工具自行寻找教程。

拉取镜像

启动镜像

登入one api

根据设定的端口，在浏览器内输入localhost:13000,默认账号为密码为

创建渠道

登录进去后，点击上方的【渠道】->【添加新的渠道】

渠道有很多，比如：文心一言、openAI、讯飞星火、通义千问等。

以添加文心一言为例

添加对话模型渠道

添加m3e嵌入模型渠道

密钥默认设置为: sk-aaabbbcccdddeeefffggghhhiiijjjkkk

创建令牌

修改 FastGPT 配置文件

config.json

docker-compose.yml

添加m3e向量模型:

重启FastGpt

创建知识库

索引模型选择配置好的m3e

文件处理模型选择配置好的语言对话模型

导入文本，文档数据等

添加成功后，等待索引成功即可。

新增一个应用

选择需要关联的知识库

此时语言模型对话内容中，就可以穿插自己定义的知识库内容了，还可以发布、预览

到此，就完成了基础的部署。

在部署过程中如果遇到问题，请善用搜索引擎

官方文档地址：