本地部署 AI 代码助手，制作一个 Cursor/GitHub Copilot 的替代版本
 
  
    
    
 
     
本地部署的定义与优势（数据隐私、离线使用、定制化）。
 
     
Cursor 与 GitHub Copilot 的功能（代码补全、对话交互、模型差异）。
 
     
本地部署的AI 代码助手适用场景：企业内网开发、敏感数据环境。
 
    
 
  
    
    
 
     
硬件要求：GPU 要对应上你所部署的模型大小
 
     
模型选择：qwen2.5-14b-instruct （这里选择千问的大模型）
 
    
这里不详细介绍具体的大模型部署的具体过程，部署完成之后，你应该得到对应的模型的以下信息
model: "qwen2.5-14b-instruct" apiBase: "http://你的ip地址（自己的本机就写localhost）:对应的端口号 例如8000/v1"
Cursor 开源替代方案：配置 VS Code 插件（Continue）连接本地模型
Continue 是 VS Code 的一款 AI 编程辅助插件，专注于通过自然语言交互提升开发效率。它基于大语言模型（如 GPT-4、Claude 等），支持代码生成、解释、调试和重构等功能，同时注重隐私保护，允许本地运行或连接私有模型。
 
  
    
    
 
     
代码自动补全与生成：根据注释或上下文实时生成代码片段，支持多种编程语言，减少重复性编码工作。
 
     
对话式编程：通过聊天界面与 AI 交互，例如询问“如何优化这段代码？”或“解释这个函数的作用”，插件会提供即时反馈。
 
     
代码重构与调试：识别代码中的潜在问题，提供优化建议，或直接生成修复方案。例如自动重构冗余逻辑或修复语法错误。
 
     
多模型支持：允许用户配置不同的 AI 模型后端（如 OpenAI、Anthropic 或本地部署的模型），适应不同需求。
 
    
 
  
    
    
 
     
本地运行选项：支持离线模型（如 CodeLlama），避免敏感代码上传云端。
 
     
自定义服务器：企业用户可连接内部部署的模型服务器，确保数据可控。
 
    
①安装插件
在 VS Code 扩展市场搜索“Continue”并安装。
 
  
    
    
 
      
    
由于我已经安装过了，所以显示的是Disable。
②配置本地模型
Continue安装完成后，VS Code 的边栏上会多一个图标。
 
  
    
    
 
      
    
 
  
    
    
 
      
    
 
  
    
    
 
      
    
选择Ollama 然后点击Connect就可以了，会自动弹出config.yaml，然后将其内容补充完整。
1 基本信息
name: Local Config version: 1.0.0 schema: v1
 
  
    
    
 
     
name: 配置名称，标识为 "Local Assistant"（本地助手）。
 
     
version: 配置文件版本（1.0.0）。
 
     
schema: 使用的配置架构版本（v1）。
 
    
2 模型配置
 models: - name: qwen2.5-14b-instruct provider: "openai" model: "qwen2.5-14b-instruct" apiBase: "http://ip:port/v1" apiKey: "" completion_options: temperature: 0.5 top_p: 0.9 roles: - chat - autocomplete - edit - apply
 
  
    
    
 
     
模型定义：使用 Qwen2.5-Coder-7B-Instruct（一个针对代码任务的7B参数模型）。 
      
 
       
provider: 设置为 "openai"，表示兼容OpenAI API格式（这里根据你的实际情况修改）。
 
       
apiBase: 模型API的终端地址（http://ip:port/v1），指向一个本地或远程服务。
 
       
apiKey: 你的模型API密钥。
 
      
 
     
生成参数： 
      
 
       
temperature: 0.5（平衡生成结果的创造性和确定性）。
 
       
top_p: 0.9（核采样，限制生成时仅考虑概率最高的90% token）。
 
      
 
     
支持的功能 (roles)： 
      
 
       
chat: 对话交互。
 
       
autocomplete: 代码自动补全。
 
       
edit: 代码编辑。
 
       
apply: 可能指应用代码更改。
 
      
 
    
3 上下文集成
 context: - provider: code - provider: docs - provider: diff - provider: terminal - provider: problems - provider: folder - provider: codebase
配置工具可访问的上下文来源（增强模型对当前任务的理解）：
 
  
    
    
 
     
code: 当前编辑的代码文件。
 
     
docs: 项目文档或注释。
 
     
diff: 代码变更差异（如Git diff）。
 
     
terminal: 终端输出或命令历史。
 
     
problems: 错误或警告（如IDE提示）。
 
     
folder: 当前目录文件结构。
 
     
codebase: 整个代码库的元信息（如符号定义）。
 
    
总得来说，此配置文件定义了一个本地代码助手，通过HTTP API连接到一个 Qwen2.5-Coder 模型，支持代码补全、编辑、聊天等功能，并集成了开发环境的多维度上下文（代码、终端、文档等）。
 
  
    
    
 
      
    
Ctrl + S 保存后就会显示对应的模型，到这里本地部署的模型链接VS code 就完成了。