大家好，我是讯享网，很高兴认识大家。这里提供最前沿的Ai技术和互联网信息。



摘要：本文通过在开发者空间Notebook调用DeepSeek V3模型API，演示如何调试温度采样参数temperature及累积概率采样参数top_p来控制模型的输出。

DeepSeek大语言模型算法是一种深度合成服务算法，该模型以Transformer架构为基础，自主研发的深度神经网络模型。模型基于注意力机制，通过海量语料数据进行预训练，并经过监督微调、人类反馈的强化学习等进行对齐，构建形成深度神经网络，并增加审核、过滤等安全机制，使算法模型部署后能够根据人类的指令或者提示，实现语义分析、计算推理、问答对话、篇章生成、代码编写等任务。

本案例通过在开发者空间调用DeepSeek V3模型API，演示如何调试温度采样参数temperature及累积概率采样参数top_p来控制模型的输出。

通过本案例可以掌握DeepSeek大模型API的调用方法及temperature和累积概率采样参数top_p参数调试技巧。

说明：

① 在ModelArts Studio大模型即服务平台中领取DeepSeek V3模型；

② 登录开发者空间，启动Notebook；

③ Notebook运行DeepSeek V3 API调用程序；

④ 调试温度采样参数和top_p采样参数进行效果查看。

本案例预计花费总计0元。

在浏览器访问ModelArts Studio首页， 点击ModelArts Studio控制台，跳转到登录界面，按照提示登录，即可进入ModelArts Studio控制台。

签署免责声明。

进入ModelArts Studio控制台首页，在左侧菜单栏，选择模型推理下在线推理，在免费服务中选择DeepSeek-V3-32K（NEW）模型，点击领取额度，领取200万免费tokens。

为了给广大开发者提供更加便捷、高效、稳定的开发环境，华为开发者空间正式上线一站式开发工具Notebook，融合交互式编程、云端资源管理与自动化工作流，让开发更智能、更流畅，本次案例代码在Notebook中进行调试。

首先，需要登录开发者空间，登录后页面如下：

在左侧导航选择工作台，在我的开发工具下点击AI Notebook旁边的立即前往。

当前AI Notebook包含NPU环境和CPU环境，环境参数包含：

• 右上角配额：每日固定时间配额。
• 硬件配置：环境的硬件配置，例如：NPU basic · 1 * NPU 910B · 8v CPU · 24GB表示包含1个昇腾910B NPU处理器、8核24G内存配置。
• 预装镜像：必选，可以选择不同的镜像版本。镜像名中包含对应系统软件版本，例如：

euler2.9-py310-torch2.1.0-cann8.0-openmind0.9.1-notebook表示Euler系统版本2.9-Python版本3.10- Torch版本2.1.0-CANN版本8.0-openMind版本0.9.1。

• 关联模型(可选)：可选，关联后启动Notebook可在model文件夹下查看/使用模型文件。
• 关联数据集(可选)：可选，关联后启动Notebook可在dataset文件夹下查看/使用数据集。

根据实际配置要求选择不同环境的Notebook，我们以NPU环境为例启动Notebook：

选择NPU环境选项卡，点击立即启动按钮启动Notebook。

然后点击查看Notebook进入Notebook。

在打开的窗口，点击笔记本下的Python 3 (ipykernel)创建Notebook。

新建Notebook效果如下：

在Notebook的新执行框中输入如下代码，声明变量大模型调用参数地址api_url和密钥api_key。

在浏览器另开一个窗口访问进入ModelArts Studio控制台首页

在左侧菜单栏，选择模型推理下在线推理，在免费服务中点击DeepSeek-V3-32K（NEW）模型对应操作的调用说明。

点击API地址内容后面的复制按钮复制api_url。

切换到Notebook粘贴赋值给api_url。

切换到浏览器窗口ModelArts Studio控制台，点击API Key管理。

进入API Key管理页面，点击创建API Key，自定义输入标签和API Key描述，点击确定，完成API Key的创建。

您的密钥弹窗中的密钥值就是api_key的值，请点击右侧复制图标复制密钥。

注意：这是唯一一次可以查看密钥的机会。您以后将无法查看它。但您可以随时创建新的访问密钥。

切换到Notebook粘贴赋值给api_key并运行。

配置完成后，我们先进行DeepSeek模型推理服务API接口调用测试。

在新的执行框中输入如下代码并运行。

可以看到response返回了大语言模型介绍，则说明推理服务API调用成功。

温度参数temperature，是用来控制采样的随机性，就像给AI装了个“创意开关”：数值越小（接近0），回答越保守准确；数值越大，回答越天马行空。默认0.6是平衡点，既能保持合理又不失创意。设为0时，AI每次都会选最稳妥的答案，适合需要确定性的场景；调高后，AI会更愿意尝试不同可能，适合需要创意的任务。

数值高低定义参考：

• 低温度（0-0.3）：回答稳定但保守（例：客服问答、数学题）；
• 中温度（0.4-0.7）：平衡合理性和创意（默认0.6，适合日常聊天）；
• 高温度（0.8-1+）：答案更随机发散（适合写诗、头脑风暴）。

下面通过将temperature的数值设定为0、1和0.1去回答“介绍下大预言模型”，观察不同的回答结果差别，去理解温度采样参数的设定。

1.构建客户端。

新的执行框中输入如下代码并运行，构建模型调用客户端。

2. temperature设为0。

在新的执行框中输入如下代码并运行，实例化客户端并调用模型，此时temperature参数的值设定为0。

3. temperature设为1，两次运行对比。

在新的执行框中输入如下代码并运行，此时调整temperature采样为1。

参考运行结果如下：

再次运行上述代码，可以看到虽然temperature设定都是1，但是两次输出的结果中对大语言模型的介绍内容随机发散，差异很大。

4. temperature设为0.1，两次运行对比。

在新的执行框中输入如下代码并运行，此时调整temperature采样为0.1。

参考运行结果如下：

再次运行上述代码，可以看到两次输出的结果基本一致，差异很小。

由以上可见，当温度采样参数temperature的值较小时模型推理结果更加稳定，反之值较高时模型推理结果更加随机。

实用参照：

▸ 需要精准答案 → 调低（0-0.3）

▸ 需要自然交流 → 0.4-0.7

▸ 需要创意输出 → 0.8-1.2+ 超过1.5可能产生混乱内容，需谨慎使用。

top_p参数的全称是累积概率采样，是一种在大模型推理过程中用于控制生成文本多样性的采样策略，它通过调整模型生成文本时的多样性来影响输出质量。

工作机制是AI按概率排序候选词，从最高概率开始累加，直到超过设定的阈值（如0.8），仅保留这部分词作为随机选择范围。比如：苹果65%，香蕉20%，葡萄10%，榴莲5%...，设定top_p=0.8时，AI会从最可能的词开始累加概率，直到总和超过80%就停：苹果(65%) + 香蕉(20%)=85% → 超过80%，于是只保留苹果和香蕉作为候选池，AI只会在这个缩小后的候选池里随机选择，既保证质量又保留随机性。

参数类型为浮点型，取值范围0~1：

• 低值（如0.3）：候选词少，输出保守精准（例：天气播报）；
• 高值（如0.8）：候选词多，输出灵活创意（例：写诗歌）；
• 1=关闭筛选，全候选词（可能胡言乱语）；
• 0=极端模式，每次都选最保险的一个词，强制选择最高概率词（易死板）。

经典场景：

• 天气预报（设0.3）：“明天__”→只会选“晴/雨/多云”；
• 小说续写（设0.8）：“神秘来客__”→可能选“摘下墨镜/突然消失/变成巨龙”。

1. top_p设定为1，两次运行对比。

在新的执行框中输入如下代码并运行，此时调整Top采样为1。

参考执行结果如下：

再次运行上述代码，可以看到两次输出对大语言模型的介绍内容文本差异较大：

2. top_p设定为0.1，两次运行对比。

在新的执行框中输入如下代码并运行，此时调整Top采样为0.1。

参考执行结果如下：

再次运行上述代码，可以看到两次输出对大语言模型的介绍内容文本相同。

由此可见，当top_p采样参数的值较小时，模型推理生成文本多样性更小更准确，反之值较高时模型推理生成文本更多样。数值越小输出越稳定，数值越大脑洞越开。

温度采样（Temperature）与top_p的搭配使用就像调节AI写作的“油门”和“方向盘”，温度管脑洞大小，top_p控制候选范围，二者配合能更精准控制输出效果，下方表格数值设定可以作为参考：

组合模式
 

温度值
 

top_p值
 

效果
 

适用场景
 

精准输出
 

0.2~0.5
 

0.3~0.6
 

保守准确
 

拒绝冒险代码/法律文件
 

平衡创作
 

0.7~1.0
 

0.7~0.9
 

合理创新
 

适度发散商业文案/邮件
 

疯狂脑洞
 

1.2~1.5
 

0.9~1.0
 

突破常规
 

天马行空诗歌/科幻小说
 

注意，下面的极端组合慎用：

• 温度>1.5 + top_p=1 → 可能输出乱码；
• 温度<0.2 + top_p=0.1 → 文字机械重复。

至此，DeepSeek模型API调用及参数调试结束，大家可以根据自己的场景去设定合适的参数值实现不同的效果。点击链接可以参考完整案例代码。

点击关注，第一时间了解华为云新鲜技术~