如何在笔记本或手机本地运行 OpenAI GPT-OSS 20B 和 120B(超详细教程)

如何在笔记本或手机本地运行 OpenAI GPT-OSS 20B 和 120B(超详细教程)OpenAI 深夜公告震撼 AI 社区 这是自 GPT 2 之后首次重新开源大语言模型 此次发布包含两个推理模型 GPT OSS 20B 和 GPT OSS 120B 能在高端笔记本甚至智能手机本地运行 性能接近 o4 mini 全球开发者社区为之沸腾 两款开源推理模型 GPT OSS 20B 轻量版 与 GPT OSS 120B 旗舰版 性能接近 o4 mini 在编程

大家好,我是讯享网,很高兴认识大家。这里提供最前沿的Ai技术和互联网信息。



OpenAI深夜公告震撼AI社区:这是自GPT-2之后首次重新开源大语言模型。此次发布包含两个推理模型——GPT-OSS-20B和GPT-OSS-120B,能在高端笔记本甚至智能手机本地运行,性能接近o4-mini。全球开发者社区为之沸腾。

  • 两款开源推理模型:GPT-OSS-20B(轻量版)与GPT-OSS-120B(旗舰版)
  • 性能接近o4-mini,在编程、数学和医疗基准测试中超越多数开源模型
  • 硬件要求极低
    • GPT-OSS-20B:最低16GB内存设备即可运行,适合本地/端侧推理
    • GPT-OSS-120B:单张80GB GPU(如NVIDIA H100)即可驱动
  • Apache 2.0许可证:可商用可魔改,无版权与专利风险
  • 支持微调与可调推理强度,完整输出思维链,具备函数调用等智能体能力

官方链接:

  • GitHub: https://github.com/openai/gpt-oss
  • Hugging Face 20B: https://huggingface.co/openai/gpt-oss-20b
  • Hugging Face 120B: https://huggingface.co/openai/gpt-oss-120b
  • OpenAI博客: Introducing GPT-OSS
  • 在线体验: https://www.gpt-oss.com/

若想立即体验,可通过Playground在线测试,或从Hugging Face下载模型本地部署。以下是简易配置指南。

推荐Linux/macOS(Windows需WSL2)

以20B模型为例:

加速下载技巧:

创建demo.py文件:

运行:

通过特殊标签控制推理深度:

如需通过本地API提供服务:

运行:

向http://localhost:8000/chat发送POST请求即可测试API。

  • OpenAI携两款高性能推理模型重返开源,消费级硬件即可本地运行
  • Apache 2.0许可证使其成为研究、创业和商用的理想选择
  • Hugging Face下载量激增,建议先通过Playground体验再本地部署

在GPT-5仍处保密阶段时,GPT-OSS已然成为年度最激动人心的开源AI进展。预计未来数日将涌现大量基于这些模型的新项目和应用。

GPT-OSS是OpenAI最新开源推理模型系列,包含GPT-OSS-20B和GPT-OSS-120B,能在消费级硬件本地运行,提供接近o4-mini的高阶推理性能。

可以。GPT-OSS-20B最低16GB内存设备即可运行,高端笔记本甚至智能手机都能胜任。GPT-OSS-120B需要单张80GB GPU获得**性能。

可以。模型采用Apache 2.0许可证,允许免费使用、修改和商业部署,无版权与专利风险。

OpenAI提供Playground,可在浏览器直接测试模型后再决定是否下载本地运行。

GPT-OSS具备可调推理强度、完整思维链透明度、智能体函数调用能力,在编程、数学和医疗基准测试中优于同规模模型。

小讯
上一篇 2026-04-06 22:44
下一篇 2026-04-06 22:42

相关推荐

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容,请联系我们,一经查实,本站将立刻删除。
如需转载请保留出处:https://51itzy.com/kjqy/219833.html