NVIDIA 为 Nemotron 和 NeMo 系列模型提供了兼容 OpenAI 的 API,端点为 https://integrate.api.nvidia.com/v1。你可以通过来自 NVIDIA NGC 的 API 密钥完成鉴权。
一次性导出密钥,然后运行入职流程并设置 NVIDIA 模型:
export NVIDIA_API_KEY="nvapi-..." openclaw onboard --auth-choice skip openclaw models set nvidia/nvidia/llama-3.1-nemotron-70b-instruct
注意:如果你仍然使用
--token参数传递密钥,请注意该密钥会留在 shell 历史记录和 ps 输出中;优先使用环境变量的方式。
GPT plus 代充 只需 145{ env: { NVIDIA_API_KEY: "nvapi-..." }, models: { providers: { nvidia: { baseUrl: "https://integrate.api.nvidia.com/v1", api: "openai-completions", }, }, }, agents: { defaults: { model: { primary: "nvidia/nvidia/llama-3.1-nemotron-70b-instruct" }, }, }, }
nvidia/nvidia/llama-3.1-nemotron-70b-instruct(默认)meta/llama-3.3-70b-instructnvidia/mistral-nemo-minitron-8b-8k-instruct
- 兼容 OpenAI 的
/v1端点;请使用来自 NVIDIA NGC 的 API 密钥。 - 当设置了
NVIDIA_API_KEY时,提供商会自动启用;使用静态默认配置( Token 的上下文窗口,4096 最大输出 Token)。
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容,请联系我们,一经查实,本站将立刻删除。
如需转载请保留出处:https://51itzy.com/kjqy/249110.html