千帆ModelBuilder提供了与OpenAI兼容的使用方式,用户只需调整api_key、base_url、model等参数,就可以通过OpenAI SDK调用千帆ModelBuilder推理服务。
base_url指模型服务的请求地址。通过该地址,可以请求服务提供的功能或数据。当使用OpenAI兼容接口调用千帆ModelBuilder模型服务时,需要配置base_url。
- 需要配置的base_url如下:
api_key是在调用推理服务V2版本 API时使用,通过在控制台-用户账号-安全认证-API Key页面,查看API Key,此API Key永久有效。获取步骤如下:
(1)登录控制台-安全认证-API Key。
如果已有API Key,可跳过此步骤。如需创建,点击创建按钮,选择千帆ModelBuilder。

(3)配置资源。
配置API Key对应的V2版本应用对应的appid,即对应appid可以使用API Key调用推理服务V2版本接口。

- 所有资源,表示appid对应的V2版本应用,都可以使用该API Key。
- 特定资源,表示特定V2应用对应的appid,可以使用该API Key。
(4) 点击确定。
(5)在API Key列表查看API Key值。

支持通过自定义header方式入参appid,通过appid区分调用量和账单,具体是否用方式参考:多应用管理。
目前推理服务V2版本兼容通过OpenAI方式调用,支持模型清单请查看 开始使用-模型列表。
- Python
- Java
- Go
- Node.js
- .NET
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容,请联系我们,一经查实,本站将立刻删除。
如需转载请保留出处:https://51itzy.com/kjqy/217465.html