<svg xmlns="http://www.w3.org/2000/svg" style="display: none;"> <path stroke-linecap="round" d="M5,0 0,2.5 5,5z" id="raphael-marker-block" style="-webkit-tap-highlight-color: rgba(0, 0, 0, 0);"></path> </svg> <pre></pre>
讯享网
2. 配置API密钥
使用OpenAI和Portkey API前,需要设置相关的API密钥:
讯享网
3. 设置Trace ID
设置Trace ID,以便将请求统一标识:
4. 生成Portkey Headers
使用Portkey生成请求头:
讯享网
5. 定义工具和模型
定义要使用的工具和模型:
6. 运行代理
使用定义好的工具和模型,运行您的代理:
讯享网
如何在Portkey上记录和跟踪
- 日志记录:通过Portkey发送请求,会默认记录所有请求日志,包括时间戳、模型名称、总费用、请求时间、请求和响应的JSON等。
- 跟踪:通过Trace ID可以在Portkey仪表板上可视化请求日志。可以为每个请求设置独特的Trace ID。
进阶功能
Portkey还提供了其他高级功能,如缓存、标签和重试机制,增强生产力:

- 缓存:可以从缓存中响应先前服务的客户查询,从而节省成本和减少延迟。
- 重试:自动重试不成功的API请求,最多可达5次。
- 标签:通过预定义标签详细跟踪和审计用户交互。
- 请求不稳定问题:由于某些地区的网络限制,可能需要使用API代理服务提高访问稳定性。
- 无效API密钥:确保API密钥正确粘贴在环境变量中。
- Trace ID未可视化:检查Trace ID设置是否正确并应用于请求中。
Portkey简化了Langchain应用程序的日志记录和请求跟踪,使开发者能够更好地管理和优化API调用。通过使用其高级功能,您可以显著提高应用程序的性能和可见性。
参考资料
- Langchain 官方文档
- Portkey API 文档
- OpenAI API 文档
如果这篇文章对你有帮助,欢迎点赞并关注我的博客。您的支持是我持续创作的动力!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容,请联系我们,一经查实,本站将立刻删除。
如需转载请保留出处:https://51itzy.com/kjqy/153778.html