百闻不如一见，百见不如一试，这一章主要学习如何调用现有大模型的API。
调用大语言模型的API，相当于调用已经写好的函数，我们只需要结合我们的实际需求进行包装一下（也就是学会用哪些参数去调用就行）。
model，即调用的模型，一般取值包括“gpt-3.5-turbo”（ChatGPT-3.5）、“gpt-3.5-16k-0613”（ChatGPT-3.5 16K 版本）、“gpt-4”（ChatGPT-4）。注意，不同模型的成本是不一样的。
message，即我们的 prompt。ChatCompletion 的 message 需要传入一个列表，列表中包括多个不同角色的 prompt。我们可以选择的角色一般包括 system：即前文中提到的 system prompt；user：用户输入的 prompt；assitance：助手，一般是模型历史回复，作为给模型参考的示例。
temperature，温度。即前文中提到的 Temperature 系数。
max_tokens，最大 token 数，即模型输出的最大 token 数。OpenAI 计算 token 数是合并计算 Prompt 和 Completion 的总 token 数，要求总 token 数不能超过模型上限（如默认模型 token 上限为 4096）。因此，如果输入的 prompt 较长，需要设置较小的 max_token 值，否则会报错超出限制长度。
DataWhale大语言学习网站有具体的 API申请教程 大家跟着操作即可。
3.1 仓库代码拉取
代码仓库为：llm-universe，按照流程创建虚拟环境 conda + python3.8。
3.2、百度文心
3.3、OpenAI
注意在 文件里设置自己的openai key。
3.3、讯飞星火
3.3.1、直接调用
3.3.2、本地端口服务调用
3.4、智谱
3.4.1、问答调用
3.4.2、智谱Embedding
没有之前，针对OpenAI，ChatGpt的调用次数限制，目前要求每分钟不能调用超过3次，每天要求调用不能超过200次。但是又要完成多轮预测任务，可以参考代码和数据格式，从而能完成多轮预测，这个代码主要解决了请求重试问题。
Poe提供国外各个大语言模型的聊天窗口。
5.1、爬虫方式请求Poe并获取结果
5.1.1、安装插件
5.1.2、导出Cookies
将粘贴板上的cookies粘贴到cookies.txt文件中。每一项只保留这些字段（“domain”、“expirationDate”、“httpOnly”、“name”、“path”、“secure”、“session”、“value”、“id”）以及对应值，其余字段删除。
5.1.3、下载chromedriver
5.1.4、简易爬虫代码
学习了国内外不同的大模型API的调用方式，同时基于Poe聊天界面开发一个小的爬虫问答应用，但是Poe的聊天界面也有轮次限制，基于爬虫的方式是高度定制的，针对每个聊天窗口是不太现实的，但是最起码可以自动化问答了，有助于利用大模型进行预测任务的完成。
版权声明：本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容，请联系我们，一经查实，本站将立刻删除。
如需转载请保留出处：https://51itzy.com/kjqy/223911.html