通过"开源模型应用落地-工具使用篇-Spring AI(七)-CSDN博客"文章的学习,已经掌握了如何通过Spring AI集成OpenAI和Ollama系列的模型,现在将通过进一步的学习,让Spring AI集成大语言模型更高阶的用法,使得我们能完成更复杂的需求。
2.1、Spring AI
是 Spring 生态系统的一个新项目,它简化了 Java 中 AI 应用程序的创建。它提供以下功能:
- 支持所有主要模型提供商,例如 OpenAI、Microsoft、Amazon、Google 和 Huggingface。
- 支持的模型类型包括"聊天"和"文本到图像",还有更多模型类型正在开发中。
- 跨 AI 提供商的可移植 API,用于聊天和嵌入模型。
- 支持同步和流 API 选项。
- 支持下拉访问模型特定功能。
- AI 模型输出到 POJO 的映射。
2.2、Function Call
是 GPT API 中的一项新功能。它可以让开发者在调用 GPT系列模型时,描述函数并让模型智能地输出一个包含调用这些函数所需参数的 JSON 对象。这种功能可以更可靠地将 GPT 的能力与外部工具和 API 进行连接。
简单来说就是开放了自定义插件的接口,通过接入外部工具,增强模型的能力。
Spring AI集成Function Call:
Function Calling :: Spring AI Reference
3.1、JDK 17+
下载地址:Java Downloads | Oracle
3.2、创建Maven项目
SpringBoot版本为3.2.3
3.3、导入Maven依赖包
3.4、 科学上网的软件
4.1、新增配置
GPT plus 代充 只需 145 PS:
- openai要替换自己的api-key
- 模型参数根据实际情况调整
4.2、新增本地方法类(用于本地回调的function)
4.3、新增配置类
4.4、新增Controller类
调用结果:
浏览器输出:
idea输出:
6.1、流式模式不支持Function Call
6.2、更多的模型参数配置
OpenAI Chat :: Spring AI Reference
6.3、qwen系列模型如何支持function call
通过vllm启动兼容openai接口的api_server,命令如下:
GPT plus 代充 只需 145 详细教程参见:
使用以下代码进行测试:
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容,请联系我们,一经查实,本站将立刻删除。
如需转载请保留出处:https://51itzy.com/kjqy/241443.html