1. 首页首页
  2. 科技前沿科技前沿

2025年pytorch模型部署到java（pytorch模型部署到springbootweb）

科技前沿 • • 阅读 28

pytorch模型部署到java（pytorch模型部署到springbootweb）svg xmlns http www w3 org 2000 svg style display none svg

大家好，我是讯享网，很高兴认识大家。



 <svg xmlns="http://www.w3.org/2000/svg" style="display: none;"> <path stroke-linecap="round" d="M5,0 0,2.5 5,5z" id="raphael-marker-block" style="-webkit-tap-highlight-color: rgba(0, 0, 0, 0);"></path> </svg> <h4>零基础学习Spring AI Java AI SpringBoot AI调用大模型OpenAi Ollama集成大模型</h4>

讯享网

环境准备

  • jdk17+ 这里自行安装，我安装的jdk21
  • idea
  • Ollama安装，请参考下面链接：

本地部署大模型，不需要GPU就能玩本地模型-亲测成功

Ollama前端页面调用大模型 知识问答 模型切换

创建项目

maven的pom.xml配置

讯享网

配置ollama大模型调用api地址


讯享网

其他配置请看官网说明：https://docs.spring.io/spring-ai/reference/api/chat/ollama-chat.html

 
使用流式的方式调用时可能会超时报错：Resolved [org.springframework.web.context.request.async.AsyncRequestTimeoutException]
 
设置超时时间为300秒
 
讯享网
 
调用Ollama的API对话
 
 
一次性调用返回效果：
 在这里插入图片描述
 在这里插入图片描述

 
流式调用效果：
 在这里插入图片描述
 
 

  

                    


                    


                    

                        

                            

                                小讯
                            

                            

                                

                                    
                                        
                                    
                                

                            

                        

                    

                


                

                    
                    
                    

                        
                        

                             上一篇
                            2025-04-23 16:16
                        

                    

                    
                    


                    
                    
                    

                        
                        

                            下一篇 
                            2025-04-26 11:30
                        

                    

                    
                    
                


                

                    
相关推荐

                    
                

                

                    

                        版权声明：本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容，请联系我们，一经查实，本站将立刻删除。
如需转载请保留出处：https://51itzy.com/kjqy/149402.html