大模型API的流式数据在前端的实现
如果直接将数据传递给前端,会丢失换行符,导致最后呈现的结果都在同一个段落里。
讯享网
因此需要优化,办法是在传递前利用json进行编码封装,传递给前端后再解码。

讯享网
之后的优化方向就是将markdown语法写的文本编译成html文本,如果是流式数据转换会比较麻烦,特别是遇到多行代码块的时候,会因为两个换行符/n/n而导致将多行代码块自动切分,不能够完整地转换多行代码块。
如果确实需要更加完善的大模型对话前端界面,且包括保存会话内容等其他较为高级的功能,应该考虑直接部署open-webui/open-webui,mckaywrigley/chatbot-ui,huggingface/chat-ui,lm-sys/FastChat和ChatGPT-Next-Web、alibaba/ChatUI.
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容,请联系我们,一经查实,本站将立刻删除。
如需转载请保留出处:https://51itzy.com/kjqy/4100.html