Spring Boot集成sse实现chatgpt流式交互
创始人
2024-11-10 03:39:09
0

 ​

博客主页:     南来_北往

系列专栏:Spring Boot实战


什么是sse?

SSE可以指代两种不同的概念:一是指“服务器发送事件”(Server-Sent Events),另一种是指英特尔的“因特网数据流单指令序列扩展”(Streaming SIMD Extensions)。下面将逐一解释这两种概念:

  1. 服务器发送事件
    • SSE是一种基于HTTP协议的服务器向客户端实时推送数据的机制。利用HTTP的长连接特性,服务器可以不断地向客户端发送数据,从而实现实时通信。
    • SSE与传统的HTTP请求响应模型不同,它允许服务器主动向客户端发送消息,无需客户端发起请求。这一机制适用于实时更新、在线聊天、股票价格提醒等场景。
    • SSE与WebSocket在某些功能上相似,但更轻量级和简单。相比于WebSocket的双向通信,SSE仅支持单向(从服务器到客户端)的消息传递,因此在一些只需要服务器推送的场景下更为适用。
  2. 因特网数据流单指令序列扩展
    • SSE是英特尔在其计算机芯片Pentium III中引入的一种指令集,用于提升多媒体和图形应用的性能。该技术在保持MMX指令的同时,增加了70条新指令,加快浮点运算并提高内存使用效率。
    • SSE通过提供新的寄存器、数据类型和指令,结合单指令多数据(SIMD)技术,显著提高了应用程序的效率。这种提升对3D几何运算、图形处理、视频编辑等领域尤为明显。
    • SSE包含8个128位的通用寄存器(XMM0~XMM7),支持紧缩的128位浮点数操作。这使得程序设计人员可以开发混合使用SSE和MMX指令的算法。

综上所述,SSE既可以指服务器向客户端实时推送数据的“服务器发送事件”技术,也可以指英特尔为提升多媒体处理性能而开发的“因特网数据流单指令序列扩展”指令集。这两种技术虽然应用领域不同,但都极大地提升了相应领域的效率和体验。

SSE和WebSocket 

SSE(Server-Sent Events)和WebSocket都是实现实时通信的重要技术,但它们在设计理念、实现方式和适用场景上存在显著差异

SSE是一种基于HTTP协议的单向通信技术,允许服务器主动向客户端推送数据。相比之下,WebSocket提供了一个全双工通信通道,支持客户端和服务器之间的双向数据交换。下面从多个角度详细对比这两种技术:

  1. 技术原理与实现方式
    • SSE
      • SSE通过HTTP协议工作,利用持久连接实现服务器向客户端的数据推送。
      • 客户端使用EventSource接口监听服务器发送的消息,无需重复请求。
      • 每次数据传递完毕,连接暂时关闭,需要时重新连接。
    • WebSocket
      • WebSocket基于独立的TCP连接,并使用自定义的协议进行双向通信。
      • 一旦建立连接,该连接一直保持打开状态,直到手动关闭。
      • 支持文本和二进制数据的传输。
  2. 应用场景与优势
    • SSE
      • 适用于只需要服务器向客户端实时推送数据的场景,如新闻更新、股票行情等。
      • 优势在于简单易用、依赖标准HTTP协议,浏览器兼容性好。
      • 局限性在于仅支持单向通信。
    • WebSocket
      • 适用于需要快速、双向交互的应用,如在线游戏、实时聊天等。
      • 优势在于支持全双工通信,低延迟。
      • 局限性在于实现较为复杂,需特定服务器支持。
  3. 性能特征与复杂性
    • SSE
      • 协议简单,易于实现,自动支持断线重连。
      • 只能发送文本数据,无法发送二进制数据。
    • WebSocket
      • 支持更复杂的应用场景,可以发送任何类型的数据。
      • 实现复杂,可能需要额外的服务器资源和代码来处理连接和消息。
  4. 调试与测试工具
    • SSE
      • 可以通过设置HTTP类型项目和使用时间线视图监控数据流。
      • Apifox等工具提供便利的调试支持。
    • WebSocket
      • 使用专门接口配置,发送和接收消息,查看响应结果。
      • 同样可以利用Apifox等工具进行有效的调试。

综上所述,如果应用只需服务器单向推送数据且要求简单实现,SSE是理想选择;而对于需要高度互动、双向数据传输的场景,WebSocket则更具优势。在选择实时通信技术时,应根据具体需求来决定采用SSE还是WebSocket,从而更好地满足项目需求和提升用户体验。

代码工程

实现chatgpt流式交互 

pom.xml

               springboot-demo         com.et         1.0-SNAPSHOT          4.0.0      sse               8         8                                 org.springframework.boot             spring-boot-starter-web                                org.springframework.boot             spring-boot-autoconfigure                               org.springframework.boot             spring-boot-starter-test             test                                         cn.hutool             hutool-all             5.8.9                               org.projectlombok             lombok                 

 controller

package com.et.sse.controller;  import cn.hutool.core.util.IdUtil; import org.springframework.http.MediaType; import org.springframework.stereotype.Controller; import org.springframework.web.bind.annotation.*; import org.springframework.web.servlet.mvc.method.annotation.SseEmitter;  import java.io.IOException; import java.util.Date; import java.util.Map; import java.util.concurrent.ConcurrentHashMap;   @Controller @RequestMapping("/chat") public class ChatController {      Map msgMap = new ConcurrentHashMap<>();      /**      * send meaaage      * @param msg      * @return      */     @ResponseBody     @PostMapping("/sendMsg")     public String sendMsg(String msg) {         String msgId = IdUtil.simpleUUID();         msgMap.put(msgId, msg);         return msgId;     }      /**      * conversation      * @param msgId mapper with sendmsg      * @return      */     @GetMapping(value = "/conversation/{msgId}", produces = MediaType.TEXT_EVENT_STREAM_VALUE)     public SseEmitter conversation(@PathVariable("msgId") String msgId) {         SseEmitter emitter = new SseEmitter();         String msg = msgMap.remove(msgId);          //mock chatgpt response         new Thread(() -> {             try {                 for (int i = 0; i < 10; i++) {                     ChatMessage  chatMessage =  new ChatMessage("test", new String(i+""));                     emitter.send(chatMessage);                     Thread.sleep(1000);                 }                 emitter.send(SseEmitter.event().name("stop").data(""));                 emitter.complete(); // close connection             } catch (IOException | InterruptedException e) {                 emitter.completeWithError(e); // error finish             }         }).start();          return emitter;     } } 

chat.html

            ChatGpt test                              

ChatGpt Test

send

 以上只是一些关键代码,具体根据自己项目进行编码

相关内容

热门资讯

秒懂普及”珊瑚互娱房卡领取码“... 秒懂普及”珊瑚互娱房卡领取码“王者大厅房间卡怎么购买游戏中心打开微信,添加客服【113857776】...
秒懂教程!我买微信牛牛房卡链接... 斗牛是一款非常受欢迎的棋牌游戏,咨询房/卡添加微信:71319951许多玩家在游戏中会购买房卡来享受...
正规平台有哪些,怎么买斗牛房卡... 微信游戏中心:火神大厅房卡在哪里买打开微信,添加客服微信【88355042】,进入游戏中心或相关小程...
给大家讲解“购买斗牛房卡联系方... 起点大厅是一款非常受欢迎的棋牌游戏,咨询房/卡添加微信:160470940许多玩家在游戏中会购买房卡...
ia攻略/游戏推荐斗牛房卡出售... ia攻略/游戏推荐斗牛房卡出售长虹大厅/科技房卡多少钱一张Sa9Ix苹果iPhone 17手机即将进...
一分钟实测分享”时光互娱低价获... 第二也可以在游戏内商城:在游戏界面中找到 “微信金花,斗牛链接房卡”“商城”选项,选择房卡的购买选项...
一分钟了解!牛牛房卡游戏平台加... 微信游戏中心:乐乐堂房卡在哪里买打开微信,添加客服微信【88355042】,进入游戏中心或相关小程序...
正规平台有哪些,金花房卡是正规... 海航大厅是一款非常受欢迎的棋牌游戏,咨询房/卡添加微信:【3329006910】或QQ:332900...
秒懂教程!微信牛牛房间怎么弄,... 斗牛是一款非常受欢迎的棋牌游戏,咨询房/卡添加微信:66336574许多玩家在游戏中会购买房卡来享受...
终于找到“微信怎样开炸金花房间... 金花是一款非常受欢迎的棋牌游戏,咨询房/卡添加微信:160470940许多玩家在游戏中会购买房卡来享...
秒懂百科”海洋世界哪里有详细房... 哪里有详细房卡介绍是一款非常受欢迎的棋牌游戏,咨询房/卡添加微信:113857776许多玩家在游戏中...
头条推荐!游戏推荐斗牛房卡出售... 头条推荐!游戏推荐斗牛房卡出售新神兽/流樱大厅/微信链接房间卡怎么购买新神兽/流樱大厅是一款非常受欢...
推荐一款!怎么买斗牛房卡朱雀大... 微信游戏中心:朱雀大厅房卡在哪里买打开微信,添加客服微信【88355042】,进入游戏中心或相关小程...
玩家攻略,牛牛房卡代理荣耀联盟... 荣耀联盟是一款非常受欢迎的棋牌游戏,咨询房/卡添加微信:【3329006910】或QQ:332900...
IA解析/牛牛房卡游戏平台加盟... IA解析/牛牛房卡游戏平台加盟天道联盟/随意玩/微信链接房卡卖家联系方式Sa9Ix苹果iPhone ...
分享经验”百万牛哪里买低价获取... 分享经验”百万牛哪里买低价获取“新老夫子房卡充值游戏中心打开微信,添加客服【113857776】,进...
一分钟了解!金花房卡出售大众互... 今 日消息,大众互娱房卡添加微信33549083 苹果今日发布了 iOS 16.1 正式版更新,简单...
秒懂教程!微信买链接拼三张房卡... 拼三张是一款非常受欢迎的棋牌游戏,咨询房/卡添加微信:56001354许多玩家在游戏中会购买房卡来享...
房卡必备教程“购买金花房卡联系... 新琉璃金花是一款非常受欢迎的棋牌游戏,咨询房/卡添加微信:44346008许多玩家在游戏中会购买房卡...
1分秒分析”茄子娱乐房卡详细充... 第二也可以在游戏内商城:在游戏界面中找到 “微信金花,斗牛链接房卡”“商城”选项,选择房卡的购买选项...