如何在微服务的多个实例之间维护 SseEmitters 列表?

Pet*_*ter 6 java server-sent-events spring-boot microservices spring-cloud

语言:Spring Boot、JS

概述:我正在我的应用程序中实现服务器发送事件功能,该功能将部署在云代工厂中,其中基于队列中的新消息(我已在我的微服务中订阅),我将向我的客户端发送一些更新/浏览器(正在使用 EventSource)。为此,我在我的服务器端维护一个 SseEmitters 列表(用于维护所有活动的 SseEmitter)。一旦我从队列中收到一条新消息,根据 id(队列消息中的一个字段),我将把消息发送到相应的客户端。

问题:当我通过创建它的多个实例来扩展我的应用程序时,上述场景将如何工作。由于只有一个实例会收到新的队列消息,因此可能会发生在该特定实例中未维护活动的 SseEmitter,我该如何解决?

sni*_*ele 0

为了解决这个问题,可以观察到以下方法。

DNS 概念

如果你想一想,知道你的用户(SSE 发射器)在哪里,就像知道某个网站在哪里一样。您可以使用类似 DNS 的协议来确定您的用户所在的位置。协议如下:

  • 当用户登陆您的任何实例时,将用户与该实例关联。关联可以通过使用外部组件(例如 Redis)或分布式地图解决方案(例如 Hazelcast)来完成。
  • 每当用户与 SSE 断开连接时,都会删除关联。有时,disconnect 未正确注册到 Spring SSEEmiter,因此可以在发送消息失败时取消关联。
  • 其他方(微服务)可以轻松查询 Redis/Hazelcast 以了解用户所在的实例。

消息路由概念

如果您使用消息中间件在微服务之间进行通信,则可以使用 AMQP 协议提供的路由功能。协议如下:

  • 每个 SSE 实例在启动时创建自己的队列
  • 用户登陆任何 SSE 实例,并且实例添加带有路由键 = 用户 uid 的交换队列绑定
  • 每当用户与 SSE 断开连接时,都会删除关联。有时,disconnect 未正确注册到 Spring SSEEmiter,因此可以在发送消息失败时取消关联。
  • 其他方(微服务)需要向交换器发送消息并定义路由密钥。AMQP 代理根据路由键确定哪个队列应该接收消息。

在现代 AMQP 代理(如 RabbitMQ)上,绑定并不占用资源。

您的问题很老了,如果您现在还没有弄清楚,希望这会有所帮助。