单台服务器的问题
每个 WebSocket 连接都驻留在一个 Node.js 进程的内存中。如果你只运行一台服务器,所有客户端都连接到它,你可以通过简单的内存循环广播消息。当你在负载均衡器后面运行第二个实例时,客户端会被分配到不同的进程。到达服务器 A 的消息无法到达连接到服务器 B 的客户端,因为这两个进程没有共享内存。
因此水平扩展需要一种让服务器彼此通信的方式。Redis Pub/Sub 是最轻量的选项:每台服务器订阅一组信道,当某台服务器发布时,Redis 会把消息分发给每个订阅者。
连接 Redis 适配器
The `socket.io-redis` adapter plugs into Socket.IO's built-in adapter API and replaces the default in-memory broadcast with Redis Pub/Sub. Install it on every instance:
Then in your server entry point, create an adapter bound to a Redis client and attach it to the Socket.IO server:
Once attached, every call to `io.emit`, `io.to(room).emit`, or `socket.broadcast.emit` goes through Redis. Servers subscribed to the same Redis instance will deliver the event to their own connected sockets, no matter which server originated it.
Broadcasting Across Instances
安装适配器后,你的广播代码不需要改变。一个在一个服务器上工作的聊天室处理程序,在十个服务器上同样工作:
当客户端 A 在服务器 1 上发出 `message` 时,Socket.IO 会对事件进行序列化,将其发布到 Redis 的按房间作用域的频道中,其他每个服务器拾取并将其扩散到该房间的本地套接字。对客户端而言,聊天室是实时且全局的。
将适配器扩展到超过两个节点
上述模式线性扩展。若干运营规则有助于在更高节点数下保持健康。
首先,使用合理的持久化运行 Redis。Pub/Sub 消息不会被存储,但适配器也使用 Redis 键来保存握手状态。崩溃时的强制刷新将迫使客户端重新连接,这对于聊天是可以接受的,但不适用于有状态的工作负载。
其次,在负载均衡器上对 WebSocket 升级阶段设置粘性会话,或接受重新连接的成本。若没有粘性,重新连接的客户端可能落在不同的服务器上并需要重新加入房间。Socket.IO 能透明处理这一点,因为房间成员资格是服务器本地的,但在握手期间客户端会短暂错过事件。
第三,监控 Redis Pub/Sub 通道数量和订阅者数量。每个 Socket.IO 命名空间都会增加通道数量,因此单一部署包含若干命名空间时,通道占用会成倍增长。
最后,如果 Redis 成为瓶颈,你可以将 Pub/Sub 在 Redis 集群中分片。`@socket.io/redis-adapter` 包通过接受多个连接选项,开箱即用地支持集群模式。
常见陷阱
一个常见错误是在两个 Redis 客户端都未连接时就创建适配器。对未连接的客户端进行发布会抛错或静默丢弃消息。始终 `await` 连接调用,或按照上面的示例将它们包裹在就绪回调中。
另一个错误是在同一个 Redis 客户端既用于发布又用于订阅。Redis 需要专用的订阅连接,因为处于订阅模式的客户端不能执行常规命令。示例中的 `pubClient.duplicate()` 调用会为你创建第二个连接。
一个更微妙的问题是依赖 `io.local` 来实现跨服务器逻辑。`io.local.emit` 只在当前服务器上触发,绕过 Redis,这对每个实例的诊断有用,但一旦你假设消息能到达每个节点就会出问题。对于必须到达所有客户端的场景,使用纯 `io.emit`。
摘要
WebSocket 服务器的水平扩展归结为两部分:前端负载均衡器指向 N 个 Node.js 实例,以及它们之间的消息总线 Redis Pub/Sub。`socket.io-redis` 适配器封装了总线,使应用代码保持不变。房间(rooms)、广播(broadcasts)和命名空间(namespaces)在跨实例的情况下的工作方式与单实例时相同。主要的运营关注点是 Redis 的可用性、WebSocket 升级时的粘性会话,以及永远不要把 `io.local.emit` 与 `io.emit` 混淆。
课程检查点
巩固所学知识,获取作业反馈。