Nginx Keepalive 长连接详解：原理、配置、优化与常见问题

Nginx Keepalive 长连接详解：原理、配置、优化与常见问题

大家好，我是你们的网友“码农老兵”。今天咱们来聊聊 Nginx 中一个非常重要的概念——Keepalive 长连接。这玩意儿，配置好了能让你的服务器性能蹭蹭往上涨，配置不好，也可能成为性能瓶颈。所以，咱们得好好说道说道。

啥是 Keepalive？

在聊 Nginx 的 Keepalive 之前，咱们先得搞清楚啥是 HTTP Keepalive。 你想想，以前咱们上网，浏览器跟服务器之间，每次请求都要“三次握手”建立连接，完成请求后又“四次挥手”断开连接。这就像你每次去图书馆借书，都要先办个临时卡，借完书再把卡注销。这多麻烦啊！

HTTP Keepalive 就是为了解决这个问题而生的。它允许浏览器和服务器之间建立一个“长连接”，在这个连接上可以发送多个 HTTP 请求和响应，而不需要每次都重新建立连接。这就好比你办了张图书馆的年卡，一年内随便借书，不用每次都办卡了。

HTTP Keepalive 有两种模式：

1. 客户端到 Nginx 的 Keepalive： 这是浏览器和 Nginx 之间的长连接。
2. Nginx 到上游服务器（Upstream Server）的 Keepalive： 这是 Nginx 和后端服务器（比如 Tomcat、Node.js 等）之间的长连接。

咱们今天要重点聊的是第二种，也就是 Nginx 到上游服务器的 Keepalive。

Nginx Keepalive 有啥用？

为啥要用 Nginx Keepalive？好处大大的！

• 减少连接建立和断开的开销： 每次建立和断开 TCP 连接都需要消耗时间和资源。Keepalive 可以复用连接，省去了这些开销，尤其是在高并发场景下，效果非常明显。
• 降低延迟： 连接建立需要时间，Keepalive 可以减少请求的延迟，让用户感觉网站更快。
• 提高服务器吞吐量： 服务器不用频繁地处理连接建立和断开，可以把更多的资源用于处理实际的请求，从而提高吞吐量。

一句话总结：Keepalive 可以让你的 Nginx 更快、更强、更省资源！

Nginx Keepalive 怎么配置？

Nginx 配置 Keepalive 非常简单，主要涉及到几个指令：

1. keepalive 指令： 这是最核心的指令，用于设置 Nginx 与上游服务器之间保持的空闲 Keepalive 连接数量。这个值不是越大越好，要根据实际情况调整。比如：

   upstream backend {
       server 192.168.1.10:8080;
       server 192.168.1.11:8080;
       keepalive 16;
   }
   

   这段配置表示，对于 backend 这个上游服务器组，Nginx 会为每个 worker 进程与每个上游服务器最多保持 16 个空闲的 Keepalive 连接。如果觉得有点迷糊，先不用纠结每个worker的概念，稍后会详细说明。

2. keepalive_requests 指令： 用于设置一个 Keepalive 连接上最多可以发送的 HTTP 请求数量。达到这个数量后，连接会被关闭。默认值是 100。这个值可以根据实际情况调整，比如：

   http {
       keepalive_requests 1000;
       ...
   }
   

3. keepalive_timeout 指令： 用于设置 Keepalive 连接的超时时间。如果在这个时间内没有新的请求，连接会被关闭。默认值是 75 秒。这个值也可以根据实际情况调整，比如：

   http {
       keepalive_timeout 60s;
       ...
   }
   

需要注意的是：

• keepalive指令必须在upstream块中进行配置。
• keepalive_requests 和 keepalive_timeout 指令可以在 http、server 或 location 块中配置。

keepalive 和 worker_connections 的关系

Nginx 的 worker_connections 指令用于设置每个 worker 进程可以处理的最大并发连接数。这个值和 keepalive 有啥关系呢？

咱们先来理解一下 Nginx 的 worker 进程。Nginx 是多进程模型，有一个 master 进程和多个 worker 进程。master 进程负责管理 worker 进程，worker 进程负责处理实际的请求。

假设咱们把 worker_connections 设置为 1024，keepalive 设置为 16。这意味着每个 worker 进程最多可以同时处理 1024 个连接。如果这 1024 个连接都是到同一个上游服务器的，并且都使用了 Keepalive，那么 Nginx 会为这个上游服务器保持最多 16 个空闲的 Keepalive 连接。

如果 keepalive 设置得太大，会占用过多的 worker 连接，导致 Nginx 无法处理新的请求。如果 keepalive 设置得太小，又无法充分利用 Keepalive 的优势。所以，这两个值的配置需要根据实际情况进行权衡。

我的建议是：

• worker_connections 的值可以根据服务器的硬件配置和预期的并发量来设置。一般来说，可以设置为 CPU 核心数的 2-4 倍。
• keepalive 的值可以根据上游服务器的数量和每个上游服务器的负载来设置。一般来说，可以设置为每个上游服务器平均并发连接数的 10%-20%。

举个栗子：

假设你的服务器有 4 个 CPU 核心，预计最大并发量是 4096。你有两个上游服务器，每个上游服务器的平均并发连接数是 100。

那么，你可以这样配置：

worker_processes 4;

events {
    worker_connections 1024;
}

http {
    ...
    upstream backend {
        server 192.168.1.10:8080;
        server 192.168.1.11:8080;
        keepalive 16; # 100 * 10% - 100 * 20% 的范围是 10-20, 取中间值附近
    }
    ...
}

Nginx Keepalive 常见问题及解决方案

1. Keepalive 连接不生效：

   • 原因： 上游服务器不支持 Keepalive，或者 Nginx 配置错误。
   • 解决方案： 检查上游服务器的配置，确保它支持 Keepalive。检查 Nginx 的配置，确保 keepalive 指令配置正确。

2. Keepalive 连接过多：

   • 原因： keepalive 值设置过大，或者上游服务器响应慢，导致连接长时间占用。
   • 解决方案： 调小 keepalive 值，优化上游服务器性能。

3. Keepalive 连接超时：

   • 原因： keepalive_timeout 值设置过小，或者网络不稳定。
   • 解决方案： 调大 keepalive_timeout 值，检查网络连接。

4. upstream keepalive 连接数达不到配置值

   • 原因: 可能是因为到 upstream 的请求数较少，没有达到触发 keepalive 连接建立的阈值。
   • 解决方案: 增加到 upstream 的请求数量，或者使用压力测试工具模拟高并发请求，观察 keepalive 连接数是否增加。

5. upstream keepalive 连接被意外关闭

   • 原因： 可能是上游服务器主动关闭了连接，或者网络不稳定导致连接中断。
   • 解决方案： 检查上游服务器的配置，确保其 keepalive 相关参数设置合理。检查网络连接，排除网络问题。

总结

Nginx Keepalive 是一个非常有用的特性，可以显著提高服务器性能。但是，Keepalive 的配置需要根据实际情况进行调整，才能发挥它的最大效用。希望这篇文章能帮助你更好地理解和使用 Nginx Keepalive。

如果你还有其他问题，欢迎留言讨论。我会尽力解答。

另外, 关于调试和验证keepalive是否生效, 可以考虑一下方法:

1. 使用 tcpdump 或 Wireshark 抓包分析： 可以捕获 Nginx 与上游服务器之间的 TCP 数据包，观察连接的建立和断开情况，以及 Connection: keep-alive 头部的存在与否。
2. 查看 Nginx 的日志： 可以配置 Nginx 的日志记录更详细的信息，包括连接的建立和断开，以及 Keepalive 连接的使用情况。
3. 使用 Nginx 的 stub_status 模块： 这个模块可以提供 Nginx 的运行状态信息，包括当前活跃连接数、Keepalive 连接数等。

记住，实践出真知！多动手，多测试，才能真正掌握 Nginx Keepalive 的精髓！