Postgres 和 .Net - 连接池 - 最佳实践

Question

我有一个 .Net Core (C#) 应用程序，它通过 websocket 接受用户请求，然后创建与 PostgreSQL 数据库的连接以操作/处理数据。

当用户向后端发出新请求时，调用的端点函数会创建一个新的 SQL 连接并运行查询：

// Endpoint available via Websocket
public async Task someRequest(someClass someArg)
{
    /* Create a new SQL connection for this user's request */
    using var conn = new NpgsqlConnection(connstr.getConnStr());
    conn.Open();

    /* Call functions and pass this SQL connection for any queries to process this user request */
    somefunction(conn, someArg);
    anotherFunction(conn, someArg);

    /* Request processing is done */
    /* conn is closed automatically by the "using" statement above */
}

当该请求完成时，该using语句将关闭连接。但是，默认情况下此连接会返回到 Postgres“连接池”并显示为空闲。

由于这里的每个新用户请求都会创建一个新的 SQL 连接，因此连接池中那些旧的“空闲”SQL 连接永远不会再被使用。

现在：

1. 由于这些空闲连接池化并达到最大池大小，我暂时将空闲连接超时设置得非常低。否则，这些空闲连接会堆积起来并达到开放连接的人造上限。
2. 我还尝试添加Pooling=false到连接字符串。我的理解是，一旦 .Net 应用程序关闭连接，这将阻止连接空闲，但它似乎仍然处于空闲状态。

问题：在 .Net/C# 中处理 Postgres 连接池的最佳实践是什么？

1. 如果我可以更正确地利用 Postgres 连接池，那么重复使用已打开的连接比为每个用户请求创建一个新连接会更有效。
2. 我的想法是有一个函数来创建新的 Postgres 连接，跟踪它们，并在用户发出新请求时将它们分发给调用者。这是一个糟糕的主意吗？
3. 或者，我是否只是保持池禁用/非常低的空闲超时，并像现在一样为每个请求创建一个新的 SQL 连接？

除了我正在做的事情之外，我找不到很多正确利用 Postgre 连接池的例子。该应用程序在任何时候平均有 3,000-4,000 个并发用户，因此我无法使用单个静态连接来处理所有事情。在 .Net 中处理此问题的最佳实践是什么？

编辑 所以看起来池是 NPGSQL 原生的，而不是 Postgres 的。如果使用相同的数据库、用户、密码建立新连接，它将使用空闲的“池”连接之一，而不是打开另一个连接。

问题是在我禁用池之前它似乎没有这样做。垃圾邮件发送的错误导致应用程序在夜间停机一个小时或更长时间。

连接池已耗尽，要么提高 MaxPoolSize（当前 100），要么超时（当前 15 秒）

现在，它可能确实需要同时有 100 多个活动连接……但我的猜测是，正如我之前所见，其中大部分都是闲置的。

编辑 #2 所以我现在尝试允许池化（默认），它似乎会立即启动空闲连接，因为它们是由请求创建的，但不会重新使用这些连接。一旦达到最大池上限，应用程序就会由于无法建立新连接/请求而锁定。

DBeaver Img - 服务器会话：这里的红色是活动连接，蓝色是空闲连接。

应用程序中的每个 SQL 连接都是从单个/共享连接字符串环境变量创建的。 Host=IP;Port=somePort;Username=someUser;Password=somePass;Database=someDb;Maximum Pool Size=100 我能够保持应用程序运行的唯一方法是设置idle_in_transaction_session_timeout为'10s'经常清除空闲连接，因为池似乎不起作用。

当我让 postgres 清除空闲连接时idle_in_transaction_session_timeout，Pooling=false我的数据库活动如下所示：

我还在我的代码中进行了搜索，每个建立新 SQL 连接的实例using也都有该语句。如上面的代码示例所示。这应该可以防止任何类型的连接泄漏。

是否有某种 postgres 配置项会导致此问题？连接字符串每次都是相同的，并且每个连接都有C#using语句。我不确定为什么 NPGSQL 在启用池时不重新使用这些空闲连接。

我已经在我的开发服务器上测试了在循环中发送垃圾邮件新连接，并且池似乎工作得很好。所以我可以说我的 using 语句格式不会导致任何问题。但是，如果我现在在生产服务器上启用池化，则空闲连接会立即向上发送垃圾邮件，如图所示，并达到上限，不允许新连接。生产服务器的指标显示每秒约 1,000 个事务和每秒约 4-5 个活动 SQL 会话/连接。我是否真的需要增加最大池限制？

Answer 1

最终问题似乎出在 Postgres 数据库配置本身。我们收到了很多pq: could not resize shared memory segment. No space left on device错误。

数据库在 Docker 容器中运行。我增加了shm_size容器的大小，以6gb利用它运行的更多资源。

从那里开始，在数据库本身的文件中，对于设置和 的postgresql.conf内容似乎存在很多混乱。shared_buffersmax_connections

为此，根据 postgres 文档shared_buffers将其设置为 1/4 ： 。过去设置为，这对于容器内存大小来说太低了。shm_size1500M128M

为此max_connections，已将其降回默认值100。即使有大约 3000-5000 个并发用户，后端在任何给定时刻也仅利用 5-10 个活动连接。

希望这些配置项可以在将来帮助其他人。