如何与 NodeJS、Jest 和 Knex 并行运行 Postgres 测试？

Question

我有一个项目是在生产/暂存中使用 Postgres 开发的，在开发中使用 Sqlite 开发的。使用 Sqlite，我们能够在 13 秒内并行运行所有测试。

这是初始开发的一个很好的策略，但是有一些 Sqlite 不能做我们需要的事情（例如，删除列和添加新的外键）。所以我认为我们应该放弃 Sqlite 而只使用 Postgres。

测试套件运行大约需要一分钟，如果测试失败，我通常必须手动删除迁移表。它没有提供良好的测试体验。

对于使用 NodeJS、Knex 和 Jest 在 Postgres 数据库上并行运行测试，您有什么建议吗？

Answer 1

在每次测试之前运行迁移并回滚它们真的很慢，甚至可能需要几秒钟才能运行。所以你可能不需要能够并行运行测试来达到足够好的速度。

如果您设置测试的方式是在开始运行测试之前只删除/创建/迁移一次，并且在测试之间只截断表中的所有数据并用新数据填充它，那么它应该快 10 倍（截断时间通常少于50 毫秒）。您可以轻松地截断所有表，例如使用knex-db-manager包。

如果您真的喜欢并行运行 postgresql 测试，则需要与运行并行测试一样多的测试数据库。您可以创建测试数据库的“池”（testdb-1、testdb-2、testdb-3...），并且在每个 jest 测试中，您首先必须从测试数据库池中请求数据库，以便您可以真正运行多个测试同时，他们不会干扰同一个数据库。

最后，在测试数据库中重置数据的另一种非常快速的方法是使用pg-dump/pg-restore和二进制 db 转储。在某些情况下，它可能比仅运行填充脚本更快或更容易处理。特别是在您在每次测试中使用相同初始数据的情况下。

通过这种方式，您可以在开始运行测试并转储它之前为测试数据库创建初始状态。为了转储和恢复，我写了这些小助手，我可能会knex-db-manager在某个时候添加它们。

转储/恢复的参数有点棘手（特别是设置密码），所以这些片段可能会有所帮助：

倾倒：

      shelljs.env.PGPASSWORD = config.knex.connection.password;
      const leCommand = [
        `pg_dump -a -O -x -F c`,
        `-f '${dumpFileName}'`,
        `-d ${config.knex.connection.database}`,
        `-h ${config.knex.connection.host}`,
        `-p ${config.knex.connection.port}`,
        `-U ${config.knex.connection.user}`,
      ].join(' ');

      console.log('>>>>>>>> Command started:', leCommand);
      shelljs.rm('-f', dumpFileName);
      shelljs.exec(leCommand, (code, stdout, stderr) => {
        console.log('======= Command ready:', leCommand, 'with exit code:', code);
        if (code === 0) {
          console.log('dump ready:', stdout);
        } else {
          console.log('dump failed:', stderr);
        }
      });

恢复：

  shelljs.env.PGPASSWORD = config.knex.connection.password;
  const leCommand = [
    `pg_restore -a -O -x -F c`,
    `-d ${config.knex.connection.database}`,
    `-h ${config.knex.connection.host}`,
    `-p ${config.knex.connection.port}`,
    `-U ${config.knex.connection.user}`,
    `--disable-triggers`,
    `'${dumpFileName}'`,
  ].join(' ');

  console.log('>>>>>>>> Command started:', leCommand);
  shelljs.exec(leCommand, (code, stdout, stderr) => {
    console.log('======= Command ready:', leCommand, 'with exit code:', code);
    if (code === 0) {
      console.log('restore ready:', stdout);
    } else {
      console.log('restore failed:', stderr);
    }
  });