Azure DevOps Pipeline：本地通过的测试在管道上失败

Question

我们的团队正在尝试实施 Azure DevOps 管道，但遇到了一些问题。作为背景，我们正在自托管 Windows 服务器上运行测试。我们对所有工作进行了前端测试，但现在我们在让后端通过方面遇到了问题。

虽然大多数测试都顺利通过，但我们还是有一些情况没有按预期工作。尽管它们应该能够并行运行，但我将其关闭以验证这不是问题。我还尝试过单独运行它们，没有任何明显的变化。

我们得到的错误只是简单的断言失败，如下所示，它没有给我们提供太多信息。

 Error Message:
   Assert.AreEqual failed. Expected:<True>. Actual:<False>.

但行号指向一个模拟设置，如下所示，我不明白。

mockQueryHandler.Setup(x => x.Handle(It.IsAny<FindQuery>())).Returns(info);

目前给我们带来最多问题的测试类是测试我们的事件警报功能的测试类。看起来第一个测试会通过，但后面的测试会失败。但是，我们的管道设置可以重新运行任何失败的测试三次，直到它放弃。因此，每次重新运行时，下一个测试都会通过。我唯一能想到的是我们的自动模拟由于某种原因给我们带来了麻烦。我们按照 AutoMock - 如何使用 Keyed Registrations 进行单元测试？

我们模拟如下：

  var IAbstractEventFactoryMock = new Mock<IAbstractEventFactory>();
  using (var mock = AutoMock.GetLoose(builder => builder.RegisterInstance(IAbstractEventFactoryMock.Object).Keyed<IAbstractEventFactory>("EventLogFactory").Keyed<IAbstractEventFactory>("ArpEventLogFactory"))) {
...
}

下面是我们的 .runsettings 文件

<RunSettings>  
  <RunConfiguration>
    <ResultsDirectory>.\TestResults</ResultsDirectory>
  </RunConfiguration>

  <MSTest>
  </MSTest>
</RunSettings>

下面是我们用来运行测试的 YAML

steps:
- task: VSTest@2
  displayName: 'Run All Tests'
  inputs:
    testAssemblyVer2: |
     **\*ID_Test*.dll
     !**\*TestAdapter.dll
     !**\obj\**
    searchFolder: '$(System.DefaultWorkingDirectory)/ID_Test'
    runSettingsFile: 'ID_Test/.runsettings'
    runInParallel: false
    runTestsInIsolation: true
    codeCoverageEnabled: false
    testRunTitle: 'Unit Tests'
    platform: '$(BuildPlatform)'
    configuration: '$(BuildConfiguration)'
    diagnosticsEnabled: true
    rerunFailedTests: true
  continueOnError: true

同样，这些测试都在本地顺利通过，如果我在管道上运行足够多的时间，它们最终会通过。所以我认为问题不在于代码本身。测试似乎没有正确设置或清理。我主要寻找有关配置 yaml 或 runsettings 的其他方法的任何想法，以尝试解决此问题。预先感谢您提供的任何帮助，如果我可以提供任何其他信息来提供帮助，请告诉我。

Answer 1

事实证明这只是我们测试的一个问题。在一些地方，我们会使用本地的当前时间，但服务器的执行时间要长得多，这会产生一些错误。在与本地运行测试具有相似执行时间的代理上测试管道帮助我发现这不是管道的问题。