如何在golang基准测试中正确设置StartTime和StopTime？

Question

我写了一个基准测试来测试两个斐波那契数生成器的速度，源代码位于github 上。

func BenchmarkFib(b *testing.B) {
    fibFuncs := []struct {
        name string
        f    func(int) int
    }{
        {"recursive", fibRecu},
        {"iterative", fibIter},
    }
    for _, fibFunc := range fibFuncs {
        // calculate k'th Fibonacci number
        for k := 10; k < 1001; k *= 10 {
            b.Run(fmt.Sprintf("%s Fib %v", fibFunc.name, k), func(b *testing.B) {
                for n := 0; n < b.N; n++ {
                    //                  b.StopTimer()
                    // reset the memo
                    memo = map[int]int{0: 0, 1: 1, 2: 1}
                    //                  b.StartTimer()
                    fibFunc.f(k)
                }
            })
        }
    }
}

事实上，基准测试有效并且输出是

nos (master) fibonacci $ go test -bench .
goos: linux
goarch: amd64
pkg: github.com/nosarthur/dynamicP/fibonacci
BenchmarkFib/recursive_Fib_10-4                  1000000              1256 ns/op
BenchmarkFib/recursive_Fib_100-4                  100000             18256 ns/op
BenchmarkFib/recursive_Fib_1000-4                  10000            206109 ns/op
BenchmarkFib/iterative_Fib_10-4                 10000000               218 ns/op
BenchmarkFib/iterative_Fib_100-4                 5000000               292 ns/op
BenchmarkFib/iterative_Fib_1000-4                2000000               881 ns/op
PASS
ok      github.com/nosarthur/dynamicP/fibonacci 12.208s

但是，我添加了b.StopTime()和b.StartTime()来排除重置备忘录的时间。由于这两行未注释，基准测试将挂起，部分输出为

nos (master *) fibonacci $ go test -bench .
goos: linux
goarch: amd64
pkg: github.com/nosarthur/dynamicP/fibonacci
BenchmarkFib/recursive_Fib_10-4                  1000000              2139 ns/op
BenchmarkFib/recursive_Fib_100-4                  100000             24775 ns/op
BenchmarkFib/recursive_Fib_1000-4                   5000            239197 ns/op
BenchmarkFib/iterative_Fib_10-4                 ^Csignal: interrupt
FAIL    github.com/nosarthur/dynamicP/fibonacci 269.067s

排除备忘录重置的正确方法是什么？我的go版本是1.10.1

Answer 1

发生的情况是，您的函数非常快，特别是在迭代函数的情况下，而您的映射重置（以及具有运行时统计分配的StartTimer和StopTimer函数本身）要慢得多。

因此，当您调用时，StopTimer它将内部跟踪的基准持续时间设置为运行该函数所需的时间。那么猜猜它如何估计在指定的基准时间内运行多少次迭代？是的，你猜对了——内部持续时间。

所以基本上，迭代函数运行大约需要 10 纳秒，地图重置大约需要 250 纳秒，定时器函数需要相当长的时间 - 但基准测试估计每次运行只需要 20 纳秒，并相应地设置迭代次数。

我的建议 - 不要使用StartTimer/StopTimer这种情况下的函数，只需将第三次运行添加到您的测试中，这是一个非操作 - 基本上：

{"baseline", func(int) int {return 0}},

然后只需从其他两组中减去该函数的时间即可估计 ns/op 有多少来自分配与函数本身。

这是我运行此命令时的结果：

BenchmarkFib/baseline_Fib_10-2           5000000           357 ns/op
BenchmarkFib/baseline_Fib_100-2          5000000           327 ns/op
BenchmarkFib/baseline_Fib_1000-2         5000000           310 ns/op
BenchmarkFib/recursive_Fib_10-2          1000000          1659 ns/op
BenchmarkFib/recursive_Fib_100-2           50000         24898 ns/op
BenchmarkFib/recursive_Fib_1000-2           5000        301771 ns/op
BenchmarkFib/iterative_Fib_10-2          5000000           333 ns/op
BenchmarkFib/iterative_Fib_100-2         3000000           394 ns/op
BenchmarkFib/iterative_Fib_1000-2        1000000          1052 ns/op
PASS
ok      _/tmp/dynamicP/fibonacci    15.305s