使用GOOGLE COLAB TPU在IMAGENET上训练VGG-16模型需要多长时间？

Question

只是好奇，使用 GOOGLE COLAB TPU 在 IMAGENET 上训练 VGG16 模型需要多长时间？如果有人能向我解释他们为得到答案所做的计算，那就太好了！

Answer 1

很难准确估计训练 e2e 模型需要多长时间。但是假设您只是在寻找一个非常粗略的估计，我们可以首先注意到我们拥有的这个 ResNet50 实现（代码）在 v2 上大约 7.3 小时内运行到收敛（76%+ top1 准确度在 90 个时期上训练）- 8 TPU 设备。鉴于 VGG16 在步骤时间 ( https://github.com/jcjohnson/cnn-benchmarks#cnn-benchmarks ) 上足够接近，我希望它的收敛性也与此成正比。但是，免责声明这是一个非常粗略的估计，实际性能还取决于实现的优化程度。