小编rag*_*nth的帖子

我在 ImageNet 数据库上运行了 AlexNet 3 个周期，并在绘制梯度/参数时得到了这个结果。-

Params in epoch 2

Epoch 2 params distribution

Grads in epoch 2

Epoch 2 grads distribution

Parameters over epochs

Distribution of params over epochs

Params in epoch 2

我有以下问题 -

1. 这些图表的含义是什么以及如何阅读它们？
2. 我们是否可以推断模型是否使用这些图在 epoch2 或整个运行过程中学到了任何东西？如果是这样怎么办？
3. 我们可以使用这些图来调试梯度消失/爆炸吗？（如果您能分享一些这方面的例子，那就太好了。）
4. 最后，让我为此伤脑筋还有用吗？

提前致谢！