为什么tensorflow的tfmot中剪枝的参数会增加

Question

我正在修剪一个模型，并遇到了一个 TensorFlow 模型优化库，所以最初，我们有

我在默认数据集上训练了这个模型，它的准确率达到了 96%，这很好。然后我将模型保存在 JSON 文件中并将其权重保存在 h5 文件中现在我将此模型加载到另一个脚本中以在应用修剪和编译模型后修剪它我得到了此模型摘要

尽管模型剪枝得很好并且参数显着减少，但这里的问题是为什么在应用剪枝后参数会增加，甚至在移动不可训练的参数之后，剪枝后的简单模型仍然具有相同数量的参数请解释一下这是正常现象还是我做错了什么。另请解释为什么会发生这种情况。预先感谢大家:)

Answer 1

这是正常的。修剪不会改变原始模型的结构。所以这并不是为了减少参数的数量。

剪枝是一种模型优化技术，可以消除权重中不常用的（换句话说，你可以说不必要的）值。

第二个模型摘要显示了为修剪而添加的参数。它们是不可训练的参数。不可训练的参数代表 masking。简而言之，张量流向网络中的每个权重添加不可训练的掩码，以指定应修剪哪些权重。掩码由 0 和 1 组成。