Tensorflow:使用梯度下降优化输入

Question

我有一个TensorFlow模型(卷积神经网络),我成功地使用梯度下降(GD)训练了一些输入数据.

现在,在第二步中,我想提供一个输入图像作为初始化,然后使用GD在固定网络参数上对此输入图像进行优化.损失函数将是另一个,但这是一个细节.

所以,我的主要问题是如何告诉梯度下降算法

• 停止优化网络参数
• 优化输入图像

第一个可能在优化器期间使用此 保持变量保持不变

你们有关于第二点的想法吗？

我想我可以使用TF渐变功能自行重新编码渐变下降算法,但我的直觉感觉告诉我应该有一种更简单的方法,这也让我可以从更复杂的GD变体(Adam等)中受益.

Answer 1

1. 将图像表示tf.Variable为trainable=True
2. 使用起始图像初始化此变量（初始猜测）
3. 使用 TF 变量重新创建 NN 图，trainable=False并使用以下命令从经过训练的 NN 图中复制权重tf.assign
4. 计算损失函数
5. 将损失插入到您想要的任何 TF 优化器算法中