小编Kev*_*Sun的帖子

我在一所大学，所有的文件系统都在远程系统中，无论我在哪里使用我的帐户登录，我都可以访问我的主目录。即使我通过 SSH 命令登录 GPU 服务器。这是我使用GPU服务器读取数据的情况。

目前，我使用 PyTorch 在 ImageNet 上从头开始训练 ResNet，我的代码仅使用同一台计算机中的所有 GPU，我发现“torchvision.datasets.ImageFolder”将花费近两个小时。

您能否提供一些如何加快“torchvision.datasets.ImageFolder”速度的经验？非常感谢。

我曾经是Tensorflow用户，在tensorflow中，我必须显式对待Drop和BatchNorm。例如，在测试/验证阶段，必须将“丢弃率”设置为1，并指定BatchNorm的训练标志。

我的问题是：Keras是否可以在训练和测试/验证阶段自动识别Drop和BatchNorm？例如，如果我使用model.predict（），Keras会知道我正在测试/验证中，因此它将自动处理Drop和BatchNorm？

顺便说一句，在验证/测试阶段，Keras会将Dropout的速率设置为0，这与Tensorflow中的设置相反。在Tensorflow中，Drop rate将设置为1。

我是Keras的新学习者.我想问一个问题:

1:在Keras,我创建一个卷积层,并使用L2权重衰减.

2:我的第一个问题是:当我确定损失时model.fit()- 所有的重量衰减损失都包括在这个损失中吗？

3:如果重量损失已包括在总损失中:如何在训练期间没有这种重量衰减的情况下获得损失？

我想调查没有体重衰减的损失,而我希望这种体重衰减参加这次培训.

非常感谢!

正如在许多TF文档中指出的那样,图形仅在我们创建sess并执行sess.run()方法时才开始构建.

刚才,我测试了:

X = tf.placeholder(dtype=tf.float32, shape=[100,28,28,1])
W = tf.get_variable(...)
Y = tf.matmul(X,W)
print(Y.get_shape()[0].value)

如此代码所示,它输出特定的Y形状值,即使我没有创建会话实例.

如何理解？谢谢!