我正在尝试调整一个基本的神经网络作为练习。(基于 coursera 课程中的一个示例:神经网络和深度学习 - DeepLearning.AI)我面临随机权重初始化的问题。假设我尝试调整网络中的层数。我有两个选择:
两个版本各有利弊。我最大的担忧是,如果我使用随机种子(例如:),tf.random.set_seed(1)那么确定的值可能会“过度拟合”到种子,如果没有种子或值发生更改(例如:tf.random.set_seed(1)-> tf.random.set_seed(2). On),则可能无法正常工作另一方面,如果我在没有随机种子的情况下多次运行我的实验,那么我可以检查更少的选项(由于计算能力有限)并且仍然只检查可能的随机权重初始化的一个子集。在这两种情况下,我觉得运气是一个强大的因素正在进行中。
是否有最佳实践来处理这个话题?
TensorFlow 是否为此内置了工具?我感谢任何描述或教程的来源。提前致谢!
machine-learning neural-network deep-learning hyperparameters tensorflow