目前还不完全清楚参数服务器如何知道在分布式张量流训练中该做什么.
例如,在此SO问题中,以下代码用于配置参数服务器和辅助任务:
if FLAGS.job_name == "ps":
server.join()
elif FLAGS.job_name == "worker":
##some training code
Run Code Online (Sandbox Code Playgroud)
如何server.join()指示给定任务应该是参数服务器?参数是否为任务提供了一种默认行为?还有什么可以/应该告诉参数服务任务吗?
编辑:这个SO问题解决了我的一些问题:"那里的逻辑确保将Variable对象均匀地分配给充当参数服务器的工作者." 但参数服务器如何知道它是一个参数服务器?是否server.join()足够?