最近我试图使用tensorflow服务部署深度学习服务.但是在导出模型时我得到以下信息:
INFO:tensorflow: No assets to save
INFO:tensorflow: No assets to write
INFO:tensorflow: SavedModel written to: b'./models/1/saved_model.pb'
Run Code Online (Sandbox Code Playgroud)
我真的不明白这里发生了什么."无资产保存/写入"是什么意思?一切顺利吗?顺便说一句,通过运行官方示例服务张量流模型,我得到了相同的信息.
问题是:我的(Keras)模型正在侦听任务队列。如果 10 分钟内没有任务到达,我想卸载模型并释放内存。
但没想到这份工作这么辛苦……
以下是一些失败的尝试:
(1)设置model = None,希望GC回收内存。
(2) del model
(3) 使用K.clear_session(), tf.reset_defualt_graph().
(4) 上述方法的任意组合,然后gc.collect()手动调用。
是否可以在不退出当前进程的情况下从内存中卸载模型?还有其他建议吗?