通常,要使用TF图,必须将原始数据转换为数值.我将此过程称为预处理步骤.例如,如果原始数据是一个句子,那么一种方法是将句子标记化并将每个单词映射到唯一的数字.此预处理为每个句子创建一个数字序列,这将是模型的输入.
我们还需要对模型的输出进行后处理以解释它.例如,将模型生成的数字序列转换为单词,然后构建句子.
TF Serving是Google最近推出的一项新技术,用于服务TF模型.我的问题是:
当使用TensorFlow服务提供TF模型时,应该在哪里执行预处理和后处理?
我应该封装前处理和后处理步骤,在我的TF图(例如,使用py_fun或map_fn),或有其它TensorFlow技术,我不知道的.