如何为作为分类值列表的列创建嵌入

Question

我在决定如何为我的 DNN 模型的分类特征创建嵌入时遇到了一些麻烦。该功能由一组非固定的标签组成。

特点是这样的：

column = [['Adventure','Animation','Comedy'],
          ['Adventure','Comedy'],
          ['Adventure','Children','Comedy']

我想这样做，tensorflow所以我知道tf.feature_column模块应该可以工作，我只是不知道要使用哪个版本。

谢谢！

Answer 1

首先，您需要将特征填充到相同的长度。

import itertools
import numpy as np

column = np.array(list(itertools.zip_longest(*column, fillvalue='UNK'))).T
print(column)

[['Adventure' 'Animation' 'Comedy']
 ['Adventure' 'Comedy' 'UNK']
 ['Adventure' 'Children' 'Comedy']]

然后您可以用来tf.feature_column.embedding_column为分类特征创建嵌入。的输入embedding_column必须CategoricalColumn由任何函数创建categorical_column_*。

# if you have big vocabulary list in files, you can use tf.feature_column.categorical_column_with_vocabulary_file
cat_fc = tf.feature_column.categorical_column_with_vocabulary_list(
    'cat_data', # identifying the input feature
    ['Adventure', 'Animation', 'Comedy', 'Children'], # vocabulary list
    dtype=tf.string,
    default_value=-1)

cat_column = tf.feature_column.embedding_column(
    categorical_column =cat_fc,
    dimension = 5,
    combiner='mean')

categorical_column_with_vocabulary_list将忽略 ，因为词汇列表中'UNK'没有。指定嵌入的维度，并指定如果单行中有多个条目时如何减少，其中“mean”是.'UNK'dimensioncombinerembedding_column

结果：

tensor = tf.feature_column.input_layer({'cat_data':column}, [cat_column])

with tf.Session() as session:
    session.run(tf.global_variables_initializer())
    session.run(tf.tables_initializer())
    print(session.run(tensor))

[[-0.694761   -0.0711766   0.05720187  0.01770079 -0.09884425]
 [-0.8362482   0.11640486 -0.01767573 -0.00548441 -0.05738768]
 [-0.71162754 -0.03012567  0.15568805  0.00752804 -0.1422816 ]]