如何在tensorflow中实现句子级别的对数似然？

Question

我想实现句子级对数似然,如 Collobert等人所述.,p.14.

要计算转换分数,我可以使用CRF,但我不知道如何将它集成到tensorflow中.我想过使用 tf.contrib.crf.CrfForwardRnnCell来计算转换分数,但是这个类返回一对包含新alpha值的[batch_size,num_tags]矩阵值,而不是像我期望的那样[batch_size,num_tags,num_tags]张量.

有没有人有一个如何在张量流中使用CRF的例子？谢谢!

Answer 1

这里给出了在TensorFlow中使用contrib.crf的一个很好的例子:https://github.com/tensorflow/tensorflow/tree/master/tensorflow/contrib/crf

值得注意的是Collobert等人在论文中描述的SLL目标.2011年与CRF的目标略有不同,因为SLL缺乏规范化(参见第16页的备注4),但这在实践中并不重要(我只使用CRF.)