sas*_*shi 5 machine-learning part-of-speech document-classification feature-selection
我使用Stanford POS tagger获得了POS标签句子.例如:
/ DT岛/ NN是/ VBD非常/ RB漂亮/ JJ ./.我/ PRP喜欢/ VBP它/ PRP ./.
(xml格式也可用)
任何人都可以解释如何从这个POS标签句子中进行特征选择,并使用机器学习方法将它们转换为特征向量进行文本分类.
一个简单的开始方法如下所示（假设词序对于您的分类算法并不重要）。
首先，您将手动对许多句子进行分类。这是您的训练数据集。一般来说，您从每个类别中手动分类的句子越多，您获得的准确度就越高。对于这样的监督方法，请记住，唯一选择的特征将来自您手动分类的句子。您的特征是所有训练句子中单词/词性的独特组合。
最后，您必须选择一种特征选择算法。有很多，但最流行的是卡方。其他一些是信息增益、互信息等。使用卡方，您可以单独测量类变量对每个特征的依赖性。您可以选择一些阈值，例如卡方值最低的前 10% 的特征，并且只保留这些特征以便稍后在分类器中使用。
特征选择算法的选择很重要，并且需要反映您正在使用的算法。例如，当您想要查找与您的班级正相关和负相关的特征时，卡方就很好用。在其他情况下，您可能只需要正相关的特征，因此您需要选择另一种算法或修改现有算法。
希望有帮助，威廉莱利兰德
| 归档时间： |
|
| 查看次数： |
3738 次 |
| 最近记录： |