NLTK 可用于停用词的语言

Question

我想知道在哪里可以找到 NLTK 停用词支持的语言（及其键）的完整列表。

我在https://pypi.org/project/stop-words/ 中找到了一个列表，但它不包含每个国家/地区的密钥。因此，您是否可以通过简单地检索列表尚不清楚stopwords.words("Bulgarian")。事实上，这会引发错误。

我查看了 NLTK 站点，有 4 个文档与“停用词”匹配，但没有一个文档描述了这一点。 https://www.nltk.org/search.html?q=stopwords&check_keywords=yes&area=default

他们的书中什么也没说：http ://www.nltk.org/book/ch02.html#stopwords_index_term

那么，你知道我在哪里可以找到钥匙列表吗？

Answer 1

首先检查您是否已经下载了nltk软件包。
如果没有，您可以使用以下方式下载：

import nltk
nltk.download()

之后，您可以在以下路径中找到停用词语言文件。

C:/Users/username/AppData/Roming/nltk_data/corpora/stopwords

它支持 21 种语言（我nltk几天前安装的，所以这个数字必须是最新的）。您可以将文件名作为参数传递

nltk.corpus.stopwords.words('langauage')

Answer 2

os.listdir('/root/nltk_data/corpora/stopwords/')

['hungarian',
 'swedish',
 'kazakh',
 'norwegian',
 'finnish',
 'arabic',
 'indonesian',
 'portuguese',
 'turkish',
 'azerbaijani',
 'slovene',
 'spanish',
 'danish',
 'nepali',
 'romanian',
 'greek',
 'dutch',
 'README',
 'tajik',
 'german',
 'english',
 'russian',
 'french',
 'italian']

Answer 3

当您使用以下方法导入停用词时：

from nltk.corpus import stopwords
english_stopwords = stopwords.words(language)

您正在根据文件 ID（语言）检索停用词。为了查看所有可用的停用词语言，您可以使用以下方法检索文件 ID 列表：

from nltk.corpus import stopwords
print(stopwords.fileids())

在 nltk v3.4.5 的情况下，这将返回 23 种语言：

['arabic', 
 'azerbaijani', 
 'danish', 
 'dutch', 
 'english', 
 'finnish', 
 'french', 
 'german', 
 'greek',
 'hungarian', 
 'indonesian', 
 'italian', 
 'kazakh', 
 'nepali', 
 'norwegian', 
 'portuguese', 
 'romanian', 
 'russian', 
 'slovene', 
 'spanish', 
 'swedish', 
 'tajik', 
 'turkish']