相关疑难解决方法(0)

使用scikit-learn TfIdf和gensim LDA

我在scikit中使用了各种版本的TFIDF来学习一些文本数据的建模.

vectorizer = TfidfVectorizer(min_df=1,stop_words='english')
Run Code Online (Sandbox Code Playgroud)

生成的数据X采用以下格式:

<rowsxcolumns sparse matrix of type '<type 'numpy.float64'>'
    with xyz stored elements in Compressed Sparse Row format>
Run Code Online (Sandbox Code Playgroud)

我想尝试使用LDA作为减少稀疏矩阵维数的方法.有没有一种简单的方法可以将NumPy稀疏矩阵X输入到gensim LDA模型中?

lda = models.ldamodel.LdaModel(corpus=corpus, id2word=dictionary, num_topics=100)
Run Code Online (Sandbox Code Playgroud)

我可以忽略scikit并按照gensim教程概述的方式,但我喜欢scikit矢量化器及其所有参数的简单性.

python text-mining lda scikit-learn

8
推荐指数
1
解决办法
3294
查看次数

如何使用csr_matrix初始化gensim语料库变量?

我有X作为csr_matrix,我使用scikit的tfidf矢量化器获得,y是一个数组

我的计划是使用LDA创建功能,但是,我没有找到如何使用X作为csr_matrix初始化gensim的语料库变量.换句话说,我不想下载gensim文档中显示的语料库,也不想将X转换为密集矩阵,因为它会消耗大量内存并且计算机可能会挂起.

简而言之,我的问题如下,

  1. 如果我有一个代表整个语料库的csr_matrix(稀疏),你如何初始化gensim语料库?
  2. 你如何使用LDA提取功能?

python document-classification lda gensim scikit-learn

6
推荐指数
1
解决办法
1450
查看次数