我在scikit中使用了各种版本的TFIDF来学习一些文本数据的建模.
vectorizer = TfidfVectorizer(min_df=1,stop_words='english')
Run Code Online (Sandbox Code Playgroud)
生成的数据X采用以下格式:
<rowsxcolumns sparse matrix of type '<type 'numpy.float64'>'
with xyz stored elements in Compressed Sparse Row format>
Run Code Online (Sandbox Code Playgroud)
我想尝试使用LDA作为减少稀疏矩阵维数的方法.有没有一种简单的方法可以将NumPy稀疏矩阵X输入到gensim LDA模型中?
lda = models.ldamodel.LdaModel(corpus=corpus, id2word=dictionary, num_topics=100)
Run Code Online (Sandbox Code Playgroud)
我可以忽略scikit并按照gensim教程概述的方式,但我喜欢scikit矢量化器及其所有参数的简单性.
我有X作为csr_matrix,我使用scikit的tfidf矢量化器获得,y是一个数组
我的计划是使用LDA创建功能,但是,我没有找到如何使用X作为csr_matrix初始化gensim的语料库变量.换句话说,我不想下载gensim文档中显示的语料库,也不想将X转换为密集矩阵,因为它会消耗大量内存并且计算机可能会挂起.
简而言之,我的问题如下,