相关疑难解决方法(0)

如何在单个Scrapy项目中为不同的蜘蛛使用不同的管道

我有一个包含多个蜘蛛的scrapy项目.有什么方法可以定义哪些管道用于哪个蜘蛛?并非我所定义的所有管道都适用于每个蜘蛛.

谢谢

python web-crawler scrapy

72
推荐指数
7
解决办法
2万
查看次数

有没有方法为每只蜘蛛使用单独的scrapy管道?

我想在不同的域下获取网页,这意味着我必须在命令"scrapy crawl myspider"下使用不同的蜘蛛.但是,由于网页内容不同,我必须使用不同的管道逻辑将数据放入数据库.但对于每个蜘蛛,它们必须遍历settings.py中定义的所有管道.是否有其他优雅的方法为每个蜘蛛使用单独的管道?

python scrapy web-scraping scrapy-spider

4
推荐指数
2
解决办法
5437
查看次数