小编Rus*_*uss的帖子

通过 http 将 AWS Common Crawl 的小样本下载到本地计算机

我有兴趣下载 AWS Common Crawl 的一个小子集(10 个兆顶部)的原始文本,作为信息检索测试的语料库。

Common Crawl 页面建议我需要一个 S3 帐户和/或 Java 程序来访问它,然后我正在考虑筛选 100 GB 的数据,而我所需要的只是几十兆。

这里有一些代码,但它需要 S3 帐户和访问权限(尽管我确实喜欢 Python)。

有没有一种方法可以形成一个 http(s) URL,让我可以根据自己的目的获得一个微小的爬行横截面?我相信我查看了一个页面,该页面建议了一种用日、小时、分钟来构建目录的方法,但我似乎无法再次找到该页面。

谢谢!

information-retrieval corpus dataset common-crawl

4
推荐指数
1
解决办法
3324
查看次数