小编Kat*_*Kat的帖子

如何使用readLines和grep在R中构建webscraper?

我是R的新手.我想编写一份100万字的报纸文章.所以我想写一个网络刮刀从例如监护人的网站上检索报纸上的文章:http://www.guardian.co.uk/politics/2011/oct/31/nick-clegg-investment-new-jobs.

刮刀用于从一页开始,检索文章的正文,删除所有标签并将其保存到文本文件中.然后它应该通过本页面上的链接转到下一篇文章,获取文章等,直到该文件包含大约100万字.

不幸的是,我的刮刀并没有走得太远.

我使用readLines()来访问网站的源代码,现在想要获取代码中的相关行.

Guardian中的相关部分使用此ID来标记文章的正文:

<div id="article-body-blocks">         
  <p>
    <a href="http://www.guardian.co.uk/politics/boris"
       title="More from guardian.co.uk on Boris Johnson">Boris Johnson</a>,
       the...a different approach."
  </p>
</div>
Run Code Online (Sandbox Code Playgroud)

我尝试使用grep和lookbehind的各种表达式来掌握这一部分 - 尝试获取此ID后面的行 - 但我认为它不适用于多行.至少我不能让它发挥作用.

有人可以帮忙吗?如果有人可以提供一些我可以继续工作的代码,那将是很棒的!

谢谢.

r web-scraping

5
推荐指数
1
解决办法
4050
查看次数

标签 统计

r ×1

web-scraping ×1