如何从网页中提取文本内容?

dar*_*dow 0 java text-mining web-scraping web-mining web

我正在开发一个java应用程序,它可以从不同的网页中获取文本信息,并将其汇总成一个页面.例如,假设我在不同的网页上有新闻,如印度教,印度时报,政治家等.现在我的应用程序应该从这些页面的每一个中提取重要点,并将它们作为单个新闻组合在一起.应用程序基于Web内容挖掘的概念.作为该领域的初学者,我无法理解从哪里开始我已经通过研究论文解释了噪声去除作为建立这个应用程序的第一步.

所以,如果给我一个新闻网页,第一步是从页面中提取主要新闻,不包括超链接,广告,无用图像等.我的问题是我该怎么做?请给我一些很好的教程,解释使用Web内容挖掘实现这种应用程序.或者至少给我一些提示如何实现它?

Spi*_*nim 9

您可以使用可读性或者套管,两个开源工具来执行此任务.对于教程,您应该阅读这两个项目的代码和文档.

  • 在Google学者中搜索有关该主题的论文.阅读现有实现的代码.建立网站评估语料库和正确的文本提取.计算每个提取器的工作准确度.查看错误,考虑如何修复它们,改进提取器. (2认同)