Rio*_*ams 42 javascript jquery screen-scraping
我一直在玩使用jQuery的简单屏幕刮板的想法,我想知道以下是否可行.
我有简单的HTML页面,并尝试(如果可能的话)从另一个页面中获取所有列表项的内容,如下所示:
主页:
<!-- jQuery -->
<script type='text/javascript'>
$(document).ready(function(){
$.getJSON("[URL to other page]",
function(data){
//Iterate through the <li> inside of the URL's data
$.each(data.items, function(item){
$("<li/>").value().appendTo("#data");
});
});
});
</script>
<!-- HTML -->
<html>
<body>
<div id='data'></div>
</body>
</html>
Run Code Online (Sandbox Code Playgroud)
其他页面:
//Html
<body>
<p><b>Items to Scrape</b></p>
<ul>
<li>I want to scrape what is here</li>
<li>and what is here</li>
<li>and here as well</li>
<li>and append it in the main page</li>
</ul>
</body>
Run Code Online (Sandbox Code Playgroud)
那么,是否可以使用jQuery从外部页面中提取所有列表项内容并将它们附加到div中?
Ry-*_*Ry- 36
用于$.ajax将其他页面加载到变量中,然后创建临时元素并使用.html()将内容设置为返回的值.循环遍历nodeType 1的元素子节点并保留其第一个子节点的nodeValues.如果外部页面不在您的Web服务器上,则需要使用您自己的Web服务器代理该文件.
像这样的东西:
$.ajax({
url: "/thePageToScrape.html",
dataType: 'text',
success: function(data) {
var elements = $("<div>").html(data)[0].getElementsByTagName("ul")[0].getElementsByTagName("li");
for(var i = 0; i < elements.length; i++) {
var theText = elements[i].firstChild.nodeValue;
// Do something here
}
}
});
Run Code Online (Sandbox Code Playgroud)
$.get("/path/to/other/page",function(data){
$('#data').append($('li',data));
}
Run Code Online (Sandbox Code Playgroud)
你可能想要考虑pjscrape:
http://nrabinowitz.github.io/pjscrape/
它允许您使用javascript和jQuery从命令行执行此操作.它是通过使用PhantomJS来实现的,PhantomJS是一个无头webkit浏览器(它没有窗口,它只存在于你的脚本的使用,所以你可以加载使用AJAX的复杂网站,它就像它是真正的浏览器一样工作) .
这些示例是不言自明的,我相信这适用于所有平台(包括Windows).
用jQuery简单抓取...
// Get HTML from page
$.get( 'http://example.com/', function( html ) {
// Loop through elements you want to scrape content from
$(html).find("ul").find("li").each( function(){
var text = $(this).text();
// Do something with content
} )
} );
Run Code Online (Sandbox Code Playgroud)
| 归档时间: |
|
| 查看次数: |
87666 次 |
| 最近记录: |