nab*_*zan 4 python ajax mechanize beautifulsoup scraper
嗨我正在使用python 2.5和beautifulsoup构建一个刮刀,但我正在解决一个问题...网页的一部分是在用户点击某个按钮后生成的,通过使用适当的参数调用特定的javacsript函数来启动ajax请求
有没有办法模拟用户交互并得到这个结果?我遇到了一个机械化模块,但在我看来,这主要用于处理表单......
我将不胜感激任何链接或一些代码示例
好吧所以我已经弄清楚了...我意识到我可以使用urllib,ulrlib2和beautifulsoup的组合后很简单
import urllib, urllib2
from BeautifulSoup import BeautifulSoup as bs_parse
data = urllib.urlencode(values)
req = urllib2.Request(url, data)
res = urllib2.urlopen(req)
page = bs_parse(res.read())
Run Code Online (Sandbox Code Playgroud)