beautifulsoup和机械化获得ajax调用结果

nab*_*zan 4 python ajax mechanize beautifulsoup scraper

嗨我正在使用python 2.5和beautifulsoup构建一个刮刀,但我正在解决一个问题...网页的一部分是在用户点击某个按钮后生成的,通过使用适当的参数调用特定的javacsript函数来启动ajax请求

有没有办法模拟用户交互并得到这个结果?我遇到了一个机械化模块,但在我看来,这主要用于处理表单......

我将不胜感激任何链接或一些代码示例

nab*_*zan 6

好吧所以我已经弄清楚了...我意识到我可以使用urllib,ulrlib2和beautifulsoup的组合后很简单

import urllib, urllib2
from BeautifulSoup import BeautifulSoup as bs_parse

data = urllib.urlencode(values)
req  = urllib2.Request(url, data)
res  = urllib2.urlopen(req)
page = bs_parse(res.read())
Run Code Online (Sandbox Code Playgroud)

  • 我面临同样的问题...请帮助......什么是"价值观" (3认同)