lxml/requests 可以选择下拉选项然后解析生成的ajax吗?

Los*_*oul 2 python lxml web-scraping python-requests

我有一个我正在尝试测试的网站,虽然我可以在下拉列表中获得选项列表,但我不确定如何选择它?没有提交按钮,所以如果我选择它,那么它会在下面加载一个 ajax 表。

我只是不确定 lxml/requests 是否可以做到这一点或如何做到这一点?如果有人可以确认或知道可以做到这一点的功能,我将不胜感激?

编辑:我的网站是内部的,无法访问,但这里是一个示例网站:https : //www.tsx.com/listings/listing-with-us/listed-company-directory 请注意,如果您选择搜索旁边的框,它将拉输出 ajax 结果(A、B、C 等)

ale*_*cxe 5

使用lxml+ requestssetup,您可以在不同的级别、更低的级别上进行操作。没有下拉菜单requests它不是浏览器

解决您的问题的一般方法是:

  • 在您选择的浏览器中打开浏览器开发工具,网络选项卡
  • 在下拉列表中选择一个选项
  • 在“网络”选项卡中观察发送到服务器的请求
  • 在你的 Python 代码中模拟这个/这些请求

您可以使用另一个“技巧”来简化开发人员工具以请求转换:

  • 右键单击网络选项卡中请求列表中的请求
  • 单击“复制为 cURL”
  • 转到http://curl.trillworks.com/网页并将 cURL 命令转换为 Python+Requests 代码