如何在Python上使用selenium webdriver和browsermob代理捕获网络流量？

Question

我想通过在Python上使用Selenium Webdriver来捕获网络流量.因此,我必须使用代理(如BrowserMobProxy)

当我使用webdriver.Chrome时:

from browsermobproxy import Server

server = Server("~/browsermob-proxy")

server.start()
proxy = server.create_proxy()

from selenium import webdriver
co = webdriver.ChromeOptions()
co.add_argument('--proxy-server={host}:{port}'.format(host='localhost', port=proxy.port))

driver = webdriver.Chrome(executable_path = "~/chromedriver", chrome_options=co)

proxy.new_har
driver.get(url)
proxy.har # returns a HAR 

for ent in proxy.har['log']['entries']:
    print ent['request']['url']

网页已正确加载,所有请求都可在HAR文件中访问和访问.但是当我使用webdriver.Firefox时:

# The same as above
# ...
from selenium import webdriver
profile  = webdriver.FirefoxProfile()
driver = webdriver.Firefox(firefox_profile=profile, proxy = proxy.selenium_proxy())

proxy.new_har
driver.get(url)
proxy.har # returns a HAR

for ent in proxy.har['log']['entries']:
    print ent['request']['url']

无法正确加载网页,并且HAR文件中的请求数小于应该的请求数.

你知道第二个代码中的代理设置有什么问题吗？我应该如何修复它以正确使用webdriver.Firefox？

Answer 1

偶然发现了这个项目https://github.com/derekargueta/selenium-profiler.吐出URL的所有网络数据.不应该很难入侵并集成到您正在运行的任何测试中.

原始来源:https://www.openhub.net/p/selenium-profiler