使用 Python + Selenium 通过 while 循环单击下一页

Question

我正在尝试浏览名为 iens 的网站上的不同页面。我正在使用 selenium + python 单击“volgende”（在荷兰语中表示“下一个”），但我希望我的程序继续单击下一个，直到使用 while 循环没有更多页面为止。所以在这种情况下，我希望我的程序在第 23 页结束。现在我可以通过关闭 cookie 弹出消息进入第 2 页，等到它关闭然后单击“Volgende”按钮。

我的代码如下所示：

 from selenium.webdriver.support.ui import WebDriverWait
 from selenium import webdriver
 from selenium.webdriver.common.by import By
 from selenium.webdriver.support import expected_conditions as EC

 chrome_path = '/Users/user/Downloads/chromedriver'
 driver = webdriver.Chrome(chrome_path)
 driver.get('https://www.iens.nl/restaurant+utrecht')

 #wait for cookie message
 close_icon = WebDriverWait(driver, 5, 
 0.25).until(EC.visibility_of_element_located([By.CSS_SELECTOR, 
 '.cookiePolicy-close']))

 close_icon.click()

 #wait for cookie message to disappear
 WebDriverWait(driver, 5, 
 0.25).until(EC.invisibility_of_element_located([By.CSS_SELECTOR, 
 '.cookiePolicy-close']))

 click_icon = WebDriverWait(driver, 5, 
 0.25).until(EC.visibility_of_element_located([By.LINK_TEXT, 
 'Volgende']))
 click_icon.click()

该网站名为https://www.iens.nl/restaurant+utrecht

提前致谢！

Answer 1

由于每次切换到下一页时自动滚动，webdriver尝试单击Next按钮，但其他一些元素收到单击。您可以使用此解决方案：

while True:
    try:
        click_icon = WebDriverWait(driver, 5, 0.25).until(EC.visibility_of_element_located([By.LINK_TEXT, 'Volgende']))
        click_icon.click()
        WebDriverWait(driver, 5).until(EC.presence_of_element_located((By.CSS_SELECTOR, 'main:not([style*="margin-top"])')))
    except:
        break

另一个简单的解决方案（仅当您的目标是到达最后一页时）是在不一直单击Next的情况下获取最后一页：

driver.find_elements_by_xpath('//div[@class="pagination"]/ul/li/a')[-2].click()