在 Python 中使用 urlopen() 防止“隐藏”重定向

Question

我正在使用BeautifulSoup进行网页抓取，并且在使用urlopen时遇到特定类型网站的问题。网站上的每个商品都有自己独特的页面，并且商品有不同的规格（例如：500 mL、1L、2L...）。

当我使用互联网浏览器打开产品的 URL ( www.example.com/product1 ) 时，我会看到 500 毫升规格的图片、相关信息（价格、数量、口味等）以及列表此特定项目可用的所有其他格式。如果点击另一种格式（例如： 1L），有关该项目的图片和信息将会更改，但浏览器顶部的 URL 将保持不变（www.example.com/product1）。但是，通过检查页面的 HTML 代码，我知道所有格式都有自己唯一的 URL（500 mL：www.example.com/product1/123；1L：www.example.com/product1/456，...）。当我在互联网浏览器中使用 1L 格式的唯一 URL 时，我会自动重定向到页面www.example.com/product1，但页面上显示的图片和信息对应于 1L 格式。HTML 代码还包含我需要的有关 1L 格式的信息。

当我使用urlopen打开这些唯一的 URL时，出现了问题。

from bs4 import BeautifulSoup 
from urllib import urlopen
webpage = urlopen('www.example.com/product1/456')
soup=BeautifulSoup(webpage)
print soup    

汤中包含的信息与使用我的互联网浏览器显示的唯一 URL 的信息不对应： www.example.com/product1/456。它为我提供了有关www.example.com/product1上默认显示的项目格式的信息，该格式始终为 500 mL 格式。

有什么方法可以阻止这种重定向，从而允许我使用 BeautifulSoup 捕获唯一 URL 的 HTML 代码中包含的信息？

Answer 1

import urllib2

class RedirectHandler(urllib2.HTTPRedirectHandler):
    def http_error_302(self, req, fp, code, msg, headers):
        result = urllib2.HTTPError(req.get_full_url(), code, msg, headers, fp)
        result.status = code
        return result
    http_error_301 = http_error_303 = http_error_307 = http_error_302

opener = urllib2.build_opener(RedirectHandler())
webpage = opener.open('http://www.example.com/product1/456')
...