Python"请求"模块的代理

Question

关于Python 的优秀Requests模块,这只是一个简短的,简单的.

我似乎无法在文档中找到变量'proxies'应​​包含的内容.当我发送一个带有标准"IP:PORT"值的字典时,它拒绝了它要求2个值.所以,我猜(因为这似乎没有在文档中说明)第一个值是ip而第二个是端口？

文档只提到这个:

proxies - (可选)字典映射协议到代理的URL.

所以我试过了......我该怎么办？

proxy = { ip: port}

在将它们放入dict之前,我应该将它们转换成某种类型吗？

r = requests.get(url,headers=headers,proxies=proxy)

Answer 1

该proxies"字典语法{"protocol":"ip:port", ...}.有了它,您可以使用http,https和ftp协议为请求指定不同(或相同)的代理:

http_proxy  = "http://10.10.1.10:3128"
https_proxy = "https://10.10.1.11:1080"
ftp_proxy   = "ftp://10.10.1.10:3128"

proxyDict = { 
              "http"  : http_proxy, 
              "https" : https_proxy, 
              "ftp"   : ftp_proxy
            }

r = requests.get(url, headers=headers, proxies=proxyDict)

从requests文档中推断:

参数:
method - 新Request对象的方法.
url - 新Request对象的URL.
...
proxies- (可选)字典映射 协议到代理的URL.
...

在Linux上,你也可以通过这样做HTTP_PROXY,HTTPS_PROXY以及FTP_PROXY环境变量:

export HTTP_PROXY=10.10.1.10:3128
export HTTPS_PROXY=10.10.1.11:1080
export FTP_PROXY=10.10.1.10:3128

在Windows上:

set http_proxy=10.10.1.10:3128
set https_proxy=10.10.1.11:1080
set ftp_proxy=10.10.1.10:3128

谢谢,Jay指出这一点:
语法因请求2.0.0而改变.
您需要在网址中添加架构:http: //docs.python-requests.org/en/latest/user/advanced/#proxies

Answer 2

我发现urllib有一些非常好的代码来获取系统的代理设置,它们恰好以正确的形式直接使用.你可以这样使用:

import urllib

...
r = requests.get('http://example.org', proxies=urllib.request.getproxies())

它工作得很好,urllib也知道如何获得Mac OS X和Windows设置.

Answer 3

您可以在此处参考代理文档.

如果需要使用代理,可以使用任何请求方法的proxies参数配置各个请求:

import requests

proxies = {
  "http": "http://10.10.1.10:3128",
  "https": "https://10.10.1.10:1080",
}

requests.get("http://example.org", proxies=proxies)

要在代理中使用HTTP Basic Auth,请使用http:// user:password@host.com/语法:

proxies = {
    "http": "http://user:pass@10.10.1.10:3128/"
}

Answer 4

接受的答案对我来说是一个好的开始,但我不断收到以下错误:

AssertionError: Not supported proxy scheme None

修复此问题是在代理URL中指定http://:

http_proxy  = "http://194.62.145.248:8080"
https_proxy  = "https://194.62.145.248:8080"
ftp_proxy   = "10.10.1.10:3128"

proxyDict = {
              "http"  : http_proxy,
              "https" : https_proxy,
              "ftp"   : ftp_proxy
            }

我会感兴趣的是为什么原版适用于某些人但不适合我.

编辑:我看到主答案现在更新,以反映这:)

Answer 5

如果你想持久化 cookie 和会话数据，你最好这样做：

import requests

proxies = {
    'http': 'http://user:pass@10.10.1.0:3128',
    'https': 'https://user:pass@10.10.1.0:3128',
}

# Create the session and set the proxies.
s = requests.Session()
s.proxies = proxies

# Make the HTTP request through the session.
r = s.get('http://www.showmemyip.com/')

Answer 6

该文档 给出了非常清晰的代理使用示例

import requests

proxies = {
  'http': 'http://10.10.1.10:3128',
  'https': 'http://10.10.1.10:1080',
}

requests.get('http://example.org', proxies=proxies)

然而，没有记录的是，即使架构相同，您甚至可以为各个 url 配置代理！当您想对要抓取的不同网站使用不同的代理时，这会派上用场。

proxies = {
  'http://example.org': 'http://10.10.1.10:3128',
  'http://something.test': 'http://10.10.1.10:1080',
}

requests.get('http://something.test/some/url', proxies=proxies)

此外，requests.get本质上使用了requests.Session引擎盖下的功能，因此如果您需要更多控制，请直接使用它

import requests

proxies = {
  'http': 'http://10.10.1.10:3128',
  'https': 'http://10.10.1.10:1080',
}
session = requests.Session()
session.proxies.update(proxies)

session.get('http://example.org')

我用它来设置一个后备（默认代理）来​​处理与字典中指定的架构/URL 不匹配的所有流量

import requests

proxies = {
  'http': 'http://10.10.1.10:3128',
  'https': 'http://10.10.1.10:1080',
}
session = requests.Session()
session.proxies.setdefault('http', 'http://127.0.0.1:9009')
session.proxies.update(proxies)

session.get('http://example.org')

Answer 7

晚了8年。但我喜欢：

import os
import requests

os.environ['HTTP_PROXY'] = os.environ['http_proxy'] = 'http://http-connect-proxy:3128/'
os.environ['HTTPS_PROXY'] = os.environ['https_proxy'] = 'http://http-connect-proxy:3128/'
os.environ['NO_PROXY'] = os.environ['no_proxy'] = '127.0.0.1,localhost,.local'

r = requests.get('https://example.com')  # , verify=False