Python开发中爬虫使用代理proxy抓取网页的方法示例
作者：静妍 发布时间：2023-02-04 08:56:06
标签：Python,爬虫,代理
本文实例讲述了Python开发中爬虫使用代理proxy抓取网页的方法。分享给大家供大家参考，具体如下：
代理类型（proxy）:透明代理 匿名代理 混淆代理和高匿代理. 这里写一些python爬虫使用代理的知识, 还有一个代理池的类. 方便大家应对工作中各种复杂的抓取问题。
urllib 模块使用代理
urllib/urllib2使用代理比较麻烦, 需要先构建一个ProxyHandler的类, 随后将该类用于构建网页打开的opener的类,再在request中安装该opener.
代理格式是"http://127.0.0.1:80",如果要账号密码是"http://user:password@127.0.0.1:80".
proxy="http://127.0.0.1:80"
# 创建一个ProxyHandler对象
proxy_support=urllib.request.ProxyHandler({'http':proxy})
# 创建一个opener对象
opener = urllib.request.build_opener(proxy_support)
# 给request装载opener
urllib.request.install_opener(opener)
# 打开一个url
r = urllib.request.urlopen('http://youtube.com',timeout = 120)
requests 模块 使用代理
requests使用代理要比urllib简单多了…这里以单次代理为例. 多次的话可以用session一类构建.
如果需要使用代理，你可以通过为任意请求方法提供 proxies 参数来配置单个请求:
import requests
proxies = {
"http": "http://127.0.0.1:3128",
"https": "http://127.0.0.1:2080",
}
r=requests.get("http://youtube.com", proxies=proxies)
print r.text
你也可以通过环境变量 HTTP_PROXY 和 HTTPS_PROXY 来配置代理。
export HTTP_PROXY="http://127.0.0.1:3128"
export HTTPS_PROXY="http://127.0.0.1:2080"
python
>>> import requests
>>> r=requests.get("http://youtube.com")
>>> print r.text
若你的代理需要使用HTTP Basic Auth，可以使用 http://user:password@host/ 语法:
proxies = {
"http": "http://user:pass@127.0.0.1:3309/",
}
python的代理使用非常简单， 最重要的是要找一个网络稳定可靠的代理。
希望本文所述对大家Python程序设计有所帮助。
来源：http://blog.csdn.net/xfyangle/article/details/61616663
0
投稿猜你喜欢
- javascript cookie的基本操作（添加和删除）1.添加一个cookie：response.addCookie(Cookie c)
前言聚簇索引就是innodb默认创建的基于主键的索引结构，而且表里的数据就是直接放在聚簇索引里，作为叶节点的数据页：基于主键的数据搜索：从聚- 因些朋友发来邮件讲根据文章修改后无效，懒羊再次检查后发现在工具栏中并无添加，所以还得做一下下面步骤，再此给大家造成的不便还请多多谅解！因FC
- 如果我们在标识列中插入值，例如：insert member(id,username) values(10,'admin')
- 今天遇到一个问题，使用python的find函数寻找字符串中的第一个空格时没有找到正确的位置，例如：http://zc.whmc.edu.c
- 在程序中，经常需要将⼀组（通常是同为某个类型的）数据元素作为整体 管理和使⽤，需要创建这种元素组，⽤变量记录它们，传进传出函数等。 ⼀组数据
- python 对excel的 读入 与 改写（对比xlwt、openpyxl、xlrd）xlwt不支持写xlsx文件。openpyxl不支持
- 简单的地图读取、展示终于到暑假了。。。开始认真整理整理相关学习的心得体会咯~先把很久之前挖的关于C# 二次开发的坑给填上好了~ 这次先计划用
- 在 Class 块中，成员通过相应的声明语句被声明为 Private(私有成员，只能在类内部调用)
- 在 MySQL下，在进行中文模糊检索时，经常会返回一些与之不相关的记录，如查找 "％a％" 时，返回的可能有中文字符，却
- import osimport sysimport ftplibimport socket#########################
- 目录1.数据概览分析1.1 数据概览1.2 数据分析2. 项目总体思路2.1 数据读取2.2 模型预处理（1）数据离群点处理（2）数据归一化
- 概述可以获取的数据包括：video-视频模块user-用户模块dynamic-动态模块这次用“Running Man”十周年特辑的视频，来做
- 例子：以百度文库中选择文档的类型为例问题一：遍历点击所有文档类型的单选框# coding=utf-8from selenium import
- 本文实例讲述了PHP实现数组根据某个字段进行水平合并，横向合并。分享给大家供大家参考，具体如下：PHP数组水平合并，横向合并，两条数据合并成
- 1.scrapy基本了解Scrapy是一个为了爬取网站数据，提取结构性数据而编写的应用框架。可以应用在包括数据挖掘， 信息处理或存储历史数据
- 在Python程序中导入ctypes模块，载入动态链接库。动态链接库有三种：cdll以及windows下的windll和oledll，cdl
- 今天呱呱发了一个网址给我看，大概效果就是类似幻灯片的效果。当时我的第一反映这个是不是用锚点做的啊呢，以前在网上看过用锚点做的这类的效果。脑袋
- 字符串函数查看字符的ascii码值ascii(str)，str是空串时返回0select ascii('a');
- 关于本文：本着互联网共享主义精神，特写此文献给建站新手，授人以鱼，不如授人以渔，本文所讲的只是方法和原理，希望大家看完此文，能够从中得到些帮
