Python3实现并发检验代理池地址的方法
作者:RQSLT 发布时间:2023-10-14 01:03:58
标签:Python3,并发,检验,代理
本文实例讲述了Python3实现并发检验代理池地址的方法。分享给大家供大家参考,具体如下:
#encoding=utf-8
#author: walker
#date: 2016-04-14
#summary: 用协程/线程池并发检验代理有效性
import os, sys, time
import requests
from concurrent import futures
cur_dir_fullpath = os.path.dirname(os.path.abspath(__file__))
Headers = {
'Accept': '*/*',
'User-Agent': 'Mozilla/4.0 (compatible; MSIE 8.0; Windows NT 6.1; WOW64; Trident/4.0; SLCC2; .NET CLR 2.0.50727; .NET CLR 3.5.30729; .NET CLR 3.0.30729; .NET4.0C; .NET4.0E)',
}
#检验单个代理的有效性
#如果有效,返回该proxy;否则,返回空字符串
def Check(desturl, proxy, feature):
proxies = {'http': 'http://' + proxy}
r = None #声明
exMsg = None
try:
r = requests.get(url=desturl, headers=Headers, proxies=proxies, timeout=3)
except:
exMsg = '* ' + traceback.format_exc()
#print(exMsg)
finally:
if 'r' in locals() and r:
r.close()
if exMsg:
return ''
if r.status_code != 200:
return ''
if r.text.find(feature) < 0:
return ''
return proxy
#输入代理列表(set/list),返回有效代理列表
def GetValidProxyPool(rawProxyPool, desturl, feature):
validProxyList = list() #有效代理列表
pool = futures.ThreadPoolExecutor(8)
futureList = list()
for proxy in rawProxyPool:
futureList.append(pool.submit(Check, desturl, proxy, feature))
print('\n submit done, waiting for responses\n')
for future in futures.as_completed(futureList):
proxy = future.result()
print('proxy:' + proxy)
if proxy: #有效代理
validProxyList.append(proxy)
print('validProxyList size:' + str(len(validProxyList)))
return validProxyList
#获取原始代理池
def GetRawProxyPool():
rawProxyPool = set()
#通过某种方式获取原始代理池......
return rawProxyPool
if __name__ == "__main__":
rawProxyPool = GetRawProxyPool()
desturl = 'http://...' #需要通过代理访问的目标地址
feature = 'xxx' #目标网页的特征码
validProxyPool = GetValidProxyPool(rawProxyPool, desturl, feature)
希望本文所述对大家Python程序设计有所帮助。
0
投稿
猜你喜欢
- 1._thread.start_new_thread(了解)import threadingimport timeimport _threa
- Python常见的异常提示及含义对照表如下:异常名称描述BaseException所有异常的基类SystemExit解释器请求退出Keybo
- 这段程序的方法是利用XMLHTTP来读取腾讯网站的相应HTML代码获取QQ的头像,根据这个想法,我们还
- 一、前言下述配置的前提是服务器上存在多个虚拟环境,且 PyCharm为专业版二、配置方法配置远程服务器配置多个解释器在配置好远程服务器后,依
- Frame切换在本文中,将介绍如何使用 Frame tkraise() 方法在 Tkinter 应用程序中的Frame之间切换。1、Fram
- Jupyter平台默认开发的字体为宋体,在高分屏下视觉效果差在 C:\User\用户名\.jupyter\custom下面的custom.c
- 一、VSCode 创建Django 工程VSCode 官方: https://code.visualstudio.com1 mysite(项
- Hello大家好,今天说一下python的socket编程,基于python的socket通信的文本框网络聊天首先,实验环境:一个云服务器(
- Oracle RAC提供两种方式实现负载均衡,第一种是纯技术手段,即在用户连接时,根据系统当前的负载情况决定由哪个节点处理用户请求;第二种是
- 很多小伙伴对于slice参数的概念理解停留在概念上,切片的参数有三个,分别是step 、start 、stop 。因为参数的值也是多变的,所
- 导言Python官方文档对于内置函数的介绍较为简略,但这些内置函数在日常工作中却扮演着不可或缺的角色。为了更加便捷地使用和查阅这些函数,笔者
- 本文实例为大家分享了pygame实现移动底座弹球的具体代码,供大家参考,具体内容如下输出结果:实现代码:# -*- coding: utf-
- go redis 集合操作--saddredis的go语言包,我们使用官方推荐的redigo,https://github.com/gary
- 本文实例为大家分享了python绘制分组对比柱状图的具体代码,供大家参考,具体内容如下首先放效果图: # -*- co
- PyQt5 Qt Designer (Qt设计师)PyQt5是对Qt所有类进行封装, Qt能开发的东西, PyQt都能开发.Qt是强大的GU
- 1.问题及解决办法(1)问题:由于存储的时间戳是时间戳为GMT(格林尼治标准时间),以秒储存,但由于需要获取的是北京时间,存在时区问题。如何
- 前言count函数是用来统计表中或数组中记录的一个函数,count(*) 它返回检索行的数目, 不论其是否包含 NULL值。最近感觉大家都在
- 前言相信大家都知道任何版本控制系统的一个最有的用特性就是“撤销 (undo)”你的错误操作的能力。在 Git 里,“撤销” 蕴含了不少略有差
- eg:如在后台的标签列表中,实现上移、下移、置顶功能主要实现思路是节点操作,比如说:上移,直接把点击项移动到前一个节点,以此类推,当然实际代
- 显然,效果很实用。对于这个效果,我们并不解释如何去使用效果库,而是讲解如何创建类似的效果,并保持他的可用性,分离式(unobtrusive)