Python利用selenium建立代理ip池访问网站的全过程
作者:HarryPoFly 发布时间:2021-12-03 11:41:26
标签:selenium,代理,ip池
一、使用selenium前?
1.安装selenium
pip install Selenium
2.安装浏览器驱动
Chrome驱动文件下载:点击下载
3.配置环境
1.将下载文件放进C:\Program Files (x86)\Google\Chrome\Application下就可以
2.然后配置下系统变量:我的电脑–>属性–>系统设置–>高级–>环境变量–>系统变量–>Path,将“C:\Program Files (x86)\Google\Chrome\Application”目录添加到Path的值中。
注:之后如果代码不能调起浏览器,重启电脑,再运行!!!
二、使用selenium
1.引入库
代码如下(示例):
from selenium import webdriver
from selenium.webdriver.chrome.options import Options
2.完整代码
如果有多个代理ip可循环使用,防止被禁几率
from selenium import webdriver
from selenium.webdriver.chrome.options import Options
#以下ip使用自己可使用的 *
proxy_arr = [
'--proxy-server=http://171.35.141.103:9999',
'--proxy-server=http://36.248.132.196:9999',
# '--proxy-server=http://125.46.0.62:53281',
'--proxy-server=http://219.239.142.253:3128',
'--proxy-server=http://119.57.156.90:53281',
'--proxy-server=http://60.205.132.71:80',
'--proxy-server=https://139.217.110.76:3128',
'--proxy-server=https://116.196.85.150:3128'
]
chrome_options = Options()
proxy = random.choice(proxy_arr) # 随机选择一个代理
print(proxy) #如果某个代理访问失败,可从proxy_arr中去除
chrome_options.add_argument(proxy) # 添加代理
browser = webdriver.Chrome(options=chrome_options)
browser.get("http://httpbin.org/ip")
print(browser.page_source)
代码如下(示例):
总结
来源:https://blog.csdn.net/sinat_33801009/article/details/108383876
0
投稿
猜你喜欢
- requests是常用的请求库,不管是写爬虫脚本,还是测试接口返回数据等。都是很简单常用的工具。这里就记录一下如何用requests发送js
- 一个Link被点击之后有可能是打开新窗口,也有可能是刷新当前窗口,这两种打开方式一直并存于互联网中。 作为测试对象,于25日将打开方式改为‘
- 方法一:需要在网络条件下安装win+R进入运行框输入命令cmd点击确定进入普通下载:pip install 模块名字例如:输入pi
- 对于英文不行我来说使用英文版PyCharm实在是太难受了,网上好多汉化补丁都是网友提供了,下面为大家介绍一种PyCharm官方中文语言包汉化
- 前言接着上一篇的故事工厂模式继续,手机要出厂,显然光一个手机肯定是不行的,还需要包装盒、充电器等等东西。我们按照上一篇提到的工厂模式,去建立
- 有的时候,可能会遇到表格中出现重复的索引,在操作重复索引的时候可能要注意一些问题。一、判断索引是否重复a、Series索引重复判断s = S
- 使用xmlhttp中的getResponseHeader 从响应信息中获取指定的http头strValue = oXML
- 本文实例讲述了python实现批量获取指定文件夹下的所有文件的厂商信息的方法。分享给大家供大家参考。具体如下:功能代码如下:import o
- 在刚进公司的时候,要写一个需求,使用django的admin站点管理,实现一个二级联动的功能,因为要用到django自带的页面,因为不是自定
- 2008年的圣诞节LOGO依旧延续着2007年的圣诞老人、鹿车、红帽子、圣诞树、蜡烛等元素装点。当然,也少不了雪花,但在LOGO设计上,较0
- login.html <script language = "javascript" type = "t
- 引言手机中拍摄照的照片和视频快爆了,想转移到PC端,并按时间建立文件夹存储到电脑中,本文主要介绍如何通过python获取手机拍摄图片的时间信
- 我们知道,在调用函数时如果不指定某个参数,Python 解释器会抛出异常。为了解决这个问题,Python 允许为参数设置默认值,即在定义函数
- 概述从今天开始, 小白我将带领大家一起来补充一下 数据库的知识.MySQL 安装下载地址:https://dev.mysql.com/dow
- 1. 反射简介1.1 反射是什么?Go语言提供了一种机制在运行时更新和检查变量的值、调用变量的方法和变量支持的内在操作,但是在编译时并不知道
- 安装Nginx首先拉下centos镜像docker pull centos我们安装最新的nginx1.19版本:下载地址将centos镜像运
- 手残更新Pycharm 2020.1 版时将配置文件都删除了😂;在此重新记录下配置!安装教程参考:idea2020.1最新版永久破解/pyc
- 前言故事要从上面这张表情包开始讲起,看到这张表情包之后,我突发奇想,觉得可以将室友上班摸鱼的照片拼接起来,做成表情包叫他起床 激励他学习!!
- 目录1. 首先2. 编程惯用法3. 基础用法4. 库的使用5. 设计模式6. 内部机制7. 使用工具辅助项目开发8. 性能剖析与优化1. 首
- Django 中,html 页面通过 form 标签来传递表单数据。对于复选框信息,即 checkbox 类型,点击 submit 后,数据