selenium切换标签页解决get超时问题的完整代码
作者:颹蕭蕭 发布时间:2023-08-26 09:41:25
标签:selenium,标签页,超时
从 gif 直观地感受一下效果
我有大量 url 需要访问,但是有些 url 会超时
为了避免超时,设置driver.set_page_load_timeout(3)
限时3秒,一旦超时就会产生 TimeoutException
而且超时后标签页就卡柱了,只能通过 driver.close()
关闭
如果你只有一个标签页,关闭就直接退出了,还得重启
自然想到先保留一个备用的标签,原标签超时需要关闭的时候就切换过来,然后再关闭,并打开新标签,保证任何时候都有两个标签页可用!!
def visit(urls, timeout=3):
driver.implicitly_wait(timeout) # 操作、获取元素时的隐式等待时间
driver.set_page_load_timeout(timeout) # 页面加载超时等待时间
main_win = driver.current_window_handle
for url in urls:
all_win = driver.window_handles
try:
if len(all_win) == 1:
driver.execute_script('window.open();')
driver.get(url)
# 页面处理
pass
except Exception:
for win in all_win:
if main_win != win:
driver.close() # 关闭卡住的标签
driver.switch_to.window(win) # 切换到备用标签
main_win = win # 切换到备用标签
break
完整代码
from selenium import webdriver
from selenium.webdriver.common.by import By
from selenium.webdriver.common.keys import Keys
from selenium.webdriver.support import expected_conditions as EC
from selenium.webdriver.support.wait import WebDriverWait
from selenium.webdriver.chrome.options import Options
import time
import requests
import zipfile
import os
def un_zip(file_name, to_dir='./'):
"""unzip zip file"""
zip_file = zipfile.ZipFile(file_name)
if os.path.isdir(to_dir):
pass
else:
os.mkdir(to_dir)
for names in zip_file.namelist():
zip_file.extract(names, to_dir)
zip_file.close()
def download_driver(to_dir='./', version=''):
print('install chrome-driver first')
url = 'http://npm.taobao.org/mirrors/chromedriver/LATEST_RELEASE'
if len(version)>0:
url = 'http://npm.taobao.org/mirrors/chromedriver/LATEST_RELEASE_'+version
version = requests.get(url).content.decode('utf8')
driver_file = 'http://npm.taobao.org/mirrors/chromedriver/' + version + '/chromedriver_win32.zip'
r = requests.get(driver_file)
download_zip = "chromedriver_win32.zip"
with open(download_zip, "wb") as code:
code.write(r.content)
un_zip(download_zip, to_dir)
os.remove(download_zip)
try:
driver = webdriver.Chrome()
except Exception as e:
download_driver(to_dir='./', version='76')
driver = webdriver.Chrome()
with open("url.txt", 'r') as file:
urls = [ line.strip('\n') for line in file.readlines()]
visit(urls)
for i in driver.window_handles:
driver.switch_to.window(i)
driver.close()
来源:https://blog.csdn.net/itnerd/article/details/108282337


猜你喜欢
- 1.goroutine-看一个需求需求:要求统计1-900000000的数字中,那些是素数?分析:传统方法,就是使用一个循环,循环的判断各个
- 连接数据库:mysql -u用户名 -p密码导入数据 source d:\create.sql用下面的语句就可以导出mysql中的数据了:m
- 用途logging模块是Python的内置模块,主要用于输出运行日志,可以灵活配置输出日志的各项信息。基本使用方法logging.basic
- 使用 argparse 模块为应用程序设置命令行选项。有一些第三方库用于命令行解析,但标准库 argparse 与之相比也毫不逊色。无需添加
- 环境:MacOS_Cetalina_10.15.1、Mysql8.0.18、Docker_2.0.0.31、docker仓库搜索mysqld
- 前记上一遍文章《Python中Async语法协程的实现》介绍了Python是如何以生成器来实现协程的以及Python Asyncio通过Fu
- 按照 官方教程 ,下载安装包,点击安装后,如需在命令行启动,还需设置命令路径:在命令行中,打开配置文件 .bash_profile:vim
- 通常来说,javascript中的对象就是一个指向prototype的指针和一个自身的属性列表。javascript创建对象时采用了写时复制
- 本文实例讲述了Python推导式。分享给大家供大家参考,具体如下:1. 列表推导式>>> li = [1,2,3,4,5,
- 一、re.findall函数介绍它在re.py中有定义:def findall(pattern, string, flags=0): &nb
- 实例引入我们知道 Python 是一种动态语言,在声明一个变量时我们不需要显式地声明它的类型,例如下面的例子:a = 2print('
- 1.BeautifulSoup简介BeautifulSoup4和 lxml 一样,Beautiful Soup 也是一个HTML/XML的解
- 一、把一个字符串的内容提取出来,并放到字典中流程如下: 1、得到字符串s,通过分割提取得到s1(是个列表) s=”name=lyy&
- 目录outputoutput.pathoutput.publicPathwebpack-dev-server中的publicPathhtml
- 本文实例讲述了Node.js文本提交与显示方法。分享给大家供大家参考,具体如下:index.jsvar server = require(&
- 使用 pd.Series把dataframe转成Seriests = pd.Series(df['Value'].value
- 前言:这里再回顾一下函数的local空间,首先我们往global空间添加一个键值对相当于定义一个全局变量,那么如果往函数的local空间里面
- PyQt5 QtChart-散点图QScatterSeries类将数据以散点图显示import sysimport randomfrom P
- 往期学习:python数据类型: python数据结构:数据类型.python的输入输出: python数据结构之输入输出及控制和异常.py
- Tornado是一种 Web 服务器软件的开源版本。Tornado 和主流Web 服务器框架(包括大多数 Python 的框架)有着明显的区