基于python requests selenium爬取excel vba过程解析
作者：forxtz 发布时间：2021-06-18 23:47:09
标签：python,requests,selenium,excel,vba
目的：基于办公与互联网隔离，自带的office软件没有带本地帮助工具，因此在写vba程序时比较不方便(后来发现07有自带，心中吐血，瞎折腾些什么）。所以想到通过爬虫在官方摘录下来作为参考。
目标网站：https://docs.microsoft.com/zh-cn/office/vba/api/overview/
所使工具:
python3.7,requests、selenium库
前端方面：使用了jquery、jstree(用于方便的制作无限层级菜单
设计思路：
1、分析目标页面，可分出两部分，左边时导航，右边是内容显示。
2、通过selenium对导航条进行深度遍历，取得导航条所有节点以及对应的链接，并以jstree的数据格式存储。
# 导航层级为
<ul>
<li>
<a>...
<span>....
3、使用requests遍历所有链接取得相应主体页面。
实现：
#
# parent 上级节点
# wait_text 上级节点对应的xpath路径的文本项
# level,limit 仅方便测试使用
#
def GetMenuDick_jstree(parent,level,wait_text,limit=2):
if level >= limit: return []
parent.click()
l = []
num = 1
new_wati_text = wait_text + '/following-sibling::ul' # 只需要等待ul出来就可以了/li[' + str(ele_num) + ']'
try:
wait.until(EC.presence_of_element_located((By.XPATH,new_wati_text)))
# 查询子节点所有的 a节点和span节点（子菜单）
childs = parent.find_elements_by_xpath('following-sibling::ul/li/span | following-sibling::ul/li/a')
for i in childs:
k = {}
if i.get_attribute('role') == None:
k['text'] = i.text
# 如果是子菜单，进行深度遍历
k['children'] = GetMenuDick_jstree(i,level+1,new_wati_text + '/li[' + str(num) + ']/span',limit)
else:
# 网页访问的Url无Html后缀，需要加上。去除无相关地址，形成相对路径。
url_text = str(i.get_attribute('href')).replace('https://docs.microsoft.com/zh-cn/office/', '',1) + '.html'
k['text'] = i.text
k['a_attr'] = {"href":url_text,"target":"showframe"}
lhref.append(str(i.get_attribute('href')))
num = num + 1
l.append(k)
parent.click() # 最后收起来
except Exception as e:
print('error message:',str(e),'error parent:' ,parent.text,' new_wati_text:',new_wati_text,'num:',str(num))
lerror.append(parent.text)
finally:
return l
# data菜单，lhref为后续需要访问的地址。
# 找到第一个excel节点，从excel开始
data = []
lhref = []
lerror = []
k = {}
browser.get(start_url)
browser.set_page_load_timeout(10) #超时设置
xpath_text = '//li[contains(@class,"tree")]/span[text()="Excel"][1]'
cl = browser.find_element_by_xpath(xpath_text)
k = {'text':'Excel'}
k['children'] = GetMenuDick_jstree(cl,1,xpath_text,20)
data.append(k)
# Writing JSON data
with open(r'templete\data.json', 'w', encoding='utf-8') as f:
json.dump(data, f)
进行到这里，已经拥有了excel vba下所有的菜单信息以及对应的url。下来需要得到页面主体。
实现思路：
1、遍历所有url
2、通过url得到相应的文件名
#
# 根据网页地址，得到文件名，并创建相应文件夹
#
def create_file(url):
t = 'https://docs.microsoft.com/zh-cn/office/'
# 替换掉字眼，然后根据路径生成相应文件夹
url = url.replace(t,"",1)
lname = url.split('/')
# 先判断有没有第一个文件夹
path = lname[0]
if not os.path.isdir(path):
os.mkdir(path)
for l in lname[1:-1]:
path = path + '\\' + str(l)
if not os.path.isdir(path):
os.mkdir(path)
if len(lname) > 1:
path = path + '\\' + lname[-1] + '.html'
return path
3、访问url得到主体信息储存。
# requests模式
# 循环遍历,如果错误，记录下来，以后再执行
had_lhref = []
error_lhref = []
num = 1
for url in lhref:
try:
had_lhref.append(url)
path = create_file(url)
resp = requests.get(url,timeout=5,headers = headers) # 设置访问超时，以及http头
resp.encoding = 'utf-8'
html = etree.HTML(resp.text)
c = html.xpath('//main[@id="main"]')
# tostring获取标签所有html内容，是字节类型，要decode为字符串
content = html_head + etree.tostring(c[0], method='html').decode('utf-8')
with open(path,'w', encoding='utf-8') as f:
f.write(content)
except Exception as e:
print('error message:',str(e),'error url:',url)
error_lhref.append(url)
if num ％ 10 == 0 :
print('done:',str(num) + '/' + str(len(lhref)),'error num:' + str(len(error_lhref)))
#time.sleep(1) # 睡眠一下，防止被反
num = num + 1
现在，菜单信息与内容都有了，需要构建自己的主页，这里使用了jstree;2个html，index.html,menu.html。
index.html:使用frame页面框架，相对隔离。
<!DOCTYPE html>
<html>
<head>
<meta charset="UTF-8">
<meta name="viewport" content="width=device-width, initial-scale=1, maximum-scale=1, user-scalable=no">
<title>参考文档</title>
<script src="js/jquery.min.js"> </script>
</head>
<frameset rows="93％,7％">
<frameset cols="20％,80％" frameborder="yes" framespacing="1">
<frame src="menu.html" name="menuframe"/>
<frame id="showframe" name="showframe" />
</frameset>
<frameset frameborder="no" framespacing="1">
<frame src="a.html" />
</frameset>
</frameset>
</html>
menu.html:
1、引入了data.json，这样在可以进行离线调用，使用ajax.get读取json的话，会提示跨域失败；
2、jstree会禁止<a>跳转事件，所有需要通过监听"change.tree"事件来进行跳转。
<!DOCTYPE html>
<html lang="en">
<head>
<meta charset="UTF-8">
<title>Title</title>
<script src="js/jquery.min.js"></script>
<link rel="stylesheet" href="themes/default/style.min.css" rel="external nofollow" />
<script src="js/jstree.min.js"></script>
<script type="text/javascript" src="data.json"></script>
</head>
<body>
<div>
<form id="s">
<input type="search" id="q" />
<button type="submit">Search</button>
</form>
<div id="container">
</div>
<div id="container"></div>
<script>
$(function () {
$('#container').jstree({
"plugins": ["search", "changed"],
'core': {
'data': data,
}
});
});
$('#container').on("changed.jstree", function (e, data) {
//console.log(data.changed.selected.length); // newly selected
//console.log(data.changed.deselected); // newly deselected
if (data.changed.selected.length > 0){
// 说明转换了，获取url
var url = data.node.a_attr.href
// console.log(url)
if (url == "#"){
}else{
parent[data.node.a_attr.target].location.href = url
}
}else{
}
})
$("#s").submit(function (e) {
e.preventDefault();
$("#container").jstree(true).search($("#q").val());
});
</script>
</div>
</body>
</html>
以上，得到最后的本地版网页excel vba参考工具。最后，部分office自带本地版的vba参考工具，有点白干一场。
来源：https://www.cnblogs.com/cycxtz/p/13303306.html
0
投稿猜你喜欢
- 本文实例讲述了PHP设计模式之装饰器模式定义与用法。分享给大家供大家参考，具体如下：什么是装饰器模式作为一种结构型模式, 装饰器(Decor
本例最终效果图： 新建图像文件后选Channels面板，新建Alpha1通道：输- 1.数组的索引我用的是iloc函数。导入数据是data，索引data.iloc[i,j]，i代表行，j代表列。如果要索引i行之后的所有行元素
- 实验结论如果需要在循环结束后获得结果，推荐列表解析；如果不需要结果，直接使用for循环, 列表解析可以备选;除了追求代码优雅和特定规定情境，
- 本文实例讲述了Python实现方便使用的级联进度信息的方法。分享给大家供大家参考。具体实现方法如下：class StepedProgress
- 原文：http://www.smashingmagazine.com/ ... emarkable-favicons/翻译：Blank（怿飞
- 此文刊登在《程序员》三月期，有删改提到安全问题，首先想到应付这些问题的应该是系统管理员以及后台开发工程师们，而前端开发工程师似乎离这些问题很
- explain显示了mysql如何使用索引来处理select语句以及连接表.可以帮助选择更好的索引和写出更优化的查询语句.使用方法:在sel
- 本文讲述了Python检测网络延迟的代码。分享给大家供大家参考，具体如下：#!/usr/bin/env python # coding: u
- 在TypeScript 项目中，我们经常需要使用声明一系列的ts类型。然而，手动写的效率实在太低，编写一个自动生成ts类型的工具可以解放生产
- 安装SDK：pip install baidu-aip如果在pycharm里也可以在setting----Project Interpret
- 前言centos 是自带python的。但是版本稍微旧一些。搞python开发，肯定要用新一点的稳定版。所以，要升级一下python。本文将
- 1. yum list installed | grep php 查看安装的php版本mod_php72w.x86_64 7.2.1-1.w
- def get_seed_data(filename):dom = minidom.parse(filename)root = dom.do
- 1.线性与非线性回归线性回归 Linear Regression：两个变量之间的关系是一次函数关系的—&mdas
- 由于最近需要做项目，需要进行分词等，查了资料之后，发现python NLTK很强大，于是就想试试看。在网上找了很多安装资料，都不太完整，下载
- Python 包含6种数据类型，其中Number（数字）、String（字符串）、Tuple（元组）、List（列表）、Dictionary
- 一、 yaml1、 准备支持的数据类型：字典、列表、字符串、布尔值、整数、浮点数、Null、时间等基本语法规则：大小写敏感使用缩进表示层级关
- 本文实例为大家分享了python统计序列中元素的具体代码，供大家参考，具体内容如下问题1： &
- Python中核心的数据类型有哪些？变量（数字、字符串、元组、列表、字典）什么是数据的不可变性？哪些数据类型具有不可变性数据的不可变是指数据
