python实现自动化报表功能(Oracle/plsql/Excel/多线程)
作者:lzykevin 发布时间:2021-04-02 02:05:02
标签:python,自动化,报表,多线程
日常会有很多固定报表需要手动更新,本文将利用python实现多线程运行oracle代码,并利用xlwings包和numpy包将结果写入到指定excel模版(不改变模版内容),并自动生成带日期命名的新excel。此外还添加了logging模块记录运行日志,以及利用try…except实现遇到错误自动重新运行。下面将介绍整个自动化的实现过程。
# -*- coding: utf-8 -*-
# Create time: 2019-10-16
# Update time: 2019-11-28
# Version: 1.0
# Version: 2.0 增加多线程/出错自动重新运行模块
# 导入模块
import cx_Oracle
import os
import pandas as pd
import pandas.io.sql as sql
import time
import openpyxl
import xlwings as xw
import logging
import re
import threading
# 获取工作目录
sqlpath = os.getcwd() + '\\' # 获取当前文件夹目录,若不正确则使用后面的代码直接输入 sqlpath = 'E:\\'
# 设置运行日志
logging.basicConfig(format='%(asctime)s - %(pathname)s] - %(levelname)s: %(message)s', level=logging.INFO, filename=sqlpath+'log.txt')
# 获取系统日期(用于命名文件)
time_start=time.time()
date = time.strftime("%Y%m%d")
# 定义变量
name = '经营日报' # 模版名称
print('开始运行: %s' %name)
# sql代码文件名
sql1 = sqlpath + 'hangxian_ri.sql'
sql2 = sqlpath + 'hangxian_zhou.sql'
sql3 = sqlpath + 'hangxian_yue.sql'
# 定义空DataFrame(函数中要使用,必须要先定义)
result1 = pd.DataFrame()
result2 = pd.DataFrame()
result3 = pd.DataFrame()
# 定义可以读取运行sql的函数
def read_run_write1(sql_name):
global result1 # 调用全局变量result1,使用global才能对全局变量进行修改
print('正在运行代码: %s' %sql_name)
with open(sql_name,encoding='utf-8-sig',mode='r') as f: # 读取oracle代码,中文编码utf-8-sig,
sql_list = f.read()
sql_list = re.sub(r'--.*', '', sql_list) # 去除注释
connection = cx_Oracle.connect('账号/密码@IP地址/数据库名称')
code = sql_list.replace('\n', ' ').replace(';','') # 将换行符转为空格,去除分号
for i in range(5): # 运行oracle代码,若运行失败则10秒自动重新运行
try:
result1 = sql.read_sql(code, connection) # 利用pd包的read_sql函数运行代码,返回DataFrame类型的结果
break # 代码运行成功则跳出循环
except:
print('代码%s运行出错,正在重新运行第%d次' %(sql_name,(i+1)))
time.sleep(10) # 代码运行失败则10秒后再重新运行
print('代码运行完成: %s' %sql_name)
def read_run_write2(sql_name):
global result2
print('正在运行代码: %s' %sql_name)
with open(sql_name,encoding='utf-8-sig',mode='r') as f:
sql_list = f.read()
sql_list = re.sub(r'--.*', '', sql_list) # 去除注释
connection = cx_Oracle.connect('账号/密码@IP地址/数据库名称')
code = sql_list.replace('\n', ' ').replace(';','') # 将换行符转为空格,去除分号
for i in range(5):
try:
result2 = sql.read_sql(code, connection)
break
except:
print('代码%s运行出错,正在重新运行第%d次' %(sql_name,(i+1)))
time.sleep(10)
print('代码运行完成: %s' % sql_name)
def read_run_write3(sql_name):
global result3
print('正在运行代码: %s' %sql_name)
with open(sql_name,encoding='utf-8-sig',mode='r') as f:
sql_list = f.read()
sql_list = re.sub(r'--.*', '', sql_list) # 去除注释
connection = cx_Oracle.connect('账号/密码@IP地址/数据库名称')
code = sql_list.replace('\n', ' ').replace(';','') # 将换行符转为空格,去除分号
for i in range(5):
try:
result3 = sql.read_sql(code, connection)
break
except:
print('代码%s运行出错,正在重新运行第%d次' %(sql_name,(i+1)))
time.sleep(10)
print('代码运行完成: %s' % sql_name)
# 多线程运行sql代码
if __name__ == '__main__':
t1 = threading.Thread(target=read_run_write1, args=(sql1,)) # 调用函数,并传递参数sql1,注意当只有一个参数时,参数后面需要有逗号
t2 = threading.Thread(target=read_run_write2, args=(sql2,))
t3 = threading.Thread(target=read_run_write3, args=(sql3,))
t1.start() # 开始运行
t2.start()
t3.start()
t1.join() # 加入线程,若无join()则运行完一个主线程后则会自动跳出,运行下面的代码,而不会等待其他线程运行完成
t2.join()
t3.join()
# 写入数据
print('正在写入数据')
app = xw.App(visible=False,add_book=False) # visible=False后台打开Excel程序
wb = app.books.open(sqlpath+name+'.xlsx') # 打开给定只保留标题和公式的空模版
wb.sheets['单日'].range('A4').options(expand='table').value=result1[:].values # result[:].values写法可以去掉索引和标题,将result1写入到表格'单日',从A4单元格开始
wb.sheets['滚动一周'].range('A4').options(expand='table').value=result2[:].values
wb.sheets['月累计'].range('A4').options(expand='table').value=result3[:].values
filename = sqlpath+name+date+'.xlsx' # 命名新生成的excel
wb.save(filename) # 另存为新Excel,不改变模版
wb.close() # 关闭工作簿
print(filename+'已自动生成')
time_end=time.time()
print("程序运行时间:%.2f s" % (time_end-time_start))
logging.info("程序运行时间:%.2f s" % (time_end-time_start)) # 记录程序运行时间到运行日志log.txt中
python自动化中的一些难点
多线程无法同时对excel进行写入操作,如果直接在函数中运行完成后直接写入,并利用多线程运行,会报错com模块冲突
为了解决函数不能直接生成结果变量的问题, 应先定义空DataFrame,并在函数中global声明为调用全局变量才能达到运行完函数生成变量的效果(可能还有其他更好方法)
运行结果
总结
以上所述是小编给大家介绍的python实现自动化报表(Oracle/plsql/Excel/多线程)网站的支持!
如果你觉得本文对你有帮助,欢迎转载,烦请注明出处,谢谢!
来源:https://blog.csdn.net/lzykevin/article/details/103303249


猜你喜欢
- 一、要求二、思路1.购物类buy接收 信用卡类 的信用卡可用可用余额,返回消费金额2.信用卡(ATM)类接收上次操作后,信用卡可用余额,总欠
- 本文实例为大家分享了Python3实现汉语转换为汉语拼音的具体代码,供大家参考,具体内容如下工具: Python3.6.2,pycharm1
- 本文实例讲述了PHP实现的随机IP函数。分享给大家供大家参考,具体如下:function get_rand_ip(){ $arr
- 代码如下:<% sBASE_64_CHARACTERS = "ABCDEFGHIJKLMNOP
- isnumeric()方法检查字符串是否仅由数字组成。这种方法只表示为Unicode对象。注意:要定义一个字符串为Unicode
- JSON(JavaScript Object Notation) 是一种轻量级的数据交换格式,采用完全独立于语言的文本格式,是理想的数据交换
- import numpy as npimport sysdef conv_(img, conv_filter): filter_
- (1)int转strings := strconv.Itoa(i)等价于s := strconv.FormatInt(int64(i), 1
- 最近用uniapp开发h5 实现扫码功能前端界面如图首先打开uniapp官网,在uni-app官网上发现uni-app不支持H5扫码功能。失
- 一、前言在写业务代码时候,有许多场景需要重试某块业务逻辑,例如网络请求、购物下单等,希望发生异常的时候多重试几次。本文分享如何利用Pytho
- 1.创建主键语法 ALTER TABLE table_name ADD CONSTRAINT pk_name PRIMARY KEY(列名)
- 常有新手问我该怎么备份数据库,下面介绍3种备份数据库的方法:(1)备份数据库文件MySQL中的每一个数据库和数据表分别对应文件系统中的目录和
- (1)在校大学生。最好是数学或计算机相关专业,编程能力还可以的话,稍微看一下爬虫知识,主要涉及一门语言的爬虫库、html解析、内容存储等,复
- 分支结构分支结构是结构化程序设计中的基础。针对分支结构,Go 提供了两种语句形式,一种是 if,另一种是 switch。ifif 语句是 G
- #!/usr/bin/env python# -*- coding: utf-8 -*-import os, base64ico
- 网上学习的时候总会遇到一些好的文章,分享给大家,也谢谢作者的分享。Python 简介Python 是一个高层次的结合了解释性、编译性、互动性
- splinter介绍 Splinter是一个使用Python测试Web应用程序的开源工具,可以自动化浏览器操作,例如访问URL和与它们的项
- 问题你要处理由大量不同类型的对象组成的复杂数据结构,每一个对象都需要需要进行不同的处理。比如,遍历一个树形结构,然后根据每个节点的相应状态执
- 相信每个前端工程师都有自己喜爱的javascript框架,说情感也好,道信仰也罢,javascript框架带给人的不仅仅是便捷的开发,更有一
- layui的table的自定义模板需要用到{{}},但是和Django的{{}}冲突了,layui的{{}}失效了解决方法:从Django