Jmeter并发执行Python 脚本的完整流程
作者:AirPython 发布时间:2021-05-12 02:52:49
本篇文章以文件上传为例,聊聊 Jmeter 并发执行 Python 脚本的完整流程
1. 前言
大家好,我是安果!
最近有小伙伴后台给我留言,说自己用 Django 写了一个大文件上传的 Api 接口,现在想本地检验一下接口并发的稳定性,问我有没有好的方案
本篇文章以文件上传为例,聊聊Jmeter 并发执行 Python 脚本的完整流程
2. Python 实现文件上传
大文件上传包含 3 个步骤,分别是:
获取文件信息及切片数目
分段切片,并上传- API
文件合并- API
文件路径参数化
2-1获取文件信息及切片数目
首先,获取文件的大小
然后,利用预设的切片大小获取分段总数
最后,获取文件名及 md5 值
import os
import math
import hashlib
def get_file_md5(self, file_path):
"""获取文件的md5值"""
with open(file_path, 'rb') as f:
data = f.read()
return hashlib.md5(data).hexdigest()
def get_filename(self, filepath):
"""获取文件原始名称"""
# 文件名带后缀
filename_with_suffix = os.path.basename(filepath)
# 文件名
filename = filename_with_suffix.split('.')[0]
# 后缀名
suffix = filename_with_suffix.split('.')[-1]
return filename_with_suffix, filename, suffix
def get_chunk_info(self, file_path):
"""获取分段信息"""
# 获取文件总大小(字节)
file_total_size = os.path.getsize(file_path)
print(file_total_size)
# 分段总数
total_chunks_num = math.ceil(file_total_size / self.chunk_size)
# 文件名(带后缀)
filename = self.get_filename(file_path)[0]
# 文件的md5值
file_md5 = self.get_file_md5(file_path)
return file_total_size, total_chunks_num, filename, file_md5
2-2切片及分段上传
利用分段总数和分段大小,对文件进行切片,调用分段文件上传接口
import requests
def do_chunk_and_upload(self, file_path):
"""将文件分段处理,并上传"""
file_total_size, total_chunks_num, filename, file_md5 = self.get_chunk_info(file_path)
# 遍历
for index in range(total_chunks_num):
print('第{}次文件上传'.format(index + 1))
if index + 1 == total_chunks_num:
partSize = file_total_size % chunk_size
else:
partSize = chunk_size
# 文件偏移量
offset = index * chunk_size
# 生成分片id,从1开始
chunk_id = index + 1
print('开始准备上传文件')
print("分片id:", chunk_id, "文件偏移量:", offset, ",当前分片大小:", partSize, )
# 分段上传文件
self.__upload(offset, chunk_id, file_path, file_md5, filename, partSize, total_chunks_num)
def __upload(self, offset, chunk_id, file_path, file_md5, filename, partSize, total):
"""分次上传文件"""
url = 'http://**/file/brust/upload'
params = {'chunk': chunk_id,
'fileMD5': file_md5,
'fileName': filename,
'partSize': partSize,
'total': total
}
# 根据文件路径及偏移量,读取文件二进制数据
current_file = open(file_path, 'rb')
current_file.seek(offset)
files = {'file': current_file.read(partSize)}
resp = requests.post(url, params=params, files=files).text
print(resp)
2-3合并文件
最后调用合并文件的接口,将分段小文件合成大文件
def merge_file(self, filepath):
"""合并"""
url = 'http://**/file/brust/merge'
file_total_size, total_chunks_num, filename, file_md5 = self.get_chunk_info(filepath)
payload = json.dumps(
{
"fileMD5": file_md5,
"chunkTotal": total_chunks_num,
"fileName": filename
}
)
print(payload)
headers = {
"Content-Type": "application/json"
}
resp = requests.post(url, headers=headers, data=payload).text
print(resp)
2-4文件路径参数化
为了并发执行,将文件上传路径参数化
# fileupload.py
...
if __name__ == '__main__':
filepath = sys.argv[1]
# 每一段切片的大小(MB)
chunk_size = 2 * 1024 * 1024
fileApi = FileApi(chunk_size)
# 分段上传
fileApi.do_chunk_and_upload(filepath)
# 合并
fileApi.merge_file(filepath)
3. Jmeter 并发执行
在使用 Jmeter 创建并发流程前,我们需要编写批处理脚本
其中,执行批处理脚本时,需要跟上文件路径一起执行
# cmd.bat
@echo off
set filepath=%1
python C:\Users\xingag\Desktop\rpc_demo\fileupload.py %*
然后,在本地新建一个 CSV 文件,写入多个文件路径
# 准备多个文件路径(csv)
C:\\Users\\xingag\\Desktop\\charles-proxy-4.6.1-win64.msi
C:\\Users\\xingag\\Desktop\\V2.0.pdf
C:\\Users\\xingag\\Desktop\\HBuilder1.zip
C:\\Users\\xingag\\Desktop\\HBuilder2.zip
接着,就可以使用 Jmeter 创建并发流程了
完整步骤如下:
创建一个测试计划,下面添加一个线程组
这里线程组数目与上面文件数目保持一致即可
线程组下,添加「同步定时器」
同步定时器中的「模拟用户组的数量」和上面参数数量保持一致
添加 CSV 数据文件设置
指向上面准备的 csv 数据文件,设置文件格式为 UTF-8,变量名称设置为file_path,最后将线程共享模式设置为「当前线程组」
添加调试取样器,方便调试
添加 OS 进程取样器
选择上面创建的批处理文件,命令行参数设置为「${file_path}」
添加查看结果数
4. 最后
运行上面创建的 Jmeter 并发流程,在结果数中可以查看并发上传文件的结果
当然,我们可以增加并发数量去模拟真实的使用场景,只需要修改 CSV 数据源及 Jmeter 参数即可
来源:https://www.cnblogs.com/xingag/p/15245085.html
猜你喜欢
- 一直也搞不清楚px与em之间的关系和特点,看过95%的中国网站需要重写CSS以后后确实收获很大。平时都是用px来定义字体,所以无法用浏览器字
- 最近,由于工作需要统计一下文本文档中的各种不同类字符的数量。将txt文本文档中包含的的中文、英文、数字等字符数量进行统计。这当然可以使用py
- 在了解了JavaScript1.7的相关更新后,我们再继续关注JavaScript1.8的新特性。在W3C Group带来的JavaScri
- 如下所示:import pandas as pddf = pd.DataFrame([1, 2, 3, 4, 5], index=[10,
- 以下是个人在学习beautifulSoup过程中的一些总结,目前我在使用爬虫数据时使用的方法的是:先用find_all()找出需要内容所在的
- 前言我们经常会与文件和目录打交道,对于这些操作python提供了一个os模块,里面包含了很多操作文件和目录的函数。在写一些系统脚本或者自动化
- 本文实例讲述了Go语言转换所有字符串为大写或者小写的方法。分享给大家供大家参考。具体如下:Go语言的string模块包含了ToLower和T
- django接口可以通过localhost或者127.0.0.1进行访问,但无法通过本机ip地址访问1. 修改django项目中的setti
- 环境Django 2.0 + Win 10 + Pycharm + 360浏览器报错项目结构(报异常)解决方法看了好多大佬的解决方法,基本上
- //获得视频文件的缩略图function getVideoCover($file,$time,$name) { &nb
- Memoization 是一种将函数返回值缓存起来的方法,在 Lisp, Ruby, Perl, Python 等语言中使用非常广泛。随着
- 在风起云涌的互联网浪潮中,产品迭代的速度越来越快。随着用户需求的激增,也不断带来了对设计师能力要求的提高。初入交互设计领域几年来,明显发现可
- 废话不多说了,直接给大家贴代码了,代码写的不好还去各位大侠见谅。#-*-coding:utf-8-*- #1、字典dict = {'
- 本文实例讲述了Python 网络编程之TCP客户端/服务端功能。分享给大家供大家参考,具体如下:demo.py(TCP客户端):import
- 一.背景一道ctf题,通过破解2048游戏获得flag游戏的规则很简单,需要控制所有方块向同一个方向运动,两个相同数字方块撞在一起之后合并成
- 一、调用百度接口进行人脸属性识别安装好baidu-aip模块,获取了百度AI接口密钥后,即可调用百度接口进行人脸属性识别了。首先以杨紫的图片
- 阅读上一篇:浏览器中的内存泄露 4.内存泄露的解决方案显式类型转换 首先说说最容易处理的情况 对于类型转换造成的错误,我们可以通过显式类型转
- 背景尽管到目前为止HTML4和XHTML1仍能够很好地满足我们的要求,但是它们仍然存在不足。为了满足用户丰富的基于Web应该程序的需要,达到
- 前言服务器的相关知识曾经让我非常困惑。我相信还有很多的Python开发者和我有着类似的遭遇。本文主要介绍了python下如何查询CS * 精英
- 1. 首先介绍pip常用命令pip安装命令: pip install package_name pip升级命令:pip install –u