python使用pandas实现数据分割实例代码
作者:llwang_10 发布时间:2021-07-02 11:09:19
标签:python,pandas,数据
本文研究的主要是Python编程通过pandas将数据分割成时间跨度相等的数据块的相关内容,具体如下。
先上数据,有如下dataframe格式的数据,列名分别为date、ip,我需要统计每5s内出现的ip,以及这些ip出现的频数。
ip date
0 127.0.0.21 15/Jul/2017:18:22:16
1 127.0.0.13 15/Jul/2017:18:22:16
2 127.0.0.11 15/Jul/2017:18:22:17
3 127.0.0.11 15/Jul/2017:18:22:20
4 127.0.0.21 15/Jul/2017:18:22:21
5 127.0.0.13 15/Jul/2017:18:22:22
6 127.0.0.14 15/Jul/2017:18:26:36
7 127.0.0.16 15/Jul/2017:18:32:15
8 127.0.0.11 15/Jul/2017:18:36:03
在网上找了很久但是没看到python的相关答案,但在stackoverflow找到了R语言的解法,有兴趣可以看看。
受它的启发,我用不太优雅的方式实现了我的需求,有更好解决方法的请不吝赐教:
step1: 将数据中日期格式变为标准格式
#date_ip为我的dataframe数据
date_ip['date'] = pd.to_datetime(date_ip['date'], format='%d/%b/%Y:%H:%M:%S')
step2: 将数据的开始时间、结束时间,按5s分割(由于时间段可能不是恰好是5s的倍数,为避免最后一个时间丢失,因此在最后加上5s)
frequency = 5
time_range = pd.date_range(date_ip['date'][0],
date_ip['date'][date_ip.shape[0]-1]
+frequency*Second(), freq='%sS'%frequency)
step3: 将date变为索引
date_ip = date_ip.set_index('date')
step4: 对每个时间段内的数据进行频数计算(由于通过标签切片时会包含头、尾数据,为避免重复计算,因此在尾部减1s)
for i in xrange(0,len(time_range)-1):
print get_frequency(date_ip.loc[time_range[i]:time_range[i+1]-1*Second()])
完整的代码
import pandas as pd
from pandas.tseries.offsets import Second
def get_frequency(date_ip):
ip_frequency = {}
for i in xrange(0,date_ip.shape[0]):
ip_frequency[date_ip['ip'][i]] = ip_frequency.get(date_ip['ip'][i], 0) + 1
return ip_frequency,date_ip.shape[0]
if __name__ == '__main__':
date_ip['date'] = pd.to_datetime(date_ip['date'], format='%d/%b/%Y:%H:%M:%S')
frequency = 5
time_range = pd.date_range(date_ip['date'][0], date_ip['date'][date_ip.shape[0]-1]
+frequency*Second(), freq='%sS'%frequency)
date_ip = date_ip.set_index('date')
for i in xrange(0, len(time_range) - 1):
print get_frequency(date_ip.loc[time_range[i]:time_range[i + 1]-1*Second()])
文章开头数据运行结果:
({'127.0.0.21' : 1, '127.0.0.13' : 1, '127.0.0.11' : 2}, 4)
({'127.0.0.21': 1, '127.0.0.13': 1}, 2)
({'127.0.0.14': 1}, 1)
({'127.0.0.16': 1}, 1)
({'127.0.0.11': 1}, 1)
总结
来源:http://blog.csdn.net/llwang_10/article/details/78590333
0
投稿
猜你喜欢
- uuid str int 之间的转换import uudi#str 转 uuiduuid.UUID('123456781234567
- function is_utf8($string) { &n
- 前言最近将使用爬虫爬取的链接保存到 mysql 数据库中时,发现我将链接使用 json_encode 保存时候,在数据库中却显示了转义字符,
- 很多人可能认为门户网站首页设计只是把一些导航、资讯内容和广告堆积起来摆放得好看就可以了,虽然这个观点也并不是完全错误的,确实门户网站首页是由
- 生活形态(Life-Style)的概念源自社会学与心理学,六十年代即有学者正式引用到市场营销领域,并运用其心理影射与多维度等特质,着力解释人
- 本文转自微信公众号:"算法与编程之美"1、前言之前的文章Python用HBuilder创建交流社区APP我们已经在HBu
- 冻结的集合前面一节讲述了集合的基本概念,注意,那里所涉及到的集合都是可原处修改的集合。还有一种集合,不能在原处修改。这种集合的创建方法是:&
- bbssend.asp'寻呼台页面,向在线网友发送寻呼信息<%@ Language=VBScript %&
- 【原文地址】 Fixes for Common VS 2008 and .NET 3.5 Beta2 Issu
- INSTR (源字符串, 目标字符串, 起始位置, 匹配序号) 在Oracle/PLSQL中,instr函数返回要截取的字符串在源字符串中的
- 问题:过滤用户输入中前后多余的空白字符‘ ++++abc123---
- python字典和JSON格式的转换首先引入 import json>>> d = {'s':'y
- 前言当需要将多张图像拼接成一张更大的图像时,通常会用到图片拼接技术。这种技术在许多领域中都有广泛的应用,例如计算机视觉、图像处理、卫星图像、
- 在Https页面中,如果iframe所引入页面是非https协议的页面,或者src属性不存在都可能导致浏览器弹出安全警告。本人在网上查找相关
- 本文实例为大家分享了python计算器的具体代码,供大家参考,具体内容如下主要用到的工具是Python中的Tkinter库比较简单直接上图形
- 在blueidea上看到movoin转的一个动态加载include文件代码,接着dnawo又修改了下,我用了dnawo修改后的版本,感觉挺好
- 加了三个验证漏洞以及四个getshell方法# /usr/bin/env python3# -*- coding: utf-8 -*-# @
- 执行时间方法1import datetimestarttime = datetime.datetime.now()#long running
- 如果你之前没用过进度条,八成是觉得它会增加不必要的复杂性或者很难维护,其实不然。要加一个进度条其实只需要几行代码。在这几行代码中,我们可以看
- 在建模时模型的超参数对精度有一定的影响,而设置和调整超参数的取值,往往称为调参。在实践中调参往往依赖人工来进行设置调整范围,然后使用机器在超