Python Pandas数据处理高频操作详解

引入依赖

#?导入模块
import?pymysql
import?pandas?as?pd
import?numpy?as?np
import?time

#?数据库
from?sqlalchemy?import?create_engine

#?可视化
import?matplotlib.pyplot?as?plt
#?如果你的设备是配备Retina屏幕的mac，可以在jupyter?notebook中，使用下面一行代码有效提高图像画质
％config?InlineBackend.figure_format?=?'retina'
#?解决?plt?中文显示的问题?mymac
plt.rcParams['font.sans-serif']?=?['Arial?Unicode?MS']
#?设置显示中文?需要先安装字体?aistudio
plt.rcParams['font.sans-serif']?=?['SimHei']?#?指定默认字体
plt.rcParams['axes.unicode_minus']?=?False??#?用来正常显示负号
import?seaborn?as?sns
#?notebook渲染图片
％matplotlib?inline
import?pyecharts

#?忽略版本问题
import?warnings
warnings.filterwarnings("ignore")??

#?下载中文字体
!wget?https://mydueros.cdn.bcebos.com/font/simhei.ttf?
#?将字体文件复制到?matplotlib'字体路径
!cp?simhei.ttf?/opt/conda/envs/python35-paddle120-env/Lib/python3,7/site-packages/matplotib/mpl-data/fonts.

#?一般只需要将字体文件复制到系统字体田录下即可,但是在?studio上该路径没有写权限,所以此方法不能用?
#?!cp?simhei.?ttf?/usr/share/fonts/

#?创建系统字体文件路径
!mkdir?.fonts
#?复制文件到该路径
!cp?simhei.ttf?.fonts/
!rm?-rf?.cache/matplotlib

算法相关依赖

#?数据归一化
from?sklearn.preprocessing?import?MinMaxScaler

#?kmeans聚类
from?sklearn.cluster?import?KMeans
#?DBSCAN聚类
from?sklearn.cluster?import?DBSCAN
#?线性回归算法
from?sklearn.linear_model?import?LinearRegression
#?逻辑回归算法
from?sklearn.linear_model?import?LogisticRegression
#?高斯贝叶斯
from?sklearn.naive_bayes?import?GaussianNB
#?划分训练/测试集
from?sklearn.model_selection?import?train_test_split
#?准确度报告
from?sklearn?import?metrics
#?矩阵报告和均方误差
from?sklearn.metrics?import?classification_report,?mean_squared_error

获取数据

from?sqlalchemy?import?create_engine
engine?=?create_engine('mysql+pymysql://root:root@127.0.0.1:3306/ry?charset=utf8')

#?查询插入后相关表名及行数
result_query_sql?=?"use?information_schema;"
engine.execute(result_query_sql)
result_query_sql?=?"SELECT?table_name,table_rows?FROM?tables?WHERE?TABLE_NAME?LIKE?'log％％'?order?by?table_rows?desc;"
df_result?=?pd.read_sql(result_query_sql,?engine)

生成df

#?list转df
df_result?=?pd.DataFrame(pred,columns=['pred'])
df_result['actual']?=?test_target
df_result

#?df取子df
df_new?=?df_old[['col1','col2']]

#?dict生成df
df_test?=?pd.DataFrame({<!--?-->'A':[0.587221,?0.135673,?0.135673,?0.135673,?0.135673],?
????????????????????????'B':['a',?'b',?'c',?'d',?'e'],
????????????????????????'C':[1,?2,?3,?4,?5]})

#?指定列名
data?=?pd.DataFrame(dataset.data,?columns=dataset.feature_names)

#?使用numpy生成20个指定分布(如标准正态分布)的数
tem?=?np.random.normal(0,?1,?20)
df3?=?pd.DataFrame(tem)

#?生成一个和df长度相同的随机数dataframe
df1?=?pd.DataFrame(pd.Series(np.random.randint(1,?10,?135)))

重命名列

#?重命名列
data_scaled?=?data_scaled.rename(columns={<!--?-->'本体油位':?'OILLV'})

增加列

#?df2df
df_jj2yyb['r_time']?=?pd.to_datetime(df_jj2yyb['cTime'])

#?新增一列根据salary将数据分为3组
bins?=?[0,5000,?20000,?50000]
group_names?=?['低',?'中',?'高']
df['categories']?=?pd.cut(df['salary'],?bins,?labels=group_names)

缺失值处理

#?检查数据中是否含有任何缺失值
df.isnull().values.any()

#?查看每列数据缺失值情况
df.isnull().sum()

#?提取某列含有空值的行
df[df['日期'].isnull()]

#?输出每列缺失值具体行数
for?i?in?df.columns:
????if?df[i].count()?!=?len(df):
????????row?=?df[i][df[i].isnull().values].index.tolist()
????????print('列名："{}", 第{}行位置有缺失值'.format(i,row))

#?众数填充
heart_df['Thal'].fillna(heart_df['Thal'].mode(dropna=True)[0],?inplace=True)

#?连续值列的空值用平均值填充
dfcolumns?=?heart_df_encoded.columns.values.tolist()
for?item?in?dfcolumns:
????if?heart_df_encoded[item].dtype?==?'float':
???????heart_df_encoded[item].fillna(heart_df_encoded[item].median(),?inplace=True)

独热编码

df_encoded?=?pd.get_dummies(df_data)

替换值

#?按列值替换
num_encode?=?{<!--?-->
????'AHD':?{<!--?-->'No':0,?"Yes":1},
}
heart_df.replace(num_encode,inplace=True)

删除列

df_jj2.drop(['coll_time',?'polar',?'conn_type',?'phase',?'id',?'Unnamed:?0'],axis=1,inplace=True)

数据筛选

#?取第33行数据
df.iloc[32]

#?某列以xxx字符串开头
df_jj2?=?df_512.loc[df_512["transformer"].str.startswith('JJ2')]

df_jj2yya?=?df_jj2.loc[df_jj2["变压器编号"]=='JJ2YYA']

#?提取第一列中不在第二列出现的数字
df['col1'][~df['col1'].isin(df['col2'])]

#?查找两列值相等的行号
np.where(df.secondType?==?df.thirdType)

#?包含字符串
results?=?df['grammer'].str.contains("Python")

#?提取列名
df.columns

#?查看某列唯一值（种类）
df['education'].nunique()

#?删除重复数据
df.drop_duplicates(inplace=True)

#?某列等于某值
df[df.col_name==0.587221]
#?df.col_name==0.587221?各行判断结果返回值(True/False)

#?查看某列唯一值及计数
df_jj2["变压器编号"].value_counts()

#?时间段筛选
df_jj2yyb_0501_0701?=?df_jj2yyb[(df_jj2yyb['r_time']?&gt;=pd.to_datetime('20200501'))?&amp;?(df_jj2yyb['r_time']?&lt;=?pd.to_datetime('20200701'))]

#?数值筛选
df[(df['popularity']?&gt;?3)?&amp;?(df['popularity']?&lt;?7)]

#?某列字符串截取
df['Time'].str[0:8]

#?随机取num行
ins_1?=?df.sample(n=num)

#?数据去重
df.drop_duplicates(['grammer'])

#?按某列排序(降序)
df.sort_values("popularity",inplace=True,?ascending=False)

#?取某列最大值所在行
df[df['popularity']?==?df['popularity'].max()]

#?取某列最大num行
df.nlargest(num,'col_name')
#?最大num列画横向柱形图
df.nlargest(10).plot(kind='barh')

差值计算

# axis=0或index表示上下移动， periods表示移动的次数，为正时向下移，为负时向上移动。
print(df.diff(?periods=1,?axis=‘index‘))
print(df.diff(?periods=-1,?axis=0))
# axis=1或columns表示左右移动，periods表示移动的次数，为正时向右移，为负时向左移动。
print(df.diff(?periods=1,?axis=‘columns‘))
print(df.diff(?periods=-1,?axis=1))

#?变化率计算
data['收盘价(元)'].pct_change()

#?以5个数据作为一个数据滑动窗口，在这个5个数据上取均值
df['收盘价(元)'].rolling(5).mean()

数据修改

#?删除最后一行
df?=?df.drop(labels=df.shape[0]-1)

#?添加一行数据['Perl',6.6]
row?=?{<!--?-->'grammer':'Perl','popularity':6.6}
df?=?df.append(row,ignore_index=True)

#?某列小数转百分数
df.style.format({<!--?-->'data':?'{0:.2％}'.format})

#?反转行
df.iloc[::-1,?:]

#?以两列制作数据透视
pd.pivot_table(df,values=["salary","score"],index="positionId")

#?同时对两列进行计算
df[["salary","score"]].agg([np.sum,np.mean,np.min])

#?对不同列执行不同的计算
df.agg({<!--?-->"salary":np.sum,"score":np.mean})

时间格式转换

#?时间戳转时间字符串
df_jj2['cTime']?=df_jj2['coll_time'].apply(lambda?x:?time.strftime("％Y-％m-％d?％H:％M:％S",?time.localtime(x)))

#?时间字符串转时间格式
df_jj2yyb['r_time']?=?pd.to_datetime(df_jj2yyb['cTime'])

#?时间格式转时间戳
dtime?=?pd.to_datetime(df_jj2yyb['r_time'])
v?=?(dtime.values?-?np.datetime64('1970-01-01T08:00:00Z'))?/?np.timedelta64(1,?'ms')
df_jj2yyb['timestamp']?=?v

设置索引列

df_jj2yyb_small_noise?=?df_jj2yyb_small_noise.set_index('timestamp')

折线图

fig,?ax?=?plt.subplots()
df.plot(legend=True,?ax=ax)
plt.legend(loc=1)
plt.show()

plt.figure(figsize=(20,?6))
plt.plot(max_iter_list,?accuracy,?color='red',?marker='o',
?????????markersize=10)
plt.title('Accuracy?Vs?max_iter?Value')
plt.xlabel('max_iter?Value')
plt.ylabel('Accuracy')

散点图

plt.scatter(df[:,?0],?df[:,?1],?c="red",?marker='o',?label='lable0')???
plt.xlabel('x')??
plt.ylabel('y')??
plt.legend(loc=2)??
plt.show()??

柱状图

df?=?pd.Series(tree.feature_importances_,?index=data.columns)
#?取某列最大Num行画横向柱形图
df.nlargest(10).plot(kind='barh')

热力图

df_corr?=?combine.corr()
plt.figure(figsize=(20,20))
g=sns.heatmap(df_corr,annot=True,cmap="RdYlGn")

66个最常用的pandas数据分析函数

df?#任何pandas?DataFrame对象?
s?#任何pandas?series对象

从各种不同的来源和格式导入数据

pd.read_csv(filename)?#?从CSV文件?
pd.read_table(filename)?#?从分隔的文本文件（例如CSV）中?
pd.read_excel(filename)?#?从Excel文件?
pd.read_sql(query,?connection_object)?#?从SQL表/数据库中读取?
pd.read_json(json_string)?#?从JSON格式的字符串，URL或文件中读取。
pd.read_html(url)?#?解析html?URL，字符串或文件，并将表提取到数据帧列表?
pd.read_clipboard()?#?获取剪贴板的内容并将其传递给?read_table()?
pd.DataFrame(dict)?#?从字典中，列名称的键，列表中的数据的值

导出数据

df.to_csv(filename)?#?写入CSV文件?
df.to_excel(filename)?#?写入Excel文件?
df.to_sql(table_name,?connection_object)?#?写入SQL表?
df.to_json(filename)?#?以JSON格式写入文件

创建测试对象

pd.DataFrame(np.random.rand(20,5))???????????????#?5列20行随机浮点数?pd.Series(my_list)???????????????????????????????#?从一个可迭代的序列创建一个序列?my_list?
df.index?=?pd.date_range('1900/1/30',?periods=df.shape[0])?#?添加日期索引

查看、检查数据

df.head(n)???????????????????????#?DataFrame的前n行?
df.tail(n)???????????????????????#?DataFrame的最后n行?
df.shape?????????????????????????#?行数和列数?
df.info()????????????????????????#?索引，数据类型和内存信息?
df.describe()????????????????????#?数值列的摘要统计信息?
s.value_counts(dropna=False)?????#?查看唯一值和计数?
df.apply(pd.Series.value_counts)?#?所有列的唯一值和计数

数据选取

使用这些命令选择数据的特定子集。
df[col]???????????????#?返回带有标签col的列?
df[[col1,?col2]]??????#?返回列作为新的DataFrame?
s.iloc[0]?????????????#?按位置选择?
s.loc['index_one']????#?按索引选择?
df.iloc[0,:]??????????#?第一行?
df.iloc[0,0]??????????#?第一栏的第一元素

数据清理

df.columns?=?['a','b','c']??????????????????#?重命名列?
pd.isnull()?????????????????????????????????#?空值检查，返回Boolean?Arrray?
pd.notnull()????????????????????????????????#?与pd.isnull()?相反?
df.dropna()?????????????????????????????????#?删除所有包含空值的行?
df.dropna(axis=1)???????????????????????????#?删除所有包含空值的列?
df.dropna(axis=1,thresh=n)??????????????????#?删除所有具有少于n个非null值的行?
df.fillna(x)????????????????????????????????#?将所有空值替换为x?
s.fillna(s.mean())??????????????????????????#?用均值替换所有空值（均值可以用统计模块中的几乎所有函数替换?）?
s.astype(float)?????????????????????????????#?将系列的数据类型转换为float?
s.replace(1,'one')??????????????????????????#?1?用?'one'?
s.replace([1,3],['one','three'])????????????#?替换所有等于的值?替换为所有1?'one'?，并?3?用?'three'?df.rename(columns=lambda?x:?x?+?1)??????????#?列的重命名?
df.rename(columns={<!--?-->'old_name':?'new_?name'})#?选择性重命名?
df.set_index('column_one')??????????????????#?更改索引?
df.rename(index=lambda?x:?x?+?1)????????????#?大规模重命名索引

筛选，排序和分组依据

df[df[col]?&gt;?0.5]??????????????????????#?列?col?大于?0.5?df[(df[col]?&gt;?0.5)?&amp;?(df[col]?&lt;?0.7)]??#?小于?0.7?大于0.5的行?
df.sort_values(col1)???????????????????#?按col1升序对值进行排序?
df.sort_values(col2,ascending=False)???#?按col2?降序对值进行?排序?
df.sort_values([col1,col2],ascending=[True,False])?#按?col1?升序排序，然后?col2?按降序排序?
df.groupby(col)????????????????????????#从一个栏返回GROUPBY对象?
df.groupby([col1,col2])?#?返回来自多个列的groupby对象?
df.groupby(col1)[col2]?????????????????#?返回中的值的平均值?col2，按中的值分组?col1?（平均值可以用统计模块中的几乎所有函数替换?）?
df.pivot_table(index=col1,values=[col2,col3],aggfunc=mean)?#?创建一个数据透视表组通过?col1?，并计算平均值的?col2?和?col3?
df.groupby(col1).agg(np.mean)??????????#?在所有列中找到每个唯一col1?组的平均值?
df.apply(np.mean)??????????????????????#np.mean()?在每列上应用该函数?
df.apply(np.max,axis=1)????????????????#?np.max()?在每行上应用功能

数据合并

df1.append(df2)???????????????????#?将df2添加?df1的末尾?（各列应相同）?
pd.concat([df1,?df2],axis=1)??????#?将?df1的列添加到df2的末尾?（行应相同）?
df1.join(df2,on=col1,how='inner')?# SQL样式将列 df1 与 df2 行所在的列col 具有相同值的列连接起来。'how'可以是一个?'left'，?'right'，?'outer'，?'inner'

数据统计

df.describe()????#?数值列的摘要统计信息?
df.mean()????????#?返回均值的所有列?
df.corr()????????#?返回DataFrame中各列之间的相关性?
df.count()???????#?返回非空值的每个数据帧列中的数字?
df.max()?????????#?返回每列中的最高值?
df.min()?????????#?返回每一列中的最小值?
df.median()??????#?返回每列的中位数?
df.std()?????????#?返回每列的标准偏差

16个函数，用于数据清洗

#?导入数据集
import?pandas?as?pd

df?={<!--?-->'姓名':['?黄同学','黄至尊','黄老邪?','陈大美','孙尚香'],
?????'英文名':['Huang?tong_xue','huang?zhi_zun','Huang?Lao_xie','Chen?Da_mei','sun?shang_xiang'],
?????'性别':['男','women','men','女','男'],
?????'身份证':['463895200003128433','429475199912122345','420934199110102311','431085200005230122','420953199509082345'],
?????'身高':['mid:175_good','low:165_bad','low:159_bad','high:180_verygood','low:172_bad'],
?????'家庭住址':['湖北广水','河南信阳','广西桂林','湖北孝感','广东广州'],
?????'电话号码':['13434813546','19748672895','16728613064','14561586431','19384683910'],
?????'收入':['1.1万','8.5千','0.9万','6.5千','2.0万']}
df?=?pd.DataFrame(df)
df

1.cat函数

用于字符串的拼接

df["姓名"].str.cat(df["家庭住址"],sep='-'*3)

2.contains

判断某个字符串是否包含给定字符

df["家庭住址"].str.contains("广")

3.startswith/endswith

判断某个字符串是否以&hellip;开头/结尾

#?第一个行的“?黄伟”是以空格开头的
df["姓名"].str.startswith("黄")?
df["英文名"].str.endswith("e")

4.count

计算给定字符在字符串中出现的次数

df["电话号码"].str.count("3")

5.get

获取指定位置的字符串

df["姓名"].str.get(-1)
df["身高"].str.split(":")
df["身高"].str.split(":").str.get(0)

6.len

计算字符串长度

df["性别"].str.len()

7.upper/lower

英文大小写转换

df["英文名"].str.upper()
df["英文名"].str.lower()

8.pad+side参数/center

在字符串的左边、右边或左右两边添加给定字符

df["家庭住址"].str.pad(10,fillchar="*")??????#?相当于ljust()
df["家庭住址"].str.pad(10,side="right",fillchar="*")????#?相当于rjust()
df["家庭住址"].str.center(10,fillchar="*")

9.repeat

重复字符串几次

df["性别"].str.repeat(3)

10.slice_replace

使用给定的字符串，替换指定的位置的字符

df["电话号码"].str.slice_replace(4,8,"*"*4)

11.replace

将指定位置的字符，替换为给定的字符串

df["身高"].str.replace(":","-")

12.replace

将指定位置的字符，替换为给定的字符串(接受正则表达式)

replace中传入正则表达式，才叫好用；- 先不要管下面这个案例有没有用，你只需要知道，使用正则做数据清洗多好用；

df["收入"].str.replace("\d+\.\d+","正则")

13.split方法+expand参数

搭配join方 * 能很强大

#?普通用法
df["身高"].str.split(":")
#?split方法，搭配expand参数
df[["身高描述","final身高"]]?=?df["身高"].str.split(":",expand=True)
df
#?split方法搭配join方法
df["身高"].str.split(":").str.join("?"*5)

14.strip/rstrip/lstrip

去除空白符、换行符

df["姓名"].str.len()
df["姓名"]?=?df["姓名"].str.strip()
df["姓名"].str.len()

15.findall

利用正则表达式，去字符串中匹配，返回查找结果的列表

findall使用正则表达式，做数据清洗，真的很香！

df["身高"]
df["身高"].str.findall("[a-zA-Z]+")

16.extract/extractall

接受正则表达式，抽取匹配的字符串(一定要加上括号)

df["身高"].str.extract("([a-zA-Z]+)")
#?extractall提取得到复合索引
df["身高"].str.extractall("([a-zA-Z]+)")
#?extract搭配expand参数
df["身高"].str.extract("([a-zA-Z]+).*?([a-zA-Z]+)",expand=True

来源：https://mp.weixin.qq.com/s/4eFMuHmSF3N8I9h1WtHjQg