pandas常用函数整理,作为个人笔记。

仅标记函数大概用途做索引用,具体使用方式请参照pandas官方技术文档。

 

约定

from pandas import Series, DataFrame

import pandas as pd

import numpy as np

.的为Series或者DataFrame对象的方法,只列举了部分关键字参数。

 

1、基础

.values 获取值,返回array对象

.index 获取(行)索引,返回索引对象

Series( index=) 创建Series,可指定索引

pd.isnull pd.notnull 返回是否为缺失值的布尔型数组

.isnull 同上

DataFrame(columns=,index=) 创建DataFrame,可指定行索引,列索引

.T 行列转置

del 关键字 删除

.reindex(method=, fill_value=, index=, columns=) 重新索引,即按照新索引创建新对象,可指定缺失值 填充方式,缺失值插值方式,行索引,列索引

.ix[ , ] 同上,添入行、列索引,可传入列表

.drop(axis=) 删除指定轴上的指定值

.apply(axis=) 沿指定轴应用函数

.sort_index(axis=, by=列名) 对索引排序,可根据指定列的值进行排序

.order 按值排序

.rank(ascending=, method=, axis=) 排名

.index.is_unique 检查索引值唯一性(是否有重复项)

 

2、约简类,可指定轴、是否排除缺失值、层次化索引分组约简。

.sum(axis=, skipna=, level=) 求和

.mean 均值

.idxmax 返回最大值索引

.cumsum 累积和

.describe统计描述汇总

.count nan值数量

.min 最小值

.quantile 分位数

.median 中位数

.mad 平均绝对离差

.var 方差

.std 标准差

.skew 偏度

.kurt 峰度

.cumprod 累积积

.diff

.pct_change

.tail 显示尾行,五个

.head 显示开始行,五个

.corr 求相关系数(SeriesSeries,或者DataFrameDataFrame

.cov 求协方差

.corrwith 求相关系数(DataFrame的行或列 SeriesDataFrame

.unique 得到唯一值数组

.value_counts(sort=) 求值频率,可传入False指定降序排列

.isin 判断成员资格

.dropna(how=, axis=, thresh=) 丢弃缺失数据,对DataFrame可指定丢弃方式

.fillna(inplace=method=, limit=) 用指定值或字典填充缺失数据,可指定是否就地修改,填充方式,填充数量限制

.unstack 行索引转列索引

.stack 列索引转行索引

MultiIndex.from_arrays 用数组构建层次化索引

.swaplevel 重排层次化索引分级顺序

.sortlevel 根据单个级别的值对数据排序

.set_index(drop=) 将某一列转为行索引

.reset_index 将行索引转为列

.irow 根据整数位置选取行

.icol 根据整数位置选取列

pd.Panel 创建面板数据

.to_panel DataFrame转换为Panel

.to_frame Panel转换为DataFrame

 

3、数据读取

pd.read_csv(sep=, delim_whitespace=, header=,skiprows=,converters=,keep_date_col=,parse_date=,na_values=,nrows=,skip_footer=, )

最常用的csvtext文件读取方式

.to_csv 将数据写入csv

.from_csv csv读取数据

 

4、数据规整

pd.merge(on=,how=,suffixes=,left_index=,right_index=) 横向合并

.join(how=, on=, ) 按索引合并,可传入一组DataFrame

pd.concat(axis=,join=,join_axes=,keys=,names=,ignore_index=) 纵向连接,也可以传入轴进行横向连接

np.nan nan

np.where 矢量化if-else表达,第一个为判断条件,可为布尔型数组,后面两个为值

.combine_first 用一个数据为另一个数据“打补丁”

.pivot 长格式转宽格式,指定行索引,列索引名,填充值列

.duplicated 返回布尔型Series,表示各行是否是重复行(第一次出现的值为False,再次出现为True

.drop_duplicates(take_last=) 返回移除了重复行的DataFrame,可指定是保留第一个还是最后一个

.map 元素级转换函数,可将函数应用于SeriesDataFrame某列

.replace 替换指定值,第一个参数为要被替换的值,第二个是用来替换的值,支持字典

.rename(index=, columns=,inplace=) 轴标签更新,接受字典,可就地修改

pd.cut(right=,labels=) 面元划分

pd.value_counts 值频率计算

.any 可用来过滤异常值,里面为容忍度整数

.take 按指定顺序重排序,可接受列表

np.random.permutation 产生随机重排列

pd.get_dummies(prefix=) 计算哑变量矩阵,可指定列前缀

 

字符串对象方法

.split 按指定值拆分字符串

.strip 修剪空白符和换行符

.join 用指定值连接字符串

.index 返回索引,找不到则引发异常

.find 返回索引,找不到返回-1

.count 返回指定子串出现次数

re.compile 编译regex对象

re.compile.findall 得到匹配regex的所有模式

 

pd中的方法

.str.contains 按指定模式搜索,返回布尔型数组

.str.match 按指定模式获取

.str.get 按指定模式获取

.str[] 按指定模式获取

 

 

5、分组运算

.groupby(level=, axis=,group_keys=) 进行按列分组,然后就可以调用进行聚合或其他运算了

.size 返回含有分组大小的Series

.agg(as_index=) 可对已经分组的对象应用,传入函数,或者针对不同列的不同函数,用字典。

.add_prefix 为列索引加前缀

.transform 传入函数,将指定函数应用到各个分组,将结果放置到适当的位置

.apply() 一般性的“拆分-应用-合并”函数,超级有用

pd.pivot_table(rows=, cols=, margins=, aggfunc=, fill_value=) 分组聚合,可指定需要聚合的列,分组列,添加分项小计,传入聚合函数,缺失值设置。

pd.crosstab计算分组频率的交叉表

 

6、时序分析

from datetime import datetime

datetime.now 获取当前时间

now.year

now.month

now.day

.strftime 日期转为字符串,可指定格式

.strptime 字符串转为日期,可指定格式

from dateutil.parser import parse

parse 解析日期

pd.to_datetime 解析日期

pd.date_range(periods=, freq=) 生成日期索引

pd.DatetimeIndex 创建时间序列

.resample(how=,closed=,loffset=,fill_method=,limit=) 重采样

.shift(freq=) 数据前移或滞后,正数为滞后,可指定周期

.tz_locallize 将单纯时区转本地化

.tz_convert 对本地化时区进行时区转换

pd.Timestamp 创建时间戳序列

pd.Period 创建时期序列

pd.period_range 创建时期范围序列

pd.PeriodIndex 创建时期索引

.asfreq 时期频率转换

.to_timestamp 时期转时间戳

.to_period 时间戳转时期

.plot 画图

 

 

缺点和不足:未针对SeriesDataFrame的方法做明确区别;index对象的方法未列举;其他数据读入方式未列取;关键字参数仅列举了部分;可视化未列举;时序分析写的过简;pandas版本存在更新,函数及参数未完全验证;一些操作技巧未说明。

补充:了解基础部分就可以辅助完成策略编写,而分组运算和时序分析部分函数不多,但灵活性很强,对个人研究的数据处理帮助较大,可以轻松画出经典技术指标图,或者构建自己的技术指标。更多统计分析与建模,还需要其他库的支持。

其他疑问,京东量化群搜小馒头便可找到我。

参考书籍《利用python进行数据分析》。

 

下次有时间会更新常用pandas操作示例。另,决定进阶statsmodels,欢迎交流。

 

PS:刚写完笔记准备发的时候,才发现24小时之前的征文活动。心疼自己后知后觉,不然按照我的打字速度,800字作文分分钟写好,手环早到手啦呜呜呜。


0条回复 添加回复
提交
Copyright © 2004-2017 京东JD.com 版权所有 | 投资有风险,购买需谨慎