pandas常用函数

# coding=gbk  
''''' 
@author: 老村长
'''  
import pandas as pd  
import numpy as np  
import matplotlib.pyplot as plt  
# 1、可以通过传递一个list对象来创建一个Series,pandas会默认创建整型索引:  
# s=pd.Series([1,3,5,np.nan,6,8])  
# print(s)  
#   
# # 2、通过传递一个numpy array,时间索引以及列标签来创建一个DataFrame:  
# dates=pd.date_range('20130101',periods=6)  
# print(dates)  
# df=pd.DataFrame(np.random.randn(6,4),index=dates,columns=list('ABCD'))  
# print(df)  
#   
# # 3、通过传递一个能够被转换成类似序列结构的字典对象来创建一个DataFrame:  
# df2=pd.DataFrame({'A':1,'B':pd.Timestamp('20130102'),  
#                   'C':pd.Series(1,index=list(range(4)),dtype='float32'),  
#                   'D':np.array([3]*4,dtype='int32'),  
#                   'E':pd.Categorical(['test','train','test','train']),  
#                   'F':'fool'  
#                   })  
# print(df2)  
# # 4、查看不同列的数据类型:  
# print(df2.dtypes)  
#   
#   
#   
#   
# # 1、  查看frame中头部和尾部的行:  
# print(df.head(1))  
# print(df.tail(1))  
#   
# # 2、  显示索引、列和底层的numpy数据:  
# print(df.index)  
# print(df.columns)  
# print(df.values)  
#   
# # 3、  describe()函数对于数据的快速统计汇总:  
# print(df.describe())  
#   
# # 4、  对数据的转置:  
# print(df.T)  
#   
# # 5、  按轴进行排序  
# print(df.sort_index(axis=1,ascending=False))  
#   
# # 6、  按值进行排序  
# print(df.sort(columns='B'))  
#   
#   
#   
#   
#   
# # l  获取  
# #   
# # 1、 选择一个单独的列,这将会返回一个Series,等同于df.A:  
# print(df['A'])  
#   
# # 2、 通过[]进行选择,这将会对行进行切片  
# print(df[:3]) # 其中0可以省略 print(df[0:3])  
#   
# # l  通过标签选择  
# #   
# # 1、 使用标签来获取一个交叉的区域  
# print(df.loc[dates[0]])  
#   
# # 2、 通过标签来在多个轴上进行选择  
# print(df.loc[:,['A','B']])  
#   
# # 3、 标签切片  
# print(df.loc['20130102':'20130104',['A','B']])  
#   
# # 4、 对于返回的对象进行维度缩减  
# print(df.loc['20130101',['A','B']])  
#   
# # 5、 获取一个标量  
# print(df.loc[dates[0],'A'])  
#   
# # 6、 快速访问一个标量(与上一个方法等价)  
# print(df.at[dates[0],'A'])  
#   
# # l  通过位置选择  
# #   
# # 1、 通过传递数值进行位置选择(选择的是行)  
# print(df.iloc[3])  
#   
# # 2、 通过数值进行切片,与numpy/python中的情况类似  
# print(df.iloc[3:5,0:2])  
#   
# # 3、 通过指定一个位置的列表,与numpy/python中的情况类似  
# print(df.iloc[[1,2,4],[0,2]])  
#   
# # 4、 对行进行切片  
# print(df.iloc[1:3,:])  
#   
# # 5、 对列进行切片  
# print(df.iloc[:,1:3])  
#   
# # 6、 获取特定的值  
# print(df.iloc[1,1])  
#   
# # l  布尔索引  
# #   
# # 1、 使用一个单独列的值来选择数据:  
# print(df[df.A>0])  
#   
# # 2、 使用where操作来选择数据:  
# print(df[df>0])  
#   
# # 3、 使用isin()方法来过滤:  
# df2=df.copy()  
# df2['E']=['one','one','one','one','one','two']  
# print(df2)  
#   
# # l  设置  
# #   
# # 1、 设置一个新的列:  
# s1=pd.Series([1,2,3,4,5,6],index=pd.date_range('20130101', periods=6))  
#   
# print(s1)  
# df['F']=s1  
# print(df)  
#   
# # 2、 通过标签设置新的值:  
# df.at[dates[0],'A']=0  
# print(df)  
#   
# # 3、 通过位置设置新的值:  
# df.iat[0,1]=0  
# print(df)  
#   
# # 4、 通过一个numpy数组设置一组新值:  
# df.loc[:,'D']=np.array([5]*len(df))  
# print(df)  
#   
# # 5、 通过where操作来设置新的值:  
# df2=df.copy()  
# df2[df2>0]=-df2  
# print(df2)  
#   
#   
#   
#   
#   
#   
#   
# # 四、            缺失值处理  
# # 在pandas中,使用np.nan来代替缺失值,这些值将默认不会包含在计算中,详情请参阅:Missing Data Section。  
# #   
# # 1、  reindex()方法可以对指定轴上的索引进行改变/增加/删除操作,这将返回原始数据的一个拷贝:、  
#   
# df1=df.reindex(index=dates[0:4],columns=list(df.columns)+['E'])  
# print(df1)  
#   
# # 2、  去掉包含缺失值的行:  
# # df1.dropna(how='any',inplace=True)  
# # print(df1)  
#   
# # 3、  对缺失值进行填充:  
# # df1=df1.fillna(value=5)  
# # print(df1)  
#   
# # 4、  对数据进行布尔填充:  
# # print(pd.isnull(df1))  
#   
#   
#   
#   
# # 五、            相关操作  
# # 详情请参与 Basic Section On Binary Ops  
# #   
# # l  统计(相关操作通常情况下不包括缺失值)  
# #   
# # 1、  执行描述性统计:  
# print(df.mean())  
#   
# # 2、  在其他轴上进行相同的操作:  
# print(df.mean(1))  
#   
# # 3、  对于拥有不同维度,需要对齐的对象进行操作。Pandas会自动的沿着指定的维度进行广播:  
# s=pd.Series([1,3,5,np.nan,6,8],index=dates).shift(2)  
# print(s)  
#   
#   
# # l  Apply  
# #   
# # 1、  对数据应用函数:  
# print(df.apply(np.cumsum))  
# print(df.apply(lambda x:x.max()-x.min()))  
#   
# # l  直方图  
#   
# # 具体请参照:Histogramming and Discretization  
#   
# s=pd.Series(np.random.randint(0,7,size=10))  
# print(s)  
#   
# print(s.value_counts())  
#   
# # l  字符串方法  
# #   
# # Series对象在其str属性中配备了一组字符串处理方法,可以很容易的应用到数组中的每个元素  
# s=pd.Series(['A','B','C','Bcaa',np.nan,'CBA','dog','cat'])  
# print(s.str.lower())  




# 六、            合并  
# Pandas提供了大量的方法能够轻松的对Series,DataFrame和Panel对象进行各种符合各种逻辑关系的合并操作。具体请参阅:Merging section  
#   
# l  Concat  

# df=pd.DataFrame(np.random.randn(10,4))  
# # print(df)  
#   
# pieces=[df[:3],df[3:7],df[7:]]  
# print(pd.concat(pieces))  

# l  Join 类似于SQL类型的合并  

# left=pd.DataFrame({'key':['foo','foo'],'lval':[1,2]})  
# right=pd.DataFrame({'key':['foo','foo'],'rval':[4,5]})  
#   
# print(left)  
# print(right)  
#   
# mid=pd.merge(left,right,on='key')  
# print(mid)  

# l  Append 将一行连接到一个DataFrame上  
# df=pd.DataFrame(np.random.randn(8,4),columns=['A','B','C','D'])  
# print(df)  
# s=df.iloc[3]  
# print(s)  
# df=df.append(s,ignore_index=True)  
# print(df)  




# 七、            分组  
# 对于”group by”操作,我们通常是指以下一个或多个操作步骤:  
#   
# l  (Splitting)按照一些规则将数据分为不同的组;  
#   
# l  (Applying)对于每组数据分别执行一个函数;  
#   
# l  (Combining)将结果组合到一个数据结构中;  

# df=pd.DataFrame({'A':['foo','bar','foo','bar','foo','bar','foo','bar']  
#                  ,'B':['one','two','two','one','one','two','one','two']  
#                  ,'C':np.random.randn(8),'D':np.random.randn(8)})  
# print(df)  
#   
# # 1、  分组并对每个分组执行sum函数:  
# print(df.groupby('A').sum())  
#   
# # 2、  通过多个列进行分组形成一个层次索引,然后执行函数:  
# print(df.groupby(['A','B']).sum())  

# 八、            Reshaping  
# l  Stack  
# tuples=list(zip(*[['bar','bar','baz','baz','foo','foo','qux','qux']  
#                   ,['one','two','one','two','one','two','one','two']]))  
#   
# index=pd.MultiIndex.from_tuples(tuples, names=['first','second'])  
# df=pd.DataFrame(np.random.randn(8,2),index=index,columns=['A','B'])  
# df2=df[:4]  
# # print(df2)  
# print(df2.stack().unstack(1))  






# 九、            时间序列  
# Pandas在对频率转换进行重新采样时拥有简单、强大且高效的功能(如将按秒采样的数据转换为按5分钟为单位进行采样的数据)  
# rng=pd.date_range('1/1/2012',periods=100,freq='S')  
# print(rng)  
# ts=pd.Series(np.random.randint(0,500,len(rng)),index=rng)  
# print(ts)  
# print(ts.resample('5Min',how='sum'))  

# 1、  时区表示:  
# rng=pd.date_range('3/6/2012 00:00',periods=5,freq='D')  
# print(rng)  
# ts=pd.Series(np.random.randn(len(rng)),index=rng)  
# print(ts)  
# ts_utc=ts.tz_localize('UTC')  
# print(ts_utc)  
#   
# # 2、  时区转换:  
# print(ts_utc.tz_convert('US/Eastern'))  
#   
# # 3、  时间跨度转换:  
# rng=pd.date_range('1/1/2012',periods=5,freq='M')  
# print(rng)  
# ts=pd.Series(np.random.randn(len(rng)),index=rng)  
# print(ts)  
# ps=ts.to_period()  
# print(ps)  
# print(ps.to_timestamp())  

# 4、  时期和时间戳之间的转换使得可以使用一些方便的算术函数。  
# prng=pd.period_range('1990Q1','2000Q4',freq='Q-NOV')  
# print(prng)  
# ts=pd.Series(np.random.randn(len(prng)),index=prng)  
# print(ts)  
# ts.index=(prng.asfreq('M','e')+1).asfreq('H', 's')+8  
# print(ts.head())  







# 十、            Categorical  
# 从0.15版本开始,pandas可以在DataFrame中支持Categorical类型的数据  

# df=pd.DataFrame({'id':[1,2,3,4,5,6],'raw_grade':['a','b','b','a','a','e']})  
# print(df)  
#   
# # 1、  将原始的grade转换为Categorical数据类型:  
# df['grade']=df['raw_grade'].astype('category')  
# print(df)  
#   
# # 2、  将Categorical类型数据重命名为更有意义的名称:  
# df['grade'].cat.categories=['very good','good','very bad']  
# print(df)  
#   
# # 3、  对类别进行重新排序,增加缺失的类别:  
# df['grade']=df['grade'].cat.set_categories(['very bad','bad','medium','good','very good'])  
# print(df['grade'])  
#   
# # 4、  排序是按照Categorical的顺序进行的而不是按照字典顺序进行:  
# print(df.sort('grade'))  
#   
# # 5、  对Categorical列进行排序时存在空的类别:  
# print(df.groupby('grade').size())  





# 十一、           画图  

# ts=pd.Series(np.random.randn(1000),index=pd.date_range('1/1/2012',periods=1000,freq='D'))  
# ts=ts.cumsum()  
# ts.plot()  
#   
# df=pd.DataFrame(np.random.randn(1000,4),index=ts.index,columns=['A','B','C','D'])  
# df=df.cumsum()  
# plt.figure();df.plot();plt.legend(loc='best')  
#   
#   
# # 十二、           导入和保存数据  
# # 1、  写入csv文件:  
# df.to_csv('foo.csv',index=False)  
#   
# # 2、  从csv文件中读取:  
# pd.read_csv('foo.csv')  
#   
# # 1、  写入excel文件:  
# df.to_excel('foo.xlsx',sheet_name='Sheet1')  
#   
# # 2、  从excel文件中读取:  
# pd.read_excel('foo.xlsx','Sheet1',index_col=None,na_values=['NA'])  

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 155,770评论 4 358
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 66,116评论 1 286
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 105,656评论 0 237
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 43,372评论 0 201
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 51,704评论 3 285
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,166评论 1 204
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,535评论 2 306
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,259评论 0 193
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 33,882评论 1 236
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,218评论 2 239
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 31,760评论 1 255
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,126评论 2 249
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 32,667评论 3 228
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 25,935评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,644评论 0 192
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,171评论 2 265
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,119评论 2 258

推荐阅读更多精彩内容

  •   说起pandas这个是python数据清洗的利器,它可以让你像sql一样操作数据,同时可以对数据进行各种计算,...
    不分享的知识毫无意义阅读 15,221评论 1 15
  • diff函数是用来将数据进行某种移动之后与原数据进行比较得出的差异数据,举个例子,现在有一个DataFrame类型...
    氨基钠阅读 33,009评论 0 10
  • 关键词和导入 在这个速查卡中,我们会用到一下缩写: df二维的表格型数据结构DataFrame s一维数组Seri...
    凌烟阁主5221阅读 431评论 0 1
  • 1 import语句 2 文件读取 3 数据预处理 4 数据筛选 5 数据运算与排序 6 数学统计
    无为无悔阅读 14,182评论 2 52
  • 1.shift把数据往指定方向移动指定的位数 shift(periods=1,axis=0) periods:移动...
    卅清阅读 287评论 0 0