pandas索引 :选取行和列数据的方法

selectstudent_id,student_namefromexam_scoreswherechinese>=90andmath>=90

上面的 SQL 语句表示从考试成绩表 (exam_scores) 中,筛选出语文和数学都大于或等于 90 分的所有学生 id 和 name。学习 pandas 数据获取,推荐这种以数据处理的目标为导向的方式,而不是被动的按 pandas 提供的loc,iloc的语法中,一条条顺序学习。

本篇我们要分析的关于销售数量和金额的一组数据,数据存放在 csv 文件中。示例数据我在github上放了一份,方便大家对照练习。

选择列

以下两种方法返回Series类型:

importpandasaspddf=pd.read_csv('sample-salesv3.csv')df.name# 或者df['name']

如果需要返回DataFrame格式,使用 list 作为参数。为了方便说明,给出在 jupyter notebook 中显示的界面。

如果需要选取多列,传给DataFrame一个包含列名的 list

选择行

假设我们要筛选quantity < 0的所有记录:

按多条件筛选的处理方式。假设想筛选quantity < 0并且unit price > 50的所有记录:

代码:

criteria=(df['quantity']<0)&(df['unit price']>50)df[criteria].head()

在 pandas 中,AND 条件的运算符为&,OR 条件的运算符为|。假设想筛选所有quantity > 30unit price > 50的记录:

代码:

criteria=(df['quantity']>30)|(df['unit price']>50)df[criteria].head()

基于字符串的记录筛选

如果筛选条件为基于字符串,可以使用用Series.str.xxx方法,主要有startswith,endswith和contains等。举一个例子,筛选出所有name含有White的记录:

代码:

criteria=df['name'].str.contains('White')df[criteria].head()

这里解释一下 pandas布尔索引(boolean indexing) 的概念。布尔索引的意思是首先构建一个与DataFrame的 index 长度相同的一个 boolean 向量 (boolean vector),这个向量中只包含 True 或者 False,布尔索引是一个Series。然后DataFrame在筛选的时候,基于DataFrame的行索引,当布尔索引相同行索引所在行的 value 为 True 时,DataFrame的这一行就包含在筛选之中,否则就排除在外。

为了能看得更加清晰,我们把上面的例子用另外一个方法来展示。创建一个新列:is_selected,这一列是一个布尔索引。

df['is_selected']=df['name'].str.contains('White')

我们看到,is_selected由 True 和 False 构成。

构建了is_selected列之后,通过df[df['name'].str.contains('White')]筛选与下面的语句作用相同:

df[df['is_selected']==True]

可以把df['name'].str.contains('White')这个布尔索引理解为构建了一个新列,然后基于这一列进行筛选。

基于 DateTime 类型的记录筛选

如果列的类型是DateTime类型,比如本示例的date列。pandas 读取 csv 文件时,date 列是 str 类型,所以我们先将 date 列转换成 datetime 类型,然后基于 pandas 的Timestamp类型构建筛选条件。

# 将 date 列转换成 datetime 类型df['date']=pd.to_datetime(df['date'])# 筛选条件为日期大于 2014/4/1criteria=df['date']>pd.Timestamp(2014,4,1)df[criteria].head()

同时选择行和列

如果基于本篇所说的模式,同时选择行和列,最简单的方法是组合,比如先基于行构建DataFrame,然后再基于这个DataFrame选取需要的列:

where=df['name'].str.contains('White')cols=['name','quantity','unit price','ext price']df[where][cols].head()

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 162,050评论 4 370
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 68,538评论 1 306
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 111,673评论 0 254
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 44,622评论 0 218
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 53,047评论 3 295
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,974评论 1 224
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 32,129评论 2 317
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,893评论 0 209
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,654评论 1 250
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,828评论 2 254
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,297评论 1 265
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,619评论 3 262
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,326评论 3 243
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,176评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,975评论 0 201
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 36,118评论 2 285
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,909评论 2 278

推荐阅读更多精彩内容

  • 我佛了呀,好几天没上来,今天想查个东西 搜索框一顿找,愣是没找到 这简书还能用吗? 就当故事会一样看首页的推荐呗?...
    Mr哎呦喂阅读 1,726评论 9 7
  • 最近在做离职前最后的工作,还没有一个正式的交接的人,尽可能的把工作往前做,每天都加班赶进度,可是我发现,我白天的效...
    丘丘小太阳阅读 40评论 0 0
  • 我是黑夜里大雨纷飞的人啊 1 “又到一年六月,有人笑有人哭,有人欢乐有人忧愁,有人惊喜有人失落,有的觉得收获满满有...
    陌忘宇阅读 8,476评论 28 53
  • 信任包括信任自己和信任他人 很多时候,很多事情,失败、遗憾、错过,源于不自信,不信任他人 觉得自己做不成,别人做不...
    吴氵晃阅读 6,135评论 4 8
  • 怎么对待生活,它也会怎么对你 人都是哭着来到这个美丽的人间。每个人从来到尘寰到升入天堂,整个生命的历程都是一本书,...
    静静在等你阅读 4,925评论 1 6