Skip to content

Commit 5566455

Browse files
qiwsirqiwsir
authored andcommitted
pandas1
1 parent 3e0dbec commit 5566455

21 files changed

Lines changed: 226 additions & 1 deletion

311.md

Lines changed: 224 additions & 0 deletions
Original file line numberDiff line numberDiff line change
@@ -0,0 +1,224 @@
1+
>你们蒙召原是为此,因基督也为你们受过苦,给你们留下榜样,叫你们跟随他的脚踪行。他并没有犯罪,口里也没有诡诈。他被骂不还口,受害不说威吓的话,只将自己交托那按公义审判人的主。他被挂在木头上,亲身担当了我们的罪,使我们既然在罪上死,就得以在义上活。因他受的鞭伤,你们便得了医治。你们从前好像迷路的羊,如今却归到你们灵魂的牧人监督了(PETER 2:21-25)
2+
3+
#Pandas使用(1)
4+
5+
Pandas是基于NumPy的一个非常好用的库,正如名字一样,人见人爱。之所以如此,就在于不论是读取、处理数据,用它都非常简单。
6+
7+
##基本的数据结构
8+
9+
Pandas有两种自己独有的基本数据结构。读者应该注意的是,它固然有着两种数据结构,因为它依然是python的一个库,所以,python中有的数据类型在这里依然适用,也同样还可以使用类自己定义数据类型。只不过,Pandas里面又定义了两种数据类型:Series和DataFrame,它们让数据操作更简单了。
10+
11+
以下操作都是基于:
12+
13+
![](./3images/31101.png)
14+
15+
为了省事,后面就不在显示了。并且如果你跟我一样是使用ipython notebook,只需要开始引入模块即可。
16+
17+
###Series
18+
19+
Series就如同列表一样,一系列数据,每个数据对应一个索引值。比如这样一个列表:[9, 3, 8],如果跟索引值写到一起,就是:
20+
21+
|data| 9 | 3 | 8 |
22+
|-------|---|----|----|
23+
|index|0 | 1 | 2 |
24+
25+
这种样式我们已经熟悉了,不过,在有些时候,需要把它竖过来表示:
26+
27+
|index|data|
28+
|---------|-------|
29+
| 0 | 9 |
30+
| 1 | 3 |
31+
| 2 | 8 |
32+
33+
上面两种,只是表现形式上的差别罢了。
34+
35+
Series就是“竖起来”的list:
36+
37+
![](./3images/31102.png)
38+
39+
另外一点也很像列表,就是里面的元素的类型,由你任意决定(其实是由需要来决定)。
40+
41+
这里,我们实质上创建了一个Series对象,这个对象当然就有其属性和方法了。比如,下面的两个属性依次可以显示Series对象的数据值和索引:
42+
43+
![](./3images/31103.png)
44+
45+
列表的索引只能是从0开始的整数,Series数据类型在默认情况下,其索引也是如此。不过,区别于列表的是,Series可以自定义索引:
46+
47+
![](./3images/31104.png)
48+
49+
![](./3images/31105.png)
50+
51+
自定义索引,的确比较有意思。就凭这个,也是必须的。
52+
53+
每个元素都有了索引,就可以根据索引操作元素了。还记得list中的操作吗?Series中,也有类似的操作。先看简单的,根据索引查看其值和修改其值:
54+
55+
![](./3images/31106.png)
56+
57+
这是不是又有点类似dict数据了呢?的确如此。看下面就理解了。
58+
59+
读者是否注意到,前面定义Series对象的时候,用的是列表,即Series()方法的参数中,第一个列表就是其数据值,如果需要定义index,放在后面,依然是一个列表。除了这种方法之外,还可以用下面的方法定义Series对象:
60+
61+
![](./3images/31108.png)
62+
63+
现在是否理解为什么前面那个类似dict了?因为本来就是可以这样定义的。
64+
65+
这时候,索引依然可以自定义。Pandas的优势在这里体现出来,如果自定义了索引,自定的索引会自动寻找原来的索引,如果一样的,就取原来索引对应的值,这个可以简称为“自动对齐”。
66+
67+
![](./3images/31110.png)
68+
69+
在sd中,只有`'python':8000, 'c++':8100, 'c#':4000`,没有"java",但是在索引参数中有,于是其它能够“自动对齐”的照搬原值,没有的那个"java",依然在新Series对象的索引中存在,并且自动为其赋值`NaN`。在Pandas中,如果没有值,都对齐赋给`NaN`。来一个更特殊的:
70+
71+
![](./3images/31109.png)
72+
73+
新得到的Series对象索引与sd对象一个也不对应,所以都是`NaN`
74+
75+
Pandas有专门的方法来判断值是否为空。
76+
77+
![](./3images/31111.png)
78+
79+
此外,Series对象也有同样的方法:
80+
81+
![](./3images/31112.png)
82+
83+
其实,对索引的名字,是可以从新定义的:
84+
85+
![](./3images/31117.png)
86+
87+
对于Series数据,也可以做类似下面的运算(关于运算,后面还要详细介绍):
88+
89+
![](./3images/31107.png)
90+
91+
![](./3images/31113.png)
92+
93+
上面的演示中,都是在ipython notebook中进行的,所以截图了。在学习Series数据类型同时了解了ipyton notebook。对于后面的所有操作,读者都可以在ipython notebook中进行。但是,我的讲述可能会在python交互模式中进行。
94+
95+
###DataFrame
96+
97+
DataFrame是一种二维的数据结构,非常接近于电子表格或者类似mysql数据库的形式。它的竖行称之为columns,横行跟前面的Series一样,称之为index,也就是说可以通过columns和index来确定一个主句的位置。(有人把 DataFrame翻译为“数据框”,是不是还可以称之为“筐”呢?向里面装数据嘛。)
98+
99+
![](./3images/31118.png)
100+
101+
下面的演示,是在python交互模式下进行,读者仍然可以在ipython notebook环境中测试。
102+
103+
>>> import pandas as pd
104+
>>> from pandas import Series, DataFrame
105+
106+
>>> data = {"name":["yahoo","google","facebook"], "marks":[200,400,800], "price":[9, 3, 7]}
107+
>>> f1 = DataFrame(data)
108+
>>> f1
109+
marks name price
110+
0 200 yahoo 9
111+
1 400 google 3
112+
2 800 facebook 7
113+
114+
这是定义一个DataFrame对象的常用方法——使用dict定义。字典的“键”("name","marks","price")就是DataFrame的columns的值(名称),字典中每个“键”的“值”是一个列表,它们就是那一竖列中的具体填充数据。上面的定义中没有确定索引,所以,按照惯例(Series中已经形成的惯例)就是从0开始的整数。从上面的结果中很明显表示出来,这就是一个二维的数据结构(类似excel或者mysql中的查看效果)。
115+
116+
上面的数据显示中,columns的顺序没有规定,就如同字典中键的顺序一样,但是在DataFrame中,columns跟字典键相比,有一个明显不同,就是其顺序可以被规定,向下面这样做:
117+
118+
>>> f2 = DataFrame(data, columns=['name','price','marks'])
119+
>>> f2
120+
name price marks
121+
0 yahoo 9 200
122+
1 google 3 400
123+
2 facebook 7 800
124+
125+
跟Series类似的,DataFrame数据的索引也能够自定义。
126+
127+
>>> f3 = DataFrame(data, columns=['name', 'price', 'marks', 'debt'], index=['a','b','c','d'])
128+
Traceback (most recent call last):
129+
File "<stdin>", line 1, in <module>
130+
File "/usr/lib/pymodules/python2.7/pandas/core/frame.py", line 283, in __init__
131+
mgr = self._init_dict(data, index, columns, dtype=dtype)
132+
File "/usr/lib/pymodules/python2.7/pandas/core/frame.py", line 368, in _init_dict
133+
mgr = BlockManager(blocks, axes)
134+
File "/usr/lib/pymodules/python2.7/pandas/core/internals.py", line 285, in __init__
135+
self._verify_integrity()
136+
File "/usr/lib/pymodules/python2.7/pandas/core/internals.py", line 367, in _verify_integrity
137+
assert(block.values.shape[1:] == mgr_shape[1:])
138+
AssertionError
139+
140+
报错了。这个报错信息就太不友好了,也没有提供什么线索。这就是交互模式的不利之处。修改之,错误在于index的值——列表——的数据项多了一个,data中是三行,这里给出了四个项(['a','b','c','d'])。
141+
142+
>>> f3 = DataFrame(data, columns=['name', 'price', 'marks', 'debt'], index=['a','b','c'])
143+
>>> f3
144+
name price marks debt
145+
a yahoo 9 200 NaN
146+
b google 3 400 NaN
147+
c facebook 7 800 NaN
148+
149+
读者还要注意观察上面的显示结果。因为在定义f3的时候,columns的参数中,比以往多了一项('debt'),但是这项在data这个字典中并没有,所以debt这一竖列的值都是空的,在Pandas中,空就用NaN来代表了。
150+
151+
定义DataFrame的方法,除了上面的之外,还可以使用“字典套字典”的方式。
152+
153+
>>> newdata = {"lang":{"firstline":"python","secondline":"java"}, "price":{"firstline":8000}}
154+
>>> f4 = DataFrame(newdata)
155+
>>> f4
156+
lang price
157+
firstline python 8000
158+
secondline java NaN
159+
160+
在字典中就规定好数列名称(第一层键)和每横行索引(第二层字典键)以及对应的数据(第二层字典值),也就是在字典中规定好了每个数据格子中的数据,没有规定的都是空。
161+
162+
>>> DataFrame(newdata, index=["firstline","secondline","thirdline"])
163+
lang price
164+
firstline python 8000
165+
secondline java NaN
166+
thirdline NaN NaN
167+
168+
如果额外确定了索引,就如同上面显示一样,除非在字典中有相应的索引内容,否则都是NaN。
169+
170+
前面定义了DataFrame数据(可以通过两种方法),它也是一种对象类型,比如变量f3引用了一个对象,它的类型是DataFrame。承接以前的思维方法:对象有属性和方法。
171+
172+
>>> f3.columns
173+
Index(['name', 'price', 'marks', 'debt'], dtype=object)
174+
175+
DataFrame对象的columns属性,能够显示素有的columns名称。并且,还能用下面类似字典的方式,得到某竖列的全部内容(当然包含索引):
176+
177+
>>> f3['name']
178+
a yahoo
179+
b google
180+
c facebook
181+
Name: name
182+
183+
这是什么?这其实就是一个Series,或者说,可以将DataFrame理解为是有一个一个的Series组成的。
184+
185+
一直耿耿于怀没有数值的那一列,下面的操作是统一给那一列赋值:
186+
187+
>>> f3['debt'] = 89.2
188+
>>> f3
189+
name price marks debt
190+
a yahoo 9 200 89.2
191+
b google 3 400 89.2
192+
c facebook 7 800 89.2
193+
194+
除了能够统一赋值之外,还能够“点对点”添加数值,结合前面的Series,既然DataFrame对象的每竖列都是一个Series对象,那么可以先定义一个Series对象,然后把它放到DataFrame对象中。如下:
195+
196+
>>> sdebt = Series([2.2, 3.3], index=["a","c"]) #注意索引
197+
>>> f3['debt'] = sdebt
198+
199+
将Series对象(sdebt变量所引用) 赋给f3['debt']列,Pandas的一个重要特性——自动对齐——在这里起做用了,在Series中,只有两个索引("a","c"),它们将和DataFrame中的索引自动对齐。于是乎:
200+
201+
>>> f3
202+
name price marks debt
203+
a yahoo 9 200 2.2
204+
b google 3 400 NaN
205+
c facebook 7 800 3.3
206+
207+
自动对齐之后,没有被复制的依然保持NaN。
208+
209+
还可以更精准的修改数据吗?当然可以,完全仿照字典的操作:
210+
211+
>>> f3["price"]["c"]= 300
212+
>>> f3
213+
name price marks debt
214+
a yahoo 9 200 2.2
215+
b google 3 400 NaN
216+
c facebook 300 800 3.3
217+
218+
这些操作是不是都不陌生呀,这就是Pandas中的两种数据对象。
219+
220+
------
221+
222+
[总目录](./index.md)&nbsp;&nbsp;&nbsp;|&nbsp;&nbsp;&nbsp;[上节:Pandas使用(1)](./310.md)&nbsp;&nbsp;&nbsp;|&nbsp;&nbsp;&nbsp;[下节:Pandas使用(3)](./312.md)
223+
224+
如果你认为有必要打赏我,请通过支付宝:**[email protected]**,不胜感激。

3images/31101.png

4.56 KB
Loading

3images/31102.png

9.84 KB
Loading

3images/31103.png

13.1 KB
Loading

3images/31104.png

13.6 KB
Loading

3images/31105.png

6.79 KB
Loading

3images/31106.png

12.5 KB
Loading

3images/31107.png

16.7 KB
Loading

3images/31108.png

10.2 KB
Loading

3images/31109.png

6.89 KB
Loading

0 commit comments

Comments
 (0)