pandas数据合并与重塑（pd.concat篇）

迷南。 2024-02-19 18:51 188阅读 0赞

## 1 concat ##

concat函数是在pandas底下的方法，可以将数据根据不同的轴作简单的融合

*  1
 *  2

pd
            
            
             .concat(objs, axis
            
            
             =
            
            
             0, 
            
            
             join
            
            
             =
            
            
             'outer', join_axes
            
            
             =
            
            
             None, ignore_index
            
            
             =
            
            
             False,
           
           
            
          
          
           
          
          
          
           
           
           
            
          
          
           
          
          
           
           
           
            
             
            
                   keys
            
            
             =
            
            
             None, levels
            
            
             =
            
            
             None, names
            
            
             =
            
            
             None, verify_integrity
            
            
             =
            
            
             False)

*  1
 *  2

参数说明  
objs: series，dataframe或者是panel构成的序列lsit  
axis： 需要合并链接的轴，0是行，1是列  
join：连接的方式 inner，或者outer

其他一些参数不常用，用的时候再补上说明。

### 1.1 相同字段的表首尾相接 ###

![这里写图片描述][20160913192849769]

# 现将表构成list，然后在作为concat的输入
           
           
            
          
          
           
          
          
          
           
           
           
            
          
          
           
          
          
           
           
           
            
             
            
            In [
            
            
             4]: frames = [
            
            
             df1, df2, df3]
           
           
            
          
          
           
          
          
          
           
           
           
            
          
          
           
          
          
           
           
           
             
           
           
            
          
          
           
          
          
          
           
           
           
            
          
          
           
          
          
           
           
           
            
             
            
            In [
            
            
             5]: result = pd.concat(frames)

*  1
 *  2
 *  3
 *  4

要在相接的时候在加上一个层次的key来识别数据源自于哪张表，可以增加key参数

In [6]: result = pd.concat(frames, keys=['x', 'y', 'z'])

*  1

效果如下

![这里写图片描述][20160913194106249]

### 1.2 横向表拼接（行对齐） ###

#### 1.2.1 axis ####

当axis = 1的时候，concat就是行对齐，然后将不同列名称的两张表合并

In [9]: result = pd.concat([df1, df4], axis=1)

*  1

![这里写图片描述][20160913194820155]

#### 1.2.2 join ####

加上join参数的属性，如果为’inner’得到的是两表的交集，如果是outer，得到的是两表的并集。

In [10]: result = pd.concat([df1, df4], axis=1, join='inner')

*  1

![这里写图片描述][20160913195018721]

#### 1.2.3 join\_axes ####

如果有join\_axes的参数传入，可以指定根据那个轴来对齐数据  
例如根据df1表对齐数据，就会保留指定的df1表的轴，然后将df4的表与之拼接

In [11]: result = pd.concat([df1, df4], axis=1, join_axes=[df1.index])

*  1

![这里写图片描述][20160913195355535]

### 1.3 append ###

append是series和dataframe的方法，使用它就是默认沿着列进行凭借（axis = 0，列对齐）

*  1
 *  2

In [12]: result = df1.append(df2)

*  1

![这里写图片描述][20160913195644364]

### 1.4 无视index的concat ###

如果两个表的index都没有实际含义，使用ignore\_index参数，置true，合并的两个表就睡根据列字段对齐，然后合并。最后再重新整理一个新的index。  
![这里写图片描述][20160913200428629]

### 1.5 合并的同时增加区分数据组的键 ###

前面提到的keys参数可以用来给合并后的表增加key来区分不同的表数据来源

#### 1.5.1 可以直接用key参数实现 ####

In [27]: result = pd.concat(frames, keys=['x', 'y', 'z'])

*  1

![这里写图片描述][20160913201130231]

#### 1.5.2 传入字典来增加分组键 ####

In [
            
            
             28]: pieces = {
            
            
             'x': df1, 
            
            
             'y': df2, 
            
            
             'z': df3}
           
           
            
          
          
           
          
          
          
           
           
           
            
          
          
           
          
          
           
           
           
             
           
           
            
          
          
           
          
          
          
           
           
           
            
          
          
           
          
          
           
           
           
            
            
            
             In [
            
            
             29]: result = pd
            
            
             .concat(pieces)

*  1
 *  2
 *  3

![这里写图片描述][20160913201130231]

### 1.6 在dataframe中加入新的行 ###

append方法可以将 series 和 字典就够的数据作为dataframe的新一行插入。  
![这里写图片描述][20160914090542084]

In [
            
            
             34]: s2 = pd.Series([
            
            
             'X0', 
            
            
             'X1', 
            
            
             'X2', 
            
            
             'X3'], 
            
            
             index=[
            
            
             'A', 
            
            
             'B', 
            
            
             'C', 
            
            
             'D'])
           
           
            
          
          
           
          
          
          
           
           
           
            
          
          
           
          
          
           
           
           
             
           
           
            
          
          
           
          
          
          
           
           
           
            
          
          
           
          
          
           
           
           
            
            
            
             In [
            
            
             35]: 
            
            
             result = df1.append(s2, ignore_index=
            
            
             True)

*  1
 *  2
 *  3

### 表格列字段不同的表合并 ###

如果遇到两张表的列字段本来就不一样，但又想将两个表合并，其中无效的值用nan来表示。那么可以使用ignore_index来实现。

*  1
 *  2

![这里写图片描述][20160914091035307]

In [
            
            
             36]: dicts = [{
            
            
             'A': 
            
            
             1, 
            
            
             'B': 
            
            
             2, 
            
            
             'C': 
            
            
             3, 
            
            
             'X': 
            
            
             4},
           
           
            
          
          
           
          
          
          
           
           
           
            
          
          
           
          
          
           
           
           
            
             
            
               ....:          {
            
            
             'A': 
            
            
             5, 
            
            
             'B': 
            
            
             6, 
            
            
             'C': 
            
            
             7, 
            
            
             'Y': 
            
            
             8}]
           
           
            
          
          
           
          
          
          
           
           
           
            
          
          
           
          
          
           
           
           
            
             
            
               ....: 
           
           
            
          
          
           
          
          
          
           
           
           
            
          
          
           
          
          
           
           
           
             
           
           
            
          
          
           
          
          
          
           
           
           
            
          
          
           
          
          
           
           
           
            
             
            
            In [
            
            
             37]: result = df1.append(dicts, ignore_index=
            
            
             True)

[20160913192849769]: https://image.dandelioncloud.cn/pgy_files/images/2024/01/29/b7bebcff6e01423198068ee600c8c2a4.png
[20160913194106249]: https://image.dandelioncloud.cn/pgy_files/images/2024/01/29/461972aa883f437e8448f0706caa341a.png
[20160913194820155]: https://image.dandelioncloud.cn/pgy_files/images/2024/01/29/162b85c9dadc483a8e1089b55fd8654b.png
[20160913195018721]: https://image.dandelioncloud.cn/pgy_files/images/2024/01/29/ce8e67d5fe84464e8b4178ba99851060.png
[20160913195355535]: https://image.dandelioncloud.cn/pgy_files/images/2024/01/29/059111b5fdbb4a6c8ded06b6ff7dbe25.png
[20160913195644364]: https://image.dandelioncloud.cn/pgy_files/images/2024/01/29/d9eabc66cb624f639cabada3420bd31c.png
[20160913200428629]: https://image.dandelioncloud.cn/pgy_files/images/2024/01/29/08783042f554457eae19bf3ab932e712.png
[20160913201130231]: https://image.dandelioncloud.cn/pgy_files/images/2024/01/29/099c4513aec943cfab89a062c309472b.png
[20160914090542084]: https://image.dandelioncloud.cn/pgy_files/images/2024/01/29/f0aad4d7e4a744dfa2c00f24de7faff0.png
[20160914091035307]: https://image.dandelioncloud.cn/pgy_files/images/2024/01/29/4db240aa9ac64271a20d4d2d14e2c309.png