欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

pandas DataFrame 删除重复的行的实现方法

程序员文章站 2023-12-10 12:47:04
1. 建立一个dataframe c=pd.dataframe({'a':['dog']*3+['fish']*3+['dog'],'b':[10,10,12,...

1. 建立一个dataframe

 c=pd.dataframe({'a':['dog']*3+['fish']*3+['dog'],'b':[10,10,12,12,14,14,10]})

pandas DataFrame 删除重复的行的实现方法

2. 判断是否有重复项

用duplicated( )函数判断  

c.duplicated()

pandas DataFrame 删除重复的行的实现方法

3.  有重复项,则可以用drop_duplicates()移除重复项

c.drop_duplicates()

pandas DataFrame 删除重复的行的实现方法

4. duplicated( )和drop_duplicates( )方法是以默认的方式判断全部的列(上面的例子中是看两个变量a和b是否都是重复出现)。

我们也可以对特定的列进行重复项判断。

 c.duplicated(['a'])   c.drop_duplicates(['a'])

 c.duplicated(['b'])   c.drop_duplicates(['b'])

pandas DataFrame 删除重复的行的实现方法

5.  norepeat_df = df.drop_duplicates(subset=['a_id', 'b_id'], keep='first')

#上面的命令去掉unit_id和kpi_id列中重复的行,并保留重复出现的行中第一次出现的行

补充: 

  • 当keep=false时,就是去掉所有的重复行 
  • 当keep=‘first'时,就是保留第一次出现的重复行 
  • 当keep='last'时就是保留最后一次出现的重复行。 

(注意,这里的参数是字符串,要加引号!!!)

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持。