欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

pandas || df.dropna() 缺失值删除操作

程序员文章站 2022-06-24 22:13:10
df.dropna()函数用于删除dataframe数据中的缺失数据,即 删除nan数据.官方函数说明:dataframe.dropna(axis=0, how='any', thresh=none,...

df.dropna()函数用于删除dataframe数据中的缺失数据,即 删除nan数据.

官方函数说明:

dataframe.dropna(axis=0, how='any', thresh=none, subset=none, inplace=false)
 remove missing values.
 see the user guide for more on which values are considered missing, 
 and how to work with missing data.
returns
 dataframe
 dataframe with na entries dropped from it.

参数说明:

parameters 说明
axis 0为行 1为列,default 0,数据删除维度
how {‘any', ‘all'}, default ‘any',any:删除带有nan的行;all:删除全为nan的行
thresh int,保留至少 int 个非nan行
subset list,在特定列缺失值处理
inplace bool,是否修改源文件

测试:

>>>df = pd.dataframe({"name": ['alfred', 'batman', 'catwoman'],
          "toy": [np.nan, 'batmobile', 'bullwhip'],
          "born": [pd.nat, pd.timestamp("1940-04-25"),
              pd.nat]})
>>>df
    name    toy    born
0  alfred    nan    nat
1  batman batmobile 1940-04-25
2 catwoman  bullwhip    nat

删除至少缺少一个元素的行:

>>>df.dropna()
   name    toy    born
1 batman batmobile 1940-04-25

删除至少缺少一个元素的列:

>>>df.dropna(axis=1)
    name
0  alfred
1  batman
2 catwoman

删除所有元素丢失的行:

>>>df.dropna(how='all')
    name    toy    born
0  alfred    nan    nat
1  batman batmobile 1940-04-25
2 catwoman  bullwhip    nat

只保留至少2个非na值的行:

>>>df.dropna(thresh=2)
    name    toy    born
1  batman batmobile 1940-04-25
2 catwoman  bullwhip    nat

从特定列中查找缺少的值:

>>>df.dropna(subset=['name', 'born'])
    name    toy    born
1  batman batmobile 1940-04-25

修改原数据:

>>>df.dropna(inplace=true)
>>>df
   name    toy    born
1 batman batmobile 1940-04-25

以上。

补充:pandas 之dropna滤除缺失数据

约定:

import pandas as pd
import numpy as np
from numpy import nan as nan

滤除缺失数据

pandas的设计目标之一就是使得处理缺失数据的任务更加轻松些。pandas使用nan作为缺失数据的标记。

使用dropna使得滤除缺失数据更加得心应手。

一、处理series对象

通过**dropna()**滤除缺失数据:

se1=pd.series([4,nan,8,nan,5])
print(se1)
se1.dropna()

代码结果:

0  4.0
1  nan
2  8.0
3  nan
4  5.0
dtype: float64
0  4.0
2  8.0
4  5.0
dtype: float64

通过布尔序列也能滤除:

se1[se1.notnull()]

代码结果:

0  4.0
2  8.0
4  5.0
dtype: float64

二、处理dataframe对象

处理dataframe对象比较复杂,因为你可能需要丢弃所有的nan或部分nan。

df1=pd.dataframe([[1,2,3],[nan,nan,2],[nan,nan,nan],[8,8,nan]])
df1

代码结果:

0 1 2
0 1.0 2.0 3.0
1 nan nan 2.0
2 nan nan nan
3 8.0 8.0 nan

默认滤除所有包含nan:

df1.dropna()

代码结果:

0 1 2
0 1.0 2.0 3.0

传入**how=‘all'**滤除全为nan的行:

df1.dropna(how='all')

代码结果:

0 1 2
0 1.0 2.0 3.0
1 nan nan 2.0
3 8.0 8.0 nan

传入axis=1滤除列:

df1[3]=nan
df1

代码结果:

0 1 2 3
0 1.0 2.0 3.0 nan
1 nan nan 2.0 nan
2 nan nan nan nan
3 8.0 8.0 nan nan
df1.dropna(axis=1,how="all")

代码结果:

0 1 2
0 1.0 2.0 3.0
1 nan nan 2.0
2 nan nan nan
3 8.0 8.0 nan

传入thresh=n保留至少有n个非nan数据的行:

df1.dropna(thresh=1)

代码结果:

0 1 2 3
0 1.0 2.0 3.0 nan
1 nan nan 2.0 nan
3 8.0 8.0 nan nan
df1.dropna(thresh=3)

代码结果:

0 1 2 3
0 1.0 2.0 3.0 nan

以上为个人经验,希望能给大家一个参考,也希望大家多多支持。如有错误或未考虑完全的地方,望不吝赐教。