programing tip

Pandas 데이터 프레임에서 모두 0이있는 행 삭제

itbloger 2020. 10. 28. 07:48
반응형

Pandas 데이터 프레임에서 모두 0이있는 행 삭제


pandas dropna()기능을 사용 하여 일부 또는 모든 열이 NA's 로 설정된 행을 제거 할 수 있습니다 . 값이 0 인 모든 열이있는 행을 삭제하는 동등한 기능이 있습니까?

P   kt  b   tt  mky depth
1   0   0   0   0   0
2   0   0   0   0   0
3   0   0   0   0   0
4   0   0   0   0   0
5   1.1 3   4.5 2.3 9.0

이 예에서는 데이터 프레임에서 처음 4 개 행을 삭제하려고합니다.

감사!


이것은 벡터화 된 방식으로 멋지게 표현 될 수 있습니다.

> df = pd.DataFrame({'a':[0,0,1,1], 'b':[0,1,0,1]})
> df = df[(df.T != 0).any()]
> df
   a  b
1  0  1
2  1  0
3  1  1

짧막 한 농담. 조옮김이 필요하지 않습니다.

df.loc[~(df==0).all(axis=1)]

대칭을 좋아하는 사람들에게도 효과가 있습니다.

df.loc[(df!=0).any(axis=1)]

이 질문을 한 달에 한 번 찾아보고 항상 댓글에서 가장 좋은 답변을 찾아야합니다.

df.loc[(df!=0).any(1)]

감사합니다 Dan Allan!


0을 nan로 바꾼 다음 모든 항목이있는 행을 nan. 그 후 nan0으로 교체하십시오 .

import numpy as np
df = df.replace(0, np.nan)
df = df.dropna(how='all', axis=0)
df = df.replace(np.nan, 0)

import pandas as pd

df = pd.DataFrame({'a' : [0,0,1], 'b' : [0,0,-1]})

temp = df.abs().sum(axis=1) == 0      
df = df.drop(temp)

결과:

>>> df
   a  b
2  1 -1

특히 더 큰 데이터 세트의 경우이를 찾는 동안 도움이되는 몇 가지 솔루션 :

df[(df.sum(axis=1) != 0)]       # 30% faster 
df[df.values.sum(axis=1) != 0]  # 3X faster 

@ U2EF1의 예를 계속합니다.

In [88]: df = pd.DataFrame({'a':[0,0,1,1], 'b':[0,1,0,1]})

In [91]: %timeit df[(df.T != 0).any()]
1000 loops, best of 3: 686 µs per loop

In [92]: df[(df.sum(axis=1) != 0)]
Out[92]: 
   a  b
1  0  1
2  1  0
3  1  1

In [95]: %timeit df[(df.sum(axis=1) != 0)]
1000 loops, best of 3: 495 µs per loop

In [96]: %timeit df[df.values.sum(axis=1) != 0]
1000 loops, best of 3: 217 µs per loop

더 큰 데이터 세트 :

In [119]: bdf = pd.DataFrame(np.random.randint(0,2,size=(10000,4)))

In [120]: %timeit bdf[(bdf.T != 0).any()]
1000 loops, best of 3: 1.63 ms per loop

In [121]: %timeit bdf[(bdf.sum(axis=1) != 0)]
1000 loops, best of 3: 1.09 ms per loop

In [122]: %timeit bdf[bdf.values.sum(axis=1) != 0]
1000 loops, best of 3: 517 µs per loop

이 솔루션이 가장 짧다고 생각합니다.

df= df[df['ColName'] != 0]

빠른 lambda기능을 사용 하여 주어진 행의 모든 ​​값이 0. 그런 다음이를 적용한 결과를 lambda해당 조건과 일치하거나 일치하지 않는 행만 선택하는 방법으로 사용할 수 있습니다.

import pandas as pd
import numpy as np

np.random.seed(0)

df = pd.DataFrame(np.random.randn(5,3), 
                  index=['one', 'two', 'three', 'four', 'five'],
                  columns=list('abc'))

df.loc[['one', 'three']] = 0

print df
print df.loc[~df.apply(lambda row: (row==0).all(), axis=1)]

수율 :

              a         b         c
one    0.000000  0.000000  0.000000
two    2.240893  1.867558 -0.977278
three  0.000000  0.000000  0.000000
four   0.410599  0.144044  1.454274
five   0.761038  0.121675  0.443863

[5 rows x 3 columns]
             a         b         c
two   2.240893  1.867558 -0.977278
four  0.410599  0.144044  1.454274
five  0.761038  0.121675  0.443863

[3 rows x 3 columns]

또 다른 대안 :

# Is there anything in this row non-zero?
# df != 0 --> which entries are non-zero? T/F
# (df != 0).any(axis=1) --> are there 'any' entries non-zero row-wise? T/F of rows that return true to this statement.
# df.loc[all_zero_mask,:] --> mask your rows to only show the rows which contained a non-zero entry.
# df.shape to confirm a subset.

all_zero_mask=(df != 0).any(axis=1) # Is there anything in this row non-zero?
df.loc[all_zero_mask,:].shape

df = df [~( df [ ['kt'  'b'   'tt'  'mky' 'depth', ] ] == 0).all(axis=1) ]

이 명령은 완벽하게 작동합니다.


행에서 값이 0 인 모든 열을 삭제하려면 다음을 수행하십시오.

new_df = df[df.loc[:]!=0].dropna()

참고 URL : https://stackoverflow.com/questions/22649693/drop-rows-with-all-zeros-in-pandas-data-frame

반응형