python的dropna 和notna的性能_python-如何从熊猫数据框中提取列表或字典中的非NA值…

  • Post author:
  • Post category:python


我有这样的df

df

AAA BBB CCC

0 4 10 100

1 5 20 50

2 6 30 -30

3 7 40 -50

df_mask = pd.DataFrame({‘AAA’:[真] * 4,’BBB’:[假] * 4,’CCC’:[真,假] * 2})

和df.where(df_mask)是

AAA BBB CCC

0 4 NaN 100.0

1 5 NaN NaN

2 6 NaN -30.0

3 7 NaN NaN

我试图像这样提取非null值.

我试过了,

df [df.where(df_mask).notnull()].to_dict()但它给出了所有值

我的预期输出是

{‘AAA’: {0: 4, 1: 5, 2: 6, 3: 7},

‘CCC’: {0: 100.0, 2: -30.0}}

解决方法:

让我们在这里使用agg:

v = df.where(df_mask).agg(lambda x: x.dropna().to_dict())

在较旧的版本中,apply会执行相同的操作(尽管速度较慢).

v = df.where(df_mask).apply(lambda x: x.dropna().to_dict())

现在,为最后一步过滤出带有空字典的行:

res = v[v.str.len() > 0].to_dict()

print(res)

{‘AAA’: {0: 4.0, 1: 5.0, 2: 6.0, 3: 7.0}, ‘CCC’: {0: 100.0, 2: -30.0}}

另一个免申请的选项是dict-comprehension:

v = df.where(df_mask)

res = {k : v[k].dropna().to_dict() for k in df}

print(res)

{‘AAA’: {0: 4, 1: 5, 2: 6, 3: 7}, ‘BBB’: {}, ‘CCC’: {0: 100.0, 2: -30.0}}

请注意,此(略)简单的解决方案保留具有空值的键.

标签:data-analysis,pandas,dataframe,python

来源: https://codeday.me/bug/20191108/2010400.html