首页 > Python > 如何在 Pandas 中处理 SettingWithCopyWarning

如何在 Pandas 中处理 SettingWithCopyWarning

上一篇 下一篇

背景

我刚刚将我的熊猫从 0.11 升级到 0.13.0rc1。现在,该应用程序弹出了许多新警告。其中之一是这样的:

E:FinReporterFM_EXT.py:449: SettingWithCopyWarning: A value is trying to be set on a copy of a slice from a DataFrame.
Try using .loc[row_index,col_indexer] = value instead
  quote_df['TVol']   = quote_df['TVol']/TVOL_SCALE

我想知道它到底是什么意思?我需要更改某些内容吗?

如果我坚持使用,我应该如何暂停警告?quote_df['TVol'] = quote_df['TVol']/TVOL_SCALE

给出错误的函数

def _decode_stock_quote(list_of_150_stk_str):
    """decode the webpage and return dataframe"""

    from cStringIO import StringIO

    str_of_all = "".join(list_of_150_stk_str)

    quote_df = pd.read_csv(StringIO(str_of_all), sep=',', names=list('ABCDEFGHIJKLMNOPQRSTUVWXYZabcdefg')) #dtype={'A': object, 'B': object, 'C': np.float64}
    quote_df.rename(columns={'A':'STK', 'B':'TOpen', 'C':'TPCLOSE', 'D':'TPrice', 'E':'THigh', 'F':'TLow', 'I':'TVol', 'J':'TAmt', 'e':'TDate', 'f':'TTime'}, inplace=True)
    quote_df = quote_df.ix[:,[0,3,2,1,4,5,8,9,30,31]]
    quote_df['TClose'] = quote_df['TPrice']
    quote_df['RT']     = 100 * (quote_df['TPrice']/quote_df['TPCLOSE'] - 1)
    quote_df['TVol']   = quote_df['TVol']/TVOL_SCALE
    quote_df['TAmt']   = quote_df['TAmt']/TAMT_SCALE
    quote_df['STK_ID'] = quote_df['STK'].str.slice(13,19)
    quote_df['STK_Name'] = quote_df['STK'].str.slice(21,30)#.decode('gb2312')
    quote_df['TDate']  = quote_df.TDate.map(lambda x: x[0:4]+x[5:7]+x[8:10])
    
    return quote_df

更多错误消息

E:FinReporterFM_EXT.py:449: SettingWithCopyWarning: A value is trying to be set on a copy of a slice from a DataFrame.
Try using .loc[row_index,col_indexer] = value instead
  quote_df['TVol']   = quote_df['TVol']/TVOL_SCALE
E:FinReporterFM_EXT.py:450: SettingWithCopyWarning: A value is trying to be set on a copy of a slice from a DataFrame.
Try using .loc[row_index,col_indexer] = value instead
  quote_df['TAmt']   = quote_df['TAmt']/TAMT_SCALE
E:FinReporterFM_EXT.py:453: SettingWithCopyWarning: A value is trying to be set on a copy of a slice from a DataFrame.
Try using .loc[row_index,col_indexer] = value instead
  quote_df['TDate']  = quote_df.TDate.map(lambda x: x[0:4]+x[5:7]+x[8:10])

分割线

网友回答:

熊猫怎么处理?SettingWithCopyWarning

这篇文章是为读者准备的,

  1. 想了解此警告的含义
  2. 想了解抑制此警告的不同方法
  3. 想了解如何改进他们的代码并遵循良好做法以避免将来出现此警告。

设置

np.random.seed(0)
df = pd.DataFrame(np.random.choice(10, (3, 5)), columns=list('ABCDE'))
df
   A  B  C  D  E
0  5  0  3  3  7
1  9  3  5  2  4
2  7  6  8  8  1

什么是 ?SettingWithCopyWarning

要知道如何处理此警告,重要的是要首先了解它的含义以及为什么提出它。

筛选数据帧时,可以根据内部布局和各种实现详细信息对帧进行切片/索引以返回视图副本。顾名思义,“视图”是原始数据的视图,因此修改视图可能会修改原始对象。另一方面,“副本”是从原始数据复制,修改副本对原始副本没有影响。

正如其他答案所提到的,创建 是为了标记“链式分配”操作。在上面的设置中考虑。假设您要选择“B”列中的所有值,其中“A”列中的值> 5。熊猫允许你以不同的方式做到这一点,有些方式比其他方式更正确。例如SettingWithCopyWarningdf

df[df.A > 5]['B']

1    3
2    6
Name: B, dtype: int64

df.loc[df.A > 5, 'B']

1    3
2    6
Name: B, dtype: int64

它们返回相同的结果,因此如果您只读取这些值,则没有区别。那么,问题出在哪里呢?链式赋值的问题在于,通常很难预测返回的是视图还是副本,因此当您尝试重新分配值时,这在很大程度上成为一个问题。为了在前面的示例的基础上构建,请考虑解释器如何执行此代码:

df.loc[df.A > 5, 'B'] = 4
# becomes
df.__setitem__((df.A > 5, 'B'), 4)

只需一次调用 .OTOH,请考虑以下代码:__setitem__df

df[df.A > 5]['B'] = 4
# becomes
df.__getitem__(df.A > 5).__setitem__('B', 4)

现在,根据返回的是视图还是副本,该操作可能无法正常工作__getitem____setitem__

通常,您应该用于基于标签的赋值,以及基于整数/位置的赋值,因为规范保证它们始终在原始文件上运行。此外,要设置单个单元格,应使用 和 .locilocatiat

可以在文档中找到更多信息。

注意
使用 完成的所有布尔索引操作也可以使用 完成。唯一的区别是索引需要整数/位置或布尔值的numpy数组,以及
列的
整数/位置索引。
locilociloc

例如

df.loc[df.A > 5, 'B'] = 4

可以写纳斯

df.iloc[(df.A > 5).values, 1] = 4

df.loc[1, 'A'] = 100

可以写成

df.iloc[1, 0] = 100

等等。


告诉我如何抑制警告!

考虑对 的“A”列进行简单操作。选择“A”并除以 2 将引发警告,但该操作将起作用。df

df2 = df[['A']]
df2['A'] /= 2
/Library/Frameworks/Python.framework/Versions/3.6/lib/python3.6/site-packages/IPython/__main__.py:1: SettingWithCopyWarning:
A value is trying to be set on a copy of a slice from a DataFrame.
Try using .loc[row_indexer,col_indexer] = value instead

df2
     A
0  2.5
1  4.5
2  3.5

有几种方法可以直接使此警告静音:

  1. (推荐)使用 loc 对子集进行切片
     df2 = df.loc[:, ['A']]
     df2['A'] /= 2     # Does not raise
    
  2. 更改pd.options.mode.chained_assignment
    可以设置为 、 或 。 是默认值。 将完全禁止显示警告,并将抛出 ,阻止操作通过。
    None"warn""raise""warn"None"raise"SettingWithCopyError

     pd.options.mode.chained_assignment = None
     df2['A'] /= 2
    
  3. 制作深拷贝
     df2 = df[['A']].copy(deep=True)
     df2['A'] /= 2
    

@Peter Cotton在评论中,想出了一种使用上下文管理器非侵入性地更改模式(从此要点修改)的好方法,仅在需要时设置模式,并在完成后将其重置回原始状态。

class ChainedAssignent:
    def __init__(self, chained=None):
        acceptable = [None, 'warn', 'raise']
        assert chained in acceptable, "chained must be in " + str(acceptable)
        self.swcw = chained

    def __enter__(self):
        self.saved_swcw = pd.options.mode.chained_assignment
        pd.options.mode.chained_assignment = self.swcw
        return self

    def __exit__(self, *args):
        pd.options.mode.chained_assignment = self.saved_swcw

用法如下:

# Some code here
with ChainedAssignent():
    df2['A'] /= 2
# More code follows

或者,引发异常

with ChainedAssignent(chained='raise'):
    df2['A'] /= 2

SettingWithCopyError:
A value is trying to be set on a copy of a slice from a DataFrame.
Try using .loc[row_indexer,col_indexer] = value instead

“XY问题”:我做错了什么?

很多时候,用户试图寻找抑制此异常的方法,而不完全理解为什么首先提出它。这是 XY 问题的一个很好的例子,用户试图解决一个问题“Y”,而这个问题实际上是根深蒂固的问题“X”的症状。将根据遇到此警告的常见问题提出问题,然后提供解决方案。

问题 1
我有一个数据帧

df
       A  B  C  D  E
    0  5  0  3  3  7
    1  9  3  5  2  4
    2  7  6  8  8  1

我想在 col “A” 中分配值> 5 到 1000。我的预期输出是

      A  B  C  D  E
0     5  0  3  3  7
1  1000  3  5  2  4
2  1000  6  8  8  1

这样做的错误方法:

df.A[df.A > 5] = 1000         # works, because df.A returns a view
df[df.A > 5]['A'] = 1000      # does not work
df.loc[df.A > 5]['A'] = 1000   # does not work

正确使用方法:loc

df.loc[df.A > 5, 'A'] = 1000

 

问题 2 1
我正在尝试将单元格 (1, ‘D’) 中的值设置为 12345。我的预期输出是

   A  B  C      D  E
0  5  0  3      3  7
1  9  3  5  12345  4
2  7  6  8      8  1

我尝试了访问此单元格的不同方法,例如
.最好的方法是什么?
df['D'][1]

1.此问题与警告没有特别关系,但
最好了解如何正确
执行此特定操作,以避免
将来可能出现警告的情况。

您可以使用以下任一方法来执行此操作。

df.loc[1, 'D'] = 12345
df.iloc[1, 3] = 12345
df.at[1, 'D'] = 12345
df.iat[1, 3] = 12345

 

问题 3
我正在尝试根据某些条件对值进行子集化。我有一个
数据帧

   A  B  C  D  E
1  9  3  5  2  4
2  7  6  8  8  1

我想将“D”中的值分配给 123,这样“C”== 5。我试过了

df2.loc[df2.C == 5, 'D'] = 123

这似乎很好,但我仍然得到!
我该如何解决这个问题?
SettingWithCopyWarning

这实际上可能是因为管道中较高的代码。您是否从更大的东西创建,例如df2

df2 = df[df.A > 5]

?在这种情况下,布尔索引将返回一个视图,因此将引用原始视图。您需要做的是分配给副本df2df2

df2 = df[df.A > 5].copy()
# Or,
# df2 = df.loc[df.A > 5, :]

 

问题 4
我正在尝试就地删除“C”列

   A  B  C  D  E
1  9  3  5  2  4
2  7  6  8  8  1

但是使用

df2.drop('C', axis=1, inplace=True)

抛出。为什么会这样?SettingWithCopyWarning

这是因为必须已从其他切片操作创建为视图,例如df2

df2 = df[df.A > 5]

这里的解决方案是像以前一样制作 of 或使用 。copy()dfloc

分割线

网友回答:

创建 是为了标记可能令人困惑的“链接”分配,例如以下内容,这些分配并不总是按预期工作,尤其是在第一个选择返回副本时。[有关背景讨论,请参见GH5390和GH5597。SettingWithCopyWarning

df[df['A'] > 2]['B'] = new_val  # new_val not set in df

该警告提供了重写的建议,如下所示:

df.loc[df['A'] > 2, 'B'] = new_val

但是,这不符合您的用法,这相当于:

df = df[df['A'] > 2]
df['B'] = new_val

虽然很明显你不关心写回到原始帧(因为你正在覆盖对它的引用),但不幸的是,这种模式无法与第一个链式赋值示例区分开来。因此(误报)警告。如果您想进一步阅读,请参阅索引编制文档中解决误报的可能性。您可以使用以下分配安全地禁用此新警告。

import pandas as pd
pd.options.mode.chained_assignment = None  # default='warn'

其他资源

  • pandas 用户指南:索引和选择数据
  • Python 数据科学手册:数据索引和选择
  • 真正的Python:SettingWithCopyWarningin Pandas: Views vs Copys
  • Dataquest: Settingwith CopyWarning: 如何在 Pandas 中修复此警告
  • 迈向数据科学:解释熊猫中的设置与复制警告

分割线

网友回答:

一般来说,这样做的目的是向用户(尤其是新用户)表明,他们可能正在操作副本,而不是他们想象的原始副本。误报(IOW,如果你知道你在做什么,它可能没问题)。一种可能性是简单地按照@Garrett的建议关闭(默认警告)警告SettingWithCopyWarning

这是另一种选择:

In [1]: df = DataFrame(np.random.randn(5, 2), columns=list('AB'))

In [2]: dfa = df.ix[:, [1, 0]]

In [3]: dfa.is_copy
Out[3]: True

In [4]: dfa['A'] /= 2
/usr/local/bin/ipython:1: SettingWithCopyWarning: A value is trying to be set on a copy of a slice from a DataFrame.
Try using .loc[row_index,col_indexer] = value instead
  #!/usr/local/bin/python

可以将标志设置为 ,这将有效地关闭该对象的检查:is_copyFalse

In [5]: dfa.is_copy = False

In [6]: dfa['A'] /= 2

如果显式复制,则不会发生进一步的警告:

In [7]: dfa = df.ix[:, [1, 0]].copy()

In [8]: dfa['A'] /= 2

OP 上面显示的代码虽然合法,也可能是我做的事情,但从技术上讲,这是此警告的一个案例,而不是误报。没有警告的另一种方法是通过 进行选择操作,例如reindex

quote_df = quote_df.reindex(columns=['STK', ...])

胸罩

quote_df = quote_df.reindex(['STK', ...], axis=1)  # v.0.21

模板简介:该模板名称为【如何在 Pandas 中处理 SettingWithCopyWarning】,大小是暂无信息,文档格式为.编程语言,推荐使用Sublime/Dreamweaver/HBuilder打开,作品中的图片,文字等数据均可修改,图片请在作品中选中图片替换即可,文字修改直接点击文字修改即可,您也可以新增或修改作品中的内容,该模板来自用户分享,如有侵权行为请联系网站客服处理。欢迎来懒人模板【Python】栏目查找您需要的精美模板。

相关搜索
  • 下载密码 lanrenmb
  • 下载次数 420次
  • 使用软件 Sublime/Dreamweaver/HBuilder
  • 文件格式 编程语言
  • 文件大小 暂无信息
  • 上传时间 03-16
  • 作者 网友投稿
  • 肖像权 人物画像及字体仅供参考
栏目分类 更多 >
热门推荐 更多 >
自适应 微信文章 微信图片 单页式简历模板 微信公众平台 微信模板 企业网站 html5 响应式 微信素材
您可能会喜欢的其他模板