一个让我怀疑人生的周一早晨
周一早上九点半,我还没完全醒过来,手机就开始疯狂震动。
运维在群里发了一张截图——线上订单系统的数据对不上了。同一个订单,在“待发货”列表里显示的商品数量和“订单详情”页里显示的不一样。更诡异的是,财务那边拉出来的报表里,订单金额也不对。
我打开数据库一看,整个人都不好了。几百个订单的items列表被改了,有些商品被重复添加,有些直接消失了。
但问题是——没有人动过这些订单。
我翻了半天代码,最终把矛头指向了一段我上个月写的“优化”。
当时的需求是:给每个订单生成一份“快照”,用于物流系统打印面单。为了不影响原始订单数据,我很“聪明”地用了copy.deepcopy:
from copy import deepcopy
def generate_snapshot(order):
snapshot = deepcopy(order)
# 对快照做一些处理,比如合并相同商品
snapshot['items'] = merge_items(snapshot['items'])
return snapshot
多安全啊,深拷贝,完全独立,怎么改都不影响原始数据。
我当时是这么想的。
直到那天早上我才发现——deepcopy确实复制了所有东西,但它复制的方式,跟我以为的不太一样。
我以为的深拷贝 vs 真正的深拷贝
先说我当时的认知。
我以为deepcopy就是“把所有东西都复制一份新的”,就像用复印机把一沓文件从头到尾复印一遍。新复印件跟原件长得一模一样,但它们是两份独立的文件。
这个理解部分正确,但不完整。
deepcopy确实是递归复制所有层级。它会创建一个新的复合对象,然后把原始对象里找到的所有对象都递归地插入副本。听起来没毛病对吧?
但问题在于:**deepcopy复制的是“对象”,不是“数据”**。
在Python里,变量名是指向对象的标签。deepcopy会遍历对象图,为每个遇到的可变对象创建一个新的副本。但这个过程有几个关键细节,很容易被忽略。
先来看一个最简单的例子:
from copy import deepcopy
original = {
'id': 123,
'items': [
{'name': '苹果', 'price': 5.0},
{'name': '香蕉', 'price': 3.0}
]
}
copied = deepcopy(original)
copied['items'][0]['price'] = 4.5
print(original['items'][0]['price']) # 5.0 —— 没变,很好
看起来一切正常。deepcopy确实创建了一个完全独立的副本。
但问题出在更复杂的数据结构上。
第一个坑:深拷贝能深到让你怀疑人生
我那次翻车,问题出在订单的items列表里。
每个订单的items列表存的是商品对象。但商品对象里有个字段叫category,指向一个“品类”对象。而品类对象里有个products列表,存着这个品类下所有商品的引用。
结构大概是这样的:
订单
└── items: [商品A, 商品B]
└── 商品A
└── category: 品类X
└── products: [商品A, 商品B, 商品C, ...]
└── 商品B
└── category: 品类X
└── products: [商品A, 商品B, 商品C, ...]
看到了吗?商品A和商品B的category指向的是同一个品类对象。
当我用deepcopy复制整个订单时,deepcopy会:
- 复制订单对象
- 复制
items列表 - 复制列表里的每个商品对象
- 复制每个商品的
category属性
问题出在第4步。deepcopy在复制品类对象时,发现这个品类对象被多个地方引用(商品A和商品B都指向它)。**deepcopy内部维护了一个memo字典来记录已经复制过的对象**。
当它第二次遇到同一个品类对象时,不会重新复制一份,而是直接从memo里取出之前复制好的那个版本,复用。
这看起来是好事,避免了无限递归和重复复制。
但问题在于:复用之后,所有指向这个品类对象的商品,共享的是同一个品类副本。
这意味着什么?意味着我修改快照里某个商品的品类信息时,快照里所有同品类的商品都会被影响。
更糟的是,如果这个品类对象还被其他订单引用——在深拷贝其他订单时,deepcopy又会从memo里取出同一个品类副本。
结果就是:多个订单的快照共享了同一个品类对象。
我改了订单A快照里的品类信息,订单B快照里的也跟着变了。但原始订单数据没变,所以数据库里对不上——快照和原始数据出现了不一致。
官方文档其实提过这个问题:“由于深层复制会复制所有内容,因此可能会过多复制(例如本应该在副本之间共享的数据)。”但谁会天天翻文档呢?
第二个坑:性能,慢到你怀疑人生
除了逻辑上的坑,deepcopy还有一个更直接的坑——慢。
我那个订单系统,每天要处理几十万笔订单。每笔订单生成快照的时候来一次deepcopy。上线第一天还没事,第二天开始,接口响应时间从200ms飙到了3秒。
为什么?
因为deepcopy是递归复制。一个订单对象里嵌套了商品列表,商品又嵌套了品类、品牌、供应商……每一层都要遍历、复制。
实测数据表明,深拷贝比浅拷贝慢10到100倍。对深层嵌套的结构,这个差距会更夸张。
更可怕的是,deepcopy在复制过程中还会做大量的类型检查和调度,这些都是纯Python层面的开销。虽然Python官方一直在优化deepcopy的性能,但递归的本质决定了它不可能快到哪去。
我那几百个订单出问题的时候,系统已经跑了三天。期间生成了几十万份快照,每一份都经历了完整的递归复制。CPU和内存双双拉满,GC频繁触发,整个服务都快跑不动了。
你以为的“安全第一”,变成了“性能要命”。
第三个坑:有些东西根本拷不动
deepcopy还有一个让人崩溃的限制——不是所有对象都能被复制。
文件对象、socket连接、线程锁、数据库连接……这些对象跟操作系统资源绑定,deepcopy没法复制。
import copy
import threading
lock = threading.Lock()
data = {'lock': lock}
# 直接报错:TypeError: cannot pickle '_thread.lock' object
copy.deepcopy(data)
如果你的数据结构里不小心混进了这些东西,deepcopy直接抛异常。
我当时没遇到这个问题,但后来帮同事排查过一个bug——他的缓存系统里存了一些带数据库连接的对象,一执行deepcopy就报错,他查了半天不知道怎么回事。
第四个坑:自定义对象的__deepcopy__是个定时炸弹
如果你自定义了类,而且没有实现__deepcopy__方法,deepcopy会尝试递归复制所有属性。
听起来很合理对吧?但问题出在你没考虑到的地方。
比如你有一个类,内部维护了一个缓存字典,用来加速某些计算。这个缓存字典本意是所有实例共享的——它是一个类变量,不是实例变量。
但deepcopy不知道这个区别。它会一股脑地把这个缓存字典也复制一份。
class DataProcessor:
_cache = {} # 类变量,所有实例共享
def __init__(self, data):
self.data = data
def process(self):
if self.data not in self._cache:
self._cache[self.data] = expensive_compute(self.data)
return self._cache[self.data]
当你deepcopy一个DataProcessor实例时,_cache会被复制一份。新的实例有了自己的缓存,跟其他实例的缓存脱离了关系。
这可能会导致内存暴涨——每个副本都有一份独立的缓存,而原本的设计是共享一份。
更糟糕的是,如果你自己实现了__deepcopy__方法但没有正确处理memo字典,可能会造成无限递归。deepcopy官方文档特别强调:__deepcopy__实现需要调用deepcopy()函数并传入memo字典作为第二个参数。
那场事故之后,我学到了什么
那天之后,我把代码改成了这样:
第一,能不用deepcopy就不用deepcopy。
大多数场景下,你根本不需要完整的深拷贝。如果你的目的是“保护原始数据不被修改”,可以考虑更轻量的方案:
- 只拷贝需要修改的部分。比如我只修改
items列表,那就只复制items,其他的用引用。 - 用不可变数据结构。
tuple代替list,frozenset代替set。不可变对象天然安全,不需要拷贝。 - 用工厂方法重新创建。与其深拷贝一个复杂对象,不如重新构造一个。
第二,如果一定要用,控制范围。
不要对整个大对象做deepcopy,只对需要独立的部分做。比如我只复制items列表里的商品对象,不复制整个订单。
第三,自定义类要实现__deepcopy__。
如果你自定义的类里有特殊的共享数据(比如缓存、连接池),一定要实现__deepcopy__方法,明确告诉deepcopy哪些该复制、哪些不该复制。
class DataProcessor:
_shared_cache = {} # 所有实例共享
def __deepcopy__(self, memo):
# 创建一个新实例,但共享缓存
new = DataProcessor(self.data)
# 不复制 _shared_cache
return new
第四,加缓存。
如果你的数据在短时间内会被多次深拷贝,考虑把深拷贝的结果缓存起来。当然,这要小心缓存失效的问题。
什么时候该用deepcopy?
说了这么多坑,不是让你永远不用deepcopy。它确实有它的用武之地。
应该用deepcopy的场景:
- 数据结构简单,嵌套层级浅
- 数据规模小,拷贝次数少
- 你需要一份完全独立的副本,且原始数据可能在任何层级被修改
- 对象不包含不可复制的资源(文件、连接、锁等)
不该用deepcopy的场景:
- 数据结构复杂,嵌套层级深
- 数据规模大,或者拷贝频率高
- 你只需要修改顶层数据,嵌套部分不需要动
- 对象包含系统资源(文件、socket、连接等)
一个简单的判断标准:你确定需要一份“物理隔离”的完整副本吗?
- 确定 → 用
deepcopy,但要评估性能和副作用 - 不确定 → 先试试浅拷贝,或者只拷贝需要修改的部分
说穿了就一句话
deepcopy不是“万能安全牌”,它只是一个工具。
它确实能帮你创建一份完全独立的副本,但这份“完全独立”可能会带来你没想到的后果——共享数据被意外复制、性能急剧下降、不可复制对象导致崩溃。
官方文档里有一句话值得反复看:“由于深层复制会复制所有内容,因此可能会过多复制。”“过多”这两个字,就是我那天早上盯着手机群消息时的心情写照。
那个周一之后,我在代码里加了一条规约:
使用deepcopy之前,先问自己三个问题:
- 这个对象有多深?递归复制需要多长时间?
- 有没有本该共享的数据被意外复制了?
- 能不能用更轻量的方式实现同样的目的?
希望你能避开我踩过的这些坑。deepcopy不是不能用,是得想清楚了再用。