1. 最常见的去重方法是:先转集合再转回列表
1)set()函数
1. >>> nums = [-1, 0, 2, -1, 3, 1, 0, 1, 2] 2. >>> list(set(nums)) 3. [0, 1, 2, 3, -1]
缺点:返回结果的元素顺序与原列表不一致
可以用.sort() 或 sorted()排序,改正到原列表顺序
1. >>> sorted(list(set(nums)),key=nums.index) 2. [-1, 0, 2, 3, 1] 3. >>>
2) 字典内置方法 dict.fromkeys(),不用额外再排序
>>> nums = [-1, 0, 2, -1, 3, 1, 0, 1, 2] >>> list(dict.fromkeys(nums)) [-1, 0, 2, 3, 1] >>> >>> # 也可以用 空{}前导的写法 >>> {}.fromkeys(nums) {-1: None, 0: None, 2: None, 3: None, 1: None} >>> list({}.fromkeys(nums)) [-1, 0, 2, 3, 1]
3)前两种方法的共同缺点:当源列表包括 unhashable 类型元素时都无法工作
>>> nums = [-1, 0, 2, -1, 3, 1, 0, [1, 2]] >>> list(set(nums)) Traceback (most recent call last): File "<pyshell#222>", line 1, in <module> list(set(nums)) TypeError: unhashable type: 'list' >>> {}.fromkeys(nums) Traceback (most recent call last): File "<pyshell#223>", line 1, in <module> {}.fromkeys(nums) TypeError: unhashable type: 'list' >>>
2. 直接删除del重复元素,遍历源列表用.count(n)计数,>1即有重复
>>> nums = [-1, 0, 2, -1, 3, 1, 0, [1, 2]] >>> t = nums[:] >>> # 此处如用 t = nums ,nums也会被修改,最后一步的 t==nums 将返回True >>> for n in t: while t.count(n)>1: del t[t.index(n)] >>> sorted(t,key=nums.index) [-1, 0, 2, 3, 1, [1, 2]] >>> >>> t == nums False >>>
或者如下从尾部向前删就不用另外排序:
>>> nums = [-1, 0, 2, -1, 3, 1, 0, [1, 2]] >>> t = nums[::-1] >>> for i in nums: if nums.count(i)>1: del nums[-t.index(i)-1] >>> nums [-1, 0, 2, 3, 1, [1, 2]] >>>
3. 列表list.remove()方法
>>> nums = [-1, 0, 2, -1, 3, 1, 0, [1, 2]] >>> t = nums[:] >>> for i in t: while t.count(i)>1: t.remove(i) >>> t.sort(key=nums.index) >>> t [-1, 0, 2, 3, 1, [1, 2]] >>>
4. 新建空列表,通过遍历源列表,只添加新列表中没有的元素:
>>> nums = [-1, 0, 2, -1, 3, 1, 0, [1, 2]] >>> tmp = [] >>> for n in nums: if n not in tmp: tmp.append(n) >>> tmp [-1, 0, 2, 3, 1, [1, 2]] >>>
5. functools.reduce()方法
>>> from functools import reduce >>> nums = [-1, 0, 2, -1, 3, 1, 0, [1, 2]] >>> reduce(lambda x,y:x if y in x else x + [y],[[],]+nums) [-1, 0, 2, 3, 1, [1, 2]] >>> nums [-1, 0, 2, -1, 3, 1, 0, [1, 2]] >>>
6. itertools.groupby()方法,也不适合有unhashable类型元素的列表
>>> from itertools import groupby >>> nums = [-1, 0, 2, -1, 3, 0, 1, 2] >>> t = sorted(nums) >>> res = [] >>> for i,n in groupby(t): res.append(i) >>> sorted(res, key=nums.index) [-1, 0, 2, 3, 1]
注:groupby()分组时,同值元素相邻才会分在同组,所以要先排序sorted()
groupby()方法拓展:先建一个源列表元素出现次数的字典,再根据字典来删重复元素
>>> nums = [-1, 0, 2, -1, 0, 3, 1, 0, 1, 2] >>> count = {i:len([*n]) for i,n in groupby(sorted(nums))} >>> count {-1: 2, 0: 3, 1: 2, 2: 2, 3: 1} >>> res = nums[:] >>> for i in m.keys(): for j in range(m[i]-1): res.remove(i) >>> sorted(res, key=nums.index) [-1, 0, 2, 3, 1] >>>
注:有点多此一举,因为同款字典这样写更方便:{i:nums.count(i) for i in nums}
总结:
在不包含unhashable类型元素的情况下,列表去重用 dict.fromkeys() 最优;
否则用第4种方法,即空列表只追加“新”元素的办法。