Python 关于“列表去重”的几点小技巧

简介: Python 关于“列表去重”的几点小技巧

1. 最常见的去重方法是:先转集合再转回列表


1)set()函数

1. >>> nums = [-1, 0, 2, -1, 3, 1, 0, 1, 2]
2. >>> list(set(nums))
3. [0, 1, 2, 3, -1]


缺点:返回结果的元素顺序与原列表不一致

可以用.sort() 或 sorted()排序,改正到原列表顺序

1. >>> sorted(list(set(nums)),key=nums.index)
2. [-1, 0, 2, 3, 1]
3. >>>


2) 字典内置方法 dict.fromkeys(),不用额外再排序

>>> nums = [-1, 0, 2, -1, 3, 1, 0, 1, 2]
>>> list(dict.fromkeys(nums))
[-1, 0, 2, 3, 1]
>>>
>>> # 也可以用 空{}前导的写法
>>> {}.fromkeys(nums)
{-1: None, 0: None, 2: None, 3: None, 1: None}
>>> list({}.fromkeys(nums))
[-1, 0, 2, 3, 1]


3)前两种方法的共同缺点:当源列表包括 unhashable 类型元素时都无法工作

>>> nums = [-1, 0, 2, -1, 3, 1, 0, [1, 2]]
>>> list(set(nums))
Traceback (most recent call last):
  File "<pyshell#222>", line 1, in <module>
    list(set(nums))
TypeError: unhashable type: 'list'
>>> {}.fromkeys(nums)
Traceback (most recent call last):
  File "<pyshell#223>", line 1, in <module>
    {}.fromkeys(nums)
TypeError: unhashable type: 'list'
>>> 


2. 直接删除del重复元素,遍历源列表用.count(n)计数,>1即有重复

>>> nums = [-1, 0, 2, -1, 3, 1, 0, [1, 2]]
>>> t = nums[:]
>>> # 此处如用 t = nums ,nums也会被修改,最后一步的 t==nums 将返回True
>>> for n in t:
  while t.count(n)>1:
    del t[t.index(n)]
>>> sorted(t,key=nums.index)
[-1, 0, 2, 3, 1, [1, 2]]
>>>
>>> t == nums
False
>>> 


或者如下从尾部向前删就不用另外排序:

>>> nums = [-1, 0, 2, -1, 3, 1, 0, [1, 2]]
>>> t = nums[::-1]
>>> for i in nums:
  if nums.count(i)>1:
    del nums[-t.index(i)-1]
>>> nums
[-1, 0, 2, 3, 1, [1, 2]]
>>> 


3. 列表list.remove()方法

>>> nums = [-1, 0, 2, -1, 3, 1, 0, [1, 2]]
>>> t = nums[:]
>>> for i in t:
  while t.count(i)>1:
    t.remove(i)
>>> t.sort(key=nums.index)
>>> t
[-1, 0, 2, 3, 1, [1, 2]]
>>> 


4. 新建空列表,通过遍历源列表,只添加新列表中没有的元素:

>>> nums = [-1, 0, 2, -1, 3, 1, 0, [1, 2]]
>>> tmp = []
>>> for n in nums:
  if n not in tmp:
    tmp.append(n)
>>> tmp
[-1, 0, 2, 3, 1, [1, 2]]
>>> 


5. functools.reduce()方法


>>> from functools import reduce
>>> nums = [-1, 0, 2, -1, 3, 1, 0, [1, 2]]
>>> reduce(lambda x,y:x if y in x else x + [y],[[],]+nums)
[-1, 0, 2, 3, 1, [1, 2]]
>>> nums
[-1, 0, 2, -1, 3, 1, 0, [1, 2]]
>>> 


6. itertools.groupby()方法,也不适合有unhashable类型元素的列表

>>> from itertools import groupby
>>> nums = [-1, 0, 2, -1, 3, 0, 1, 2]
>>> t = sorted(nums)
>>> res = []
>>> for i,n in groupby(t):
  res.append(i)
>>> sorted(res, key=nums.index)
[-1, 0, 2, 3, 1]

注:groupby()分组时,同值元素相邻才会分在同组,所以要先排序sorted()

groupby()方法拓展:先建一个源列表元素出现次数的字典,再根据字典来删重复元素

>>> nums = [-1, 0, 2, -1, 0, 3, 1, 0, 1, 2]
>>> count = {i:len([*n]) for i,n in groupby(sorted(nums))}
>>> count
{-1: 2, 0: 3, 1: 2, 2: 2, 3: 1}
>>> res = nums[:]
>>> for i in m.keys():
  for j in range(m[i]-1):
    res.remove(i)
>>> sorted(res, key=nums.index)
[-1, 0, 2, 3, 1]
>>> 

注:有点多此一举,因为同款字典这样写更方便:{i:nums.count(i) for i in nums}


总结:


在不包含unhashable类型元素的情况下,列表去重用 dict.fromkeys() 最优;

否则用第4种方法,即空列表只追加“新”元素的办法。

目录
相关文章
|
6天前
|
存储 索引 Python
Python学习笔记----列表、元组和字典的基础操作
这篇文章是一份Python学习笔记,涵盖了列表、元组和字典的基础操作,包括它们的创建、修改、删除、内置函数和方法等。
Python学习笔记----列表、元组和字典的基础操作
|
7天前
|
索引 Python
Day 7/100:Python列表
Day 7/100:Python列表
9 1
|
13天前
|
索引 Python
【Leetcode刷题Python】从列表list中创建一颗二叉树
本文介绍了如何使用Python递归函数从列表中创建二叉树,其中每个节点的左右子节点索引分别是当前节点索引的2倍加1和2倍加2。
15 7
|
10天前
|
存储 数据库 C++
"深入剖析Python元组(tuple):与列表的对比、特性解析及高效应用场景展示"
【8月更文挑战第9天】Python元组与列表虽均用于存储元素集合,但有本质差异。元组不可变,创建后无法修改,适合保护数据不被意外更改的场景,如作字典键或传递固定值。列表则可变,支持动态增删改,适用于需频繁调整的数据集。元组因不可变性而在性能上有优势,可用于快速查找。两者各有千秋,根据具体需求选择使用。例如,元组可用于表示坐标点或日期,而列表更适合管理用户列表或库存。
16 1
|
19天前
|
Python
探索Python中的列表推导式:从基础到高级应用
【7月更文挑战第31天】在Python编程的多彩世界中,列表推导式以其简洁和高效著称。本文将带领读者从零开始,深入理解列表推导式的工作原理,并通过实际代码示例展示如何利用它解决日常编程问题。我们还将探讨一些高级用法,比如嵌套推导式和生成器表达式,以及它们如何优化性能和简化代码。最后,文章将以思考题结束,鼓励读者将所学应用于更广泛的场景中。
16 5
|
18天前
|
测试技术 数据处理 开发者
探索Python中的列表推导式:简洁与效率的融合
【8月更文挑战第2天】在Python编程世界中,列表推导式以其简明扼要的语法和高效的性能而备受青睐。本文将通过实际代码示例深入探讨列表推导式的使用场景、优势及其背后的工作原理。我们将一起见证如何通过几行简单的代码,完成复杂的数据处理任务,并评估其在不同情况下的性能表现。
|
20天前
|
存储 缓存 测试技术
Python列表与元组
【7月更文挑战第26天】Python 中的列表(List)和元组(Tuple)是两种常用的数据结构,它们都可以用来存储一系列的元素。虽然它们在某些方面相似,但也有一些重要的区别。在本文中,我们将分享一些 Python 中列表和元组的操作技巧,帮助您更好地理解它们的用法和特性。
21 4
|
4天前
|
存储 数据安全/隐私保护 索引
Python基础语法day02字符串详解和列表
Python基础语法day02字符串详解和列表
|
14天前
|
存储 索引 Python
探究 Python3 列表的今生
【8月更文挑战第5天】Python3中的列表是一种灵活的序列类型,使用方括号内以逗号分隔的值表示。列表支持多种操作如索引访问、切片选取、列表合并等。可通过索引(从0开始)轻松访问和修改元素,也支持负索引来访问末尾元素。列表可以存储不同类型的数据,并能动态扩展或删除元素,非常适合需要频繁修改的数据集合。
11 0