Pandas数据结构:Series与DataFrame

本文涉及的产品
可观测可视化 Grafana 版,10个用户账号 1个月
可观测监控 Prometheus 版,每月50GB免费额度
注册配置 MSE Nacos/ZooKeeper,118元/月
简介: 本文介绍了 Python 的 Pandas 库中两种主要数据结构 `Series` 和 ``DataFrame`,从基础概念入手,详细讲解了它们的创建、常见问题及解决方案,包括数据缺失处理、数据类型转换、重复数据删除、数据筛选、排序、聚合和合并等操作。同时,还提供了常见报错及解决方法,帮助读者更好地理解和使用 Pandas 进行数据分析。

引言

在数据分析领域,Python 的 Pandas 库因其强大的数据操作功能而广受欢迎。Pandas 提供了两种主要的数据结构:SeriesDataFrame。本文将从基础概念出发,逐步深入探讨这两种数据结构的使用方法、常见问题及解决方案。
image.png

1. 基础概念

1.1 Series

Series 是一维数组,可以存储任何数据类型(整数、字符串、浮点数、Python 对象等)。Series 的索引默认是从 0 开始的整数索引,也可以自定义索引。

import pandas as pd

# 创建一个简单的 Series
data = [10, 20, 30, 40]
s = pd.Series(data)
print(s)

输出:

0    10
1    20
2    30
3    40
dtype: int64

1.2 DataFrame

DataFrame 是二维表格型数据结构,可以看作是由多个 Series 组成的。每个列可以有不同的数据类型。DataFrame 的索引可以是自定义的,也可以是默认的整数索引。

# 创建一个简单的 DataFrame
data = {
   
    'Name': ['Alice', 'Bob', 'Charlie'],
    'Age': [25, 30, 35],
    'City': ['New York', 'Los Angeles', 'Chicago']
}
df = pd.DataFrame(data)
print(df)

输出:

      Name  Age         City
0    Alice   25     New York
1      Bob   30  Los Angeles
2  Charlie   35      Chicago

2. 常见问题及解决方案

2.1 数据缺失

问题描述

在实际数据中,经常会遇到缺失值(NaN)。处理缺失值是数据分析中的一个重要步骤。

解决方案

  • 删除缺失值:使用 dropna() 方法删除包含缺失值的行或列。
  • 填充缺失值:使用 fillna() 方法填充缺失值。
# 删除缺失值
df.dropna(inplace=True)

# 填充缺失值
df.fillna(value=0, inplace=True)

2.2 数据类型转换

问题描述

有时需要将某一列的数据类型从一种类型转换为另一种类型,例如从字符串转换为整数。

解决方案

使用 astype() 方法进行数据类型转换。

# 将 'Age' 列从字符串转换为整数
df['Age'] = df['Age'].astype(int)

2.3 重复数据

问题描述

数据集中可能存在重复的记录,这会影响分析结果的准确性。

解决方案

使用 drop_duplicates() 方法删除重复的行。

# 删除重复的行
df.drop_duplicates(inplace=True)

2.4 数据筛选

问题描述

在分析数据时,经常需要根据某些条件筛选数据。

解决方案

使用布尔索引进行数据筛选。

# 筛选出年龄大于 30 的记录
filtered_df = df[df['Age'] > 30]
print(filtered_df)

2.5 数据排序

问题描述

对数据进行排序可以帮助我们更好地理解数据的分布情况。

解决方案

使用 sort_values() 方法对数据进行排序。

# 按 'Age' 列升序排序
sorted_df = df.sort_values(by='Age')
print(sorted_df)

2.6 数据聚合

问题描述

在数据分析中,经常需要对数据进行聚合操作,例如计算平均值、求和等。

解决方案

使用 groupby() 方法进行数据聚合。

# 按 'City' 列分组,并计算每组的平均年龄
grouped_df = df.groupby('City')['Age'].mean()
print(grouped_df)

2.7 数据合并

问题描述

在实际应用中,数据往往来自不同的源,需要将这些数据合并在一起进行分析。

解决方案

使用 merge() 方法进行数据合并。

# 创建两个 DataFrame
df1 = pd.DataFrame({
   
    'Name': ['Alice', 'Bob'],
    'Age': [25, 30]
})

df2 = pd.DataFrame({
   
    'Name': ['Alice', 'Bob'],
    'City': ['New York', 'Los Angeles']
})

# 合并两个 DataFrame
merged_df = pd.merge(df1, df2, on='Name')
print(merged_df)

3. 常见报错及解决方法

3.1 KeyError

报错描述

当尝试访问不存在的列时,会引发 KeyError

解决方法

确保列名正确无误。

# 错误示例
df['NonExistentColumn']

# 正确示例
df['Age']

3.2 ValueError

报错描述

当数据类型不匹配时,会引发 ValueError

解决方法

检查数据类型是否一致,必要时进行数据类型转换。

# 错误示例
df['Age'] = df['Age'] + 'years'

# 正确示例
df['Age'] = df['Age'].astype(str) + ' years'

3.3 SettingWithCopyWarning

报错描述

当对一个切片进行赋值操作时,可能会引发 SettingWithCopyWarning

解决方法

使用 .loc.iloc 进行赋值操作。

# 错误示例
subset = df[df['Age'] > 30]
subset['City'] = 'Unknown'

# 正确示例
df.loc[df['Age'] > 30, 'City'] = 'Unknown'

4. 总结

本文介绍了 Pandas 中的两种主要数据结构 SeriesDataFrame,并通过具体代码案例详细讲解了常见的问题及其解决方案。希望本文能帮助读者更好地理解和使用 Pandas 进行数据分析。

目录
相关文章
|
5天前
|
存储 运维 安全
云上金融量化策略回测方案与最佳实践
2024年11月29日,阿里云在上海举办金融量化策略回测Workshop,汇聚多位行业专家,围绕量化投资的最佳实践、数据隐私安全、量化策略回测方案等议题进行深入探讨。活动特别设计了动手实践环节,帮助参会者亲身体验阿里云产品功能,涵盖EHPC量化回测和Argo Workflows量化回测两大主题,旨在提升量化投研效率与安全性。
云上金融量化策略回测方案与最佳实践
|
7天前
|
人工智能 自然语言处理 前端开发
从0开始打造一款APP:前端+搭建本机服务,定制暖冬卫衣先到先得
通义灵码携手科技博主@玺哥超carry 打造全网第一个完整的、面向普通人的自然语言编程教程。完全使用 AI,再配合简单易懂的方法,只要你会打字,就能真正做出一个完整的应用。
7733 19
|
11天前
|
Cloud Native Apache 流计算
资料合集|Flink Forward Asia 2024 上海站
Apache Flink 年度技术盛会聚焦“回顾过去,展望未来”,涵盖流式湖仓、流批一体、Data+AI 等八大核心议题,近百家厂商参与,深入探讨前沿技术发展。小松鼠为大家整理了 FFA 2024 演讲 PPT ,可在线阅读和下载。
4286 10
资料合集|Flink Forward Asia 2024 上海站
|
19天前
|
人工智能 自动驾驶 大数据
预告 | 阿里云邀您参加2024中国生成式AI大会上海站,马上报名
大会以“智能跃进 创造无限”为主题,设置主会场峰会、分会场研讨会及展览区,聚焦大模型、AI Infra等热点议题。阿里云智算集群产品解决方案负责人丛培岩将出席并发表《高性能智算集群设计思考与实践》主题演讲。观众报名现已开放。
|
11天前
|
自然语言处理 数据可视化 API
Qwen系列模型+GraphRAG/LightRAG/Kotaemon从0开始构建中医方剂大模型知识图谱问答
本文详细记录了作者在短时间内尝试构建中医药知识图谱的过程,涵盖了GraphRAG、LightRAG和Kotaemon三种图RAG架构的对比与应用。通过实际操作,作者不仅展示了如何利用这些工具构建知识图谱,还指出了每种工具的优势和局限性。尽管初步构建的知识图谱在数据处理、实体识别和关系抽取等方面存在不足,但为后续的优化和改进提供了宝贵的经验和方向。此外,文章强调了知识图谱构建不仅仅是技术问题,还需要深入整合领域知识和满足用户需求,体现了跨学科合作的重要性。
|
7天前
|
人工智能 容器
三句话开发一个刮刮乐小游戏!暖ta一整个冬天!
本文介绍了如何利用千问开发一款情侣刮刮乐小游戏,通过三步简单指令实现从单个功能到整体框架,再到多端优化的过程,旨在为生活增添乐趣,促进情感交流。在线体验地址已提供,鼓励读者动手尝试,探索编程与AI结合的无限可能。
三句话开发一个刮刮乐小游戏!暖ta一整个冬天!
|
1月前
|
存储 人工智能 弹性计算
阿里云弹性计算_加速计算专场精华概览 | 2024云栖大会回顾
2024年9月19-21日,2024云栖大会在杭州云栖小镇举行,阿里云智能集团资深技术专家、异构计算产品技术负责人王超等多位产品、技术专家,共同带来了题为《AI Infra的前沿技术与应用实践》的专场session。本次专场重点介绍了阿里云AI Infra 产品架构与技术能力,及用户如何使用阿里云灵骏产品进行AI大模型开发、训练和应用。围绕当下大模型训练和推理的技术难点,专家们分享了如何在阿里云上实现稳定、高效、经济的大模型训练,并通过多个客户案例展示了云上大模型训练的显著优势。
104578 10
|
7天前
|
消息中间件 人工智能 运维
12月更文特别场——寻找用云高手,分享云&AI实践
我们寻找你,用云高手,欢迎分享你的真知灼见!
605 39
|
4天前
|
弹性计算 运维 监控
阿里云云服务诊断工具:合作伙伴架构师的深度洞察与优化建议
作为阿里云的合作伙伴架构师,我深入体验了其云服务诊断工具,该工具通过实时监控与历史趋势分析,自动化检查并提供详细的诊断报告,极大提升了运维效率和系统稳定性,特别在处理ECS实例资源不可用等问题时表现突出。此外,它支持预防性维护,帮助识别潜在问题,减少业务中断。尽管如此,仍建议增强诊断效能、扩大云产品覆盖范围、提供自定义诊断选项、加强教育与培训资源、集成第三方工具,以进一步提升用户体验。
624 243
|
1天前
|
弹性计算 运维 监控
云服务测评 | 基于云服务诊断全方位监管云产品
本文介绍了阿里云的云服务诊断功能,包括健康状态和诊断两大核心功能。作者通过个人账号体验了该服务,指出其在监控云资源状态和快速排查异常方面的优势,同时也提出了一些改进建议,如增加告警配置入口和扩大诊断范围等。