Pandas read_csv 参数详解

简介: Pandas的`read_csv`函数用于从CSV文件中加载数据,转换为DataFrame。本文详述了其常用参数,如`filepath_or_buffer`(接受路径、URL或文件对象)、`sep`/`delimiter`(字段分隔符,默认为逗号)、`header`(列名行号,默认0)、`names`(自定义列名)、`index_col`(设定索引列)、`usecols`(选择读取的列)、`skiprows`/`nrows`/`skipfooter`(跳过或只读指定行数)和`parse_dates`(解析日期列)。理解这些参数有助于高效处理CSV数据。

image.png

前言

在使用 Pandas 进行数据分析和处理时,read_csv 是一个非常常用的函数,用于从 CSV 文件中读取数据并将其转换成 DataFrame 对象。read_csv 函数具有多个参数,可以根据不同的需求进行灵活的配置。本文将详细介绍 read_csv 函数的各个参数及其用法,帮助大家更好地理解和利用这一功能。

常用参数概述

pandas的 read_csv 函数用于读取CSV文件。以下是一些常用参数:

  • filepath_or_buffer: 要读取的文件路径或对象。
  • sep: 字段分隔符,默认为,。
  • delimiter: 字段分隔符,sep的别名。
  • header: 用作列名的行号,默认为0(第一行),如果没有列名则设为None。
  • names: 列名列表,用于结果DataFrame。
  • index_col: 用作索引的列编号或列名。
  • usecols: 返回的列,可以是列名的列表或由列索引组成的列表。
  • dtype: 字典或列表,指定某些列的数据类型。
  • skiprows: 需要忽略的行数(从文件开头算起),或需要跳过的行号列表。
  • nrows: 需要读取的行数(从文件开头算起)。
  • skipfooter: 文件尾部需要忽略的行数。
  • encoding: 文件编码(如'utf-8','latin-1'等)。
  • parse_dates: 将某些列解析为日期。
  • infer_datetime_format: 如果 True 且 parse_dates 未指定,那么将尝试解析日期。
  • iterator: 如果 True,返回 TextFileReader 对象,用于逐块读取文件。
  • chunksize: 每个块的行数,用于逐块读取文件。
  • compression: 压缩格式,例如 'gzip' 或 'xz'

filepath_or_buffer要读取的文件路径或对象

filepath_or_buffer: FilePath | ReadCsvBuffer[bytes] | ReadCsvBuffer[str]可以接收3种类型,文件路径,读取文件的bytes, 读取文件的str。

  • 可以接受任何有效的字符串路径。该字符串可以是 URL。有效的 URL 方案包括 http、ftp、s3、gs 和 file。对于文件 URL,需要主机。本地文件可以是:file://localhost/path/to/table.csv
  • 想传入一个路径对象,pandas 接受任何 Path
  • 类文件对象是指具有 read() 方法的对象,例如文件句柄(例如通过内置 open 函数)或 StringIO

示例如下:


# 读取字符串路径
import pandas
from pathlib import Path

# 1.相对路径,或文件绝对路径
df1 = pandas.read_csv('data.csv')
print(df1)


# 文件路径对象Path
file_path = Path(__file__).parent.joinpath('data.csv')
df2 = pandas.read_csv(file_path)
print(df2)

# 读取url地址
df3 = pandas.read_csv('http://127.0.0.1:8000/static/data.csv')
print(df3)


# 读取文件对象

with open('data.csv', encoding='utf8') as fp:
    df4 = pandas.read_csv(fp)
    print(df4)

sep: 字段分隔符,默认为,

  • sep 字段分隔符,默认为,
  • delimiter(同sep,分隔符)

示例如下:

df1 = pandas.read_csv('data.csv', sep=',')
print(df1)

df2 = pandas.read_csv('data.csv', delimiter=',')
print(df2)

header 用作列名的行号

header: 指定哪一行作为列名,默认为0,即第一行,如果没有列名则设为None。
如下数据,没有header

张三,,22,123@qq.com
李四,,23,222@qq.com
王五,,24,233@qq.com
张六,,22,123@qq.com


# 读取示例
df6 = pandas.read_csv('data2.csv', header=None)
print(df6)

names自定义列名

names自定义列名,如果header=None,则可以使用该参数。

df6 = pandas.read_csv(
    'data2.csv',
    header=None,
    names=['姓名', '性别', '年龄', '邮箱'])
print(df6)

index_col 用作行索引的列编号或列名

index_col参数在使用pandas的read_csv函数时用于指定哪一列作为DataFrame的索引。
如果设置为None(默认值),CSV文件中的行索引将用作DataFrame的索引。如果设置为某个列的位置(整数)或列名(字符串),则该列将被用作DataFrame的索引。

import pandas as pd

# 我们想要将'`email`'列作为DataFrame的索引

df8 = pd.read_csv('data.csv', index_col='email')
print(df8)

# 或者,如果我们知道'email'列在第4列的位置,也可以这样指定
df9 = pd.read_csv('data.csv', index_col=3)
print(df9)

usecols 读取指定的列

usecols 读取指定的列,可以是列名或列编号。

import pandas as pd

# 1.指定列的编号
df10 = pd.read_csv('data.csv', usecols=[0, 1])
print(df10)

# 2.指定列的名称
df11 = pd.read_csv('data.csv', usecols=['name', 'sex'])
print(df11)

skiprows 、nrows 和skipfooter

  • skiprows: 需要忽略的行数(从文件开头算起),或需要跳过的行号列表。
  • nrows: 需要读取的行数(从文件开头算起)
  • skipfooter: 文件尾部需要忽略的行数。

示例如下:

# skiprpws忽略的行数
import pandas as pd

# 跳过前面2行
df15 = pd.read_csv('data.csv', skiprows=2)
print(df15)

# nrows 需要读取的行数

import pandas as pd

# 读取前面2行
df15 = pd.read_csv('data.csv', nrows=2)
print(df15)


# 文件尾部需要忽略的行数

import pandas as pd

# 忽略文件尾部3行
df15 = pd.read_csv('data.csv', skipfooter=3)
print(df15)

parse_dates 将某些列解析为日期

示例如下:

name,time,date
Bob,21:33:30,2019-10-10
Jerry,21:30:15,2019-10-10
Tom,21:25:30,2019-10-10
Vince,21:20:10,2019-10-10
Hank,21:40:15,2019-10-10


import pandas as pd

# 1.指定列的编号
df16 = pd.read_csv('data.csv')
print(df16)


-------------
# 结果如下:
    name      time        date
0    Bob  21:33:30  2019-10-10
1  Jerry  21:30:15  2019-10-10
2    Tom  21:25:30  2019-10-10
3  Vince  21:20:10  2019-10-10
4   Hank  21:40:15  2019-10-10

默认读取的date日期是字符串类型,使用parse_dates 参数转成datetime类型。

import pandas as pd

df16 = pd.read_csv('ddd.csv')
print(df16.to_dict())   # 'date': {0: '2019-10-10', 1: '2019-10-10',


df17 = pd.read_csv('ddd.csv', parse_dates=['date'])
print(df17.to_dict())  # 'date': {0: Timestamp('2019-10-10 00:00:00')

总结

通过本文的介绍,大家应该对 Pandas 中 read_csv 函数的参数有了更全面的了解。在实际应用中,根据数据的特点和处理需求,灵活使用 read_csv 的各种参数,可以更轻松、高效地进行数据读取和预处理,为数据分析和建模提供更好的基础。

相关文章
|
2月前
|
人工智能 数据挖掘 Python
Python pandas中read_csv函数的io参数
Python pandas中read_csv函数的io参数
39 5
|
9月前
|
编解码 Python
pandas - read_csv报错:‘utf-8‘/‘gbk‘ codec can‘t decode byte 0xb1 in position 0:invalid start byte
pandas - read_csv报错:‘utf-8‘/‘gbk‘ codec can‘t decode byte 0xb1 in position 0:invalid start byte
180 0
|
2月前
|
人工智能 程序员 数据处理
Pandas数据处理2、DataFrame的drop函数具体参数使用详情
Pandas数据处理2、DataFrame的drop函数具体参数使用详情
58 0
|
SQL 存储 JSON
Pandas.read_csv()函数及全部参数使用方法一文详解+实例代码(上)
Pandas.read_csv()函数及全部参数使用方法一文详解+实例代码
1167 0
Pandas.read_csv()函数及全部参数使用方法一文详解+实例代码(上)
|
存储 SQL JSON
Python 之 Pandas 文件操作和读取 CSV 参数详解
Python 之 Pandas 文件操作和读取 CSV 参数详解
|
数据挖掘 索引 Python
pandas库中的read_csv函数读取数据时候的路径问题详解(ValueError: embedded null character)
read_csv()函数不仅是R语言中的一个读取csv文件的函数,也是pandas库中的一个函数。pandas是一个用于数据分析和处理的python库。它的read_csv函数可以读取csv文件里的数据,并将其转化为pandas里面的DataFrame对象。它由很多参数可以设置,例如分隔符、编码、列名、索引等。
264 0
pandas库中的read_csv函数读取数据时候的路径问题详解(ValueError: embedded null character)
|
Python
【Pandas】解析resample函数中重采样频率‘freq‘用法(附参数说明表)
【Pandas】解析resample函数中重采样频率‘freq‘用法(附参数说明表)
474 0
【Pandas】解析resample函数中重采样频率‘freq‘用法(附参数说明表)
|
Python
快速解释如何使用pandas的inplace参数
快速解释如何使用pandas的inplace参数
148 0
快速解释如何使用pandas的inplace参数
|
存储 缓存 文件存储
Pandas.read_csv()函数及全部参数使用方法一文详解+实例代码(下}
Pandas.read_csv()函数及全部参数使用方法一文详解+实例代码(下}
576 0
Pandas.read_csv()函数及全部参数使用方法一文详解+实例代码(下}
|
11天前
|
机器学习/深度学习 数据可视化 搜索推荐
Python在社交媒体分析中扮演关键角色,借助Pandas、NumPy、Matplotlib等工具处理、可视化数据及进行机器学习。
【7月更文挑战第5天】Python在社交媒体分析中扮演关键角色,借助Pandas、NumPy、Matplotlib等工具处理、可视化数据及进行机器学习。流程包括数据获取、预处理、探索、模型选择、评估与优化,以及结果可视化。示例展示了用户行为、话题趋势和用户画像分析。Python的丰富生态使得社交媒体洞察变得高效。通过学习和实践,可以提升社交媒体分析能力。
26 1