使用 pandas 读取农产品数据并分析

简介: 使用 pd.read_excel()方法读取数据,并输出。将爬取的东西用matplotlib画图画出来结果展示

使用 pd.read_excel()方法读取数据,并输出。

(1) 注意:如果没有列名,请使用参数设置列名序列为:[“菜名”, “地址”, “价格”,“单 位”,“日期”]

(2)输出数据表中数据前 5 行

(3)输出数据表中数据前 5 行,只包含列地址、价格与日期。

(4)使用 df.describe()查看数据表的整体统计信息

(5)输出数据表中的统计的不同地址(地址列去重)。


import numpy as py
import pandas
import requests
import json
import time
from openpyxl import Workbook
url = r"https://www.gznw.com/eportal/ui?moduleId=ab59857100d84dcca372ff4473198d88&struts.portlet.mode=view&struts.portlet.action=/portlet/priceFront!queryFrontList.action&pageSize=20&pageNum=1&recruitType=1&productName=%E9%B2%9C%E9%B8%A1%E8%9B%8B&areaCode=22572&startTime=20230201&endTime=20230404"
headers = {
    "User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/111.0.0.0 "
                  "Safari/537.36 Edg/111.0.1661.54 "
}
response = requests.get(url=url, headers=headers)
res = json.loads(response.text)
sulidata = res['rows']
wb = Workbook()
ws = wb.worksheets[0]
ws.append(["产品名称", "价格类型", "价格", "单位", "市场名称", "发布时间"])
for lists in sulidata:
    name, style, price, danwei, address, time1 = (
    lists['v0027'], lists['v0036'], lists['v0005'], lists['v0014'], lists['v0031'], lists['v0004'])
    print(name, price, address, time1)
    index = time1.index(".")
    date_time = time.strptime(time1[:index], '%Y-%m-%d  %H:%M:%S')
    date_time1 = time.strftime('%Y年%m月%d日  %H时%M分%S秒', date_time)
    print(date_time1)
    ws.append([name, style, price, danwei, address, date_time1])
wb.save("价格爬取.xlsx")


将东西用matplotlib画图画出来

代码如下

import numpy as np
import pandas as pd
from pylab import mpl
import matplotlib.pyplot as plt
# #groupby帮助文档:https://pandas.pydata.org/docs/user_guide/groupby.html?highlight=plot
# #1groupby的基本步骤:split,apply,combin
mpl.rcParams['font.sans-serif'] = ['SimHei']  # 指定默认字体为黑体
mpl.rcParams['axes.unicode_minus'] = False  # 解决保存图像是负号'-'显示为方块的问题
df=pd.read_excel("农产品数据1.xlsx",header=0)
print(df.loc[0:5])
group = df.groupby('市场')
# df['日期1']=pd.to_datetime(df['发售时间']).dt.date
df['日期']=df['发售时间'].str[0:8]
n=0
for name,value in group:
    g3=value.groupby(df['日期'])['价格'].mean()
    x=np.arange(len(g3.index))+n*0.3
    plt.bar(x,g3.values,width=0.3,label=name)
    plt.xticks(x,g3.index,rotation=45)
    n=n+1
    plt.xlabel("时间")
    plt.ylabel("平均价格")
    plt.title("贵阳各地区鸡蛋平均价格")
    plt.legend()
plt.show()


结果展示

37.png



相关文章
|
1月前
|
机器学习/深度学习 数据可视化 搜索推荐
Python在社交媒体分析中扮演关键角色,借助Pandas、NumPy、Matplotlib等工具处理、可视化数据及进行机器学习。
【7月更文挑战第5天】Python在社交媒体分析中扮演关键角色,借助Pandas、NumPy、Matplotlib等工具处理、可视化数据及进行机器学习。流程包括数据获取、预处理、探索、模型选择、评估与优化,以及结果可视化。示例展示了用户行为、话题趋势和用户画像分析。Python的丰富生态使得社交媒体洞察变得高效。通过学习和实践,可以提升社交媒体分析能力。
51 1
|
3月前
|
存储 JSON 数据处理
从JSON数据到Pandas DataFrame:如何解析出所需字段
从JSON数据到Pandas DataFrame:如何解析出所需字段
205 1
|
20天前
|
存储 数据可视化 Python
Python中的数据可视化:使用Matplotlib和Pandas探索数据
【7月更文挑战第31天】 在数据科学的世界里,可视化是理解复杂数据集的关键。本文将引导你通过Python的Matplotlib库和Pandas库来揭示数据背后的故事。我们将一起构建图表,从简单的线图到复杂的热图,每一步都将用代码示例来丰富你的理解。文章不仅仅是展示如何绘制图表,更是一次深入探索数据结构和模式的旅程。
40 8
|
5天前
|
Python
Pandas 读取Eexcel - 间隔N行,读取某列数据
Pandas 读取Eexcel - 间隔N行,读取某列数据
10 0
|
18天前
|
Python
【Pandas】Pandas的DataFrame按行插入list数据或者读取一行并存为csv文件
本文提供了使用Pandas库对DataFrame进行操作的示例代码。
21 0
|
1月前
|
存储 数据可视化 数据处理
`geopandas`是一个开源项目,它为Python提供了地理空间数据处理的能力。它基于`pandas`库,并扩展了其对地理空间数据(如点、线、多边形等)的支持。`GeoDataFrame`是`geopandas`中的核心数据结构,它类似于`pandas`的`DataFrame`,但包含了一个额外的地理列(通常是`geometry`列),用于存储地理空间数据。
`geopandas`是一个开源项目,它为Python提供了地理空间数据处理的能力。它基于`pandas`库,并扩展了其对地理空间数据(如点、线、多边形等)的支持。`GeoDataFrame`是`geopandas`中的核心数据结构,它类似于`pandas`的`DataFrame`,但包含了一个额外的地理列(通常是`geometry`列),用于存储地理空间数据。
|
2月前
|
数据采集 存储 数据可视化
Pandas高级教程:数据清洗、转换与分析
Pandas是Python的数据分析库,提供Series和DataFrame数据结构及数据分析工具,便于数据清洗、转换和分析。本教程涵盖Pandas在数据清洗(如缺失值、重复值和异常值处理)、转换(数据类型转换和重塑)和分析(如描述性统计、分组聚合和可视化)的应用。通过学习Pandas,用户能更高效地处理和理解数据,为数据分析任务打下基础。
111 3
|
1月前
|
存储 消息中间件 数据挖掘
Python实时数据分析:利用丰富的库(如Pandas, PySpark, Kafka)进行流处理,涵盖数据获取、预处理、处理、存储及展示。
【7月更文挑战第5天】Python实时数据分析:利用丰富的库(如Pandas, PySpark, Kafka)进行流处理,涵盖数据获取、预处理、处理、存储及展示。示例代码展示了从Kafka消费数据,计算社交媒体活跃度和物联网设备状态,并可视化结果。适用于监控、故障检测等场景。通过学习和实践,提升实时数据分析能力。
51 0
|
1月前
|
数据采集 数据挖掘 大数据
Pandas是Python数据分析的核心库,基于NumPy,提供DataFrame结构处理结构化数据
【7月更文挑战第5天】Pandas是Python数据分析的核心库,基于NumPy,提供DataFrame结构处理结构化数据。它支持缺失值处理(dropna()、fillna())、异常值检测(Z-Score、IQR法)和重复值管理(duplicated()、drop_duplicates())。此外,数据转换包括类型转换(astype())、数据标准化(Min-Max、Z-Score)以及类别编码(get_dummies())。这些功能使得Pandas成为大数据预处理的强大工具。
23 0