使用 pandas 读取农产品数据并分析

简介: 使用 pd.read_excel()方法读取数据,并输出。将爬取的东西用matplotlib画图画出来结果展示

使用 pd.read_excel()方法读取数据,并输出。

(1) 注意:如果没有列名,请使用参数设置列名序列为:[“菜名”, “地址”, “价格”,“单 位”,“日期”]

(2)输出数据表中数据前 5 行

(3)输出数据表中数据前 5 行,只包含列地址、价格与日期。

(4)使用 df.describe()查看数据表的整体统计信息

(5)输出数据表中的统计的不同地址(地址列去重)。


import numpy as py
import pandas
import requests
import json
import time
from openpyxl import Workbook
url = r"https://www.gznw.com/eportal/ui?moduleId=ab59857100d84dcca372ff4473198d88&struts.portlet.mode=view&struts.portlet.action=/portlet/priceFront!queryFrontList.action&pageSize=20&pageNum=1&recruitType=1&productName=%E9%B2%9C%E9%B8%A1%E8%9B%8B&areaCode=22572&startTime=20230201&endTime=20230404"
headers = {
    "User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/111.0.0.0 "
                  "Safari/537.36 Edg/111.0.1661.54 "
}
response = requests.get(url=url, headers=headers)
res = json.loads(response.text)
sulidata = res['rows']
wb = Workbook()
ws = wb.worksheets[0]
ws.append(["产品名称", "价格类型", "价格", "单位", "市场名称", "发布时间"])
for lists in sulidata:
    name, style, price, danwei, address, time1 = (
    lists['v0027'], lists['v0036'], lists['v0005'], lists['v0014'], lists['v0031'], lists['v0004'])
    print(name, price, address, time1)
    index = time1.index(".")
    date_time = time.strptime(time1[:index], '%Y-%m-%d  %H:%M:%S')
    date_time1 = time.strftime('%Y年%m月%d日  %H时%M分%S秒', date_time)
    print(date_time1)
    ws.append([name, style, price, danwei, address, date_time1])
wb.save("价格爬取.xlsx")


将东西用matplotlib画图画出来

代码如下

import numpy as np
import pandas as pd
from pylab import mpl
import matplotlib.pyplot as plt
# #groupby帮助文档:https://pandas.pydata.org/docs/user_guide/groupby.html?highlight=plot
# #1groupby的基本步骤:split,apply,combin
mpl.rcParams['font.sans-serif'] = ['SimHei']  # 指定默认字体为黑体
mpl.rcParams['axes.unicode_minus'] = False  # 解决保存图像是负号'-'显示为方块的问题
df=pd.read_excel("农产品数据1.xlsx",header=0)
print(df.loc[0:5])
group = df.groupby('市场')
# df['日期1']=pd.to_datetime(df['发售时间']).dt.date
df['日期']=df['发售时间'].str[0:8]
n=0
for name,value in group:
    g3=value.groupby(df['日期'])['价格'].mean()
    x=np.arange(len(g3.index))+n*0.3
    plt.bar(x,g3.values,width=0.3,label=name)
    plt.xticks(x,g3.index,rotation=45)
    n=n+1
    plt.xlabel("时间")
    plt.ylabel("平均价格")
    plt.title("贵阳各地区鸡蛋平均价格")
    plt.legend()
plt.show()


结果展示

37.png



相关文章
|
4月前
|
数据采集 安全 数据挖掘
Pandas数据合并:10种高效连接技巧与常见问题
在数据分析中,数据合并是常见且关键的步骤。本文针对合并来自多个来源的数据集时可能遇到的问题,如列丢失、重复记录等,提供系统解决方案。基于对超1000个复杂数据集的分析经验,总结了10种关键技术,涵盖Pandas库中`merge`和`join`函数的使用方法。内容包括基本合并、左连接、右连接、外连接、基于索引连接、多键合并、数据拼接、交叉连接、后缀管理和合并验证等场景。通过实际案例与技术原理解析,帮助用户高效准确地完成数据整合任务,提升数据分析效率。
399 13
Pandas数据合并:10种高效连接技巧与常见问题
|
8月前
|
存储 人工智能 自然语言处理
Pandas数据应用:自然语言处理
本文介绍Pandas在自然语言处理(NLP)中的应用,涵盖数据准备、文本预处理、分词、去除停用词等常见任务,并通过代码示例详细解释。同时,针对常见的报错如`MemoryError`、`ValueError`和`KeyError`提供了解决方案。适合初学者逐步掌握Pandas与NLP结合的技巧。
225 20
|
8月前
|
存储 数据挖掘 计算机视觉
Pandas数据应用:图像处理
Pandas 是一个强大的 Python 数据分析库,主要用于处理结构化数据。尽管它不是专门为图像处理设计的,但可以利用其功能辅助图像处理任务。本文介绍如何使用 Pandas 进行图像处理,包括图像读取、显示、基本操作及常见问题解决方法。通过代码案例解释如何将图像转换为 DataFrame 格式,并探讨数据类型不匹配、内存溢出和颜色通道混淆等问题的解决方案。总结中指出,虽然 Pandas 可作为辅助工具,但在实际项目中建议结合专门的图像处理库如 OpenCV 等使用。
194 18
|
7月前
|
监控 物联网 数据处理
Pandas高级数据处理:数据流式计算
本文介绍了如何使用 Pandas 进行流式数据处理。流式计算能够实时处理不断流入的数据,适用于金融交易、物联网监控等场景。Pandas 虽然主要用于批处理,但通过分块读取文件、增量更新 DataFrame 和使用生成器等方式,也能实现简单的流式计算。文章还详细讨论了内存溢出、数据类型不一致、数据丢失或重复及性能瓶颈等常见问题的解决方案,并建议在处理大规模数据时使用专门的流式计算框架。
467 100
Pandas高级数据处理:数据流式计算
|
8月前
|
机器学习/深度学习 存储 算法
Pandas数据应用:客户流失预测
本文介绍如何使用Pandas进行客户流失预测,涵盖数据加载、预处理、特征工程和模型训练。通过解决常见问题(如文件路径错误、编码问题、列名不一致等),确保数据分析顺利进行。特征工程中创建新特征并转换数据类型,为模型训练做准备。最后,划分训练集与测试集,选择合适的机器学习算法构建模型,并讨论数据不平衡等问题的解决方案。掌握这些技巧有助于有效应对实际工作中的复杂情况。
231 95
|
8月前
|
机器学习/深度学习 数据采集 JSON
Pandas数据应用:机器学习预处理
本文介绍如何使用Pandas进行机器学习数据预处理,涵盖数据加载、缺失值处理、类型转换、标准化与归一化及分类变量编码等内容。常见问题包括文件路径错误、编码不正确、数据类型不符、缺失值处理不当等。通过代码案例详细解释每一步骤,并提供解决方案,确保数据质量,提升模型性能。
333 88
|
8月前
|
数据采集 存储 供应链
Pandas数据应用:库存管理
本文介绍Pandas在库存管理中的应用,涵盖数据读取、清洗、查询及常见报错的解决方法。通过具体代码示例,讲解如何处理多样数据来源、格式不一致、缺失值和重复数据等问题,并解决KeyError、ValueError等常见错误,帮助提高库存管理效率和准确性。
258 72
|
7月前
|
数据采集 数据可视化 数据处理
Pandas高级数据处理:数据仪表板制作
《Pandas高级数据处理:数据仪表板制作》涵盖数据清洗、聚合、时间序列处理等技巧,解决常见错误如KeyError和内存溢出。通过多源数据整合、动态数据透视及可视化准备,结合性能优化与最佳实践,助你构建响应快速、数据精准的商业级数据仪表板。适合希望提升数据分析能力的开发者。
168 31
|
7月前
|
缓存 数据可视化 BI
Pandas高级数据处理:数据仪表板制作
在数据分析中,面对庞大、多维度的数据集(如销售记录、用户行为日志),直接查看原始数据难以快速抓住重点。传统展示方式(如Excel表格)缺乏交互性和动态性,影响决策效率。为此,我们利用Python的Pandas库构建数据仪表板,具备数据聚合筛选、可视化图表生成和性能优化功能,帮助业务人员直观分析不同品类商品销量分布、省份销售额排名及日均订单量变化趋势,提升数据洞察力与决策效率。
128 12
|
7月前
|
消息中间件 数据挖掘 数据处理
Pandas高级数据处理:数据流式计算
在大数据时代,Pandas作为Python强大的数据分析库,在处理结构化数据方面表现出色。然而,面对海量数据时,如何实现高效的流式计算成为关键。本文探讨了Pandas在流式计算中的常见问题与挑战,如内存限制、性能瓶颈和数据一致性,并提供了详细的解决方案,包括使用`chunksize`分批读取、向量化操作及`dask`库等方法,帮助读者更好地应对大规模数据处理需求。
155 17