Python-数据读取

简介: Python-数据读取

txt/csv

导入numpy

同一行的数据都为浮点数,或者说是同一行的数据格式相同时:

 with open(input_file, 'r') as f:#打开文件
        header = f.readline().strip()#跳过一行
        column_names = header.split('|')# 以管道分隔符切分数据
        values = np.loadtxt(f, delimiter='|')

同一行的数据格式不相同时,比如字符串和浮点数结合时:

选择跳过某一列或者只读取某一列数据,下面为只读取某一列数据

with open(input_file, 'r') as f:#打开文件
     values = np.loadtxt(f,delimiter=' ',dtype=int,usecols = (3))#读取第4列 分隔符为空格

excel( .xlsx)

读取:导入pandas

#input_template路径+文件名 
df_input_Analyze = pd.read_excel(input_template, encoding='gb18030').dropna(axis=1, how='all')

写入

"""
函数说明:保存数据为excel
   .xlsx
Parameters:
    table_dict - 字典类型 key-DatFrame(表)
    keyword  -  最终输出的excel的文件名
Returns:
Author:
    heda3
Blog:
    https://blog.csdn.net/heda3
Modify:
    2019-10-12
"""
        def generate_excel(table_dict, keyword):
            with pd.ExcelWriter(keyword+'.xlsx') as writer:
                for sheet_name in table_dict:#读取每一个DataFrame
                    table_dict[sheet_name].to_excel(writer, sheet_name=sheet_name, index=None)

JSON

JSON: JavaScript Object Notation(JavaScript 对象表示法)

JSON 是存储和交换文本信息的语法

导入 Json   模块,它提供了四个方法: dumps、dump、loads、load

dumps : 把数据类型转换成字符串

dump : 把数据类型转换成字符串并存储在文件中

loads : 把字符串转换成数据类型

load : 把文件打开从字符串转换成数据类型

读取

import json
#open 默认为只读 r 以什么样的编码方式打开
#设置以utf-8解码模式读取文件,encoding参数必须设置,否则默认以gbk模式读取文件,当文件中包含中文时,会报错
with open("D:\Python Example\Tianyancha\xx.json",'r', encoding='utf-8') as load_f:
    load_dict = json.load(load_f)
    print(load_dict)

或者:

import json
#读取Json文件加载为python对象
f = open("D:\Python Example\Tianyancha\xx.json", encoding='utf-8')
bb=json.load(f)

注意的是读取文件使用的函数是:json.load(),从内存中读取使用的函数是:json.loads()

参考:json中load和loads区别https://www.cnblogs.com/bigtreei/p/10466518.html

写入

## 测试JSON格式数据的保存和读取
import json
import codecs#编码解码模块
import time
import re
import pandas as pd
from collections import OrderedDict
class WriterJson:
    def __init__(self):
        pass
    # 将单个DataFrame保存为JSON,确保中文显示正确
    def df_to_json(self, df, orient:str = 'table'):
        return json.loads(df.to_json(orient, force_ascii=False))
    # 将多个DataFrames组成的字典批量保存为JSON,确保中文显示正确:服务于类似`金融产品信息表`这样的包含多
    def dfs_to_json(self, dic_dfs, orient:str = 'table'):
        pass
    # 将单个OrderedDict:key-DataFrame保存为JSON List
    def odict_to_json(self, odict):
        items = list(odict.items())#items[i][0] key   items[i][1]  value
        list_JSONed = []
        # 把列表中的每个df通过list append变成json
        for i in range(len(items)):
            try:
                #to_json为pandas自带的pandas.DataFrame.to_json 可参考https://blog.csdn.net/huanbia/article/details/72674832
                 #其中的items[i][1].to_json(orient='table', force_ascii=False) 转换为Json的str模式
                 #json.loads 将包含一个 JSON 文档的文件反序化为Python对象
                list_JSONed.append([items[i][0],json.loads(items[i][1].to_json(orient='table', force_ascii=False))])
            except:
                print(items[i][0] + '表为空,请检查。')
        # 记录版本信息 dict嵌套在list之中
        list_JSONed.append({'version_date': time.strftime("%Y/%m/%d")})
        return list_JSONed
    # 从list_JSONed获取公司名称,用于设置JSON文件名称
    def get_company_name_from_JSON(self, items_JSONed):
        pass
    # 将一个json list或者json dict存入文件
    def write_json(self, json_list, file_name, indent=4, encoding='utf-8'):
        f_out = codecs.open(file_name, 'w', encoding=encoding)#以utf-8 打开一个文件
        #json格式的文件转换为str /将 obj 序列化为 JSON 格式的 str  indent:表示缩进 使用一个正整数会让每一层缩进同样数量的空格
          #ensure_ascii=False 字符原样输出
        json_str = json.dumps(json_list, indent=indent, ensure_ascii=False) #, encoding=encoding)
        f_out.write(json_str)#python自带的write
        f_out.close()
"""
函数说明:保存数据为JSON
    .json
Parameters:
    table_dict - 字典类型 key-DatFrame(表)
    keyword  -  最终输出的json的文件名
Returns:
Author:
    heda3
Blog:
    https://blog.csdn.net/heda3
Modify:
    2019-10-12
"""
def gen_json(table_dict, keyword):
    list_dic = []
    for i in list(table_dict.keys()):
        list_dic.append((i, table_dict[i]))
    dic = OrderedDict(list_dic)#字典key-DataFrame
    list_json = WriterJson().odict_to_json(dic)#list内嵌套了dict和list多层
    WriterJson().write_json(json_list=list_json, file_name=keyword+'.json')
#保存为Json格式的数据 该文件为str
keyword='数据名测试2'
table_dict1=tuple_dicts[0]
gen_json(table_dict1,keyword)

pandas 的 数据表转换为jsonstr:. to_json()函数的用法

8e5fd949b09cee65083489d3c2d40d6f_20191014094056299.png

其中的‘table’模式:

a5d4aaf0c1a9eea6930a81b034a21328_watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2hlZGEz,size_16,color_FFFFFF,t_70.png

from collections import OrderedDict 库参考文档:

https://docs.python.org/zh-cn/3.7/library/collections.html#collections.OrderedDict

codecs编码

转换过程:原有编码--python内部编码(unicode)--目标编码

https://blog.csdn.net/suofiya2008/article/details/5579413

参考文档

1、loadtxt 函数使用https://www.numpy.org/devdocs/reference/generated/numpy.loadtxt.html?highlight=loadtxt#numpy.loadtxt


2、https://blog.csdn.net/ACID_lv_ing/article/details/87092714


3、numpy.loadtxt https://numpy.org/devdocs/reference/generated/numpy.loadtxt.html?highlight=loadtxt#numpy.loadtxt


4、过滤缺失数据  dropna -pandas 参考文档https://pandas.pydata.org/pandas-docs/stable/reference/api/pandas.DataFrame.dropna.html


5、Json 文档 https://www.runoob.com/json/json-syntax.html


6、Json包 https://docs.python.org/zh-cn/3.7/library/json.html


7、https://www.cnblogs.com/tjuyuan/p/6795860.html


8、天眼查项目 https://github.com/qzcool/Tianyancha


9.pandas 数据表转换为json https://blog.csdn.net/huanbia/article/details/72674832


pandas.DataFrame.to_json https://pandas.pydata.org/pandas-docs/stable/reference/api/pandas.DataFrame.to_json.html


10、JSON 编码和解码器官方文档 https://docs.python.org/zh-cn/3.7/library/json.html


目录
相关文章
|
1月前
|
数据采集 数据可视化 数据挖掘
利用Python自动化处理Excel数据:从基础到进阶####
本文旨在为读者提供一个全面的指南,通过Python编程语言实现Excel数据的自动化处理。无论你是初学者还是有经验的开发者,本文都将帮助你掌握Pandas和openpyxl这两个强大的库,从而提升数据处理的效率和准确性。我们将从环境设置开始,逐步深入到数据读取、清洗、分析和可视化等各个环节,最终实现一个实际的自动化项目案例。 ####
185 10
|
9天前
|
数据采集 Web App开发 数据可视化
Python用代理IP获取抖音电商达人主播数据
在当今数字化时代,电商直播成为重要的销售模式,抖音电商汇聚了众多达人主播。了解这些主播的数据对于品牌和商家至关重要。然而,直接从平台获取数据并非易事。本文介绍如何使用Python和代理IP高效抓取抖音电商达人主播的关键数据,包括主播昵称、ID、直播间链接、观看人数、点赞数和商品列表等。通过环境准备、代码实战及数据处理与可视化,最终实现定时任务自动化抓取,为企业决策提供有力支持。
|
3月前
|
机器学习/深度学习 TensorFlow 算法框架/工具
使用Python实现深度学习模型:智能数据隐私保护
使用Python实现深度学习模型:智能数据隐私保护 【10月更文挑战第3天】
273 0
|
29天前
|
数据采集 Web App开发 监控
Python爬虫:爱奇艺榜单数据的实时监控
Python爬虫:爱奇艺榜单数据的实时监控
|
24天前
|
数据采集 存储 XML
python实战——使用代理IP批量获取手机类电商数据
本文介绍了如何使用代理IP批量获取华为荣耀Magic7 Pro手机在电商网站的商品数据,包括名称、价格、销量和用户评价等。通过Python实现自动化采集,并存储到本地文件中。使用青果网络的代理IP服务,可以提高数据采集的安全性和效率,确保数据的多样性和准确性。文中详细描述了准备工作、API鉴权、代理授权及获取接口的过程,并提供了代码示例,帮助读者快速上手。手机数据来源为京东(item.jd.com),代理IP资源来自青果网络(qg.net)。
|
1月前
|
数据采集 分布式计算 大数据
构建高效的数据管道:使用Python进行ETL任务
在数据驱动的世界中,高效地处理和移动数据是至关重要的。本文将引导你通过一个实际的Python ETL(提取、转换、加载)项目,从概念到实现。我们将探索如何设计一个灵活且可扩展的数据管道,确保数据的准确性和完整性。无论你是数据工程师、分析师还是任何对数据处理感兴趣的人,这篇文章都将成为你工具箱中的宝贵资源。
|
2月前
|
传感器 物联网 开发者
使用Python读取串行设备的温度数据
本文介绍了如何使用Python通过串行接口(如UART、RS-232或RS-485)读取温度传感器的数据。详细步骤包括硬件连接、安装`pyserial`库、配置串行端口、发送请求及解析响应等。适合嵌入式系统和物联网应用开发者参考。
75 3
|
3月前
|
数据采集 JSON 数据处理
抓取和分析JSON数据:使用Python构建数据处理管道
在大数据时代,电商网站如亚马逊、京东等成为数据采集的重要来源。本文介绍如何使用Python结合代理IP、多线程等技术,高效、隐秘地抓取并处理电商网站的JSON数据。通过爬虫代理服务,模拟真实用户行为,提升抓取效率和稳定性。示例代码展示了如何抓取亚马逊商品信息并进行解析。
抓取和分析JSON数据:使用Python构建数据处理管道
|
3月前
|
数据处理 Python
Python实用记录(十):获取excel数据并通过列表的形式保存为txt文档、xlsx文档、csv文档
这篇文章介绍了如何使用Python读取Excel文件中的数据,处理后将其保存为txt、xlsx和csv格式的文件。
236 3
Python实用记录(十):获取excel数据并通过列表的形式保存为txt文档、xlsx文档、csv文档
|
3月前
|
计算机视觉 Python
Python实用记录(九):将不同的图绘制在一起、将不同txt文档中的数据绘制多条折线图
这篇文章介绍了如何使用Python的OpenCV库将多张图片合并为一张图片显示,以及如何使用matplotlib库从不同txt文档中读取数据并绘制多条折线图。
68 3
Python实用记录(九):将不同的图绘制在一起、将不同txt文档中的数据绘制多条折线图

热门文章

最新文章