Python小技巧——将CSV文件导入到MySQL数据库

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
云数据库 RDS MySQL,集群系列 2核4GB
推荐场景:
搭建个人博客
云数据库 RDS MySQL,高可用系列 2核4GB
简介: Python小技巧——将CSV文件导入到MySQL数据库

接上篇,本期,我们就使用python中的mysql-connector-python库将CSV文件导入到mysql中,我们使用的文件是前面通过爬虫获得的一个关于各行业龙头公司的csv文件,详见上市公司财务报表数据汇总

下面,我用pandas加mysql-connector-python库将上述CSV文件添加到mysql中。具体代码为:


import pandas as pdimport mysql.connector
# 读取CSV文件csv_file = '各行业的龙头公司.csv'df = pd.read_csv(csv_file,encoding='gbk')
# 连接到MySQL数据库cnx = mysql.connector.connect(user='root', password='root',                              host='localhost', database='dragoncompany')cursor = cnx.cursor()
# 创建表(如果不存在)table_name ="Season_finance"create_table_query = f"""CREATE TABLE IF NOT EXISTS {table_name}(                        `股票代码`VARCHAR(20),                        `股票简称`VARCHAR(20),                        `交易市场`VARCHAR(20),                        `每股收益(元)`FLOAT,                         `营业总收入(元)`FLOAT,                        `净利润(元)`FLOAT,                        `资产收益率`FLOAT,                        `营收同比增长`FLOAT,                        `净利润同比增长`FLOAT,                        `每股净资产(元)`FLOAT,                        `每股经营现金流(元)`FLOAT,                        `销售毛利率`FLOAT,                        `营收季度环比增长率`FLOAT,                        `净利润季度环比增长率`FLOAT,                        `所处行业`VARCHAR(20),                        `报表季度`VARCHAR(20))"""cursor.execute(create_table_query)
# 将数据插入到表中for index,row in df.iterrows():    insert_query = f"INSERT INTO {table_name} (`股票代码`,`股票简称`,`交易市场`,`每股收益(元)`,`营业总收入(元)`,`净利润(元)`,`资产收益率`,`营收同比增长`,`净利润同比增长`,`每股净资产(元)`,`每股经营现金流(元)`,`销售毛利率`,`营收季度环比增长率`,`净利润季度环比增长率`,`所处行业`,`报表季度`) VALUES (%s,%s,%s,%s,%s,%s,%s,%s,%s,%s,%s,%s,%s,%s,%s,%s)"    cursor.execute(insert_query, tuple(row))
# 提交更改并关闭连接cnx.commit()cursor.close()cnx.close()

执行一下,用select在mysql中看看。

63cf4a7d31f237f345b61410d7a17316.png

已经写入,可能不太友好,我们用workbench看看,

78561d3aa9915c74bfb1bb083c25d91d.jpg


搞定了,里面有一些需要注意的坑,跟大家说一下:

Q1:运行中报错:

ProgrammingError: 1064 (42000): You have an error in your SQL syntax; check the manual that corresponds to your MySQL server version for the right syntax to use near '(20),

                       `股票简称`VARCHAR(20),

' at line 2


e70e8802529225f4d4c6bd1ddc4c256e.png

这个主要是符号问题导致的,字符串的符号不是“”、‘’,而是`。在键盘中是这个键

b9709a70c67a24e0a64f2ae209888bdf.jpg

Q2:运行中报错:

ProgrammingError: Not all parameters were used in the SQL statement


具体位置在:


c3e5dd2b93d7d2d124ed8021299126c4.png


这个错误源于在python3中连接数据库时,没有正确使用MySQL的占位符,虽然前面我们定义了每个列的数据类型,比如VARCHAR(20)、FLOAT等,但在具体执行过程中,无论是数字(包括整数和浮点数)、字符串、日期时间或者其他任意类型,都应该使用%s占位符。

因此,把上面的%f改成%s就解决这个问题了。



好了,本期代码完美解决了将CSV文件导入到MySQL数据库中,其中还是有一些需要注意的环节,大家试试吧?

相关实践学习
如何快速连接云数据库RDS MySQL
本场景介绍如何通过阿里云数据管理服务DMS快速连接云数据库RDS MySQL,然后进行数据表的CRUD操作。
全面了解阿里云能为你做什么
阿里云在全球各地部署高效节能的绿色数据中心,利用清洁计算为万物互联的新世界提供源源不断的能源动力,目前开服的区域包括中国(华北、华东、华南、香港)、新加坡、美国(美东、美西)、欧洲、中东、澳大利亚、日本。目前阿里云的产品涵盖弹性计算、数据库、存储与CDN、分析与搜索、云通信、网络、管理与监控、应用服务、互联网中间件、移动服务、视频服务等。通过本课程,来了解阿里云能够为你的业务带来哪些帮助     相关的阿里云产品:云服务器ECS 云服务器 ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,助您降低 IT 成本,提升运维效率,使您更专注于核心业务创新。产品详情: https://www.aliyun.com/product/ecs
相关文章
|
7天前
|
存储 SQL 关系型数据库
MySQL底层概述—4.InnoDB数据文件
本文介绍了InnoDB表空间文件结构及其组成部分,包括表空间、段、区、页和行。表空间是最高逻辑层,包含多个段;段由若干个区组成,每个区包含64个连续的页,页用于存储多条行记录。文章还详细解析了Page结构,分为通用部分(文件头与文件尾)、数据记录部分和页目录部分。此外,文中探讨了行记录格式,包括四种行格式(Redundant、Compact、Dynamic和Compressed),重点介绍了Compact行记录格式及其溢出机制。最后,文章解释了不同行格式的特点及应用场景,帮助理解InnoDB存储引擎的工作原理。
MySQL底层概述—4.InnoDB数据文件
|
14天前
|
SQL 监控 关系型数据库
MySQL补充性文件
通过以上内容,您可以全面了解和掌握 MySQL 补充性文件的配置、查看及其作用,从而提升数据库管理的效率和质量。
63 36
|
2月前
|
关系型数据库 MySQL Linux
Linux下mysql数据库的导入与导出以及查看端口
本文详细介绍了在Linux下如何导入和导出MySQL数据库,以及查看MySQL运行端口的方法。通过这些操作,用户可以轻松进行数据库的备份与恢复,以及确认MySQL服务的运行状态和端口。掌握这些技能,对于日常数据库管理和维护非常重要。
138 8
|
2月前
|
关系型数据库 MySQL 数据库
Python处理数据库:MySQL与SQLite详解 | python小知识
本文详细介绍了如何使用Python操作MySQL和SQLite数据库,包括安装必要的库、连接数据库、执行增删改查等基本操作,适合初学者快速上手。
385 15
|
2月前
|
关系型数据库 MySQL 数据库
数据库数据恢复—MYSQL数据库文件损坏的数据恢复案例
mysql数据库文件ibdata1、MYI、MYD损坏。 故障表现:1、数据库无法进行查询等操作;2、使用mysqlcheck和myisamchk无法修复数据库。
|
2月前
|
安全 关系型数据库 MySQL
解决MySQL删除/var/lib/mysql下的所有文件后无法启动的问题
删除 `/var/lib/mysql` 下的所有文件后,需要重新初始化数据目录,确保正确的权限设置,并重新启动 MySQL 服务。通过按照上述步骤操作,可以解决 MySQL 无法启动的问题,并恢复数据库的正常运行。初始化数据目录后,别忘了配置安全设置,并根据需要恢复备份数据。这些步骤不仅能够恢复 MySQL 的正常运行,还能确保数据库的安全性和完整性。
143 2
|
2月前
|
SQL 关系型数据库 MySQL
MySQL导入.sql文件后数据库乱码问题
本文分析了导入.sql文件后数据库备注出现乱码的原因,包括字符集不匹配、备注内容编码问题及MySQL版本或配置问题,并提供了详细的解决步骤,如检查和统一字符集设置、修改客户端连接方式、检查MySQL配置等,确保导入过程顺利。
|
3月前
|
关系型数据库 MySQL 数据库
【赵渝强老师】MySQL的参数文件
MySQL启动时会读取配置文件my.cnf来确定数据库文件位置及初始化参数。该文件分为Server和Client两部分,包含动态与静态参数。动态参数可在运行中通过命令修改,而静态参数需修改my.cnf并重启服务生效。文中还提供了相关代码示例和视频教程。
121 6
|
3月前
|
SQL 关系型数据库 MySQL
【赵渝强老师】MySQL的全量日志文件
MySQL全量日志记录所有操作的SQL语句,默认禁用。启用后,可通过`show variables like %general_log%检查状态,使用`set global general_log=ON`临时开启,执行查询并查看日志文件以追踪SQL执行详情。
|
3月前
|
存储 Oracle 关系型数据库
【赵渝强老师】MySQL InnoDB的数据文件与重做日志文件
本文介绍了MySQL InnoDB存储引擎中的数据文件和重做日志文件。数据文件包括`.ibd`和`ibdata`文件,用于存放InnoDB数据和索引。重做日志文件(redo log)确保数据的可靠性和事务的持久性,其大小和路径可由相关参数配置。文章还提供了视频讲解和示例代码。
203 11
【赵渝强老师】MySQL InnoDB的数据文件与重做日志文件