2023年职业院校技能大赛中职组----大数据应用与服务赛项任务书试题

本文涉及的产品
云数据库 RDS MySQL Serverless,0.5-2RCU 50GB
简介: 2023年职业院校技能大赛中职组----大数据应用与服务赛项任务书试题

一、竞赛内容

本试卷包含数据库系统运维、数据采集与处理、大数据应用开发三个模块,试卷满分100分。

二、竞赛时间

竞赛时间:共计240分钟。

三、竞赛事项要求

1.参赛选手不得携带通信设备等物品进入赛场,严禁在程序及运行结果中任何位置标注竞赛队的任何信息,违反者按作弊处理。

2.请根据大赛所提供的竞赛环境,检查所列的硬件设备、软件清单、材料清单是否齐全,计算机设备是否能正常使用。

3.竞赛结束前,整合各试题的操作过程和结果数据,并提交完整的文档、代码、截图等竞赛结果到指定目录中。

4.竞赛结束时,后台统一关闭答题通道,禁止将比赛所用的所有物品(包括试卷和稿纸)带离赛场。


模块一:数据库系统运维(25分)

任务一:数据库系统搭建(10分)


【任务要求】

本环节需要使用root用户完成相关配置,实现数据库系统MySQL搭建、配置及使用;

【任务需求背景】

在数据量日益增加的环境下,单一部门的数据通常无法满足整个企业的需求。此时需要通过数据库进行整合,将来自各个部门的数据汇总到一个系统中,实现数据的共享,更好的实现信息共享互通。如物资管理、软件项目管理、人事管理等,这些工作都需要建立相应的数据库进行维护,以便更好地管理相关数据。

【具体任务】

1、添加MySQL数据库系统的用户和组,将完整命令截图粘贴到对应答题报告中

2、将MySQL安装包解压到/usr/local路径,将完整命令截图粘贴到对应答题报告中;

3、在/usr/local目录下将解压出来的Mysql包改名为mysql,将完整命令截图粘贴到对应答题报告中;

4、将/usr/local/目录下的mysql文件夹修改为mysql组所拥有权限,将完整命令截图粘贴到对应答题报告中;

5、在/usr/local/mysql目录下(一定要在mysql目录下执行,注意输出的文字,里边有修改root密码和启动mysql的命令),初始化MySQL数据库系统,将完整命令及初始化成功的截图粘贴到对应答题报告中;

6、在usr/local/mysql/目录下,执行对MySQL数据库初始化后服务的启动命令,将完整命令及初始化成功的截图粘贴到对应答题报告中;

7、在usr/local/mysql/目录下,设置MySQL数据库的登录用户root的密码,将完整命令及初始化成功的截图粘贴到对应答题报告中;

8、在usr/local/mysql/目录下,设置MySQL数据库的登录用户root的密码,将完整命令的截图粘贴到对应答题报告中;

9、在usr/local/mysql/目录下,拷贝/usr/local/mysql/support-files/my-medium.cn配置文件到etc目录下,增加或者修改MySQL数据库的最大连接数,保存修改后的配置文件,将完整命令及修改配置后的截图粘贴到对应答题报告中;

10、通过root用户登录MySQL数据库系统,查看mysql库下的所有表,将完整命令及执行命令后的结果的截图粘贴到对应答题报告中;

任务二:房源数据库系统运维(15分)


【任务要求】

本环节需要使用MySQL数据库系统完成关于各城市用户租房信息的建库、建表、数据的增、删、改、查等操作。

【任务需求背景】

为了了解各城市租房的整体情况,以便更好的为客户提供服务。通过对租房信息数据进行分析和可视化,可以获得一些重要的信息,如房源面积、房源价格、房源地段等,这些信息可以帮助我们更好的了解城市租房的整体情况,因此,建立一个房源信息管理系统,并通过MySQL数据库进行管理和维护,是非常必要的。

【具体任务】

1、在Mysql库中,创建一个名为tenantdb的数据库并查看这个数据库,将完整命令及结果截图粘贴到对应答题报告中;

2、在Mysql库中,选择并使用刚才创建的tenantdb数据库,将完整命令及结果截图粘贴到对应答题报告中;

3、在tenantdb数据库中创建一个名为rental_info的数据表,包含字段见下表,指定user_id字段为主键,该字段非空且自增,数据库引擎为InnoDB,默认字符集为utf8,字段类型应符合实际意义。将完整命令及运行结果截图粘贴到对应答题报告中;


表1 rental_info表字段说明:


字段 说明
user_id 租户id
user_id 租户id
user_name 租户姓名
sex 租户性别
age 租户年龄
address 家庭住址


4、在Mysql库中,查看刚才创建的rental_info表结构,将完整命令及结果截图粘贴到对应答题报告中;

5、在Mysql库中,修改rental_info表结构,将字段sex修改为user_sex,增加字段rental_address(租房地址),字段类型应符合实际意义。将完整命令及运行结果截图粘贴到对应答题报告中;

6、在Mysql库中,向rental_info表中插入三条租客租房信息:


小张,男,29,成都市天府新区,成都市武侯区;

小李,男,27,成都市成华新区,成都市高新区;

小王,男,32,成都市锦江区,成都市天府新区。

将完整命令及运行结果截图粘贴到对应答题报告中;

7、插入数据后,查询表数据,将完整命令及运行结果截图粘贴到对应答题报告中;

8、将rental_info表中user_id为1的记录,姓名修改为张三,年龄修改为35。将完整命令及运行结果截图粘贴到对应答题报告中;

9、修改rental_info表数据后,查询表数据,将完整命令及运行结果截图粘贴到对应答题报告中;

10、删除rental_info表中姓名为小李的数据,将完整命令及运行结果截图粘贴到对应答题报告中;

11、删除rental_info表数据后,查询表数据,将完整命令及运行结果截图粘贴到对应答题报告中。

模块二:数据采集与处理(30分)

任务一:二手房源数据采集(10分)


【任务要求】

本环节需要使用项目文件中导入的库完成关于房源信息的采集、保存等操作。

【任务需求背景】

互联网中的数据是海量的,通过人力操作进行数据采集低效繁琐,如何高效地获取数据源成为首要问题。本项目使用网络爬虫技术对数据信息进行采集,从“二手房信息查询网站”中抓取房源数据,并将数据进行存储。

【具体任务】

1、使用虚拟机中的谷歌浏览器访问“二手房信息查询网站”,网站访问地址为


http://127.0.0.1:5000】,网站首页效果图如下;


2、点击城市标签跳转到对应页面。以“成都”为例,“成都二手房信息”页面展示如下图;

3、使用PyCharm打开桌面上的“House”项目,在“spider”包下的“crawl_house.py”文件中进行编码,该文件用于从“二手房信息查询网站”中抓取北京、广州、天津、深圳、佛山、南宁、太原这7个城市的二手房数据,并按城市名分别保存到xlsx文件中。xlsx文件存储到“House”项目中的【spider/house_data/】目录下,若目录不存在,则需自行创建目录。


抓取的二手房信息数据及文件名要求如下:

文件名 列名
城市名_house.xlsx(如“北京_house.xlsx”) 格局、面积、朝向、层数、房龄、总价、平方价格


任务二:房源信息数据清洗(10分)


【任务要求】

本环节需要使用Excel工具对数据文件的处理,包括排序、筛选、数据标注等。

【任务需求背景】

数据资产时代,人口带来了数据,数据成就了社会发展,数据可以说无处不在。随着科技的不断发展,我们生活中产生的数据量越来越大,如何从海量数据中筛选出真正需要的数据是非常关键的。本任务使用Excel工具对数据进行处理,根据要求筛选出对应的房源。

【具体任务】

1、使用Excel打开任务一中保存的“北京”和“深圳”两地的房源信息文件;

2、筛选出面积在90—100m2平方以及价格最低的20个房源信息,在最后一列后面新增一列“意向排行”,按价格顺序从低到高,前10行标注为“优质房源”,后10行标注为“一般房源”。完成后在答题报告上粘贴相应的截图。

任务三:新房数据处理(10分)


【任务要求】

本环节需要使用NumPy、Pandas等数据处理工具完成关于新房信息数据的处理,并将处理后的数据进行保存。

【任务需求背景】

数据处理能将大量可能是杂乱无章的数据分为不同的类别和组织,为人们提供有用、有意义、易于理解的信息,帮助人们更加高效地管理和使用数据。而在现代社会,数据处理貫穿于各个领域,成为了人们对数据分类、组织、编码、存储、查询和维护等活动的关键环节。现在有一批新房信息数据,每个新房信息包括格局、面积、朝向、层数、房龄、价格等字段。需要针对原始数据中的异常数据进行处理,以便后续的使用。

【具体任务】

1、使用PyCharm打开虚拟机桌面上的“House”项目,在“clean_data”包下的“clean_house.py”文件中进行编码,该文件用于清洗新房数据并保存。

2、待清洗数据保存在“House”项目“clean_data”包的“data”下,清洗要求如下:

(1)针对“价格”列进行数据切分,切分后列名设置为“总价”、“平均价格”。

(2)针对“价格”列中存在的缺失数据,如果有另一条数据的“面积”列与之相同,则用该数据中的“价格”进行填充;如果不存在,则删除存在缺失值的数据。

(3)针对其他列中存在缺失值的数据,一律执行删除操作。

3、将处理完成后的数据进行保存,按城市名分别保存为xlsx文件(如“北京_new_house.xlsx”),存储到“House”项目中的【clean_data/house_data/】目录下,若目录不存在,则需自行创建目录。

4、使用Excel打开【clean_data/house_data/】目录下保存的文件,按“面积”列进行排序,完成后在答题报告上粘贴相应的截图。

模块三:大数据应用开发(45分)

任务一:基于Tableau进行数据分析与可视化(10分)


【任务要求】

本环节需要使用数据可视化工具Tableau,基于房源信息数据进行可视化展示;

【任务需求背景】

为了了解各城市租房的整体情况,以便更好的为客户提供服务。通过对租房信息数据进行分析和可视化,可以获得一些重要的信息,如房源面积、房源价格、房源地段等,这些信息可以帮助我们更好的了解城市租房的整体情况。

【具体任务】

1、租房信息相关数据存储在Windows桌面“draw_price”下的“各城市租房信息.csv”中,使用数据可视化工具Tableua连接Windows桌面目录下的csv文件数据源,绘制租房价格随面积变化的折线图。X轴标签显示为面积,Y轴标签设置为最高租赁价格,标题设置为“面积-房价走势图”;

2、根据“各城市租房信息.csv”数据表,使用Tableua连接csv文件数据源,根据“房源地段”统计出各地段的在售房源数据,绘制在售房源数据统计柱状图。X轴刻度标签显示为地段名称,Y轴标签显示为在售房源数量,标题设置为“各地段在售房源对比图”。

3、X轴刻度标签字体大小为自定义大小,Y轴刻度标签字体大小为自定义大小;

4、将绘制完成后的图表进行截图,粘贴到答题报告上对应位置。

任务二:基于Excel进行数据分析与可视化(10分)


【任务要求】

本环节需要使用Excel开发工具,对各城市的租房价格数据表进行数据分析与处理,进行可视化展示;

【任务需求背景】

为了了解各城市租房的整体情况,以便更好的为客户提供服务。通过对租房信息数据进行分析和可视化,可以获得一些重要的信息,如房源面积、房源价格、房源地段等,这些信息可以帮助我们更好的了解城市租房的整体情况。

【具体任务】

1、使用Excel工具打开Windows桌面“draw_price”文件下的“各城市租房信息.csv”,使用该数据源绘制柱状图,X轴标签设置为城市名,Y轴标签设置为平均租房价格,标题设置为“各城市租房均价对比图”,X轴刻度标签字体大小为8,Y轴刻度标签字体大小为8;

(1)使用透视表在新工作表中进行插入,选取所有的城市名作为A列,选取租房的价格求平均后作为B列;

(2)以城市名作为x轴数据,以平均价格作为Y轴数据进行柱状图的绘制;

(3)柱体颜色设置为蓝色,图表使用橙色填充,黑色边框;

2、使用Excel工具打开Windows桌面“draw_price”文件下的“各城市租房信息.csv”,筛选出“北京”的城市数据,根据“房源户型”的分类进行统计,统计出每类户型对应的房源数,基于户型统计数据绘制户型分布圆环图。

3、将绘制完成后的图表进行截图,粘贴到答题报告上对应位置。

任务三:基于Python对租房数据绘制折线图(10分)


【任务要求】

本环节需要使用Pycharm开发工具,Numpy、Pandas、Matplotlib、Seaborn等库,基于房源信息数据绘制租房价格随面积变化的折线图;

【任务需求背景】

为了了解各城市租房的整体情况,以便更好的为客户提供服务。通过对租房信息数据进行分析和可视化,可以获得一些重要的信息,如房源面积、房源价格、房源地段等,这些信息可以帮助我们更好的了解城市租房的整体情况。

【具体任务】

1、租房信息存储在虚拟机桌面的“House”项目中“draw_price”下的“各城市租房信息.csv”中,在同级目录的draw_img1.py中完成折线图绘制;

2、使用Pandas库读取CSV文件,筛选出面积作为X轴数据,以对应价格作为Y轴数据,以城市名作为划分依据,使用Matplotlib库绘制多条折线图,展示各城市下各面积对应房价走势对比图;

3、标题设置为:各城市租房价格对比图;

4、X轴标签显示为房屋面积,Y轴标签显示为租赁价格;

5、X轴刻度标签字体大小为10,Y轴刻度标签字体大小为10;

6、将绘制的图片保存到“House”项目的“Img”路径下,命名为“line.png”,若目录不存在需自行创建。

7、将绘制完成后的图进行截图,粘贴到答题报告上对应位置。

任务四:基于Python对租房数据绘制散点图(10分)


【任务要求】

本环节需要使用Pycharm开发工具,Numpy、Pandas、Matplotlib、Seaborn等库,基于房源信息数据绘制各城市最高租房价格的散点图;

【任务需求背景】

为了了解各城市租房的整体情况,以便更好的为客户提供服务。通过对租房信息数据进行分析和可视化,可以获得一些重要的信息,如房源面积、房源价格、房源地段等,这些信息可以帮助我们更好的了解城市租房的整体情况。

【具体任务】

1、租房信息存储在虚拟机桌面的“House”项目中“draw_price”下的“各城市租房信息.csv”中,在同级目录的draw_img2.py中完成散点图绘制;

2、使用Pandas库读取CSV文件,使用Matplotlib库绘制各城市房价散点图;

(1)以城市名作为划分依据,

(2)将“房屋面积”划分为7类作为X轴数据,分别为“50㎡以下”、“50㎡80㎡”、“80㎡100㎡”、“100㎡120㎡”、“120㎡150㎡”、“150㎡~200㎡”、“200㎡以上”,以每类面积的平均房价作为Y轴数据,绘制散点图。

(3)标题设置为:各城市不同面积租房均价分布图;

(4)X轴标签显示为房屋面积,Y轴标签显示为租赁平均价格;

(5)X轴刻度标签字体大小为8,Y轴刻度标签字体大小为8;

(6)将绘制的散点图保存到“House”项目的“Img”路径下,命名为“scatter.png”,若目录不存在需自行创建。

3、将绘制完成后的图进行截图,粘贴到答题报告上对应位置。

任务五:数据分析报告(5分)


【任务要求】

本环节根据数据分析结果输出数据分析报告;

【任务需求背景】

通过对租房信息数据进行分析和可视化,我们更好的了解城市租房的整体情况,分析出不同区域的户型分布、房价走势、房源数量、租房中介信息等,根据分析可视化结果提出合适的决策建议与方案。

【具体任务】

1、根据“各城市租房信息.csv”信息及前面四个任务的可视化结果,打开虚拟机桌面“House”项目下的“数据分析报告.docx”文件,完善数据分析报告,为“爱家客”中介提出合适的房源上新意见。

2、将填写的内容进行截图并粘贴到答题报告对应位置。

相关实践学习
简单用户画像分析
本场景主要介绍基于海量日志数据进行简单用户画像分析为背景,如何通过使用DataWorks完成数据采集 、加工数据、配置数据质量监控和数据可视化展现等任务。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
23天前
|
存储 消息中间件 监控
【Flume】Flume在大数据分析领域的应用
【4月更文挑战第4天】【Flume】Flume在大数据分析领域的应用
|
1月前
|
Cloud Native 数据处理 云计算
探索云原生技术在大数据分析中的应用
随着云计算技术的不断发展,云原生架构作为一种全新的软件开发和部署模式,正逐渐引起企业的广泛关注。本文将探讨云原生技术在大数据分析领域的应用,介绍其优势与挑战,并探讨如何利用云原生技术提升大数据分析的效率和可靠性。
|
1月前
|
存储 消息中间件 大数据
Go语言在大数据处理中的实际应用与案例分析
【2月更文挑战第22天】本文深入探讨了Go语言在大数据处理中的实际应用,通过案例分析展示了Go语言在处理大数据时的优势和实践效果。文章首先介绍了大数据处理的挑战与需求,然后详细分析了Go语言在大数据处理中的适用性和核心技术,最后通过具体案例展示了Go语言在大数据处理中的实际应用。
|
3月前
|
数据采集 搜索推荐 大数据
大数据技术在电商平台中的应用
电商平台是当今社会最为普及的购物方式之一,而大数据技术则成为了众多企业的强有力竞争力。本文将介绍大数据技术在电商平台中的应用,包括数据采集、预测分析、用户画像等方面,并探讨其对电商平台的价值和意义。
|
3月前
|
存储 机器学习/深度学习 算法
大数据时代下的智能洞察:大规模数据处理的创新与应用
在信息爆炸的时代,大规模数据处理成为了科技领域的核心挑战之一。本文将探讨大规模数据处理的定义、创新技术和广泛应用,并阐述数据驱动的决策和洞察对现代社会带来的巨大影响。
80 3
|
2月前
|
存储 数据可视化 数据管理
基于阿里云服务的数据平台架构实践
本文主要介绍基于阿里云大数据组件服务,对企业进行大数据平台建设的架构实践。
723 2
|
27天前
|
分布式计算 运维 数据挖掘
MaxCompute是一个强大的云数据仓库服务
【4月更文挑战第1天】MaxCompute是一个强大的云数据仓库服务
25 1
|
1月前
|
数据采集 分布式计算 大数据
Java语言在大数据处理中的应用
传统的大数据处理往往依赖于庞大的数据中心和高性能的服务器,然而随着大数据时代的到来,Java作为一种强大的编程语言正在被广泛应用于大数据处理领域。本文将探讨Java语言在大数据处理中的优势和应用,以及其在分布式计算、数据处理和系统集成等方面的重要作用。
|
1月前
|
存储 大数据 数据挖掘
云计算与大数据:从基础设施到实际应用
云计算与大数据:从基础设施到实际应用
142 0
|
2月前
|
DataWorks 关系型数据库 对象存储
dataworks数据集问题之同步任务如何解决
DataWorks数据集是指在阿里云DataWorks平台内创建、管理的数据集合;本合集将介绍DataWorks数据集的创建和使用方法,以及常见的配置问题和解决方法。
42 4

热门文章

最新文章