数据接口工程对接BI可视化大屏(三)模拟数据

本文涉及的产品
云数据库 Redis 版,社区版 2GB
推荐场景:
搭建游戏排行榜
云数据库 RDS MySQL Serverless,0.5-2RCU 50GB
简介: 数据接口工程对接BI可视化大屏(三)模拟数据

第3章 模拟数据

3.1 数据模拟概述

根据数据大屏中的图表组件内容需要,并结合当前主流的大数据存储数据库,向以下目标设备中模拟产生以下数据。

数据库的安装和配置,请参考相关课程资料。

目标设备 数据描述 粒度
Mysql 每秒的下单和退单数 一个时间的下单和退单数是一条数据
Redis 手机品牌的访问热度 使用Zset存储所有手机的访问热度值
HBase 各手机品牌在各省份订单的实时成交数据 一种手机在一个省某一时刻的下单数和金额是一条数据
ElasticSearch 手机购买客户的背景信息 一个顾客是一条数据
Clickhouse 手机订单的实时成交流水 一笔流水是一行

3.2 数据模拟

本套专栏已经提供了数据模拟程序,可以直接使用。

在数据模拟工具的配置文件application.yml中配置数据库环境的相关信息,其中红色部分为需要修改的参数:

#并行模拟数据的线程数

#并行模拟数据的线程数
dataCount: mockCount: 1 hiveDataCount: 20
sleepMs: logSleep: 1000 redisMockSleep: 1000 mysqlMockSleep: 1000
ckMockSleep: 1000 hbaseMockSleep: 1000 esMockSleep: 1000
dest: logUrl: http://localhost:8080/app redisDataKey: hotphone
param: logStr
mybatis: configuration:
mapUnderscoreToCamelCase: true
spring: elasticsearch:
uris: http://hadoop102:9200 redis:
host: hadoop102
port: 6379 datasource:
dynamic:
primary: mysql
strict: false
datasource:
mysql:
url: jdbc:mysql://hadoop102:3306/gmall_report?serverTimezone=Asia/Shanghai&useSSL=false&useUnicode=true&characterEncoding=UTF-8
username: root
password: “000000”
driver-class-name: com.mysql.cj.jdbc.Driver
ck:
url: jdbc:clickhouse://hadoop102:8123/default
username:
password:
driver-class-name: ru.yandex.clickhouse.ClickHouseDriver
hbase:
url: jdbc:phoenix:hadoop102,hadoop103,hadoop104:2181
username:
password:
driver-class-name: org.apache.phoenix.jdbc.PhoenixDriver

数据模拟程序默认为每个数据库启动一个线程,以1s每条的速率模拟产生对应的数据。如果需要增加数据量,可以修改蓝色标注的参数。

配置文件修改完毕后,可以在命令行使用java -jar 命令启动数据模拟程序。程序执行的计算机需要有Jre运行环境。

3.3 数据查验

开启数据模拟程序后,可以在对应的数据库中查看是否有模拟数据产生。

在Mysql数据库中,会创建名为di的表,数据如下:

在Clickhouse数据库中,会创建名为di的表,数据为7天内的随机一笔订单。数据如下:

在HBase数据库中,会创建名为di的表,数据如下:

在ElasticSearch数据库中,会创建名为di的index,数据如下:

{
 “_class” : “com.atguigu.datamock.bean.Customer”,
 “id” : 0,
 “name” : “谭妍菁”,
 “sex” : “女”,
 “source” : “邮件营销”,
 “profession” : “电子网络”
}

在Redis数据库中,会创建名为hotphone的key,数据如下:


目录
相关文章
|
2月前
|
传感器 数据可视化 搜索推荐
瓴羊Quick BI助力深圳光明环境水务公司举办水务数据应用大会暨第二届“光环杯”BI应用大赛
瓴羊Quick BI助力深圳光明环境水务公司举办水务数据应用大会暨第二届“光环杯”BI应用大赛
|
2月前
|
数据可视化 jenkins 测试技术
可视化BI类产品如何设计测试框架?
可视化BI类产品如何设计测试框架?
|
3月前
|
SQL 机器学习/深度学习 数据可视化
产品至简,大道行宽——Quick BI接入通义千问大模型,引领数据消费新范式
产品至简,大道行宽——Quick BI接入通义千问大模型,引领数据消费新范式
244 0
|
4月前
|
数据可视化 BI Apache
大数据可视化BI分析工具Apache Superset实现公网远程访问
大数据可视化BI分析工具Apache Superset实现公网远程访问
|
4月前
|
消息中间件 存储 数据可视化
数据接口工程对接BI可视化大屏(六)接收前台数据
数据接口工程对接BI可视化大屏(六)接收前台数据
22 0
|
4月前
|
数据可视化 NoSQL Java
数据接口工程对接BI可视化大屏(五)数据接口发布
数据接口工程对接BI可视化大屏(五)数据接口发布
66 1
|
4月前
|
消息中间件 数据可视化 NoSQL
数据接口工程对接BI可视化大屏(四)创建工程
数据接口工程对接BI可视化大屏(四)创建工程
34 1
|
2月前
|
BI
Quick BI V5.0发布:一键解锁智能小Q等全新智能商业分析能力
Quick BI V5.0发布:一键解锁智能小Q等全新智能商业分析能力
|
3月前
|
消息中间件 BI Serverless
消息队列推出serverless版、Quick BI升级至5.0……阿里云近期产品动态汇总
消息队列推出serverless版、Quick BI升级至5.0……阿里云近期产品动态汇总
478 1
|
3月前
|
数据可视化 数据挖掘 BI
Quick BI助力山东高速集团成功举办数字化应用场景创新大赛
Quick BI助力山东高速集团成功举办数字化应用场景创新大赛

热门文章

最新文章