每日语录
生活中很多人喜欢小题大作，其实真的没有必要，要想想大题怎么办。
第14题：
需求列表
基于附录3《模型输出表》统计下述指标，请提供统计SQL（备注: value值为1时即命中）
| 统计日期 | 统计指标 | 命中户数 | 命中率 |
| 20201010/累计 | V01 | ||
| V02 | |||
| V03 | |||
| V04 | |||
| V05 | |||
| V06 |
数据准备
链接：https://pan.baidu.com/s/1Wiv-LVYziVxm8f0Lbt38Gw?pwd=s4qc
提取码：s4qc
debt.txt文件
set spark.sql.shuffle.partitions=4; create database webank_db; use webank_db; create or replace temporary view check_view (ds comment '日期分区', sno comment '流水号', uid comment '用户id', is_risk_apply comment '是否核额申请', is_pass_rule comment '是否通过规则', is_obtain_qutoa comment '是否授信成功', quota comment '授信金额', update_time comment '更新时间') as values ('20201101', 's000', 'u000', 1, 1, 1, 700, '2020-11-01 08:12:12'), ('20201102', 's088', 'u088', 1, 1, 1, 888, '2020-11-02 08:12:12'), ('20201230', 's091', 'u091', 1, 1, 1, 789, '2020-12-30 08:12:12'), ('20201230', 's092', 'u092', 1, 0, 0, 0, '2020-12-30 08:12:12'), ('20201230', 's093', 'u093', 1, 1, 1, 700, '2020-12-30 08:12:12'), ('20201231', 's094', 'u094', 1, 1, 1, 789, '2020-12-31 08:12:12'), ('20201231', 's095', 'u095', 1, 1, 1, 600, '2020-12-31 08:12:12'), ('20201231', 's096', 'u096', 1, 1, 0, 0, '2020-12-31 08:12:12') ; --创建核额流水表 drop table if exists check_t; create table check_t ( sno string comment '流水号', uid string, is_risk_apply bigint, is_pass_rule bigint, is_obtain_qutoa bigint, quota decimal(30,6), update_time string ) partitioned by (ds string comment '日期分区'); --动态分区需要设置 set hive.exec.dynamic.partition=true; set hive.exec.dynamic.partition.mode=nonstrict; insert overwrite table check_t partition (ds) select sno, uid, is_risk_apply, is_pass_rule, is_obtain_qutoa, quota, update_time, ds from check_view;
-- 创 建 借 据 表 create table debt( duebill_id string comment '借据号', uid string, prod_type string, putout_date string, putout_amt decimal(30, 6), balance decimal(30, 6), is_buliang int, overduedays int )partitioned by (ds string comment '日期分区'); --资料提供了一个34899条借据数据的文件 --下面补充如何将文件的数据导入到分区表中。需要一个中间普通表过度。 drop table if exists webank_db.debt_temp; create table webank_db.debt_temp( duebill_id string comment '借据号', uid string, prod_type string, putout_date string, putout_amt decimal(30, 6), balance decimal(30,6), is_buliang int, overduedays int, ds string comment '日期分区' ) row format delimited fields terminated by 't'; load data local inpath '/root/debt.txt' overwrite into table webank_db.debt_temp; --动态分区需要设置 set hive.exec.dynamic.partition=true; set hive.exec.dynamic.partition.mode=nonstrict; insert overwrite table webank_db.debt partition (ds) select * from webank_db.debt_temp; --技巧：如果查询debt表，由于分区数太多，导致查询很慢。 -- 开发阶段，我们可以事先将表缓存起来，并且降低分区数比如为6，那么查缓存表大大提升了开发效率。 -- 上线阶段，再用实际表替换缓存表。 --首次缓存会耗时慢 cache table cache_debt as select /+ coalesce(6) / from debt; --第二次使用缓存会很快 select count(*) from cache_debt; select ds,count(1) from cache_debt group by ds;
思路分析
--创建模型输出表数据集 create or replace temporary view output_model(ds,sno,create_time,uid,content,update_time) as values ('20200101','s001','20210101','u001','{"V01":0,"V02":1,"V03":1,"V04":0,"V05":1,"V06":0}','20210101'), ('20200101','s002','20210101','u002','{"V01":1,"V02":1,"V03":0,"V04":1,"V05":0,"V06":0}','20210101'), ('20200101','s003','20210101','u003','{"V01":0,"V02":1,"V03":0,"V04":1,"V05":0,"V06":1}','20210101'), ('20200101','s004','20210101','u004','{"V01":0,"V02":1,"V03":1,"V04":1,"V05":1,"V06":1}','20210101'), ('20200101','s005','20210101','u005','{"V01":0,"V02":0,"V03":0,"V04":1,"V05":1,"V06":1}','20210101');
答案获取
建议你先动脑思考，动手写一写再对照看下答案，如果实在不懂可以点击下方卡片，回复:大厂sql 即可。
参考答案适用HQL，SparkSQL，FlinkSQL，即大数据组件，其他SQL需自行修改。
加技术群讨论
点击下方卡片关注 联系我进群
或者直接私信我进群
微众银行源数据表附录：
- 核额流水表
| 字段名 | 字段意义 | 字段类型 |
| ds | 日期分区，样例格式为20200101，每个分区有全量流水 | string |
| sno | 每个ds内主键，流水号 | string |
| uid | 户id | string |
| is_risk_apply | 是否核额申请（核额漏斗第一步）取值0和1 | bigint |
| is_pass_rule | 是否通过规则（核额漏斗第二步）取值0和1 | bigint |
| is_obtain_qutoa | 是否授信成功（核额漏斗第三步）取值0和1 | bigint |
| quota | 授信金额 | decimal(30,6) |
| update_time | 更新时间样例格式为2020-11-14 08:12:12 | string |
- 借据表
| 字段名 | 字段意义 | 字段类型 |
| ds | 日期分区，样例格式为20200101每个分区有全量借据 | string |
| duebilid | 借据号（每个日期分区内的主键） | string |
| uid | 用户id | string |
| prod_type | 产品名称仅3个枚举值XX贷YY贷ZZ贷 | string |
| putout_date | 发放日期样例格式为2020-10-10 00:10:30 | bigint |
| putout_amt | 发放金额 | decimal(30,6) |
| balance | 借据余额 | decimal(30,6) |
| is_buliang | 状态-是否不良取值0和1 | bigint |
| overduedays | 逾期天数 | bigint |
- 模型输出表
| 字段名 | 字段意义 | 字段类型 |
| ds | 日期分区，样例格式为20200101增量表部分流水记录可能有更新 | string |
| sno | 流水号，主键 | string |
| create time | 创建日期样例格式为2020-10-10 00:10:30与sno唯一绑定，不会变更 | string |
| uid | 用户id | string |
| content | son格式key值名称为V01～V06，value值取值为0和1 | string |
| create_time | 更新日期样例格式为2020-10-1000:10:30 | string |
文末SQL小技巧
提高SQL功底的思路。
1、造数据。因为有数据支撑，会方便我们根据数据结果去不断调整SQL的写法。
造数据语法既可以create table再insert into，也可以用下面的create temporary view xx as values语句，更简单。
其中create temporary view xx as values语句，SparkSQL语法支持，hive不支持。
2、先将结果表画出来，包括结果字段名有哪些，数据量也画几条。这是分析他要什么。
从源表到结果表，一路可能要走多个步骤，其实就是可能需要多个子查询，过程多就用with as来重构提高可读性。
3、要由简单过度到复杂，不要一下子就写一个很复杂的。
先写简单的select from table…,每个中间步骤都执行打印结果，看是否符合预期， 根据中间结果，进一步调整修饰SQL语句，再执行，直到接近结果表。
4、数据量要小，工具要快，如果用hive，就设置set hive.exec.mode.local.auto=true;如果是SparkSQL，就设置合适的shuffle并行度，set spark.sql.shuffle.partitions=4;
