hive sum函数的顶级应用(配合开窗函数OVER)

标签:
分析函数 |
分类: hive |
在我们基本的认识中,sum函数都是用来求和的,没错,sum就是用来求和的,但除了对整列求和外,你还知道hive的哪些特殊的应用呢,下面小编就为您扒一扒hive中sum的高级顶级应用。
方法/步骤
-
1
首先去下载我准备的数据 http://pan.baidu.com/s/1bns3wwJ
部分数据示例如下:
-
2
下载后建表并导入数据,我的数据库为tmp,可根据你的实际情况自行修改create table tmp.hive_sum (id string COMMENT '会员ID',bank_name string COMMENT '银行名称',create_time string COMMENT '交易时间',amount double COMMENT '交易金额') COMMENT 'hive_sum顶级应用'ROW FORMAT DELIMITED FIELDS TERMINATED BY '\t'LINES TERMINATED BY '\n';load data local inpath '/data/tmp/tqc/hive_sum.txt' overwrite into table tmp.hive_sum;
-
3
每条记录增加此会员的消费总额,用到开窗函数over
select id,bank_name,create_time,amount,sum(amount) over(partition by id) amount_allfrom tmp.hive_sumorder by id,bank_name,create_time;
部分结果如下:
-
4
如果想按会员id,银行查询历史消费信息,只需在开窗函数over里的partition部分增加bank_name字段即可,代码如下
select id,bank_name,create_time,amount,sum(amount) over(partition by id,bank_name order by create_time asc ) amount_allfrom tmp.hive_sumorder by id,bank_name,create_time asc;
注 意:partition by 是分组用的,按谁进行分组统计,order by 不要省掉,否则会有麻烦, asc或者desc最好写上。between 2 preceding (是前两行) and 2 following (是后两行,没有就不出现)注意是分组后的前后两行哦
效果:
-
5
按时间显示会员本次消费的上两次、下两次消费的和,也就是本次消费的前后两次消费总和,sql如下
select id,create_time,
amount,sum(amount) over(partition by id order by create_time asc rows between 2 preceding and 2 following ) amount_allfrom tmp.hive_sumorder by id, create_time asc; 查询部分结果显示
-
6
求每个会员每个银行的消费总额,并单独一行显示此会员的消费总额
select id,bank_name,sum(amount)
amount_allfrom tmp.hive_sumgroup by id,bank_namewith rolluporder by id, bank_name desc ; 显示效果如下:
-
7
hive sum求和的高级应用
很多时候万恶的分析师在数据出完后,还要一条对每个会员消费总额或者什么什么什么的汇总,这时候你可能用的最多的是union all了吧,现在换个方法吧with rollup,你会有意想不到的惊喜。
END