加载中…
个人资料
  • 博客等级:
  • 博客积分:
  • 博客访问:
  • 关注人气:
  • 获赠金笔:0支
  • 赠出金笔:0支
  • 荣誉徽章:
正文 字体大小:

hive sum函数的顶级应用(配合开窗函数OVER)

(2015-11-20 15:13:31)
标签:

分析函数

分类: hive

在我们基本的认识中,sum函数都是用来求和的,没错,sum就是用来求和的,但除了对整列求和外,你还知道hive的哪些特殊的应用呢,下面小编就为您扒一扒hive中sum的高级顶级应用。

工具/原料

  • HADOOP
  • HIVE\CRT

方法/步骤

  1. 1

    首先去下载我准备的数据 http://pan.baidu.com/s/1bns3wwJ

    部分数据示例如下:

  2. 2

    下载后建表并导入数据,我的数据库为tmp,可根据你的实际情况自行修改create table tmp.hive_sum (id string COMMENT '会员ID',bank_name string COMMENT '银行名称',create_time string COMMENT '交易时间',amount double COMMENT '交易金额') COMMENT 'hive_sum顶级应用'ROW FORMAT DELIMITED FIELDS TERMINATED BY '\t'LINES TERMINATED BY '\n';load data local inpath '/data/tmp/tqc/hive_sum.txt' overwrite into table tmp.hive_sum;

  3. 3

    每条记录增加此会员的消费总额,用到开窗函数over

    select id,bank_name,create_time,amount,sum(amount) over(partition by id) amount_allfrom tmp.hive_sumorder by id,bank_name,create_time;

    部分结果如下:

  4. 4

    如果想按会员id,银行查询历史消费信息,只需在开窗函数over里的partition部分增加bank_name字段即可,代码如下

    select id,bank_name,create_time,amount,sum(amount) over(partition by id,bank_name order by create_time asc ) amount_allfrom tmp.hive_sumorder by id,bank_name,create_time asc;

    注 意:partition by 是分组用的,按谁进行分组统计,order by 不要省掉,否则会有麻烦, asc或者desc最好写上。between 2 preceding (是前两行) and 2 following (是后两行,没有就不出现)注意是分组后的前后两行哦

    效果:

  5. 5

    按时间显示会员本次消费的上两次、下两次消费的和,也就是本次消费的前后两次消费总和,sql如下

    select id,create_time,  amount,sum(amount) over(partition by id order by create_time asc rows between 2 preceding and 2 following ) amount_allfrom tmp.hive_sumorder by id, create_time asc;

    查询部分结果显示

  6. 6

    求每个会员每个银行的消费总额,并单独一行显示此会员的消费总额

    select id,bank_name,sum(amount)  amount_allfrom tmp.hive_sumgroup by id,bank_namewith rolluporder by id, bank_name desc ;

    显示效果如下:

  7. 7

    hive sum求和的高级应用

    很多时候万恶的分析师在数据出完后,还要一条对每个会员消费总额或者什么什么什么的汇总,这时候你可能用的最多的是union all了吧,现在换个方法吧with rollup,你会有意想不到的惊喜。

    END

注意事项

  • 求和不要死板,要灵活运用
  • 开窗函数应该的地方很多,多数时候跟聚合函数一起使用

0

阅读 收藏 喜欢 打印举报/Report
  

新浪BLOG意见反馈留言板 欢迎批评指正

新浪简介 | About Sina | 广告服务 | 联系我们 | 招聘信息 | 网站律师 | SINA English | 产品答疑

新浪公司 版权所有