加载中…
个人资料
seng
seng
  • 博客等级:
  • 博客积分:0
  • 博客访问:0
  • 关注人气:0
  • 获赠金笔:0支
  • 赠出金笔:0支
  • 荣誉徽章:
正文 字体大小:

数据质量工具OpenRefine的入门简介

(2016-04-30 23:15:14)
标签:

数据质量

分类: 数据分析
原文我发表于天善智能

OpenRefine 目前是一个Open Source的数据质量工具,不过最近好久没更新了。由于这本书提到了,所以了解了一下。

1.安装使用介绍

网站资源:

http://openrefine.org/

https://github.com/OpenRefine/OpenRefine

这个blog也很不错 https://blog.ouseful.info/tag/google-refine/

下载和安装

https://github.com/OpenRefine/OpenRefine/releases

下载OpenRefine v2.6-rc2版本

tar -xzf openrefine-linux-2.6-rc.2.tar.gz

#启动

export JAVA_HOME=/pythontest/jdk1.8.0_91

cd openrefine-2.6-rc.2

./refine

或所有ip可以访问

./refine -i 0.0.0.0

#访问地址

http://127.0.0.1:3333/

2.基本使用过程

用这个网页https://en.wikipedia.org/wiki/Comparison_of_text_editors的数据作示例

具体就看截图吧。

1. Explore Data

导入数据

http://7xlhg3.com1.z0.glb.clouddn.com/uploads/article/20160426/eae31bb49885ffba5a11dfe919c7210f.PNG

http://7xlhg3.com1.z0.glb.clouddn.com/uploads/article/20160426/4318fc07541267cb6d5c590ec2399499.PNG

http://7xlhg3.com1.z0.glb.clouddn.com/uploads/article/20160426/a90710b487f4336e6ce744d42850b114.PNG


2. Clean and Transform Data

选择过滤

http://7xlhg3.com1.z0.glb.clouddn.com/uploads/article/20160426/d5d19833de783c2230254d0045bab009.PNG

正则表达式过滤

http://7xlhg3.com1.z0.glb.clouddn.com/uploads/article/20160426/8e448153ab2a13f883ed1fffff7925a6.PNG

转换

http://7xlhg3.com1.z0.glb.clouddn.com/uploads/article/20160426/e358981fa66ff5750a0b4738e48d99ea.PNG

字段转换

http://7xlhg3.com1.z0.glb.clouddn.com/uploads/article/20160426/e358981fa66ff5750a0b4738e48d99ea.PNG

http://7xlhg3.com1.z0.glb.clouddn.com/uploads/article/20160426/07f698af16dee9e4013fbd64558d44e0.PNG


cluster

http://7xlhg3.com1.z0.glb.clouddn.com/uploads/article/20160426/89423e8af33351944a5e4f4c3b2ae0f3.PNG

3.导出数据

http://7xlhg3.com1.z0.glb.clouddn.com/uploads/article/20160426/4d33779d72e9692abff71b579aa10589.PNG

4. 进一步学习

Reconcile and Match Data

使用Freebase矫正数据

不过需要添加服务,http://reconcile.freebaseapps.com/reconcile

具体可以看Using OpenRefine这本书

0

阅读 收藏 喜欢 打印举报/Report
  

新浪BLOG意见反馈留言板 欢迎批评指正

新浪简介 | About Sina | 广告服务 | 联系我们 | 招聘信息 | 网站律师 | SINA English | 产品答疑

新浪公司 版权所有