数据质量工具OpenRefine的入门简介
标签:
数据质量 |
分类: 数据分析 |
OpenRefine 目前是一个Open
Source的数据质量工具,不过最近好久没更新了。由于这本书提到了,所以了解了一下。
1.安装使用介绍
网站资源:
https://github.com/OpenRefine/OpenRefine
这个blog也很不错 https://blog.ouseful.info/tag/google-refine/
下载和安装
https://github.com/OpenRefine/OpenRefine/releases
下载OpenRefine v2.6-rc2版本
tar -xzf openrefine-linux-2.6-rc.2.tar.gz
#启动
export JAVA_HOME=/pythontest/jdk1.8.0_91
cd openrefine-2.6-rc.2
./refine
或所有ip可以访问
./refine -i 0.0.0.0
#访问地址
2.基本使用过程
用这个网页https://en.wikipedia.org/wiki/Comparison_of_text_editors的数据作示例
具体就看截图吧。
1. Explore Data
导入数据
http://7xlhg3.com1.z0.glb.clouddn.com/uploads/article/20160426/eae31bb49885ffba5a11dfe919c7210f.PNG
http://7xlhg3.com1.z0.glb.clouddn.com/uploads/article/20160426/4318fc07541267cb6d5c590ec2399499.PNG
http://7xlhg3.com1.z0.glb.clouddn.com/uploads/article/20160426/a90710b487f4336e6ce744d42850b114.PNG
2. Clean and Transform Data
选择过滤
http://7xlhg3.com1.z0.glb.clouddn.com/uploads/article/20160426/d5d19833de783c2230254d0045bab009.PNG
正则表达式过滤
http://7xlhg3.com1.z0.glb.clouddn.com/uploads/article/20160426/8e448153ab2a13f883ed1fffff7925a6.PNG
转换
http://7xlhg3.com1.z0.glb.clouddn.com/uploads/article/20160426/e358981fa66ff5750a0b4738e48d99ea.PNG
字段转换
http://7xlhg3.com1.z0.glb.clouddn.com/uploads/article/20160426/e358981fa66ff5750a0b4738e48d99ea.PNG
http://7xlhg3.com1.z0.glb.clouddn.com/uploads/article/20160426/07f698af16dee9e4013fbd64558d44e0.PNG
cluster
http://7xlhg3.com1.z0.glb.clouddn.com/uploads/article/20160426/89423e8af33351944a5e4f4c3b2ae0f3.PNG
3.导出数据
http://7xlhg3.com1.z0.glb.clouddn.com/uploads/article/20160426/4d33779d72e9692abff71b579aa10589.PNG
4. 进一步学习
Reconcile and Match Data
使用Freebase矫正数据
不过需要添加服务,http://reconcile.freebaseapps.com/reconcile
具体可以看Using OpenRefine这本书

加载中…