加载中…

加载中...

数据清洗的步骤是什么(下)

转载 2019-03-25 17:36:22
标签: 数据清洗

数据清洗的意义相信大家都知道了吧?数据清洗就好比我们做菜的时候首先对食材进行清洗,防止某些不干净的东西影响我们食用时的口感以及给我们的健康带来隐患。所以说,数据清洗在数据分析工作中是一个十分重要的工作,在上面的文章中我们给大家介绍了多数据清洗的一部分知识,我们在这篇文章中继续为大家介绍剩下的知识。

我们首先给大家介绍一下格式内容清洗的知识,一般来说,如果数据是从系统日志得到的,数据的格式和内容就会和元数据保持一致。但是如果数据是由人工收集或用户填写而来,则有很大可能性在格式和内容上存在一些问题,一般来说,格式内容问题有两类,第一类就是时间、日期、数值、全半角等显示格式不一致,这就需要我们将其处理成一致的某种格式即可。第二类就是内容中有不该存在的字符。这种情况下,需要以半自动校验半人工方式来找出可能存在的问题,并去除不需要的字符。

数据清洗的第三步就是对逻辑错误清洗,这部分的工作是去掉一些使用简单逻辑推理就可以直接发现问题的数据,防止分析结果走偏。首先需要对数据进行去重,有的数据有很多重复的的内容,这些数据基本上没有什么意义。当然,如果数据不是人工录入的,那么简单去重即可。然后就是去除不合理值。不合理的数值需要直接清除,比如说年龄200岁,月薪一个亿等等。第三就是修正矛盾内容。这是因为有些字段是可以互相验证的,所以说在这种时候,需要根据字段的数据来源,来判定哪个字段提供的信息更为可靠,去除或重构不可靠的字段。

数据清洗的第四步就是非需求数据清洗,简单来说就是把不要的字段删了。不过实际操作起来,有很多问题,有时候我们并不知道数据是否是真的重要,同时有时候会误删数据,所以说,如果数据量没有大到不删字段就没办法处理的程度,那么能不删的字段尽量不删。当然,我们还要勤备份数据。

数据清洗的第五步就是关联性验证,如果你的数据有多个来源,那么有必要进行关联性验证。如果不关联,这个数据据需要我们清洗。严格意义上来说,这已经脱离数据清洗的范畴了,而且关联数据变动在数据库模型中就应该涉及。

在这篇文章中我们给大家介绍了数据清洗剩余的步骤以及对每个步骤都进行了比较明确的分析,另外,大家在进行数据分析工作的时候还是要多多了解数据,这样才能够方便大家更好地理解数据分析工作。


阅读(0) 评论(0) 收藏(0) 转载(0) 举报/Report

评论

重要提示:警惕虚假中奖信息
0条评论展开
相关阅读
加载中,请稍后
CDA鏁版嵁鍒嗘瀽甯坃浜哄ぇ缁忔祹璁哄潧
  • 博客等级:
  • 博客积分:0
  • 博客访问:38,784
  • 关注人气:0
  • 荣誉徽章:

相关博文

推荐博文

新浪BLOG意见反馈留言板 电话:4000520066 提示音后按1键(按当地市话标准计费) 欢迎批评指正

新浪简介 | About Sina | 广告服务 | 联系我们 | 招聘信息 | 网站律师 | SINA English | 会员注册 | 产品答疑

新浪公司 版权所有