2
关注
5741
浏览

什么是数据清洗呢?

查看全部 1 个回答

luffy01 注册会员 用户来自于: 浙江省杭州市
2020-05-06 18:41

既然说到清洗,那么对应着就有需要进行清洗的“脏”,数据清洗就是对数据进行审查校验,利用有关技术转化错误、重复、不完整、冲突的“脏数据”为满足要求的高质数据。尤其是在建立数据仓库的过程中会从多个业务系统中年抽取而来的、甚至时间跨度较大的多个版本的数据,避免不了会出现大量的“脏数据”。

清洗分为两种,一种是由计算机遵循一定的规则对数据进行校验,自动对数据进行一致性检查和无效值、缺失值的处理,还有一类就是需要筛选过滤掉那些不符合要求的数据,因为这一部分可能会影响分析结果的准确性,需要人工依据数据和场景进行筛选过滤了。数据分析系统中所说的数据清洗大多是指第一种,后一种更倾向为成为ETL模块(DataFocus支持两种清洗方式)。

一般来说,数据清理是将数据精简以除去重复记录,并使剩余部分转换成标准可接收格式的过程。数据清理标准模型是在数据导入过程中,通过一系列步骤“ 清理”数据,然后以期望的格式输出清理过的数据。数据清理从数据的准确性、完整性、一致性、惟一性、适时性、有效性几个方面来处理数据的丢失值、越界值、不一致代码、重复数据等问题。


关于作者

问题动态

发布时间
2020-05-06 18:40
更新时间
2020-05-06 18:41
关注人数
2 人关注

相关问题

想要实现一个时序条形图需要满足什么样的数据前提条件?
可以快速找到该数据源下面的中间表吗?
患者血液数据
利率数据集
对销售量的数据按照省份进行聚合,聚合完成后取出销售量最高的一个省份,如何实现?
我看到系统设计的看板模板中有几个很好看并且有用的图表,我想用到自己的数据看板中,可以实现么?
数据清洗的方法?
推特数据集
游乐场数据集
电玩游戏数据集

热门话题

数据仓库

电商

数据搜索

全局配置

BI

热门专栏

数据分析模型探讨研究

热门用户

datafocus4a91a48594cf4ba55d028d

Cynthia

Nora

clarance2020

later