数据挖掘和统计分析
- 2023-06-10
- 来源/作者: Wps Office教程网/ 菜鸟图库
- 115 次浏览
很多人问数据挖掘和统计分析的不同之处是什么?相同之处是什么?这样的问题,其实数据挖掘和统计分析的基础都是数学理论。
数据挖掘是直接从庞大的数据中挖掘,而统计分析则是从庞大的数据(总体)中,用随机抽样的方法抽取一部分数据(样本)。通过分析样本数据来推测总体特性(平均、比例、标准偏差等)的统计方法,被称为推测统计学。另外,统计学中还有记述统计学,它足一种能够正确记述并把握获得的数据特性的方法。甚至可以说,记述统计学+其他=数据挖掘。
数据挖掘的目的是从数据中挖掘有效信息。为了实现这个目,可以使用神经网络、购物篮分析以及“多变量分析”的数量化理论、判别分析、回归分析、逻辑回归分析、聚类分析、主成分分析、因子分析、对应分析(双尺度祛)、典型相关分析、联合分析等方法。多变量分析是将相互关联的多变量的数据特征或趋势,用统计学方法进行分析的方法的总称。多变量分析是数据挖掘的重要方法之一,包括各种统计分析方法(如下图):
如果单纯考虑数量化理论或者回归分析等统计分析方法就会发现,虽然分析过程具有很强的数学性,然而操作却只不过是“计算”而已。为了实现数据挖掘的目的,把统计学方法单独或者组合使用,是非常有效的数据分析方法。例如,回归分析在“预测”和“因子分析”时十分有效。另外,极力推荐把聚类分析和判别分析组合之后挖掘数据。
在人类基因组领域中,先通过聚类分析,例如,将总体分成5组,再按照外在基准对5组小集合进行判别分析。经过两个阶段的分析后,再进行判别预测和因子分析。就能分别得出5组小集合的特征。同样地,对交叉表数据实施对应分析(双尺度祛)后再进行聚类分析,最后做模型分类。