一、聚类分析与判别分析
• 判别分析：已知分类情况，将未知个体归入正确类别
• 聚类分析：分类情况未知，对数据结构进行分类
二、Q型和R型聚类
Q型是对样本进行分类处理，其作用在于:
1.能利用多个变量对样本进行分类
2.分类结果直观，聚类谱系图能明确、清楚地表达其数值分类结果
3.所得结果比传统的定性分类方法更细致、全面、合理
R型是对变量进行分类处理，其作用在于：
1.可以了解变量间及变量组合间的亲疏关系
2.可以根据变量的聚类结果及它们之间的关系，选择主要变量进行回归分析或Q型聚类分析
1.数据预处理（标准化）
2.构造关系矩阵（亲疏关系的描述）
3.聚类（根据不同方法进行分类）
4.确定最佳分类（类别数）
3.1标准化：
3.1.1为什么要做标准化： 指标变量的量纲不同或数量级相差很大，为了使这些数据能放到一起加以比较，常需做变换。
http://hi.csdn.net/attachment/201109/4/0_1315096281X466.gifAnalysis）" />
作用：变换后的数据均值为0，极差为1，且|xij*|<1，消去了量纲的影响；在以后的分析计算中可以减少误差的产生。
3)Maximum magnitude of 1
http://hi.csdn.net/attachment/201109/4/0_1315096376kwZa.gifAnalysis）" />
4)Range
0 to 1（极差正规化变换 / 规格化变换）
http://hi.csdn.net/attachment/201109/4/0_1315096425u737.gifAnalysis）" />
作用：变换后的数据最小为0，最大为1，其余在区间[0，1]内，极差为1，无量纲。
5)Mean of 1
http://hi.csdn.net/attachment/201109/4/0_1315096527Wd2d.gifAnalysis）" />
作用：变换后的数据均值为1。
6)Standard deviation of 1
http://hi.csdn.net/attachment/201109/4/0_1315096572ZSKw.gifAnalysis）" />
作用：变换后的数据标准差为1。
3.2构造关系矩阵
3.2.1 描述变量或样本的亲疏程度的数量指标有两种：
Ø相似系数——性质越接近的样品，相似系数越接近于1或-1；彼此无关的样品相似系数则接近于0，聚类时相似的样品聚为一类
Ø距离——将每一个样品看作m维空间的一个点，在这m维空间中定义距离，距离较近的点归为一类。
3.2.2 距离定义方式:
http://hi.csdn.net/attachment/201109/4/0_1315101926ugms.gifAnalysis）" />
6) Block：绝对值距离（一阶Minkowski度量）
http://hi.csdn.net/attachment/201109/4/0_1315102331M5Ib.gifAnalysis）" />
1)系统聚类法（又称谱系聚类,实际应用中使用最多）。
2) 调优法（如动态聚类法）
3）模糊聚类、图论聚类、聚类预报等。
3.1系统聚类法
3.1.1系统聚类法的基本思想：令n个样品自成一类，计算出相似性测度，此时类间距离与样品间距离是等价的，把测度最小的两个类合并；然后按照某种聚类方法计算类间的距离，再按最小距离准则并类；这样每次减少一类，持续下去直到所有样品都归为一类为止。聚类过程可做成聚类谱系图(Hierarchical
diagram)。
3.1.2步骤：
s1.构造n个类，每个类包含且只包含一个样品。
s2.计算n个样品两两间的距离，构成距离矩阵，记作D0。
s3.合并距离最近的两类为一新类。
s4.计算新类与当前各类的距离。若类的个数等于1，转到步骤(5)，否则回到步骤(3)。
s5.画聚类图。
s6.决定类的个数，及各类包含的样品数，并对类作出解释。
http://hi.csdn.net/attachment/201109/5/0_131521117833l1.gifAnalysis）" />
3.1.3 方法：
1)
最短距离法(single linkage)
2)
最长距离法(complete linkage)
3) 中间距离法(median method)
4) 可变距离法(flexible median)
5) 重心法(centroid)
6)
类平均法(average)
7) 可变类平均法(flexible average)
8) Ward最小方差法(Ward’s minimum variance)
a)
Between-groups linkage 组间平均距离连接法
方法简述：合并两类的结果使所有的两两项对之间的平均距离最小。（项对的两成员分属不同类）
b) Within-groups linkage 组内平均连接法
方法简述：两类合并为一类后，合并后的类中所有项之间的平均距离最小
c)
Nearest neighbor 最近邻法（最短距离法）
方法简述：首先合并最近或最相似的两项
特点：样品有链接聚合的趋势，这是其缺点，不适合一般数据的分类处理，除去特殊数据外，不提倡用这种方法。
d)
Furthest neighbor 最远邻法（最长距离法）
方法简述：用两类之间最远点的距离代表两类之间的距离，也称之为完全连接法
e) Centroid clustering 重心聚类法
方法简述：两类间的距离定义为两类重心之间的距离，对样品分类而言，每一类中心就是属于该类样品的均值
特点：该距离随聚类地进行不断缩小。该法的谱系树状图很难跟踪，且符号改变频繁，计算较烦。
f)
Ward’s method 离差平方和法
方法简述：基于方差分析思想，如果分类合理，则同类样品间离差平方和应当较小，类与类间离差平方和应当较大
特点：实际应用中分类效果较好，应用较广；要求样品间的距离必须是欧氏距离。
聚类的关键：
1）用什么指标(变量)表达要分析的样品？
2）标准化方法
3）选择聚类方法
4）用什么统计量(距离、相似系数)描述样本间的相似程度？
5）用什么方法(类间距离等)进行聚类？
6）分成几类比较合适？
加载中，请稍候......
加载中…
(2014-12-01 15:24:07) 
