-
SAS
中的聚类分析方法总结(
1
)——聚类分析概述
说
起聚类分析,相信很多人并不陌生。这篇原创博客我想简单说一下我所理解的聚类分析,
欢迎各位高手不吝赐教和拍砖。
按照正常的思路,我大概会说如下几个问题:
1.
什么是聚类分析?
2.
聚类分析有什么用?
3.
聚类分析怎么做?
下面我将分聚类分
析概述、聚类分析算法及
sas
实现、案例三部分来系统的回答
这些问题。
聚类分析概述
1.
聚类分析的定义
< br>中国有句俗语叫
“
物以类聚,人以群分
< br>”——
剔除这句话的贬义色彩。说白了就是物品根据物
品
的特征和功用可以分门别类,
人和人会根据性格、
偏好甚至利益
结成不同的群体。
分门别
类和结成群体之后,同类(同群)之间
的物品(人)的特征尽可能相似,不同类(同群)之
间的物品(人)
的特征尽可能不同。
这个过程实际上就是聚类分析。从这个过程我们可以知
道如下几点:
1)
聚类分析的对象是物(人)
,说的
理论一点就是样本
2)
p>
聚类分析是根据物或者人的特征来进行聚集的,这里的特征说的理论一点就是变量。
当然特征选的不一样,聚类的结果也会不一样;
3)
聚类分析中评判相似的标
准非常关键。说的理论一点也就是相似性的度量非常关键;
4)
聚类分析结果的好坏没有统一的评判标准;
2.
聚类分析到底有什么用?
1)
说的官腔一点就是为了更
好的认识事物和事情,比如我们可以把人按照地域划分为南
方人和北方人,
你会发现这种分法有时候也蛮有道理。
一般来说南方人习惯吃米饭,
北方习
惯吃面食;
2)
说的实用一点,可以有效
对用户进行细分,提供有针对性的产品和服务。比如银行会
将用户分成金卡用户、银卡用
户和普通卡用户。这种分法一方面能很好的节约银行的资源,
另外一方面也能很好针对不
同的用户实习分级服务,提高彼此的满意度。
再比如移动会开
发全球通、
神州行和动感地带三个套餐或者品牌,
实际就是根据
移动用户的
行为习惯做了很好的用户细分
——
< br>聚类分析;
3)
p>
上升到理论层面,聚类分析是用户细分里面最为重要的工具,而用户细分则是整个精
准营销里面的基础。精准营销是目前普遍接纳而且被采用的一种营销手段和方式。
3.
聚类分析的流程是怎样的?
比较简单的聚类分析往往只根据一个维度来进行,比如讲用户按照付费情况分成高端用户、
p>
中端用户和低端用户。这
个只需要根据商
业目的统计一下相关数据指定一个高端、中端和
低端的分界点标准就可以。
如果是比较复杂的聚类分析,比如移动里面经常会基于用户的多种行为(通
话、短信、
gprs
流失扥等)
来对用
户进行细分,
这个就是比较复杂的用户细分。
如果是这样的细分
通常会作
为一个比较标准的数据挖掘项目来执行,
所以基本上会
按照数据挖掘的流程来执行。
具体分
如下几步:
1)
业务理解
主要是了解业务目标和数据挖掘的目标及执行计划
2)
数据理解
主要是弄清楚可已取哪些变量数据,具体怎么定义
3)
数据整理
根据之前的定义提取需要的
数据,
并进行检测异常数据,
并对变量进行挑选及探索,
比如最
终要用那些变量来执行聚类算法、那些变量是离散变量,需要做
特殊处理、
数据大概可以聚成几类、类别形状有不规则的情形吗?
4)
建立模型
关键是选用什么样的距离<
/p>
(
相似性度量
)
和算法:
l
比如是样本比较小,形状也比较规则,可以选用层次聚类
l
比如样本比较大,形状规则,各类的样本量基本相当,可
以选用
k-means
算法
l
比如形状规则,但是各类别之间的样本点的密度差异很大
,可以选用基于密度的算法
5)
模型评估
主要是评估聚类分析结果的
好坏。
实际上聚类分析在机器学习里面被称之为无监督学习,
是
没有大家公认的评估方法的。所以更多会从业务可解释性的角度去评估
< br>
聚类分析的好坏;
6)
模型发布
主要是根据聚类分析的结果根据不同的类的特诊去设计不同的产品、
服务或者渠道策
略,
然
后去实施营销
4.
具体在
sas
里面如何执行?
通过前面的讲解我们已经知道,
聚类分析涉及到如下
6
步,
对应着
6
< br>步
SAS
都会有相应的过
程来执
行。
1)
距离的计算:
proc
distance
2)
数据标准化:
proc stdize
3)
聚类变量的选择:
proc
varclus
4)
初始类别数的选择:
proc
mds
和
proc princomp
5)
不规则形状的变换:
proc
aceclus
6)
算法的选择:层次聚类
-proc cluster
划分型聚类
-proc fastclus
(
k-means
)和
密度型聚类
-proc
modeclus
7)
类别特征描述:
proc means
以上四个部分就从是什么、
为什么、
怎
么样三个角度对聚类分析做了简单的介绍。
接下来的
帖子我会重
点介绍
SAS
中各种聚类算法的差异、应用范围及实际的案例。
5.
用
proc
distance
做什么?
我们知道
数据变量分四类:名义变量、次序变量、
interval
变量
和
ritio
变量。但
sas
里面目
前的聚类算法都要求变量时
ratio<
/p>
变量。那想要对离散变量进行聚类怎么呢?一种想法自然
是讲所有
的离散变量都转成
0-1
变量。这会有如下几个问题:
1)
变量的
信息可能会有损失,比如次序型变量转成
0-1
变量后,次序信
息就很难保留;
2)
当离散变量的取值非常多时,转成
0-1
变量
后生成的新变量也会非常多,这样也会造
成很多处理上的不便;
3)
0-1
< br>变量也没法做标准化等等一些运算,因为这种运算其实是没有意义的
那该如何处理离散变量的聚类呢?答案是用
proc dist
ance
。我们知道聚类过程中首先是从计
算距离或者相似度开
始的。
一个很自然的想法就是针对离散变量定义有意义的距离
(
对离散
变量和连续变量混合类型的数据)
。
Proc
distance
就是用来算这种距离的一个很
好的过程。
距离或者相似度可以看成是连续数据,自然就可以用
sas
里面的聚类算法了。
6.
用
proc
stdize
做什么?
前面说过聚类
算法首先要算的距离,
然后通过距离来执行后续的计算。
在距离
计算的过程方
差比较大的变量影响会更大,
这个通常不是我们希
望看到。
所以非常有必要讲参与聚类的变
量转换成方差尽量相同
。
Proc
stdize
就能实现这
种功能。
Proc
stdize
不仅
提供了将变量转换
了均值为
0
,方差转
换为
1
的标准化,还提供了很多其它类型的标准化。比如,
p>
range
标准
化(变量减去最小值除以最
大值和最小值得差)
7.
用
proc
varclus
做什么?
在做回归分析的时候,我们知道变量过多会有两个问题:
1)
变量过多会影响预测的准
确,尤其当无关紧要的变量引入模型之后;
2)
变量过多不可避免的会引起变量之前的共线性,这个会影响
参数估计的精度
聚类分析实际上也存在类似的问题,
所以有必要先对变量做降维。
说到降维,
马上有
人会说
这个可以用主成分啊,
这个的确没错。
< br>但是主成分的解释性还是有点差。
尤其是第二主成分
之后
的主成分。那用什么比较好呢?答案是
proc
varclus
——
斜交主成分。
<
/p>
我们常说的主成分实际上正交主成分。
斜交主成分是在正交主成分
的基础上再做了一些旋转。
这样得到的主成分不仅能保留主成分的优点(主成分变量相关
程度比较低)
。另外一方面又
能有很到的解释性,
并且能达到对变量聚类的效果。
使同类别里面的变量尽可能相关程度比
较高,
不同类别里面的变量相关程度尽可能低。
这样根据一定的规则我们就可以在每个类别
里面选取一些有代表性的变量,
这样既能保证原始的数据信息不致损失太多,
也能有效消除
共线性。有效提升聚类分析的精度。
8.
用
proc mds
和
proc
princomp
做什么?
将原始数
据降到两维,通过图形探测整个数据聚类后大致大类别数
9.
用
proc
aceclus
做什么?
聚类算法尤
其是
k-means
算法要求聚类数据是球形数据。
如果是细长型的数据或者非凸型数
据,
这些算法的
表现就会相当差。
一个很自然的变通想法就是,
能不能将非球形
数据变换成
球形数据呢?答案是可以的。这就要用到
proc
aceclus
。
10.
标准化对聚类分析到底有什么影响?
1)
在
讲
影
响
之
前
先
罗
列
一
p>
下
proc
stdize
里
面
的
标
准
化
方
法
吧
2)
标准化对聚类分析的影响
从图
1
中
不太容易看清楚标准化对于聚类分析的影响
<
/p>
从
图
2
可
以
清
晰
的
看
到
标
准
化
对
于
聚
类
分
析
的
影
响
-
-
-
-
-
-
-
-
-
上一篇:深度探索C++对象模型笔记
下一篇:大学英语(二)大题答案