大数据挖掘工具: SPSS Statistics入门与提高

【课程目标】

本课程为数据分析和挖掘的工具篇，本课程面向数据分析部等专门负责数据分析与挖掘的人士，专注大数据挖掘工具SPSS Statistics的培训。

IBM SPSS工具是面向非专业人士的高级的分析工具（挖掘工具），它提供大量的分析方法和分析模型，能够解决更复杂的业务问题，比如影响因素分析、客户行为预测/精准营销、客户群划分、产品交叉销售、产品销量预测等等。工具它封装了复杂难懂的算法实现，即使你没有深厚的技能能力，也能够胜任复杂的数据分析和挖掘。

本课程从实际的业务需求出发，对数据分析及数据挖掘技术进行了全面的介绍，将数据挖掘标准流程、分析思路、分析方法、分析模型，全部落地在SPSS工具中，通过大量的工具操作和演练，帮助学员熟练掌握SPSS工具的使用，并能够将SPSS工具在实际的业务数据分析中满地，实现“知行合一”。

通过本课程的学习，达到如下目的：

1、  了解大数据挖掘的标准过程和挖掘步骤

2、  掌握常用的统计分析方法，以及可视化

3、  掌握常用的影响因素分析方法，学会根因分析

4、  理解数据挖掘的常见模型，原理及适用场景。

5、  熟练掌握SPSS基本操作，能利用SPSS解决实际的商业问题。

【授课时间】

2~4天时间，或根据客户需求选择（每天6个小时）

知识点	2天	4天
数据挖掘标准流程	√	√
数据流预处理	√	√
数据可视化	√	√
影响因素分析	√	√
回归预测模型	√	√
时序预测模型	√（部分）	√
回归模型优化		√
分类预测模型		√
市场客户划分		√
客户价值评估		√
假设检验		√

【授课对象】

市场部、业务支撑部、数据分析部、运营分析部等对业务数据分析有较高要求的相关人员。

【学员要求】

1、     每个学员自备一台便携机(必须)。

2、     便携机中事先安装好Microsoft Office Excel 2013版本及以上。

3、     便携机中事先安装好SPSS Statistics v24版本及以上。

注：讲师可以提供试用版本软件及分析数据源。

【授课方式】

基础知识精讲 + 案例演练 + 实际业务问题分析 + 工具实际操作

本课程突出数据挖掘的实际应用，结合行业的典型应用特点，从实际问题入手，引出相关知识，进行大数据的收集与处理；引导学员思考，构建分析模型，进行数据分析与挖掘，以及数据呈现与解读，全过程演练操作，以达到提升学员的数据综合分析能力，支撑运营决策的目的。

【课程大纲】

第一部分：  数据挖掘标准流程

1、         数据挖掘概述

2、         数据挖掘的标准流程（CRISP-DM）

Ø  商业理解

Ø  数据准备

Ø  数据理解

Ø  模型建立

Ø  模型评估

Ø  模型应用

案例：客户流失预测及客户挽留

3、         数据集概述

4、         SPSS工具介绍

5、         数据挖掘常用模型

第二部分：  数据预处理

如何整理数据，了解数据，对数据进行预处理？

1、 数据预处理的四大任务

Ø  数据集成：多个数据集合并

Ø  数据清洗：异常值的处理

Ø  样本处理：样本筛选、样本抽样、样本平衡

Ø  变量处理：变量变换、变量派生、变量精简

2、 数据集成（数据集合并）

Ø  样本追加（添加数据行）：横向合并

Ø  变量合并（添加变量列）：纵向合并

3、 数据清洗（异常数据处理）

Ø  取值范围限定

Ø  重复值处理

Ø  无效值/错误值处理

Ø  缺失值处理

Ø  离群值/极端值处理

Ø  数据质量评估

4、 样本处理：行处理

Ø  样本筛选：指定条件筛选指定样本集（减少样本数量）

Ø  样本抽样：随机抽取部分样本集（减少样本数量）

Ø  样本平衡：正反样本比例均衡

5、 变量处理：列处理

Ø  变量变换：原变量取值更新，比如标准化

Ø  变量派生：根据旧变量生成新的变量

Ø  变量精简：变量删除/降维，减少变量个数

Ø  类型转换：数据类型的相互转换

6、 变量精简/变量降维常用方法

Ø  常用降维方法

Ø  如何确定降维后变量个数

Ø  特征选择：选择重要变量，剔除不重要变量

²  基于变量本身特征来选择属性

²  基于数据间的相关性来选择属性

²  利用IV值筛选

²  基于信息增益来选择属性

Ø  因子合并：将多个变量进行合并

²  PCA主成分分析

²  判别分析

7、 类型转换

8、 因子合并/主成分分析

Ø  因子分析的原因

Ø  因子个数选择原则

Ø  如何解读因子含义

案例：提取影响电信客户流失的主成分分析

9、 数据探索性分析

Ø  常用统计指标分析

Ø  单变量：数值变量/分类变量

Ø  双变量：交叉分析/相关性分析

Ø  多变量：特征选择、因子分析

演练：描述性分析（频数、描述、探索、分类汇总）

第三部分：  数据可视化

1、 数据可视化的原则

2、 常用可视化工具

3、 常用可视化图形

Ø  柱状图、条形图、饼图、折线图、箱图、散点图等

4、 图形的表达及适用场景

演练：各种图形绘制

第四部分：  影响因素分析篇

营销问题：哪些因素是影响业务目标的关键要素？比如，产品在货架上的位置是否对销量有影响？价格和广告开销是如何影响销量的？影响风控的关键因素有哪些？如何判断？

1、 影响因素分析的常见方法

2、 相关分析（衡量两数据型变量的线性相关性）

Ø  相关分析简介

Ø  相关分析的应用场景

Ø  相关分析的种类

²  简单相关分析

²  偏相关分析

²  距离相关分析

Ø  相关系数的三种计算公式

²  Pearson相关系数

²  Spearman相关系数

²  Kendall相关系数

Ø  相关分析的假设检验

Ø  相关分析的四个基本步骤

演练：营销费用会影响销售额吗？影响程度如何量化？

演练：哪些因素与汽车销量有相关性

演练：影响用户消费水平的因素会有哪些

Ø  偏相关分析

²  偏相关原理：排除不可控因素后的两变量的相关性

²  偏相关系数的计算公式

²  偏相关分析的适用场景

Ø  距离相关分析

3、 方差分析（衡量类别变量与数值变量间的相关性）

Ø  方差分析的应用场景

Ø  方差分析的三个种类

²  单因素方差分析

²  多因素方差分析

²  协方差分析

Ø  单因素方差分析的原理

Ø  方差分析的四个步骤

Ø  解读方差分析结果的两个要点

演练：摆放位置与销量有关吗

演练：客户学历对消费水平的影响分析

演练：广告和价格是影响终端销量的关键因素吗

演练：营业员的性别、技能级别对产品销量有影响吗

演练：寻找影响产品销量的关键因素

Ø  多因素方差分析原理

Ø  多因素方差分析的作用

Ø  多因素方差结果的解读

演练：广告形式、地区对销量的影响因素分析

Ø  协方差分析原理

Ø  协方差分析的适用场景

演练：排除产品价格，收入对销量有影响吗？

4、 列联分析/卡方检验（两类别变量的相关性分析）

Ø  交叉表与列联表：计数值与期望值

Ø  卡方检验的原理

Ø  卡方检验的几个计算公式

Ø  列联表分析的适用场景

案例：套餐类型对客户流失的影响分析

案例：学历对业务套餐偏好的影响分析

案例：行业/规模对风控的影响分析

5、 相关性分析方法总结

第五部分：  回归预测模型

营销问题：如何预测未来的产品销量/销售额？如果产品跟随季节性变动，该如何预测？

1、 回归分析简介和原理

2、 回归分析的种类

Ø  一元回归/多元回归

Ø  线性回归/非线性回归

3、 常用回归分析方法

Ø  散点图+趋势线（一元）

Ø  线性回归工具（多元线性）

Ø  规划求解工具（非线性回归）

演练：散点图找营销费用与销售额的关系

4、 线性回归分析的五个步骤

演练：营销费用、办公费用与销售额的关系（线性回归）

5、 线性回归方程的解读技巧

Ø  定性描述：正相关/负相关

Ø  定量描述：自变量变化导致因变量的变化程度

6、 回归预测模型评估

Ø  质量评估指标：判定系数R^2

Ø  如何选择最佳回归模型

演练：如何选择最佳的回归预测模型（一元曲线回归）

7、 带分类自变量的回归预测

演练：汽车季度销量预测

演练：工龄、性别与终端销量的关系

演练：如何评估销售目标与资源最佳配置

第六部分：              回归模型优化

1、 回归分析的基本原理

Ø  三个基本概念：总变差、回归变差、剩余变差

Ø  方程的显著性检验：方程可用性

Ø  因素的显著性检验：因素可用性

Ø  方程拟合优度检验：质量好坏程度

Ø  理解标准误差含义：预测准确性？

2、 回归模型优化措施：寻找最佳回归拟合线

Ø  如何处理预测离群值（剔除离群值）

Ø  如何剔除不显著因素（剔除不显著因素）

Ø  如何进行非线性关系检验（增加非线性自变量）

Ø  如何进行相互作用检验（增加相互作用自变量）

Ø  如何进行多重共线性检验（剔除共线性自变量）

演练：模型优化演示

3、 好模型都是优化出来的

第七部分：     自定义回归模型

1、 回归建模的本质

2、 规划求解工具简介

3、 自定义回归模型

案例：如何对客流量进行建模预测及模型优化

4、 回归季节预测模型模型

Ø  回归季节模型的原理及应用场景

Ø  加法季节模型

Ø  乘法季节模型

Ø  模型解读

案例：美国航空旅客里程的季节性趋势分析

5、 新产品累计销量的S曲线

Ø  S曲线模型的应用场景（最大累计销量及销量增长的拐点）

Ø  珀尔曲线

Ø  龚铂兹曲线

案例：如何预测产品的销售增长拐点，以及销量上限

演练：预测IPad产品的销量

第八部分：              回归模型质量评估

1、 定量预测模型的评估

Ø  方程显著性评估

Ø  因素显著性评估

Ø  拟合优度的评估

Ø  估计标准误差评估

Ø  预测值准确度评估

2、 模型拟合度评估

Ø      判定系数：

Ø      调整判定系数：

3、 预测值准确度评估

Ø  平均绝对误差：MAE

Ø  根均方差：RMSE

Ø  平均误差率：MAPE

4、 其它评估：残差检验、过拟合检验

第九部分：  时序预测模型

营销问题：像利率/CPI/GDP等按时序变化的指标如何预测？当销量随季节周期变动时该如何预测？

1、 回归预测vs时序预测

2、 因素分解思想

3、 时序预测常用模型

Ø  趋势拟合

Ø  季节拟合

Ø  平均序列拟合

4、 评估预测值的准确度指标：MAD、RMSE、MAPE

5、 移动平均（MA）

Ø  应用场景及原理

Ø  移动平均种类

²  一次移动平均

²  二次移动平均

²  加权移动平均

²  移动平均比率法

Ø  移动平均关键问题

²  如何选取最优参数N

²  如何确定最优权重系数

演练：平板电脑销量预测及评估

演练：快销产品季节销量预测及评估

6、 指数平滑（ES）

Ø  应用场景及原理

Ø  最优平滑系数的选取原则

Ø  指数平滑种类

²  一次指数平滑

²  二次指数平滑（Brown线性、Holt线性、Holt指数、阻尼线性、阻尼指数）

²  三次指数平滑

演练：煤炭产量预测

演练：航空旅客量预测及评估

7、 温特斯季节预测模型

Ø  适用场景及原理

Ø  Holt-Winters加法模型

Ø  Holt-Winters乘法模型

演练：汽车销量预测及评估

8、 平稳序列模型（ARIMA）

案例：产品合格率检验（单样本-二项分布）

案例：训练新方法有效性检验（两配对样本-符号/秩检验）

案例：促销方式效果检验(多相关样本-Friedman检验)

案例：客户满意度差异检验(多相关样本-Cochran Q检验)

 

结束：课程总结与问题答疑。