主成分分析与因子分析及SPSS实现
一、主成分分析
（1）问题研究中提出的问题，为了不遗漏和准确入门，往往会会 为了研究某种疾病的影响因素，我们可以收集患者的人口学数据、病史、体征、化验检查等现有项指标。如果将这些指标直接纳入多元 统计分析，不仅使模型变得复杂，而且还有可能因为变量之间的周期性***线性增加的增量。没有一种方法能够对信息进行浓缩，减少变量的个数， 同时平衡消除***线性？另外，主成分分析隆重登场。（2）主成分分析的原理主成分分析的本质是坐标的旋转变换，将原始的n个变量进行重新的线性组合，生成n 个新的指标，它们之间互不相关，称为n个“成分”。同时按照递增的原则，保证第一个成分的递增最大，然后依次递减。这n个成分是按照第一个成分从大开始 到小排列的，其中前m个成分可能就包含了原始标记的大部分相关信息（及变异信息）。那么这m个成分就成为原始标记的“主成分”，它们包含了原始标记的大部分信息 注意得到的主成分不是原始指标筛选后的剩余变量，而是原始指标经过重新组合后的“综合变量”。我们用最简单的二维数据来解释主成分分析的原理。假设现在有 两个变量X1、X2，在坐标上画出散点图如下：可见，它们存在相关关系，如果我们将坐标轴整体逆时针旋转45°，变成新的坐标系Y1、Y2，如下图 ：根据坐标变化的原理，我们可以算出：Y1 = sqrt(2)/2 * X1 + sqrt(2)/2 * X2Y2 = sqrt(2)/2 * X1 – sqrt(2)/2 * X2其中sqrt (x)为x的平方根。通过对X1、X2的重新进行线性组合，得到了两个新的变量Y1、Y2。此时，Y1、Y2不再相关，而且Y1方向变量（推测）较 大，Y2方向的变异（增加）较小，接下来我们可以提取Y1X1、X2的主要成分，参与后续的统计分析，因为它获取了原始标记的大部分信息。至此我们解决了两个问题 ：降维和消除***线性。对于二维以上的数据，就不能用上面的几何图形直观的表示了，只能通过矩阵变换直观，但本质思想是一样的。
二 、因子分析（一）原理和方法：因子分析是主成分分析的扩展。在主成分分析过程中，新的变量是原始变量的线性组合，即将多个原始变量经过线性（坐标）变换得到新的变量 因子分析中，是对原始指标间的内部结构进行分组，相关性强的分为一组，组间相关性较弱，这样各组指标代表一个基本要素（公***因子）。 原始信号之间的复杂关系对原始信号进行串联，得到公***因子和特殊因子。将原始信号表示成公***因子的线性组合。其中公***因子是所有原始信号中所* **同具有的特征，而特殊细胞表皮原始信号所特有的部分。细胞分析强调对新细胞（细胞）的实际意义的解释。举个例子：比如在市场调查中我们收集了食品的五个项目 指标（x1-x5）：味道、价格、风味、是否快餐、能量，经过因子分析，得到了：x1 = 0.02 * z1 + 0.99 * z2 + e1x2 = 0.94 * z1 – 0.01 * z2 + e2x3 = 0.13* z1 + 0.98 * z2 + e3x4 = 0.84 * z1 + 0.42 * z2 + e4x5 = 0.97 * z1 – 0.02 * z2 + e1（以上的数字代表实际为指标间的相关系数，数值越大，相关性越大）第 一个公因子z1主要与价格、是否快餐、营养有关，代表“价格与营养”第二个公因子z2主要与味道、风味有关，代表“口味”e1-5是特殊因子，是公因子中可用 解释的，在分析中一般略去。
同时，我们也可以将公因子z1、z2表示成原始指标的线性组合，用于后续分析。（二）使用条件：（1）样本量足够大。通常要求样本量为指标数量的5倍以上， 且大于100例。（2）原始指标之间具有相关性。如果指标之间相互独立，无法使用因子分析。在SPSS中可用KMO检验和Bartlett检验来判断。（3）生成的公因子信号 实际的意义，必要时可以通过细胞因子旋转（坐标变化）来达到。三、主成分分析和细胞因子分析的联系与区别联系：两者都是降维和信息浓缩的方法。生成的新指标均代表了原始 指标的大部分信息且相互独立，都可以用于后续的回归分析、判别的分析、关键分析等。区别：（1）主成分分析是按照提升的方法生成的新指标，增强新指标 贡献了很大比例的涉猎，不关心新的变量是否有明确的实际意义。（2）因子分析行为要求新的变量具有实际的意义，能解释原始变量间的内在结构。SPSS没有提供单独的主要成分分析 ，而是混在因子分析贸易中，下面通过一个例子来讨论主要成分分析与因子分析的实现方法及相关问题。 一、问题提出 男子十项全能比赛包含100米跑、跳远、跳高、撑杆跳、铅球 、铁饼、标枪、400米跑、1500米跑、110米跨栏十个项目，总分为各个项目得分之和。为了分析十项全能主要监测哪些方面的能力，以便有氧气的进行训练，研究 者收集了134名顶级运动员的十项全能成绩单，将通过因子分析来达到分析目的。 二、分析过程指标视图： 数据视图（部分）： 菜单选择（分析->降维->因子分析）：
打开因子分析的主界面，将十项成绩选入“箱子（不包含总分），如下：点击”描述“按钮，打开对话框，选中”因子“和” KMO和Bartlett模拟度检验“：
上图相关解释：“系数”：为指标之间的相关系数，可以进行分析相关性。“KMO和Bartlett模拟度检验”：用 点击“继续”，返回主界面，点击“抽取”，打开对话框。“方法”=>“主成分”，“输出”=>“未旋转的” 细胞因子解“和”碎石图“，”抽取“=>”基于特征值“，其余默认选择。
解释：①细胞因子抽取的方法：几种默认的主要成分法即可，其余 方法的计算结果可能会有差异。②输出：“未旋转的细胞因子解”极为主要成分分析结果。碎石图有助于我们判断细胞的重要性（详细介绍见后面）。③抽取：为抽取主要成分 成分（因子）的方法，一般是根据特征值大于1，默认即可。点击“继续”，回到主界面，点击“确定”，进入分析。输出的主要表格如下：（1）相关性检验因子 分析要求变量之间具有相关性，所以首先要进行相关性检验。首先是变量之间的相关系数矩阵：
可以进行观察输出，变量之间具有相关性。 需要检验，接着输出的是相关性检验： 上图有两个指标：第一个是KMO值，一般大于0.7就说明不可能之间有相关性了。第二个是Bartlett度检验，P值< 0.001。综合两个指标，说明变量之间存在相关性，可以进行因子分析。否则，不能进行因子分析。（2）提取主成分和公因子后续输出主成分结果：
这就是主要成分分析的结果，表中第一个是10个成分；第二个是对应的“特征值”，表示所解释的孔隙的大小；第三个是对应成分所包含的孔隙占总 一般而言，“特征值”大于1的成分作为主成分，这也是SPSS默认的选择。在本例中，成分1和2的特征值大于1 ，他们合计能解释71.034%的误差，还算不错。所以我们可以提取1和2作为主要成分，抓住了矛盾，其余成分包含的信息不清楚，故弃去。
下面，输出碎石图，如下：碎石图来源于地质学的概念。在岩层中部下方往往有很多小型碎石，其地质学意义不大。碎石图以特征值为纵轴，成分为 横轴。前面陡峭的部分特征值大，包含的信息多，后面的部分特征值小，包含的信息也小。由图观察的可见，成分1和2包含了大部分信息，从3开始 就进入平台了。接下来，输出提取的成分矩阵：
上表中的数值为公因子与原始成分之间的相关系数，绝对值越大，说明关系越紧密。 1和9个运动项目都正相关（注意跑步运动的计分方式，时间越短，分数），看来只能称为“综合运动”因子了。公因子2与铁饼、铅球正相关 ，与1500米跑、400米跑负相关，这到底代表什么意思呢？看来只能成为“不知所云”因子了。（三）因子旋转前面提取的两个公因子一个是又大又全的 “综合因子”，一个不知所云，得到这样的结果，无疑是分析的失败。不过，不要灰心，我们可以通过因子的旋转来获得更好的解释。在主界面中点击“旋转”按钮，打开 对话框，“方法”=>“最大冠状法”，“输出”=>“旋转解”。
点击“继续”，回到主界面点击“确认”进行分析。结果如下输出 这是：选择后的成分矩阵。经过旋转，可以看出：公因子1得分得分，所有的跑步和跨栏成绩越差，而跳远、撑杆跳等需要助跑类项目的成绩也越差，所以 公因子1是代表奔跑能力的反向指标，可称为“奔跑能力”。公因子2与铁饼和铅球的正相关性，与标枪、撑杆跳等需要上肢力量的项目也正相关 ，所以该细胞因子可以成为“上肢力量”。经过旋转，可以看出公细胞因子有了更合理的解释。（四）结果的保存在最后，我们要把公细胞储存下来供后续使用。点击“评分” ”按钮，打开对话框，选中“保存为变量”，方法采用默认的“回归”方法，同时选中“显示因子得分因子矩阵”。
SPSS会自动生成2个新变量，分别 为公因子的取值，放在数据的最后。同时会输出一个因子因子表格：
由上图，我们可以写出公因子的表达式（用F1、F2代表两个公因子） 因子，Z1~Z10分别代表原始信号）：F1 = -0.16*Z1+0.161*Z2+0.145*Z3+0.199*Z4-0.131*Z5-0.167*Z6+0.137*Z7+0.174*Z8+0.131*Z9- 0.037*Z10F2同理，略。注意，这里的变量Z1~Z10去，F1、F2不再是原始变量，而是标准正态变换后的变量。