如何分析只含一个指标的隐含因子模型？

jingjing @ 2011-09-16:

您好！真的很感谢您提供这么一个平台和机会，为我们这些在学习结构方程模型和相关软件有困惑的同学提供具体的解答，谢谢您～

我想请教您的问题是：我的毕业论文中，要研究x和y的关系，其中x只有一个指标，y有两个指标，还有控制变量c1/c2/c3/c4/c5,其中c1/c2是年度变量和行业变量，我想问您的是这种外生潜变量只有一个指标，内生潜变量有两个指标能不能用结构方程模型做？lisrel软件中又是怎么编程的？年度控制变量和行业控制变量又是如何设置的？是直接赋值为1、2.。。。吗？

我刚接触结构方程模型和lisrel软件，很多问题都没弄明白，特别是在软件的操作上，请您多指教～～

庄主 @ 2011-09-17:

一、你的控制变量写为“c1/c2/c3/c4/c5”是什么意思？是五个latent factors(隐含因子)还是五个observed indicators(测量指标)？如是后者，它们分属哪些隐含因子？“c1/c2”不会是指c1除以c2吧？请说明。定量研究中使用的语言一定要明确无疑义。

二、你的数据(X含一个测量指标、Y含两个测量指标)既可以用SEM分析，也可以用常规回归分析，结果相仿。与回归相比，SEM最直接的两个优势在于：a)含有多个测量指标的各因子之间的关系不受测量误差影响；b) 检验中介变量的间接影响。你的数据无法享受这两项优势，所以用不用SEM差别不大。（SEM还有其它优势，因与本文无关，所以略过。）

三、我在第一点中讲定量研究的语言要明确无疑，而在第二点中说本案中用SEM和回归“结果相仿”和“差别不大”，两者之间是否有矛盾？非也。根据目前知道的信息，只能得出后者的结论。如果有x, y1和y2的相关系数矩阵，加上样本数，就能进一步知道“相仿”或“差别”的程度，但现在可以确定的是这种程度并不大（以X和Y的相关关系来说，也许在0.01-0.02之间）。

一般而言，消除X和Y之关系中的测量误差，X和Y各自至少需要三个指标，也即有一个6乘6的相关系数矩阵（严格说来说6乘6的covariance矩阵），其中含有21个独立的known moments(已知参数)。你现在只有一个3乘3的矩阵，含6个已知参数，信息远远不够。后果是什么？你估算的模型中含有大量测量误差，与完全不顾测量误差的回归分析差别不大。

如果你X有两个指标，情况会好一些；如果X有三个指标，会更好一些（但模型中还会有因为Y只有两个指标的误差）。但如果X还是一个指标而Y有三个（或更多）指标，则与事无补。

四、如何编写LISREL程序是个难以通过博客帖子回答清楚的问题。最有效的方法是听一位操作型老师面授10来小时的基本指令。当然，我知道国内很少有这种课程。能教的老师还是有的，但能讲清LISREL操作指令的老师大多是科研高手，时间很紧，而且讲操作指令会被同行看低。国外有些大学的社会科学计算中心会有免费培训，实为功德无量。社会上有更正规的培训，如http://www.ssicentral.com/workshops/lisrelbegin.html，当然收费不薄。这里有两个基本教材，供自学：http://www.ssicentral.com/lisrel/techdocs/SIMPLISSyntax.pdf；http://nd.edu/~rwilliam/stats2/l95.pdf。

如何检验两个模型拟合度的差别？

>

Anonymous @ 2010-09-01:

祝老师您好！我看了您对“为何不同模型的路径系数和拟合度相同”一文的回复，有一处不明白。想向您请教。即，当两个模型对同一组数据的拟合都可以接受时，如何检验这两个模型的拟合度之间有没有显著差异呢？

庄主 @ 2010-09-02:

首先要分清这两个模型之间是否具有从属关系。如果是的，可以用常规的模型比较方法来检验；否则需要用非参数的统计量。下面分别说一下。

主从关系模型之比较

什么是模型之间的主从关系 (hierarchically nested)？如果两个模型（A和B）具有相同的变量（包括隐含因子和观测指标）、而其中模型B是在模型A的基础上减去若干参数，这两个模型就被认为是有主从关系。按参数的个数来看，模型A是主（full model）、模型B是从（reduced model）。请看以下例子：

上图中，A和B在measurement model（测量模型层面）上完全相同；但在structural model（结构模型层面）上则不同：在A中因子X对因子Y有直接影响（记为g2），而在B中X对Y没有直接影响（也即g2=0）。这两个模型之间就是具有上述的主从关系，所以可以直接用常规的模型比较方法对两者之间的差别进行显著性检验。

所谓“常规的模型比较方法”，是指计算两个具有主从关系的模型的卡方值（分别记为χ_Asup>2和χ_Bsup>2）之差（记为Δχ²），然后根据两个模型的自由度（分别记为df_A和dfχ_B）之差（Δdf），从卡方分布表中查出该Δχ²），所对应的显著水平（p-level）。

以上图中的模型A和B为例。假定A的χ_A² = 150.0而B的χ_A² = 145.0，Δχ² = 150.0 – 145.0 = 5.0，而df_A = 22（这不是假定而是实际的，因为该数据有45个已知值、23个参数；大家可参照前贴如何计算SEM中的自由度？来计算本例各模型的自由度）、df_B = 23（很显然，因为B少用了一个参数、因此多一个自由度）、Δdf = 1。根据卡方分布表（可参考以下http://www.fourmilab.ch/rpkp/experiments/analysis/chiCalc.html），如果df = 1而χ² = 5时，其对应的p-level = 0.0253。那么，我们的结论是什么呢？即，A和B之间是否有显著差别呢？或者，在A和B之间我们应该选择哪个呢？请大家自己得出结论。如果有疑问，请继续提出。

非主从关系模型之比较

如果两个具有同样变量的模型之间没有上述的hierarchical nested关系，就无法直接比较了。上图中，A和C也是有主从关系的，但B和C却不具备主从关系，尽管两者都是A的从属。两个非主从关系的模型之间的比较，一般是用Akaike Information Criterion (AIC)或类似的非参数统计量（non-parametric statistics）如Bozdogan’s Consistent AIC (CAIC)或Browne-Cudeck Criterion (BCC)。所谓“非参数统计量”是指该统计量的概率分布（也就是说其显著性水平）是个未知数。所以比较两个非主从关系的模型之间AIC（或其它）的差别，我们只能知道其中那个模型对数据的拟合更好一些、但不能确定这种差别在总体里是否存在。

以上图的B和C为例，假定AIC_B = 120和AIC_C = 135，我们可以知道B对数据的拟合更好（因为AIC及其它类似统计量都是越小越好），但是我们无法得知ΔAIC = 15的p-level是什么。因此，非主从关系的模型之间的比较，只是非正式的研究。

如果一定要检验两个非主从关系模型之间差别的显著性，那就需要找到一个B的替身（且称为B’)，其即同时为B和C的主模型、但又与B没有显著差别。在本例中，A是B和C的主模型、但是与B有显著差别，所以不能承担B的替身。如果能找到B’，那么B’与C是主从关系，就可以按上述的常规模型比较方法来检验B’与C的差别了。

如何处理SEM模型中的“坏”因子？

>

SJ @ 2010-05-17:

我是X大学心理系的学生，目前在美国Y校访问。最近在处理数据时遇到问题不知该如何解决，之前在您的网页上冒昧向您请教过，非常感谢您当时的回复。我后来找了一些相关的文献看，知道了多组比较的大概步骤，但在统计中又遇到了新的问题，所以再次向您请教。谢谢您关注我的邮件！

我探讨的是暴力游戏对青少年攻击性影响的性别与年龄差异。研究变量包括：

• 自变量：玩暴力游戏的程度(VVG — 庄主注，下同)
• 因变量：身体攻击(Physical Aggression)
• 中介变量：信念(Belief about Aggression)、期望(Hostile Expectation)、移情(Empathy)
• 调节变量：性别、年龄

因此我把全部被试（795人）按年级和性别分成六个组，每组100多人，想比较不同性别、不同年龄孩子模型的路径差异（庄主注：这应该是一个moderated mediation模型，对此有兴趣的读者请仔细理解本案例的模型设置及有关讨论）。

比较结构模型前，为了确定测量等同(measurement invariance — 庄主注)，我分别对信念、移情和身体攻击这三个潜变量进行了单组和多组的CFA。以因素负荷相等(factor loadings invariant — 庄主注)为标准，最后确定了5项目的信念、5项目的身体攻击及12项目的移情测量，能够满足跨组测量等同。信念和身体攻击是完全等同，两个移情项目虽不等同，但考虑到12题中只有两题不等同，所以认为部分等同也能允许进入结构模型的比较。

上面我所提及的CFA是分别针对每一个变量（庄主注：应该是factor吧？）进行的。但当我把所有变量（庄主注：也是factors吧？）都整合到一个模型后发现，六组都不能很好地拟合总模型。我看了修正指数（modification index或MI — 庄主注），发现问题主要出在移情这个变量上。在前面的测量等同阶段，我删掉了16个移情项目，保留了12个项目，这12个项目分属5个因子。在结构模型中，我把这个5个因子作为移情的指标（庄主注：Empathy成了一个second-order factor？），但发现指标间及指标与其他变量还存在复杂的关系，这导致了模型不能较好拟合。

我又尝试了很多次，尝试找到一个移情的测量模型（measurement model — 庄主注），无论是单个变量的单组及多组CFA，还是放到总模型中时，都能拟合六组数据，但徒劳无功。

如果把所有变量都当成显变量，那模型都能拟合得很好。但我能这样做吗？如果把所有变量当成显变量来处理的话，那前面的测量等同检验是否还有必要？

我实在不知道该如何考虑和继续，所以冒昧请教，请您给予我指导，非常感谢！

附件的图是我在确定了各组的测量等同后，用总数据做的模型。我担心我说得不清楚，可能看看模型会有帮助。再次感谢！

X²(114) = 411.1, p < .001, RMSEA = .06, NNFI = .90, CFI = .91

Note: Unstandardized coefficients are provided first, with standardized coefficients in parentheses. All paths are significant.

SJ @ 2010-05-21:

在等待您的回复之余，我这几天仍然在尝试寻找拟合潜变量的总模型，但可恨NNFI仍徘徊在0.8几（如果拟合很差我也就放弃了）。我发现问题在于移情量表。因为当我把三个潜变量当中的移情视为显变量，保留攻击与信念作为潜变量时，模型的拟合是可以的。移情的四个子量表之间有复杂的关系，而这不是我这个研究想关注的问题。我该如何处理呢？

庄主 @ 2010-06-13:

正如我在你上面叙述中加注所说，你想研究的是一个moderated mediation (“被调节的中介效应”？) 模型。虽然这种模型有点复杂，但是你遇到的三个问题（见下），却是在其它各种模型中也经常会出现。

一、为何你对三个中介变量分别做CFA时各自都拟合得很好，但当将三个因子合在一起做CFA时却拟合不好？这很常见。一般而言，单个因子CFA（即只有一个因子的模型）非但没有意义、而且富有误导性。实际研究中，最简单的模型至少也有两个因子。而拟合任何一个多因子模型，则不但需要每个因子内部的测量指标之间高度相关，而且需要各因子之间的测量指标基本独立（见下图a）。而如果数据是下图b那样，则会出现单因子模型拟合很好而多因子模型拟合不好的现象。在本例中，如果分别拟合X1-X3和Y1-Y3，会得到两个很完美的模型，但那是假象，X1-X3和Y1-Y3实际上应该同时属于一个因子。

二、为何总样本的拟合度要比六个分样本的拟合度好？你没有这么说，而是我从你提供的总样本模型拟合度（应该是勉强可以接受）和对分样本结果的叙述（如“六组都不能很好地拟合总模型”和“NNFI仍徘徊在0.8”等）中推出。这应该与你的分组样本过小有关。如你所说，每个分样本100余人，而每个模型含30来个测量指标（（= 22个中介变量指标 + ？个自变量指标 + ？个因变量指标）。计算样本量是否足够的一种快捷方法（不一定精确但大体上可靠）是样本量除以测量指标数。文献中最宽松的说法是应该大于10（我倾向于更大一些）。而你这里只有4-5之间。样本小的一个直接结果是指标之间的相关程度不稳定（可以更高或更低）。回到上图，总样本容易接近a，而分样本则难。这里不怕因子内部相关程度变低，而是拍因子之间相关程度变高。

改进的方法包括：增加样本（你大概做不到）；减少分组（如两个年龄组 X 两个性别组 = 4）；减小测量指标数（尤其是“移情”用了12个指标，有必要那么多吗？）等。

三、“移情”是个“坏”因子，是否可以将其12个测量指标直接进入模型（即你说的“显变量”）？如果为了提高拟合度，当然可以这么做。但是，这在理论和统计上都是下策。首先，显变量都是含测量误差的；其次，一个含12个显变量作为中介变量的模型是无比复杂；再次，部分（或很多）显变量之间会有共线性问题；等等。所以，你得到了模型拟合度的改进，但失去了更多。

我并不了解你的“移情”量表之来历，估计是个已被前人验证的成熟（？）工具。如此，为何在本案中成为“搞坏了一锅汤的老鼠屎”呢？也许是问卷翻译的问题？或是被测对象的不同（文献中的移情是用于儿童的吗）？还是加在其它问题之后（？）产生的副作用？等等。可能有很多种原因。你说移情不是你本研究想关注的问题。但是，如果该因子的测量模型太有问题，那么，你只能在整体删去这个因子和显变量处理之间做出痛苦的选择。如果是我，会选择前者。

如何处理自变量之间的相关关系？

>

JF @ 2010-03-15:

我有一个初级问题想了很久还是不清楚。假如我有一个因变量Y、两个自变量X和Z，如果做回归分析，只要将X和Z同时进入回归模型就可以了，不需理会X和Z的相关关系。但是如果用SEM，除了要分别连接X和Z对Y的路径，还要连接X和Z之间的相关关系。这是为什么呢？不是说在结构层面回归和SEM是一致的吗？

另外，在报告上述SEM结果时，是否需要描述和解释X和Z的相关关系？如果用回归分析，是否还需要另行计算X和Z的相关关系、然后再报告呢？

庄主 @ 2010-03-20：

你的问题确实简单、但绝非初级，因为其中涉及了回归分析与结构方程模型（SEM）的主要异同，值得讨论一下。首先，自变量与因变量之间的结构关系 (structural relationship among variables)，如自变量对因变量的直接影响、间接影响、总影响、交互影响、等等，在回归和SEM中都是同义的（但不一定是等值的，因为前者含有测量误差而后者不含测量误差，但这与本文无关，所以下面的讨论均假定所有变量都不含测量误差）。

但是，在处理自变量之间的相关关系时，两者所用的方法不同：回归是用隐含方法而SEM是用明示方法。在回归模型 Y = b₀ + b₁X + b₂Z中，对回归系数b₁和b₂的估算公式分别包含了X与Z的相关系数（记为r_XZ；同理，Y与X、Y与Z的相关系数分别记为r_YX和r_YZ）:

和

由于b₁和b₂是在Y与X或Z的简单相关系数中扣除了X与Z的相关程度（以及Y与另一自变量的相关程度），所以b₁和b₂又被叫做partial regression coefficients（偏回归系数）。可见，在回归分析中，自变量之间的相关关系是自动而且必须地被控制了的。这里的“被控制”是指用于消除自变量之间的相关关系的影响。

在SEM中，自变量之间的相关关系是需要明确设置的。如在使用矩阵语言的LISREL中，通过指令"FR PH (1, 2)”来估算r_XZ；而在使用图形语言的AMOS中，则是通过在X和Z之间画一条双箭头的曲线来估算r_XZ（见下图，注：图中的三个参数b₁、b₂和r_XZ是不需要的，这里只是为了说明它们与上述回归模型的对应关系）。

该SEM模型与上述回归模型是等价等值的。大家可以用一个含三个变量、N > 200 （SEM所需的最小样本量）的数据验证一下，两个模型的b₁、b₂、r_XZ、R-Square（= AMOS中的MSC）、Std error of the estimate（= SEM中e的Variance的平方根）应该都相等。然而，回归用的是OLS（最小二乘法）而SEM是用ML（最大似然法）来估算上述参数的。这两者之间的差别，除了对样本量的要求不同（ML估算只有在大样本条件下才可能接近OLS结果），还有许多深层的差别。这里只讲其中比较明显的一个差别：如上所示，r_XZ在回归中是自动被控制起来的，但在SEM中却需要人为设置。反过来说，如果需要的话，在SEM里也可以设置r_XZ = 0（在AMOS中也可以将X和Z之间的曲线删掉）或其它任意值（1.0，0.5，等等）。如此设置的模型，因为少估算了一个参数，所以会比原模型多出一个df（自由度），通过比较两个模型的拟合指数（Chi-squares）之差，就可以检验 r_XZ = 0（自变量之间为正交）或r_XZ = 1 （自变量之间没有discriminant validity）等假设。这些都是无法在回归分析中实现的。

回归模型与SEM模型之间更核心的区别在于前者是在变量层面检验自变量对因变量的解释程度、而后者则是在观察值的方差-协方差矩阵层面检验理论模型与实际数据之间的拟合程度。打个不完全恰当的比分，回归是西药，针对特定病症有强效，但不顾其它后果；而后者是中药，旨在整体和治本，但有时对特定病症并无速效。这种根本区别在本文讨论的自变量相关关系上也有一定影响，但这是一个大题目，需要很多基本概念和铺垫，否则难以讲清，所以不予展开，只是提醒大家，SEM的水很深，下水前要做足热身运动，而回归则是最好的热身运动。就如现在的中医学院都是先教西医原理、再进入中医的。

回到你最后那个问题：如何报告r_XZ？一般说来，自变量之间的相关关系（如r_XZ）是一种unanalyzed relationship（不作分析的关系）。这里的所谓“不作分析”指的不是统计分析、而是理论分析。如上所说，r_XZ在回归中是不直接计算的，但在SEM和用回归做路径分析中均需要统计分析的。但是，除非有特定研究目的（如上述检验自变量之间的discriminant validity）之外，大多数理论并不规定自变量之间关系的强度、方向（谁影响谁）、性质（正或负相关）等，所以实际研究中往往只是简单地估算它们之间的相关关系而不进一步深究其关系的性质、方向、性质等。在写报告时，如果用图形表示实证模型的话，可以在图上标出相关系数的估计值；如无图形，可在附录或注释中用文字或表格报告一下；但在正文中则一般不必提及。

清华SEM班邀请外校学生网上实时参与

>

课程名称：结构方程模型的原理与应用 Structural Equation Modeling: Principles and Applications

对象：清华大学新闻与传播学院硕博研究生及外校新闻传播院系本科1-3年级或硕士研究生1年级同学20人

时间：2010年5月15-24日

报名：2010年3月31日止

详见：http://www.tsjc.tsinghua.edu.cn/news.php?id=971

如何确定两个调节变量之间的主次关系？

>

SJ @ 2010-03-02:

祝老师您好！我是心理系的学生。在网上偶然逛到您的庄园，受益匪浅！非常感谢您的慷慨，跟大家分享您的所学所得。我最近在处理早前的一个数据，遇到困惑，不知道该怎么继续，想向您请教，先谢过。

我的数据涉及以下变量：一个自变量、一个因变量、四个假设的中介变量。另外人口统计学变量方面，考察了年龄（分成四个年龄组）和性别。我关注的是自变量如何通过中介变量影响因变量，以及这种影响是否存在年龄的发展差异。然而，我在做各个变量的相关时发现，性别跟好几个重要的变量都有显著的相关。因此我的困惑在于，我应该如何处理性别的问题。1.把性别作为调节变量，放到各个年龄组中来建立模型？2.还是每个年龄组都建立男生模型和女生模型？您觉得哪种方法更合适？具体又该怎么操作呢？

庄主 @ 2010-03-06:

谢谢与大家分享你的研究问题。这是一个相当复杂（其复杂程度应该远远超出你的预计，具体见下）的研究设计。我前天在我的课上介绍了你的问题，建议学生们来这里分享他们的看法。至今还没有人现身，也许是你的问题太难、也许是他们还没完成下周一交的作业。我先说一下解决方案的基本思路，希望他们能够接下去帮你解决方案的操作问题（同学们，这是你们给老师和学校挣面子的时候了）。

先整理一下你的问题所涉及的研究假设：

H1. 自变量X对因变量Y的直接影响（记为b_YX）。

H2. X通过中介变量M1-M4对Y的间接影响（分别记为b_Y(M1-X)、b_Y(M2-X)、b_y(M3-X)和b_Y(M4-X)）。

H3. 年龄A对直接影响b_YX的调节作用（即A与X对Y的交互效应，记为b_Y(X*A)）。

H4. 年龄A对间接影响b_Y(M1-X)等的调节作用（即A与X-M对Y的交互效应，分别记为b_Y((M1-X)*A)、b_Y((M2-X)*A)、       b_Y((M3-X)*A)和b_y((M4-X)*A)。注：因为X-M对Y是中介关系，所以A与它们的交互关系是一种被称为“moderated mediation“、即“被调节的中介关系”，相当复杂！）。

先在这里停一下。H1-H4可以用OLS回归来分析，但在SEM工具（如LISREL、AMOS等）中更方便。如用后者，需要把年龄当做组别，而将样本按年龄分成4组、通过比较组间的invariance来检验X对Y的直接和间接关系是否随着年龄的变化而不同（具体操作这里略过）。也就是说，moderated mediation关系，听起来很复杂，但在SEM中通过设置组间equality constraint的小技巧（或“小伎俩”？），很方便就能解决了。

好了，回到你最后的问题：如何检验性别S的影响？也就是检验以下假设：

H5. 性别S和年龄A对直接影响b_YX的调节作用（即S、A与X对Y的交互效应，记为b_Y(X*A*S)或b_Y(X*S*A)）。

H6. 性别S和年龄A对间接影响b_Y(M1-X)等的调节作用（即S、A与X-M对Y的交互效应，分别记为b_{Y((M1-X)*A*S)} 或      b_{Y((M1-X)*S*A)}等）。

你考虑了两种方案来检验H5和H6：一是将性别nested（嵌镶）到年龄中、二是将年龄嵌镶到性别中。表面上看，好像两者有根本区别，但实际上是一回事！性别和年龄是两个同等级别的调节变量，它们的联合影响是一种3rd-order interactions（三阶交互效应，也相当复杂），用公式来表述，如H5中的b_Y(X*A*S)或b_Y(X*S*A)，前者是年龄嵌镶在性别中、后者是性别嵌镶在年龄中，但无论谁嵌镶到谁中去，b_Y(X*A*S)和b_Y(X*S*A)两者是完全同价等值的。如果用SEM来检验，也无论谁嵌镶到谁中，你总需要将样本分拆成8个组（4个年龄组X2个性别组）。当然，在解读结果时，你可以而且需要根据自己的理论框架来确定A和S之间谁主谁仆的次序。

最后，要说一下检验如此复杂模型的成本问题。如上所说，如果用SEM，需要8个组；基于每个组涉及5个自变量（X、M1-M4），按每个自变量需要20个案来计，你至少需要每组100个案，总样本800个案。当然，你的年龄组分布可能不均匀，所以总样本很可能要1000以上。如果不用SEM而用回归，可以不分组，但是变成了一个非线性模型，涉及了24对二阶交互关系和12对三阶交互关系，即使总样本有1000个案，也只少不多。样本数少了、会有什么后果？你的中介效应、调节效应和被调节的中介效应都有可能不显著。其中的最薄弱环节是中介效应（H2）。所以，建议你先将H2分成H2a-H2d四个分假设，分别检验A和S对各分假设的调节作用（= 4 X  (4 X 3 /2) X 2 = 48个组间比较，如果你想不通为什么会有48个组间比较，请详细演算一下），以简化模型。

总结：中介效应、调节效应和被调节中介效应在理论上都是很吸引人的模型，但在实证上即昂贵又难操作，需要事先有充分的思想和技术准备。

如何理解SEM的八个参数矩阵与七种变量之间的对应关系？

>

s @ 2010-02-05:

 

曾看过你的帖子“LISREL的八个矩阵”，最近在学习用AMOS做SEM分析，不知两者有何关系？

 

庄主 @ 2010-02-15：

 

如我在上述帖子中说的，LISREL是用八个矩阵来设置SEM模型的。这些矩阵分别代表了SEM模型中七种变量的参数。在LISREL中，变量与参数之间的对应关系是比较明确、不易混淆的。如，大家知道，描述因子与其测量指标之间关系的参数叫做“因子负荷”，其中外生因子测量指标x的负荷矩阵是用Λ(x)来估算、内生因子测量指标y的负荷矩阵是用Λ(y)来估算的，两者不能放在一起（即外生因子无法与y相连而内生因子无法与x相连）。这种规定在大部分情况下是合理和必要的。（当然，少数情况下，研究者也许有特殊理由需要将x挂到内生因子上或y挂到外生因子上，就需要设定特殊的“All-y model”（全y模型）。这种额外步骤，虽然麻烦，但防止了初学者因不知情而乱点鸳鸯谱。）

 

AMOS是通过图像来设置模型的，用户不再需要与八个矩阵的希腊字母打交道，所设置的模型是“What you see is what you get”（WYSIWY），很容易上手、也避免了模型设置时的一些常见错误。但是，在这种“自由自在”的界面中，很容易犯一些LISRE里不会出现的错误。比如上面所说的，任意（或根据Modification Index的误导）将x挂到内生因子或将y挂到外生因子上去。这种模型或者无法identified、或者违反“误差项与自变量独立”的基本假定，因为AMOS以及其它SEM软件在估算模型的参数时，其实还是在背后使用上述矩阵。

 

为了帮助大家在用AMOS设置模型时避免设置不能或不该估算的参数，我在八大矩阵的基础上再做了一个表（见下），以显示八个参数矩阵与七种变量之间的关联与隔离：

 

 

表三的7列和7行分别代表了SEM的七个变量（包括外生因子ξ、内生因子η、η的误差ζ、外生因子的测量指标x、内生因子的测量指标y、x的误差δ、y的误差ε），它们在列里担任的是自变量的角色、而在行里担任的是因变量的角色。

 

两种变量相交的格里如果出现一个希腊字母，就说明它们之间存在一个参数矩阵（在下图中用黑色线条来表示）；而如果是个空格，就说明它们之间不能发生关系（在下图中用红线表示）。如第一列ξ与第一行ξ之间有个方差-协方差矩阵Φ（如下图中的φ₁₂）；第一列ξ与第二行η之间有个外生因子->内生因子的回归系数矩阵Γ（如下图中的γ₁₁和γ₂₂）；第二列η与第一行ξ之间是空白（即图中η₂到ξ₁的错误红线），因为内生变量不能影响外生变量（AMOS是可以让你画这条线的，但这在逻辑上是错的）；当然第二列η与第二列η之间是可以有一个内生因子->内生因子的回归系数矩阵Β（如图中的β₁₂和β₂₁）；等等。

 

表中还有三个记为“I”的矩阵，它们不在八个矩阵之内，而是三个对角线为1、其余部分为0的Identity矩阵，用来定义三种误差项变量（ζ，δ和ε）系数的数学工具，而AMOS在处理误差项变量系数时则是很“智能”的，会在相应处自动为它们标出取值为"1”的回归系数（见下图）。

 

LISREL的八个矩阵

>

(原版2007年5月19日，略有修改重发)

传说中的“八大军区联络图”终于出笼了：

上图看起来挺吓人的。别紧张，先定义一下。图中每个圆圈代表一个隐含因子、每个方块代表一个观测变量、每条直线或曲线代表一个参数（parameter，也叫系数）、跟在每条半封闭直线后面的是一个因子或变量的残差（error）。所谓“八大矩阵”，就是八种参数的集合。分别列在表一：

如表所示，其中前四个矩阵用于测量模型部分、后四个矩阵用于结构模型部分；每模型一部分又分别分为外生（即图一的左边）和内生（图一的右边）两边；每一模型部分的每一边，再分别分为关系参数和残差参数。即一个2 X 2 X 2的设计，十分严密。

上面的图和表中，都用到了希腊字母、而且大小写并用，实在是三难（难认、难读、难记，读音参见表二）。其实经典统计学中也用到一点希腊字母，其规则是：变量名用罗马字母（即英文）、参数用希腊字母（如回归系数叫BETA）；总体变量和参数用大写、样本变量和参数估计值用小写。LISREL大体上沿用了这些规则。然而，由于SEM中的变量有观测的和隐含的之分，LISREL的创始人Joreskog决定沿用罗马字母表示观测变量、但用希腊字母表示隐含因子。其用意可嘉、但结果使得参数和隐含因子分享同一套符号而产生了很多困扰。（如果该老友用禅经字母来表示隐含因子、那该多爽啊。）

八大矩阵是LISREL的核心思想，也是其与AMOS、EQS等其它软件的主要不同。其缺点如上所说，概念太多、名字难念、令人望而生畏。优点嘛，则见仁见智。我用了近20年，觉得其好处主要有两个：：一是便于区分外生因子（exogenous factors）与内生因子（endogenous factors）之间、隐含因子与观测变量之间、以及因子/变量的各种相关系数之间的差别；二是便于用户之间交流（包括写学术报告）时有一套确定而又简便的符号系统。

当然，是否值得仅仅为了这些好处而去重学一种外语（希腊语），则又是见仁见智了。我的看法，如果你用LISREL，那只能学；如果你用其它软件、但有志成为SEM的pro，那也要学一下（不然如果与主流沟通？）；如果你用其它软件而无意成为SEM方法专家，不学也罢，有所失必有所得。

如何比较一个自变量对三个因变量的影响大小？

>

ZYS @ 2010-01-23:

Dear Dr. Zhu,

I read your blog post on how to test the differences of two correlation coefficients posted on http://zjz06.spaces.live.com/blog/cns!3F49BBFB6C5A1D86!954.entry. Is it appropriate to use your method for two regression models based on one sample population?

My question is whether there is a appropriate way to test significant difference between regression coefficients of two different models from same sample population? For example in the below table, how would we statistically compare the difference between betas for political interest as predictors of DV in three conditions? This is a repeated measure experiment. the same group participants participated in three conditions in three months. In other words, the research question is whether the impact of political interest on opinion expression is moderated by condition… The reviewer wants a statistical test –but i didn’t find a good way to test since they are not independent samples…

	Opinion expression in Condition 1	Opinion expression in Condition 2	Opinion expression in Condition 3
	ß	ß	ß
Education	.13*	-.07	-.06
Male	.10*	-.01	.05
Age	-.04	.28***	.31***
White	.04	.03	-.03
Political Interest	.33***	.10*	.08
R-square	.04	.09	.11
F	3.60**	7.48***	9.61***

Is there a better way this problem could be tackled?

庄主 @ 2010-01-24:

Your research question differs from the one in that post, where the issue is to compare the correlation coefficients between two independent variables (IVs) with the same dependent variable (DV) whereas your task is to compare the correlations between the same IV with three different DVs.

One approach you can consider is repeated measures regression in general linear modeling (GLM), in which you form a within-subjects (WS) factor to account for the three DVs, and then regress the WS factor on your IV and control variables.  To test the significance of the differences among the relevant regression coefficients, you use the procedure described in 如何检验两个回归系数的差别？.

Another approach, which I think simpler and easier to be understood, is to test a path model with  equality constraints in SEM (see the diagram below). Aside from your regular hypotheses, you fit a series of nested models to test the null hypothesis that β₁ = β₂ = β₃. For example, you compare the fully unconstrained model in which β₁, β₂, and β₃ are free to be estimated and the fully constrained model in which β₁, β₂, and β₃ are fixed to be the same.  The difference in the resulting Chi-squares between the two models, tested with Chi-square distribution with 2 degrees of freedom, tests the above null hypothesis.  In addition, you can test the fully constrained model with three partially constrained models, each with a pairwise constraint such as β₁ = β₂, β₁ = B₃, or β₂ = β₃, to entertain the possibility that not all three coefficients are exactly the same but some pair(s) of them may be. 

With the data in the table you provided, I guess that Condition 1 would be significantly different from Conditions 2 and 3 whereas the latter two might not. 

Good luck with your publication.  If it’s published, please come here to share your experience in getting published in journals.  Many readers of this blog would be very interested in learning from your experience.

为何两个模型的中介变量系数一样？

tan @ 2009-09-14:

祝老师,您好!这个星期的提问我看您都回答了,除了我提的问题。不知是您没注意到还是问题太初级而不值得回答。由于学识粗浅并确实想知道问题的解答，特此再次提问，烦请老师您或其他有识之人给予解惑。

问题是有关用SEM检验中介效应的：变量W和Z为自变量（且W与Z之间没有显著的相关），Y为因变量，X为设想中的中介变量。首先是模型1，只涉及三条路经：W–X；Z–X；X–Y。所有路经系数都显著，模型的拟合度也可接受；接着是模型2，涉及五条路：W–X；Z–X；X–Y；W–Y；Z–Y，即模型2比模型1多了两条路经（W–Y；Z–Y），结果也是所有路经系数都显著，模型的拟合度也可接受。我不可理解的问题是：在模型1和2中，自变量（W和Z）与中介变量（X）的路经系数竟然一样，怎么会这样？但模型1中X–Y的路经系数要大于模型2中X–Y的路经系数。

在此，我想请教的问题是：（1）上述模型（1和2）中，W和Z与X的路经系数有没有可能一模一样？在理论上成立吗？我担心在那个地方做错了。（2）根据您的几个帖子以及其它相关资料，中介效应并不是比较上述我所表述的两个模型的，但在我所学习的Marketing领域，有文献（作者还有一定的名气）却又是这样做的，特别提到：模型2拟合度可接受，所有路经关系都显著，故部分中介效应显著。这样做可以吗？再次感谢！

庄主 @ 2009-09-20:

上周有好几人提了问题，但我没有时间回答所有人的问题，只能按我对问题价值的判断而选择回答部分。我初看你的问题，觉得与8月31日匿名者提的问题相同（见为何不同模型的路径系数和拟合度相同？）。我现在还是这么认为（即，即使不是同一人问的，道理一样）。考虑到读者中也许还有同样的问题，所以再说几句。

为了便于讨论，我将你的两个模型画了出来（建议：很多时候一图胜千字、但这里的提问处不让上传图像，请大家讲图贴在自己的博客或其它公共空间上，然后在你的问题中做个链接）：

问题一、“上述模型（1和2）中，W和Z与X的路经系数有没有可能一模一样？在理论上成立吗？”是否指λ_xw = λ’_xw和λ_xz = λ’_xz？如是，答案是肯定的。一个回归方程的系数当且仅当方程增减自变量时才可能变化。以本案为例，模型a涉及以下两个方程：

X = λ_xwW + λ_xzZ                           (a1)

Y = β_yxX                                      (a2)

而模型b也涉及两个方程：

X = λ’_xwW + λ’_xzZ                         (b1)

Y = β’_yxX + β’_ywW + β’_yzZ              (b2)

如果比较方程a1与b1，可见两者含有同样的自变量（W和Z），所以λ_xw一定等于λ‘_xw，λ_xz也一定等于λ_xz。（注：这是回归分析的基本原理，同样适用于SEM。）

问题二、“模型1中X–Y的路经系数要大于模型2中X–Y的路经系数”。比较方程a2和b2，可见b2比a2多了两个自变量（W和Z），因此β_yx可能不等于β’_yx，条件是(1)W或Z与Y相关（即β’_yw ≠ 0或β’_yz ≠ 0）和 (2) W或和Z与X相关（即λ‘_xw ≠ 0或λ‘_xz ≠ 0）同时成立。既然现在β_yx > β’_yx，说明W或Z两者之中至少一个与X和Y同时相关。（注：这也是回归分析的基本原理。）

问题三、“模型2拟合度可接受，所有路经关系都显著，故部分中介效应显著。这样做可以吗？”模型b的拟合度一定比模型a好，但是由于损失了2个自由度，所以要做统计检验以证明模型b与模型a之间有显著差别。如是，说明模型b更可取。但是，仅比较模型a和模型b而不比较模型b与只含W->Y和Z->的“直接影响模型”（参见如何检验两个中介变量的效应?），确实不是检验中介效应的充要条件 (necessary and sufficient conditions)。为何你们marketing中有“一定名气”的作者这么做？我无法回答，我只知道科学面前人人平等。包括我在内的很多人都相信David Kenny的检验中介变量方法，不是因为他名气大，而是觉得他说的有道理。

为何不同模型的路径系数和拟合度相同？

Anonymous @ 2009-08-31：

老师您好! 我也刚开始尝试使用SEM做中介效应分析,看了您的几个相关帖子,受益匪浅。恕我愚钝,还有几个问题不明白,还望进一步指教。

1). 您在"如何检验两个中介变量的效应"的帖子中提到：中介效应需要满足三个或者四个条件,其中包括:X或Z(自变量)对Y(因变量)的间接影响大于其直接影响（即 γAX × βYA > βYX 或 γBZ × βYB > βYZ ）。我不明白为什么一定要满足这个条件？如果是这样，是否意味着中介模型中间接效应都大于直接效应，或者说中介效应的比例大于50%。可我经常看到一些文献说，某某变量的中介效应比例为多少多少（低于50%），难道这是错误？

2). 最近我也做了一个中介效应的模型，概念模型类似于6月30日“如何在模型拟合度和模型合理性之间选择？”帖子中的模型。首先用软件跑了模型1，所有系数都显著，模型的拟合度也可接受；接着跑了模型2，结果是所有路径系数也都显著，模型也可接受。我不理解的问题是：a.两个模型不一样，为什么拟合度都可接受；b.两个模型种，W和Z到X的路径系数尽然完全一样，模型都不一样了，怎么路径系数还会相同？其中，X到Y的系数，模型2要比模型1小？C.模型2中，数据显示 βwx * βxy < βwy ,请问这还存在中介效应吗？

不好意思，一下子问了好多问题，也许许多问题还非常初级，见笑了。不慎感激！

庄主 @ 2009-09-05:

1). 为了理解你的问题，我重读了一项原文，发现其中的直接影响符号写错了（现已改正），应该是γ_YX和γ_YZ或而不应该是β_YX和β_YZ（图中的符号是对的）。也就是说，你问题中提到的为何“γAX × βYA > βYX 或 γBZ × βYB > βYZ” 应该是“γAX × βYA > γYX 或 γBZ × βYB > γYZ"。（当然，你对原文的理解没有错。）

我在原文中说过，严格的中介效应模型要求直接影响（即γYX 或 γYZ）彻底消失。这时，间接影响（γAX × βYA或 γBZ × βYB）自然大于直接影响。如果直接影响不等于0但小于间接影响，那么可以认为这是一种让步或妥协的微弱版（weak version）。如果再推一步，直接影响不但不等于0而且大于间接影响，那么直接影响是主流或中心路径(central route)、间接影响只是支流或边缘路径（peripheral route)，那么中介效应的原始意义就大大打折扣了。这是一个理论问题、不是纯粹的统计问题（意思是，间接影响还存在，但没有必要强调其涉及的“mediation process”了）。

我还没看到过你提到的"中介效应的比例大于50%"，是指间接影响的值至少为直接影响的值的一半吗？如果这样，那是对上述微弱版的进一步弱化。

2a). 你的两个模型不同（模型2多了四个系数、少了四个自由度）、但拟合度都可以接受的现象很正常和普遍，因为各自检验的零假设相同，都是模型与数据之间没有显著差别。但是，你还要检验一个零假设，就是两个模型的拟合度之间没有显著差别：如果两者确无差别（即由于增加了间接影响而提高的误拟合度被损失了的自由度所抵消了），则说明间接影响（即中介效应）并不显著；反之则说明存在显著的间接影响（中介效应）。

2b). 你问“两个模型中，W和Z到X的路径系数尽然完全一样，模型都不一样了，怎么路径系数还会相同？”其中的W从何而来？估计你将我另一帖了的符号（其中也许W和Z是自变量、X是中介变量）混着用了。但是如果是这样的话，X不应出现在模型1.而你却说“X到Y的系数，模型2要比模型1小”相矛盾。难以理解。最简单的方法是提供两个表格，一是模型1的变量及其系数、二是模型2的变量及其系数。

2c). 你问的就是：当一个间接影响小于直接影响时，是否还有必要和价值讨论中介效应？我上面已经讨论过。按经典的定义和学术界的主流看法，至少是意义不大。

如何理解“中介性模型是一个因果模型"?

z @ 2009-08-31:

我的研究假设包含一个中介变量而我的数据来自一次性调查(one-shot survey)，我用SEM分析，结果拟合的很好。但审稿人批评说，虽然模型拟合了，但并没有证明该模型的因果关系，如自变量先于中介变量、中介变量又先于因变量。

我在“中介关系之父”David Kenny的网上(http://davidakenny.net/cm/mediate.htm)读到一句话“a moderational model is a causal model”（“中介性模型是一个因果模型”）。是否可以用来为自己辩护？

庄主 @ 2009-09-05:

恕我直言，你对Kenny的理解，可以说是典型的断章取义。以下是他原话的完整段落：

“Note that a mediational model is a causal model. For example, the mediator is presumed to cause the outcome and not vice versa.  If the presumed model is not correct, the results from the mediational analysis are of little value.  Mediation is not defined statistically; rather statistics can be used to evaluate a presumed mediational model.  The reader should consult the section below on  Specification Error.”（“中介性模型是一个因果模型。例如，假定中介变量影响因变量而不是反过来。如果这种前提假定并不成立，那么中介分析的结果就是毫无价值的。中介影响不能通过统计分析来证明，统计分析只能用来检验以中介性为前提的模型。读者应该参考以下有关模型设定中的错误。”）

相信你一定学过因果关系的三项条件：自变量和因变量之间具有相关性；两者的产生又有先后之别；不存在导致这种因果关系的其它变量。在中介性模型中，这三项条件需要扩展一下：自变量(X)和中介变量(M)之间、中介变量和因变量(Y)之间各有相关性；三者之间的产生又各有先后之别(X->M和M->Y)；不存在导致这种因果链(X->M->Y)关系的其它变量。

Kenny的话指的是在上述条件二存在的前提下，SEM或其它统计分析方法可以检验条件一（甚至条件三，如果你的模型中包括了“一切可能的第三者”）的合理性。如果条件二不存在（如一次性调查数据）的话，拟合得再好的SEM也只证明了X和M之间以及M和Y之间的相关、并没有证明X->M->Y的先后次序。也就是说，哪怕X和M以及M和Y各自高度相关，三者之间的因果链还有X->Y->M、M->X->Y、M->Y->X、Y->M->X、Y->X->M等五种其它可能性！

如果你继续读一下Kenny有关“模型设定中的错误”一节的话，就会知道他在那段的开始还在强调上述（我演绎）的思想：

“Mediation is a hypothesis about a causal network.  …  The conclusions from a mediation analysis are valid only if the causal assumptions are valid.”（“中介影响是一种有关因果网络的假设。 … 中介分析的结论只有在有关因果条件存在之下才能是正确的。”）

还是那句老话，变量之间的因果次序是由数据的采集过程来决定的、而不是由统计分析（包括SEM）来决定的。

如何在模型拟合度和模型合理性之间选择？

>

hz @ 2009-06-25: 我对四个变量之间的关系做了SEM检验，从拟合指数看第一个模型略优于第二个模型；两个模型路径系数显著性如图所示，实线代表通过显著检验，虚线代表没有。你觉得四个变量之间的关系应该如何解释比较好？

庄主 @ 2009-06-30:

从逻辑上说，模型2是合理的、而模型1是有问题的，因为模型1没有检验W和Z对YL的直接影响，而只是假定X是前两者的中介变量。

从实证结果（比较模型1和模型2）来看，Z对Y有直接影响、而X即不是一个中介变量、甚至也不是一个对Y有影响的自变量。这些发现，说明模型1中的X -> Y的显著影响其实是一个由于遗落了Z这个“第三者”而造成的 spurious（虚假）关系。

你提到，模型2的拟合度不如模型1。这是因为模型2比模型1多用了2个自由度。如果去掉W –> Y 和X –>Y这两对不显著的关系之后，两个模型的拟合度应该相似。但是，其实没有必要节省这2个自由度。如果少了2个自由度而使得原先可以拟合（即p > 0.05）的模型变成不可拟合（p < 0.05），说明你的样本太小，原先可以拟合的模型也是在边缘线上挣扎。

我们检验模型拟合度的目的是看该理论模型与实证数据之间的差别是否小到可以接受的程度、而不是追求模型的最佳拟合度。其实后者很容易通过其它不值得提倡的方法来做到（参见我前些日子的有关帖子）。

如何在SEM中处理dummy变量和显示R平方？

>

月出 @ 2009-06-09:

祝老师,您好!您的伯克真的很好，blogspot我一直登不上。我初学LISREL，有几个问题想请教您：

1、虚拟变量在SEM中一样用0、1处理吗？我在原先运行得出的模型里加入了性别变量，但就显示

W_A_R_N_I_N_G: PHI is not positive definite
W_A_R_N_I_N_G: PSI is not positive definite
W_A_R_N_I_N_G: The solution was found non-admissible after  50 iterations. The following solution is preliminary and is provided only for the purpose of tracing the source of the problem. Setting AD> 50 or AD=OFF may solve the problem. 这是怎么回事?

2、子模型原先得出的变量之间的关系为什么进入母模型后显著性发生变化？路径系数的正负也反了？正常吗？怎么解释？比方说总风险和各类风险之间本来是这么个关系,加入信任置于总风险前，总风险和各类风险之间的关系就变化了。可能有什么问题存在吗？

3、我怎么在LISREL中显示可决系数R平方阿?

庄主 @ 2009-06-27:

1、SEM中可以包括虚拟变量（dummy variables）。一般是先用LISREL中的PRELIS工具将含虚拟变量的相关系数矩阵转化成tetrachoric correlation矩阵（参见http://ourworld.compuserve.com/homepages/jsuebersax/tetra.htm），然后再进行分析。

你得到的出错信息由很多种原因造成，可能是你模型的设置有问题（如性别要factor loading = 1、factory error = 0）、也许是性别与某些其它观测变量之间的高度相关、等等，很难一下子知道是什么原因。如果用了上述转化矩阵，仍有类似问题，那么更有可能是模型设置的问题。

2、子模型的关系进入母模型之后显著性出现变化是常见的、但是如果系数方向也反了，说明母模型中含有一个disorter的第三者变量（具体参见我前些日子的有关帖子）。你也可以将先后两个模型的系数用表格的形式贴出来给大家看看。

3、LISREL将R平方叫做 Sqaured Multiple Correlations (SMC)。如果你是用SIMPLIS，需要加一句“LISREL OUTPUT EF“ 来显示。需要尤其注意的是，LISRE同时给出计算Structural Form 和 Reduced Form两种结果，前者中的SMC是错的，要看后者。（具体参见Joreskog的文章 What is the interpretation of R2?)

不要做Modification Indices的奴隶！

>

Erin @ 2009-05-07:

有时在Lisrel的out文件中，有条message说“No Non-zero Modification Indices for PHI”，有时得到“No Non-zero Modification Indices for Lambda-x”或“No Non-zero Modification Indices for Lambda-y”。没有给出MI是因为什么？是因对相应的矩阵的设定么？

庄主 @ 2009-05-11:

理解这个问题的关键是弄懂Modification Indices (MI，修正指数) 到底是个什么东西，如它从何而来、说明什么、如何解读、等等？

简单说来，MI是将你现有模型的拟合度（Chi-squares）与如果你对某一没有被估计的参数（即fixed parameter，如PHI、Lambda等）作出估计（即改成free parameter）后模型的拟合度之间作比较的差别，其值也是一个Chi-squares值。(这句话也许用英文来表达更容易理解：A modification index tells the difference in the goodness-of-fit (as measured in Chi-squares) between an existing model and a modified model in which a fixed parameter (such as PHI or Lambda) is free to be estimate.）

左图是一个范例。假定你根据理论而设置了一个含X、Y和Z三个隐含因子的测量模型，其中X是观测变量X1-X3的来源、Y是观察变量Y1-Y3的来源、Z是观测变量Z1-Z3的来源，而三个因子之间容许存在一定的相关程度（注意X、Y和Z之间的双向箭头）。你在LISREL或AMOS里，用该模型对某数据做了拟合，发现其拟合度为显著（即模型与数据有显著差别）。为了改进模型的拟合度，你查看了LISREL或AMOS给出的MI结果，看到上述的“No Non-zero Modification Indices for PHI”，但是在 Modification Indices for LAMBDA-X（以下简称LMI）和Modification Indices for THETA-DELTA（以下简称TDMI）中，各有一组数值。比如，LMI中最大的是Lambda_y1X = 10.555、TDMI中最大的是Delt_z2z3 = 12.222，其次是Theta_x3z1 = 8.333。它们分别说明，如果你将Y1加到因子X上去，修正后的模型的Chi-squares会减去10.555；或者如果你在Z2和Z3的残差项之间建立相关关系，新模型的Chi-squares会减去12.222；或者如果你容许X3和Z1的残差项之间相关，新模型的Chi-squares会减去8.333。（注意：如果你同时做两项或三项修正，新模型的Chi-squares不一定会减少10.555+12.222+8.333之和那么多。）我们知道，在一个自由度的条件下，Chi-squares的显著性临界值为3.84，也就是说，如果一个MI的值大于4，就值得注意了。

那么，为什么LISREL或AMOS有时会“罢工”，不报告MI呢？简单说来有两种情况：一是你的“所有可估计参数”(all estimable parameter）已被全部用完。注意，这里的“所有可估计参数”不等于“所有参数”。如上例的理论模型共有45个自由度（如果你不能一眼看出来，说明还得看点书再来玩SEM），其中估计了21个参数（如果你连这个也看不出来，那就麻烦了），还有24个自由度，也就是说还可以估计24个参数。但是，在PHI矩阵（外生因子的方差-协方差，详见“LISREL的八个矩阵”）中已经没有可用的参数了，因为X、Y、Z三者之间的三对相关关系已经用尽了其所有的信息。所以，如上所述，LISREL或AMOS已经发了No Non-zero Modification Indices for PHI的“罢工通知”。事实上，除了PHI之外，结构模型的其它参数（other parameters of structural model），如GAMMA（外生因子对内生因子的影响）、BETA（内生因子对内生因子的影响）、PSI（内生因子的方差-协方差）等，也经常没有MI，因为它们多半已按理论模型的假定而被用尽。说到底，结构模型参数是绝大多数研究的最终目的，谁会将它们闲置在一边，等到看过MI之后再做决定是否进行估价？（我还会回到这一点的。）

但是，测量模型的参数（parameters of measurement model）还有大量闲置的参数。如本例中的LAMBDA矩阵中，还有18个可被估计的参数（包括X对Y1-Y3、X对Z1-Z3、Y对X1-X3、Y对Z1-Z3、Z对X1-X3、Z对Y1-Y3），THETA-DELTA中则有更多（36个）参数可以被估计。 当然，你不可能将它们（总共54个）穷尽，因为你只有24个自由度。你甚至不应该将自由度全部用掉（见后面的讨论）。这里先回答一下，为什么LISREL或AMOS有时不提供其中某些参数的MI？这是没有MI的两种可能之二，即你的原始模型虽然拟合得不太好、但相比任何一种其它的修正模型来说，它的拟合度是最好的，这往往是观测变量之间缺乏任何关系造成的。当然，这种情况较罕见，尤其是你的模型有两个或以上隐含因子时，总会有某个没被估计的测量模型参数可以修正的吧？总之，一切从自由度出发，做任何事前先看看你还有多少自由度？这些自由度存放在哪个矩阵里？

总之，如果LISREL或AMOS没有提供某一参数或某一矩阵（某类参数的的集合）的MI，说明该个或该组参数或者无法估计（结构性的问题）或被估计之后并不能给现有模型带来任何改进（实证性的问题）。由此看来，MI是个不错的工具，它可以帮助我们找到改进模型拟合度的“捷径”。但是，盲目使用MI，也会造成很多错觉或谬误。在我看来，不知情者对MI的误用和知情者对MI的滥用，是SEM应用中的一个主用问题。何谓“误用”、何谓“滥用”？我无意写篇论文来讨论，仅以上图中的三条虚线为例，说一下我的看法。

1、一般情况下，不要碰LAMBDA，即不要仅仅根据MI而增添cross-factor loading（跨因子负荷？），如上图中根据Lambda_y1X 的值而将Y1挂到X上去。估计跨因子负荷是EFA的做法，也是EFA为人诟病的一大原因。Y和X可以相关（如图中已做到了）。但是，如果再将Y1连到X上去，确实可以改进模型的拟合度，但同时牺牲了Y（以及X）因子的效度，得不偿失。也许有人说，我的理论要求Y1同时受X和Y的影响，怎么办？记住：everything is related to everything的理论一般不是好理论。

2、在任何情况下，绝对不要碰DELTA（或EPS），即不要在一个因子内部的各变量之间增添correlated errors within a factor ，如上图中的Delt_z2z3 ，不管其值有多少，也不能将其释放出来估计。一个因子中的各变量之间的相关部分，已经充分反映在它们在该因子的负荷之上，如果再将各变量的残差连起来，说明该因子之内还有因子，这在理论上是说不通的。当然，如果一个因子下各变量之间出现很大的MI值，说明这个因子模型有问题，也是该因子不是unidimensional的、也许是某变量有异常值（或者严重偏离正态分布）、等等。这些问题，需要通过清理数据或调整模型、而不是简单的在因子内变量残差建立相关关系。

3、在一定条件下，可以考虑估计THETA中correlated errors between corresponding observed variables cross factors（跨因子对应变量残差之间的相关系数），如在上图中的Theta_x3z1 。这里的“一定条件下”的“对应变量”，往往指不同因子之间的两（或多）个变量之间是采用相同的测量方法（如问卷中相同的提问及回答）、或者同一变量在不同时间点上的测量值、等等。这时，建立其残差的相关关系，就相当于在各因子之间建立一个测量方法之共同因子（或者为MMMT模型的做法）。

总之，正确使用MI的关键，取决于我们的目的是什么？是为了提高模型的拟合度以便能够发表、还是为了改进模型的结构参数以降低Type II误差？如果仅是为了前者，即使能够蒙过审稿人、也无法混过所有读者的仔细阅读。而如果为了后者，那么我开始时的叙述其实已经暗示了，MI对结构参数往往没有什么帮助。

如何检验一个同时为调节和中介的变量？

>

Anonymous @ 2009-04-22：

祝老师您好： 我想请问两个困扰很久的问题：1.是否可能存在着这样的情形：在变量a对变量b有影响的前提下，变量c对它们之间关系的中介效应和调节效应同时存在？2.在用SEM做全显变量路径分析时，应该怎样看待这些拟合指数，是否和做CFA或结构模型的标准完全一样？

庄主 @ 2009-05-01:

我还没有见到过这种理论或这类数据。我估计，如果有某理论能合理假设出这种情形（你能否举个例子？），test（检验）并不难（见以下讨论），但却很难verify（证明），因为交互关系和中介关系各自都是不容易验证的小概率事件、而两个小概率事件交将是一个特小概率事件（传说中的“黑天鹅”事件？）。

说说如何检验交互关系+中介关系吧。当然需要借助公式和图像来说明。为了与为我其它帖子使用的符号一致，我将你的a、b、c分别改为X（自变量）、Y（因变量）和Z（调节和中介变量），并生成XZ（交互变量）。以下分别是交互关系、中介关系和交互+中介关系的模型：

注意：为了简便起见，三个模型都省却了常数项。模型a和模型c中的X、Z、XZ之间都假定为0相关。模型2和模型3中的b1也都假定为0。

模型1和模型2是用来说明模型3的来历，而模型3是需要被检验的模型，具体步骤为：

1、中介关系的检验：估计模型3（包括b1）、然后设b1为0，比较两者的拟合度，如果没有显著差别，则说明b1=0；如果b2和b4同时显著地不等于0，并且b2b4显著地大于b1，则中介关系成立（具体参见如何检验两个中介变量的效应?和其它帖子）；

2、交互关系的检验：估计模型3（包括b1)、然后设b3为0，比较两者的拟合度，如果没有显著差别，则说明b3=0、反之，如果有显著差别，则说明b3不等于0、即Z对X与Y的关系有交互作用（具体参见以前发过的好些交互影响帖子）。

如果X、Y、Z都是直接观测变量，那么上述模型只是不含测量模型的路径分析，可以在SEM来做、也可以用经典的OLS回归来做（即分别执行图c标题中的两个公式就是了），其结果完全一样。SEM的拟合度可以用卡方值或R平方、而回顾的拟合度则用R平方。但是，这时的SEM的卡方值与CFA的卡方值之含义完全不同，前者是结构模型中因子之间的关系而后者是测量模型中因子与观测变量之间的关系。

如果X、Y、Z中有带观测变量的隐含因子，问题就复杂了很多，因为现有的SEM模型对交互项（XZ）没有完善的处理方法，一般是采用分组方法，即将样本按Z的不同值分成若干组，分别估计图b，然后通过比较各组b3的差别来验证Z的交换作用。

如何确定综合指数的构成权重？

>

Anonymous ＠ 2009-04-29：

祝老师，您好！我现在在写硕士毕业论文，想请教您几个小问题。
我让主管给下属的三种绩效（任务绩效、情境绩效和反生产绩效）做出评分，然后对员工的总体绩效（与前面相独立的量表）做出评分，然后用三种绩效的得分对总体绩效得分进行回归，这样得出三个回归系数。前两个系数显著，后一个不显著。这三种绩效的系数可以视为主管在评价员工总体绩效时更看重哪种绩效，即一种权重。我想考查哪种绩效在总体绩效评分中更受主管重视，我还需要进行两个系数的显著性差异的检验吗？如果要，如何做？

Anonymous @ 2009-04-29（也许是另一读者）：

他的意思应该是这样说,已经有若干个观测变量，这些变量为了测量隐含变量(总体满意度)。但由于理论上不同的观测变量对总体变量的影响程度是不一样的，对隐含变量的贡献程度不一样，系数也就不一样，不能通过全体简单的平均得出结果。那么,得通过什么方法来确定每个观测量的权重，再配合每个观测变量的均值来求得最终的隐含变量呢？结构方程中的路径系数是否可以作为这个权重来理解呢？

我也想顺便问一下，相关系数R平方是否也可以作为权重？回归系数呢？有的文章是通过因子分析，用共同度来作为对总体的权重系数，这个处理方法合理吗？

庄主 @ 2009-05-02：

上述两个问题应该是不同的。匿名一（大家提问时能否留个名？当然假名虚名浪名都可以，以便区分）的问题是一组supervised数据，即总体绩效是一个观测到的变量，而匿名二的问题中因为总体绩效是没有观测的隐含因子、所以是一组unsupervised数据。两者之间当然后者更常见，但前者含有更多信息、因此可以研究更多问题。

一、先讨论匿名一的问题。他（她？）的模型应该是（见最后的注释）

Y = b0 + b1y1 + b2y2 + b3y3 + e                        （公式一）

用来检验y1 – y3各自对Y的影响（即其所说的“考查哪种绩效在总体绩效评分中更受主管重视”）。是否需要对b1与b2、b1与b3、b2-b3三对系数之间的差别做显著检验？当然要。如何做？请参见前贴“如何检验两个回归系数的差别？”。

二、匿名二提出的是一个含三个观测变量的测量模型（measurement model），即

y = Λ_yη + ε                                                       （公式二）

其中y = y1，y2，y3，η是隐含因子、Λ_y 是η对各y的影响（也即权重），ε是各y中不受η影响的独自变异（也即误差）。显然，公式一与公式二很不一样：总体绩效在公式一中是因变量（等号的左边）而在公式二中是自变量（等号的右边）；公式一中的b1 – b3无论在理论上还是在数值上都与公式二中的Λ₁ – Λ₃是不同的。

三、现在分别讨论匿名二提到的四种确定y之权重的方法：

1、结构方程中的路径系数：英文为path coefficients of the structural model，但本案没有path coefficients、只有factor loadings of the measurement model（测量模型的因子负荷，即公式二的Λ₁ – Λ₃）。答案是肯定的，因子负荷就是被当做y1 – y3的权重的。

2、相关系数R平方：不清楚你指的是y1 – y3之间的两两相关系数之平方，还是公式二的R平方？前者与匿名一的研究问题无直接关系。后者就是Λ₁ – Λ₃的平方。

3、回归系数：同样不清楚你指哪个“回归模型”？如是公式一，你没有直接观测的Y，无法估计。如是公式二，就与你的方法1相同。

4、因子分析的共同度(commonality)：这里指的应该是exploratory factor analysis，既然现在有理论导向的confirmatory factor analysis（即公式二），就不必再用数据导向的EFA了。

四、有心的读者也许会想到将匿名一的supervsied数据和匿名二的unsupervised数据（两者中的y1 – y3是相同的）合在一起考虑，就是说，先用公式二构建隐含因子η，然后再检验其与观测变量Y之间的相关关系。一般说来，η与Y是正相关的，但其相关程度不一定是很强烈的、甚至不一定是显著的（如果样本小的话）。其背后有两种可能性：一是方法上的问题：虽然η没有测量误差、但Y含有一定的测量误差（但无法估计），二是理论上的问题：η与Y不一定是一个概念（如η也许是一个多维的因子，其中某些维度与Y无关），即confirmatory validaity问题。如果数据中只有Y和y1 – y3四个变量，我们无法将这两种原因分开。如果有其它“第三者”变量（在理论上与Y或测量误差有关），则可以进一步解析下去（重大突破往往就在眼前了）。但是，即使只有这四个变量，据此而发现的η与Y的相关关系，已经提供了很多信息（如对η效度的独立验证）。

最后，讲一讲语言的精确性问题（应该是已讲过多次的老话了）。匿名一说“用三种绩效的得分对总体绩效得分进行回归”，这句话大概是说倒了的，而本意应该是“用总体绩效得分对三种绩效的得分进行回归”（即公式一）。而匿名二的本意才是“用三种绩效的得分对虚拟的总体绩效得分进行回归”（公式二），但他（她）提到的方法3又和公式一混起来了。思想的迷惑往往与语言的含混互为因果。如何避免？用公式和英文。在英文里描述回归模型的句型是

regress Y on X controlling for Z，或者Y is regressed on X with Z controlled

其中Y、X和Z分别指因变量、自变量和控制变量。这使我联想起前几天与一些学生聊天的情景，当时我建议他们学研究方法时不要看中文书，因为中文语言不够严密，不料遭到强烈质疑，要我举例证明。这里是又一例。如果依靠他们的中文描述，很难将匿名一和匿名二之区别弄清楚的。

如何检验两个中介变量的效应?

>

flyingzjt @ 2009-04-21：

经常看贴，收益良好，今天请教一个问题：X影响Y的关系中有两个中介变量A，B，如果A与B相关，那么其中介效应如何确定，其大小可以比较吗？如果有两个自变量X，Z，中介变量仍为A，B，可能的影响为X－A－Y，同时Z－B－Y，且A与B相关，X与Z相关，那么两个中介变量的效应又如何确定，如果上述变量均为潜变量，如何用LISREL与AMOS检验中介效应？多谢多谢！

庄主 @ 2009-04-25:

你的问题叙述出来好像挺复杂，但如果先画个图（见下图b）再来看，就属常见并较简单的模型之一了。（注意，为了与我在“八大矩阵”中用的符号一致，我用γ表示从X和Z出来的影响而用β表示从A和B出来的影响；其它的系数如φ、ψ、ξ等也来自“八大矩阵”。）

 

 

 

 

 

 

我估计你已经知道，中介效应需要满足以下条件：

1. 在中介变量（A或B）没有起作用之前（如图a），自变量（X或Z）对因变量（Y）有显著的direct effects（直接影响，即β_YX或β_YZ ≠ 0）；
2. 当A或B出现之后（图b），X或Z通过A或B而对Y有显著的indirect effects（间接影响，即γ_AX或γ_BZ ≠ 0以及β_YA或β_YB ≠ 0）；
3. X或Z对Y的间接影响大于其直接影响（即γ_AX × β_YA > γ_YX 或γ_BZ × β_YB > γ_YZ ）；
4. 当A或B起作用之后，X或Z对Y的直接影响随之彻底消失（即γ_YX或γ_YZ = 0，这就是为什么我在图b中用虚线表示相关的线条），

注：如果只满足条件1-3，则可认为存在weak version （弱版本）的中介效应；而如果条件1-4均被满足，得到的则是strong version（强版本）的中介效应。

根据上述条件，我们可以很容易地在SEM中检验中介效应。在本例中，由于涉及两个中介变量，可以分以下几步做：

1. 检验“直接影响”模型（图a），如果其中的γ_YX 或γ_YZ 为显著，则条件1成立；
2. 加入A和B而构成一个full model（“全模型”，图b），如果其中的γ_AX 和β_YA同时显著、或γ_BZ 和β_YB同时显著，则说明条件2成立；
3. 如果全模型中的γ_AX × β_YA > γ_YX 或γ_BZ × β_YB > γ_YZ （前者即LISREL、AMOS等软件中报告的X或Z的间接影响值、而后者则是报告的X或Z的直接影响值），如果两者有显著差别，则说明条件3成立；
4. 如果全模型中的γ_YX 或 γ_YZ 不显著，则说明条件4成立。

如何处理高度相关的内生变量？

>

丫丫@ 2009-01-12:

一个非常困惑的问题向您请教：我在用amos检验模型A―B1/B2―C―D，其中B和C都是中介变量。B1和B2是B的相关但不同的两种形式，我想将B1/B2同时放入模型，看A对它们不同的影响，以及它们分别对C的不同影响。现在的问题是：

1. B1和B2相关较高，在spss里面两者的相关系数是.683，做B1/B2到C的回归时Tolerance是.534，VIF是1.8，在amos用双箭头连接后显示两者相关系数是.90左右。我看到您前面的文章说“保守的学者认为相关系数不能超过0.7；自由派的则认为可以放宽到0.9”，而且Tolerance和VIF似乎也在可以接收的范围内。但是，在AMOS里如果我同时将B1/B2放入模型（此时B1/B2不能再用双箭头连接了），有一些标准化后的相关系数会大于1，结果很奇怪。但如果我将B1B2合并成一个变量B（其中B1B2各有两个dimension，合并在一起就是4个dimension成为一个B的construct考察），结果就又正常了。请问结果不正常的原因是我把B1B2分开了吗，这是否意味这B1B2不能同时放入一个模型了？如果希望同时放进去但不合并，该如何处理？
2. 单独检验模型的后半部分B1/B2―C―D，此时B1和B2就可以用双箭头连起来，AMOS结果处理一切正常，但是两者的相关是.90，不知道这样报结果行不？
   非常感谢。

庄主 @ 2009-01-16:

为了便于讨论、以及帮助其他读者理解你的问题，我画了以下几个图。图1是你希望检验但“结果很奇怪”（如因子之间的标准回归系数大于1）的模型。

针对上述问题，你在图2中将B1和B2合并成一个因子B，就解决了问题，结果也正常了（即回归系数等于或小于1），

但是，你并不满意图2，因为在理论上B1和B2是B的两种不同“形式”，所以你尝试将图1中的A去掉，结果也很正常。

图2说明，问题出在B1和B2的高度相关（0.90）上；但是，图3好像又暗示问题在于A而非B1-B2（因为拿到A之后问题就没有了）。所以感到“非常困惑”。不知上述图以及相关描述是否有误解的地方？

首先，我想到的是你的样本大小（你没有交代）。如果样本足够大，B1和B2的相关程度也许会减弱。

第二，你讲到，图1中的B1和B2之间不能建立相关关系（这是因为两者是endogenous variables 内生变量）、而在图3中两者之间又可以建立相关关系了（这时，它们成为exogenous variables外生变量）。但你没有提及，在图1的模型中，你是否估计了B1和B2的error variance（误差）之间的相关关系（即PSI矩阵，详见“LISREL的八个矩阵”一文）？如无，也许这是导致模型参数出古怪的原因之一。

第三，但是，哪怕你通过建立内生变量（B1和B2）误差之间的相关关系而使得模型参数正常，B1和B2之间缺乏discriminant validaty（差别效度）的问题仍然存在。你说，B1和B2是B的“不同的两种形式”。然而，数据告诉我们，这两种形式之间没有本质差别。根据parsimony（简约）原则，它们应该合二为一（即图2）。图2比图1少了两个参数（A->B2和B2->C），也即多了两个自由度，因此更可取。

图3虽然也能产生“正常”结果，但牺牲了A，虽然我不知道A的理论含义，但你的研究目的之一是检验A对B1和B2的影响，所以牺牲A是不可取的。

所以，三个模型中，只有图2是合理的。

最后，当然，你还可以试一下，在图1的B1和B2之上，建立一个second-order factor （二阶因子，见图4，参见二价因子分析的可行性vs.可取性等文）。由于B1和B2高度相关，这个含二阶因子的模型应该能够与图2的结果相似。

然而，图4比图2多了两个参数、也即少了两个自由度，所以不够简约。而且，A不能直接影响B1或B2、而要通过B来影响B1和B2；B1和B2也不能直接影响C，所以该模型也不能直接回答你的研究问题。

你的问题有相当的普遍性，即两个（或数个）概念在理论上是有区别的、但在实证中却没有discriminant validity。除非你换数据，否则，在现有数据的基础上，你只能接受现实，即将缺乏discriminant validity的概念合并起来。