一、调查的质量取决于调查的信度和效度。
信度主要指测量结果的一致性、稳定性。也就是说结论和数据是否反映了用户最真实稳定的想法。用户在回答问题的时候,往往会受到环境、时间、当时当地的情绪影响,而作出并不真实的想法,即会有随机误差。信度就是衡量这种随机误差对用户想法的影响大小。
效度是指多大程度上测量了你想要测量的东西。
对某个产品用研,我们现在用得最多是用户访谈、问卷调查和可用性测试。而在这几个过程中都会涉及信度和效度的问题。
二、用户访谈中的效度和信度
1. 访谈不能仅仅局限于用户
任何一个产品项目都会受到市场环境、公司战略、技术力量、平台规范和流行趋势等各个方面的影响。对某一产品的需求,可能来自用户、产品、技术、交互以及视觉。不同岗位人员看待产品的角度不一样,侧重点也不一样,找多个角色有助于把需求找全,不遗漏,所以必须提前了解他们的需求。这样才能使我们的研究更有针对性、全面性、有用性。有用程度、全面程度是效度的重要组成部分。
2. 巧妙的选择访谈用户
通常,前期深度访谈的用户数量不会太多,所以用户条件一定要把握适当。反馈的问题才能全面、合理、有用。
比如是做Android平台上的某一软件。
首先Android新手用户和熟练用户都是必须的,熟练用户更能反映android用户习惯性操作方式、平台特点、以及长期使用过程中积累的意见和建议;而新手用户可以更好的反映该平台哪些地方存在学习困难,从而通过我们的设计帮助用户去降低学习成本。
其次非Android平台用户也是必须的,可以从侧面了解他们不用Android的原因。从而帮助产品挖掘更多潜在用户提供方向。
人口学信息(学历、职业、性别、年龄)要覆盖全面。不同属性的用户看重地方会存在差异。需求也会不一样。
包含竞品用户。通过了解用户对竞品的评价,可以提炼出竞品的优劣势,从而为增强产品竞争力提供方向。
3. 一定要有专家
专家是重要的信息携带者。李乐山教授说专家有三类,用户专家、制造专家、市场销售专家,他指出判断某人是否是专家的标准是:(1)能够熟练使用一种产品;(2)能够比较同类产品;(3)有关的新知识容易整合到自己的知识结构中;(4)具有10年专业经验;(5)积累大量经验并且在使用经验方面具有绝招;(6)了解有关的历史(该产品设计史、技术发展史等);(7)关注产品发展趋势(8)知识链或者思维链比较长,提起任何一个有关话题,他们都能够谈出大量的有关信息;(9)能够提出改进或创新的建议,他们的创新或改进方案,其高水平体现在采用简单方法解决复杂问题。
对于互联网,专家应该指的是用户专家、开发专家、设计专家以及产品专家;他们凭借丰富的经验,系统全面的掌握行业同类产品、开发及设计模式、历史及发展趋势、专业水平极高。他们可以为我们提供很多我们始料未及的建议。这是保证用研过程,特别是对于后期问卷结构效度有很大的作用。
三、问卷调查与分析中的信度与效度
为了提高工作效率,问卷调查往往采用网络调查的方法,信度效度问题出现的可能性就更大。
最近看到一些满意度调查是采用量表加结构方程模型(SEM)的方式。我们看看哪些地方可能会出现信度和效度的问题。
1. 理论模型支持
由于SEM进行的是验证性因子分析,是检验而不是探索新的模型,因此,整个因果关系的假设必须有强有力的理论支持和严密的逻辑框架。包括模型中变量关系的假定、指标的选取、甚至测度项的表达方式等。如果最终输出的模型和理论模型结构不符,那么该模型是没有任何说服力的。比如用ACSI模型作为满意度的理论模型时,是否真的按照感知质量、感知价值、顾客期望这几个层面去设计问卷?
2. 保证份量
普通抽样调查中原则上是越多越好,但遇到目标用户较少的情况,只要保证一定的条件就ok的,样本量受到置信区间、抽样误差范围的影响,可根据实际的况测算出最小样本量。常用的公式是:
14N=Z2蟽2d2′<</span>(N为样本量、Z为置信区间、d为抽样误差范围、 14蟽’<为标准差,常取0.5)
但对于结构方程模型大样本是必须的,SEM中涉及的变量众多,变量间的关系很复杂交错,小样本量会导致模型不稳定,收敛失败进而影响模型中参数。朱远程等[1]在文献中指出,当样本低于100时,几乎所有的结构方程模型分析都是不稳定的,大于200以上的样本,才称得上一个中型样本。若要得到稳定的结构方程模型结构,低于200的样本数量是不鼓励的。有些学者将最低样本量与模型变量结合在一起,建议样本数至少应为变量的十倍,这一规则经常被引用。模型中变量越多,对大样本的要求就越高。
3. 变量需遵循原则
a. SEM模型中各变量的函数关系要是线性的,否则是不能用回归计算路径系数的。
b. 在使用最大似然估计法时,变量一定要是多元正态分布的,这就要求指标要呈正态分布,否则就要对指标进行正态处理才行。
c. 变量间的多重共线性程度要低,否则路径系数会有很大误差。
d. SEM建立的过程中会不断的修正才能得到比较完美的模型,比如因子分析时,若发现某一测度项对应的因子载荷过小,就会人为的将该测度项删除,但是若模型建立之后,一些变量对应了4~5个测度项,一些变量只剩下1~2个测度项,那么我们就需要思考只有两个测度项的变量是否被完全解释,这仅有的两个测度项就全面真实的反映该变量么?如果是这样,就算KMO、Bartlett、因子载荷都通过了,效度也是难以保证的。所以问卷前期需要反复的预调研,不断的对问题进行修正,而不是随意的人为删除。我学生时代对淘宝满意度进行调查时,就犯了类似的错误,模型中的“互动性”片段,互动性由四个变量衡量,其中“双向沟通性”一开始设计的时候由5个测度项支持,但是因子分析检验通不过,就直接将因子载荷比较小的客服、论坛、淘江湖三者去掉了,最后虽然在数据上通过了信度效度检验,但是只有阿里旺旺、留言板这两个测度项支持是绝对不能解释“双向沟通性”的。
4. 数据质量是根源
要使模型结构稳定有效,首先要保证数据质量,反复检验问卷的信度。
a. 不同时间的一致性。
在设计问卷时,可以将同样的问题对同一个人重复测试,如果这两道题得到的答案是不一致的,相关系数(Pearson r)小于0.7,那么这份问卷的稳定信度就值得考量。
假如问卷样本足够大,可以一分为二(每一个样本也要保证足够样本量),分别建立两个模型;通过对比两个模型中参数的差异,便可以检验该模型的稳定性和适用性。如果两者差异太大,就说明模型本身是有问题的。
b. 不同形式的一致性
用内容等效但表达方式不同的两份问卷调查,检测两者的等效信度,比如Gamma系数。
c. 内在一致性
问卷中相关的问题为同样的目标服务,他们在逻辑一致,也就是同质的。首先要测量每个测度项与总体的相关性(item-total correlation),然后再测量同一变量下相关问题间的同质性,而对于不同的提问方式选择对应的方法:比如,对于李克特量表方法,就用Chronbach系数检验;在基础研究中,信度至少应达到 0.80 才可接受,在探索性研究中,0.70 可接受,0.70-0.98 为高信度,小于0.35 为低信度。对于是非题则采用kuder-Richardson系数检验。在进行内在一致性检验时,要看题目选项是否反序,如果两道题都是问“对该产品是否满意”,一道7代表满意,1代表不满意;另一道1代表满意,7代表不满意,这样就会影响信度。遇到这种情况要提前人为调整过来。
5. 看得更远一点
问卷结论不仅要解决当前的问题和需求,还有具有一定的预测作用,市场是变化的,当前的目标用户不一定就是未来的(或者下一个版本的)目标用户,比如目标用户的收入可能有增加的趋势,某一平台的使用率在快速提高,当前的满意度模型可能在一个月之后就不适用了(比如新功能点的出现)。
假设我们要对QQ影音进行满意度调查,现在建立了一个满意度模型,但若下个月QQ影音中多了一个重要的功能,对整个满意度的提升产生了很大作用,那么,模型中各项的路径系数会不会产生变化?该模型在下个月可能就不适用了,造成的后果就是当前的满意度值与下个月的满意度值没有可比性了,很多工作也就白费了。所以,诸如满意度模型这样的研究,是需要反复调查,长期对该满意度模型进行监控和修正,以求得到最稳定的模型,就可以让模型会具有很预测和比对作用啦。
6.关注细节
a. 问卷设计中题项表述不能出现歧义、避免太专业词汇以及诱导词汇
b. 选项间要有明确的区分(互斥)
c. 避免遗漏,“其他”选项是必须的,而且最好配有输入框,记忆中,每次问卷调查中都能从“其他”选项中获取大量信息。
d. 一般题项不能太多,设置问题选项的时候,尽可能的让选项随机显示,特别是在选项较多的情况下。
e. 数据处理过程中删除重复项矛盾项之外,最好能统计到用户填写问卷的时间差。如果整个填写的时间极短,完全可以判定用户没有认真填写。
f. 极端的、离群的选项可以考虑将其删除。
四、可用性测试中的信度与效度
首先保证,主持人的态度亲切、测试前随意聊聊彼此熟悉、测试提纲清晰全面。另外,以下几点也对保证测试的信度和效度很重要。
1. 不要忽略异想天开
脑暴中要求彼此不能批评,在进行访谈或测试中,也不能对用户某些操作做出评论,否则用户很有可能隐藏内心真实的感受。关注并记录用户出错,但是用户出错时态度要中立。
通常,用户在体验的真实的原型后,会产生很多看似异想天开的诉求,有些虽然在当前不能实现,但是会为未来发展提供很多思路和方向。所以,我们要积极鼓励用户进行思维发散。
2. 前后验证、竞品比对
在测试完成后,可以加上一个总体调查问卷,一者让用户对自己体验的各个功能点有一个回顾和比较,同样也可以验证用户体验过程的态度和最终的态度是否具有一致性。如果存在不一致,应该进一步追问理由,确定用户的真实想法。
测试时,让用户体验竞品,并作出比较,也是发现有效信息的途径。
3. 敏锐观察
测试中,除了按照已定的提纲进行问答之外,过程中还要敏锐的观察用户一些细微的表情、停留、思考。不但要了解用户对个功能点如何评价的,还要知道用户做某一任务过程中,是怎么思考、计划、实施的,用户的第一反应、习惯性的操作、思维路线的作用远远大于单纯的评价。用户任务完成之后,要追问用户如此操作的原因。
4. 记录原话并习惯性确认
测试结论要有用户的原话支持,不能轻易的改变用户的表述。和用户交流过程中,要习惯性的问:“请问你的意思是……?”“我这样理解你的意思,你看对么……?”以保证测试结论的效度。
5. 必要时进行入户调查
首先,入户调查会大大减少外界环境的影响,用户在自己的空间中,会更真实的反映常见的问题。其次,入户调查一般是在用户画像提取出来之后,按照用户画像描述的属性,有意识有针对性去挑选具有某些典型属性的对象进行深入、全面、系统调查(典型调查),比如某一产品的目标用户,他们反映的问题,代表性强,往往有以一当十的功效,避免了非目标用户信息造成的干扰。
6. 用户条件与数量
参与测试用户根据目标用户特征选择。
一般衡量测试是否需要继续进行的方法是:看是否发现新的问题,如果有新的问题,就应该继续,反之,可以结束。
Neilson研究结果表明,5名用户的测试可以发现85%的可用性问题。而在我们在以往的可用性测试经验中,用户数一般定为6个,基本上能发现全部问题。当然任何数字都只是一个参考,用户数量最好根据具体的测试情况(衡量时间、资源、投入产出比)而定。总之,关键在于是否有新的问题出现。
问题一:验证性因子分析的测试步骤 验证性因子分析往往通过结构方程建模来测试。在实际科研中,验证性因子分析的过程也就是测度模型的检验过程。可以进行测度模型及包括因子之间关系的结构方程建模并拟合的统计软件有很多,比如LISREL、AMOS、EQS、MPLUS等。其中最常用的是LISREL。在LISREL这个软件中有三种编程语言:PRELIS是用来作数据处理或简单运算,比如作一些回归分析、计算一个样本的协方差矩阵;LISREL是一种矩阵编程语言,它用矩阵的方式来定义我们在测度项与构件、构件之间的关系,然后采用一个估计方法 (比如极大似然估计) 进行模型拟合;SIMPLIS是一种简化的结构方程编程语言,适合行为研究者用。一般来讲,研究者需要先通过SIMPLIS建立测度模型,然后进行拟合。根据拟合的结果,测度模型可能需要调整,抛弃质量差的测度项,然后再拟合,直到模型的拟合度可以接受为止。
问题二:验证性因子分析的定义 在社会调查研究构成中,研究者首先开发调查问卷。对应于每一个研究者所感兴趣的理论变量,问卷中往往有多个问题。比如,研究者对顾客的忠诚度感兴趣,忠诚度可能用购买频率、主观评估、消费比例等多个问题来衡量。这个理论变量就是因子,这些个别问题是测度项。验证性因子分析就是要检验购买频率、主观评估、消费比例是否真的可以反映忠诚度。与验证性因子分析相对的是探索性因子分析。在探索性因子分析中,比如,因为我们想让数据“自己说话”,我们即不知道测度项与因子之间的关系,也不知道因子的值,所以我们只好按一定的标准(比如一个因子的解释能力) 凑出一些因子来,再来求解测度项与因子关系。探索性因子分析的一个主要目的是为了得到因子的个数。探索的因子分析有一些。第一,它假定。在实际研究中,我们往往会假定一个因子之间没有因果关系,所以可能不会影响另外一个因子的测度项。第二,探索性因子分析假定测度项残差之间是相互独立的。实际上,测度项的残差之间可以因为共同方法偏差、子因子等因素而相关。第三,探索性因子分析强制所有的因子为独立的。这虽然是求解因子个数时不得不采用的机宜之计,却与大部分的研究模型不符。最明显的是,自变量与因变量之间是应该相关的,而不是独立的。这些局限性就要求有一种更加灵活的建模方法,使研究者不但可以更细致地描述测度项与因子之间的关系,而且并对这个关系直接进行测试。而在探索性因子分析中,一个被测试的模型(比如正交的因子) 往往不是研究者理论中的确切的模型。验证性因子分析 (confirmatory factor *** ysis) 的强项正是在于它允许研究者明确描述一个理论模型中的细节。那么一个研究者想描述什么呢?因为测量误差的存在,研究者需要使用多个测度项。当使用多个测度项之后,我们就有测度项的“质量”问题,即效度检验。而效度检验就是要看一个测度项是否与其所设计的因子有显著的载荷,并与其不相干的因子没有显著的载荷。当然,我们可能进一步检验一个测度项工具中是否存在共同方法偏差,一些测度项之间是否存在“子因子”。这些测试都要求研究者明确描述测度项、因子、残差之间的关系。对这种关系的描述又叫测度模型 (measurement model)。对测度模型的检验就是验证性测度模型。对测度模型的质量检验是假设检验之前的必要步骤。
问题三:菜鸟求教,验证性因子分析拟合指标的关系 主成分分析属于探索性因子分析(EFA),和验证性因子分析(CFA)不一样,它们基于不同的原理和计算方法,验证性因子分析往往更容易出现比较好的结果,因为它是在你设定好因子结构的情况下去检验这一种结构和你的数据是否拟合,不一定可以拟合你数据的模型只有一种,但只要你的这一种拟合指标好就OK,而探索性因子分析是完全靠数据说话,数据驱动,这当然更不容易获得满意的结果。如果你主成分分析结果不好,可以尝试直接用验证性因子分析,若是获得满意的结果,可以考虑报告验证性因子分析的结果而不报告主成分分析。
问题四:spss 如何做验证性因子分析 spss20以上纳入了amos,就可以直接做了
我替别人做这类的数据分析蛮多的
问题五:spss 如何做验证性因子分析? spss不能做验证性因子分析哦,要用spss里面的amos模块才行
可以做专业数据分析哦
问题六:如何用验证性因子分析共同方法偏差 我使用的Lisrel,设定 1 个公因子数,使研究中的所有测量项目负荷于这一共同因子,如果模型拟合良好就可以说明存在一个可以解释大多数变异的公共因子。如果分析结果发现所用测量项目负荷于共同因子时的各项拟合指数都不好,则说明研究的共同方法偏差属于可接受范围。
问题七:验证性因子分析 共同方法变异 怎么做 我使用的Lisrel,设定 1 个公因子数,使研究中的所有测量项目负荷于这一共同因子,如果模型拟合良好就可以说明存在一个可以解释大多数变异的公共因子。如果分析结果发现所用测量项目负荷于共同因子时的各项拟合指数都不好,则说明研究的共同方法偏差属于可接受范围。
问题八:如何用 SPSS 进行验证性因子分析 SPSS 不能进行验证性因子分析,只能进行探索性因子分析
用别的软件啊:Amos、Lisrel、Mplus等
问题九:怎么用AMOS对问卷进行验证性因子分析 用amos来做比较好
构建好模型之后运行分析,根据拟合指数以及载荷等判断即可。(南心网 Amos效度分析)
问题十:如何用amos做验证性因子分析 验证性因子分析主要探讨潜变量之间的相关关系而不是因果关系,在SEM中,模型构建分为两块,一块是测量模型,一块是结构模型,测量模型是测量潜变量和观测指标的关系模型,而结构模型则是测量潜变量之间的关系模型;所谓验证性因子分析就是主要探讨结构模型中的相关关系,操作很简单,你把潜变量之间用双箭头联系起来就可以了,当然,这里要注意一点,如果根据理论或者经验推测某两个潜变量之间完全不存在相关的话,可以不用双箭头联系;另外,AMOS里面的 *** ysis properties 模块设置中有个output选项,你点击critical ratios for difference 选项(打勾),运行数据后在text output的报表中可以根据临界比率(p是否小于.05)来判断潜变量之间的关系强度是否显著,如果小于临界比率,建议取消对应的潜变量双箭头。
其实应该说是最大似然法和最小二乘法的区别吧。采用OLS的回归分析方法存在几方面的限制:
(1)不允许有多个因变量或输出变量
(2)中间变量不能包含在与预测因子一样的单一模型中
(3)预测因子假设为没有测量误差
(4)预测因子间的多重共线性会妨碍结果解释
(5)结构方程模型不受这些方面的限制
SEM的优点:
(1)SEM程序同时提供总体模型检验和独立参数估计检验;
(2)回归系数,均值和方差同时被比较,即使多个组间交叉;
(3)验证性因子分析模型能净化误差,使得潜变量间的关联估计较少地被测量误差污染;
(4)拟合非标准模型的能力,包括灵活处理追踪数据,带自相关误差结构的数据库(时间序列分析),和带非正态分布变量和缺失数据的数据库。
构方程模型最为显著的两个特点是:
(1)评价多维的和相互关联的关系;
(2)能够发现这些关系中没有察觉到的概念关系,而且能够在评价的过程中解释测量误差。
1、最小二乘法的典型应用是求解一套x和y的成对数据对应的曲线(或者直线)方程。
其思想是:设y和x之间的关系可以用一个公式在表示,但其系数为待定系数。然后,将各个点的实测数据与计算求得的数据相减,得到“误差”或者不符值(有正有负,但其平方都是正的),将这些不符值的平方相加,得到总的“误差”。通过调整公式中的各个系数,使得误差平方和最小,那么就确定了y和x之间的方程的最好结果。求解最小二乘问题的过程中没有提及概率问题。
2、而极大似然估计值,是用于概率领域的一种方法,和最小二乘法是两个领域的。这种方法是应用求极大值的方法,让某一个公式求导值为0,再根据情况判断该极值是否是合乎要求。极大似然估计法可以用于正态分布中 μ, σ2的极大似然估计。极大似然估计法就是要选取类似的数值作为参数的估计值,使所选取的样本在被选的总体中出现的可能性为最大。
欢迎分享,转载请注明来源:夏雨云
评论列表(0条)